AIシステムのセキュリティ対策、従来システムとの「類似点」「相違点」とは

　AIが急速に普及し、ビジネスにおけるAI活用が広がる昨今。従来のシステムにはなかった新たなセキュリティリスクが発生し、いかにリスクを軽減するかが喫緊の課題となっている。その推進に当たっては、従来のシステムに適用されるセキュリティ原則の多くがAIシステムにも適用されることを頭に入れておくことが必要となる。類似点と相違点を把握し、リスク軽減策を講じていくことが大切だ。

　どちらのタイプのシステムも、不正アクセスやマルウェア、データの盗聴といった脅威から保護する必要がある。AIシステムの場合は、敵対的サンプルやデータポイズニングの脅威に対して脆弱な他、生成AIシステムではハルシネーションの問題に悩まされることがある点などに注意が必要だ。この他にも、ガバナンスやプライバシー、脅威の検出と対応など、従来システムとAIシステムの違いは多数ある。

　本資料では、両者に共通するセキュリティ分野を挙げ、その類似点と相違点を詳しく確認していく。AIの開発プロセスについても解説しているので、セキュアなAI活用でその効果を最大化するためにも、ぜひ参考にしてほしい。