パブリックAIとエンタープライズAIに潜むセキュリティリスク、その対処方法とは

　企業のAI活用が加速する中、AIを安全に利用するためのセキュリティ対策の重要性が高まっている。一般公開されているパブリックAIでは、シャドーAIの利用、AIからの出力内容の信頼性、マルウェアやフィッシングサイトへの誘導といったリスクが存在する。これらのリスクを軽減するには、利用しているAIアプリケーションを可視化し、適切に制御することが重要だ。

　加えて、サイバー攻撃や情報漏えいへの対策として、Webアクセス制御やプロンプト制御を組み合わせた対策が有効とされている。一方、企業独自のLLMを用いて設計／運用されるエンタープライズAIでは、「OWASP Top 10 for LLM」に示されているように、プロンプトインジェクションや機密情報漏えいなどのリスクが懸念される。

　しかし、OWASP Top 10 for LLMは、主に生成AIに焦点を当てた指標であり、AIセキュリティ全体を考える上では、Webアプリケーションファイアウォール（WAF）やAPIセキュリティなどを組み合わせた多層的な対策が求められる。本動画では、AIを安全に活用するための対策を解説するとともに、AIに特化した脆弱性診断やリスク評価のアプローチを紹介する。