生成AIアプリ開発で直面するリスクとは？　適切なセキュリティ対策の考え方

　AI、生成AIアプリの活用はすでに多くのビジネスの現場で進みつつあるが、その一方で、生成AIによる誤った情報の拡散や機密情報の漏えいといったリスクも顕在化しつつある。生成AIを利用する上でのリスクは、出力の信ぴょう性や有害性・安全性などの「AI倫理に関するリスク」と、悪意のプロンプトの入力やモデルへのDoS攻撃などの「AI脆弱性のリスク」に大別される。

　生成AIアプリを開発する上では、このような特有のリスクを理解しておく必要がある。本動画では、「AI倫理に関するリスク」「AI脆弱性のリスク」のそれぞれの具体例について解説する。さらに、これらのリスクを最小化、または未然に回避するセキュリティ対策を実施しているAmazon Web Servicesの事例を紹介している。

　Amazon Web Servicesでは、生成AIアプリの安全かつ責任ある開発を促進するためのコアディメンションとして、「責任あるAI」を掲げ、その実現に向けて考慮すべき8つの要素を挙げている。動画では、同社が安全な生成AIアプリの開発支援にどのように取り組んでいるのかを、利用できるツールやサービスとともに紹介しているので、参考にしてほしい。