昨今、生成AIの研究や活用が進む中、製品やサービスにGPTを利用する対話型のアプリケーションが普及している。
一方、GPTなどの大規模言語モデル(LLM)を利用して構築したアプリケーションは、プロンプトを攻撃の入口として、敵対的プロンプト(Adversarial Prompting)を利用した攻撃が行われる可能性がある。
敵対的プロンプトとは、LLMの出力を意図しないものへ誘導するよう設計された一連の入力のことだ。
LLMを利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうしたLLMを利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要だ。
そうした中、GMOインターネットグループであるGMOサイバーセキュリティ byイエラエ株式会社は、LLMを用いたアプリケーションのセキュリティリスクを可視化する新たなサービス「GMO AIセキュリティ診断 for GPT」の提供を開始した。
「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだアプリケーションに対し、敵対的プロンプトを用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスだ。
プロンプトインジェクションによる出力の乗っ取りや、プロンプトリークによる秘密情報の漏洩、コンテンツポリシーの回避による非倫理的なコンテンツの出力(ジェイルブレイク)などのセキュリティリスクに対して対応する。
また、予算や求めるセキュリティレベルに応じて、「ライトプラン」「ベーシックプラン」「アドバンスドプラン」の3つの診断プランから選択が可能だ。
ライトプランは、敵対的プロンプトによるテストを行う安価なプランで、ベーシックプランはホワイトボックスで設定などを検査する。アドバンスドプランは、その他最新の攻撃事例を踏まえた高度な手動診断を実施する。
無料メルマガ会員に登録しませんか?

IoTに関する様々な情報を取材し、皆様にお届けいたします。