GMOサイバーセキュリティ byイエラエ、LLMを用いてアプリケーションのセキュリティリスクを可視化するサービスを開始

昨今、生成AIの研究や活用が進む中、製品やサービスにGPTを利用する対話型のアプリケーションが普及している。

一方、GPTなどの大規模言語モデル(LLM)を利用して構築したアプリケーションは、プロンプトを攻撃の入口として、敵対的プロンプト(Adversarial Prompting)を利用した攻撃が行われる可能性がある。

敵対的プロンプトとは、LLMの出力を意図しないものへ誘導するよう設計された一連の入力のことだ。

LLMを利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうしたLLMを利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要だ。

そうした中、GMOインターネットグループであるGMOサイバーセキュリティ byイエラエ株式会社は、LLMを用いたアプリケーションのセキュリティリスクを可視化する新たなサービス「GMO AIセキュリティ診断 for GPT」の提供を開始した。

「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだアプリケーションに対し、敵対的プロンプトを用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスだ。

プロンプトインジェクションによる出力の乗っ取りや、プロンプトリークによる秘密情報の漏洩、コンテンツポリシーの回避による非倫理的なコンテンツの出力(ジェイルブレイク)などのセキュリティリスクに対して対応する。

また、予算や求めるセキュリティレベルに応じて、「ライトプラン」「ベーシックプラン」「アドバンスドプラン」の3つの診断プランから選択が可能だ。

ライトプランは、敵対的プロンプトによるテストを行う安価なプランで、ベーシックプランはホワイトボックスで設定などを検査する。アドバンスドプランは、その他最新の攻撃事例を踏まえた高度な手動診断を実施する。

無料メルマガ会員に登録しませんか?

膨大な記事を効率よくチェック!

IoTNEWSは、毎日10-20本の新着ニュースを公開しております。 また、デジタル社会に必要な視点を養う、DIGITIDEという特集コンテンツも毎日投稿しております。

そこで、週一回配信される、無料のメールマガジン会員になっていただくと、記事一覧やオリジナルコンテンツの情報が取得可能となります。

  • DXに関する最新ニュース
  • 曜日代わりのデジタル社会の潮流を知る『DIGITIDE』
  • 実践を重要視する方に聞く、インタビュー記事
  • 業務改革に必要なDX手法などDXノウハウ

など、多岐にわたるテーマが配信されております。

また、無料メルマガ会員になると、会員限定のコンテンツも読むことができます。

無料メールから、気になるテーマの記事だけをピックアップして読んでいただけます。 ぜひ、無料のメールマガジンを購読して、貴社の取り組みに役立ててください。

無料メルマガ会員登録