EYストラテジー・アンド・コンサルティングは5月14日、生成AIや大規模言語モデル（LLM）を活用したアプリケーションを対象に、セキュリティーリスクを検証する新サービス「エンドツーエンドAIレッドチーミング」の提供を開始したと発表した。攻撃者の視点から悪用シナリオを再現し、事業への影響を可視化する。

　 記者説明会で同社は、生成AIの利用が顧客対応や意思決定支援、自律的な業務実行にまで拡大する一方で、「リスクの所在や内容を説明できない企業が多い」との認識を示した。AI活用が業務の中核へと広がる中、リスクはITの問題にとどまらず経営課題へと変化していると指摘した。

　背景には、生成AI特有の攻撃手法がある。例えば、入力文に紛れ込ませた指示でAIの応答を操作する「プロンプトインジェクション」や、ルールをかいくぐって本来禁止された回答を引き出す「ジェイルブレイク」などだ。これらは自然な文章のやり取りの中で成立し、脆弱性や設定ミスだけでは捉えきれないかたちで悪用される可能性があるため、従来のセキュリティー対策では防ぎにくいとされる。

　新サービスでは、こうした特性を踏まえ、ユーザー入力から出力や業務アクションに至る一連の流れを「エンドツーエンド」で検証する。実際に起こり得る攻撃シナリオを再現し、悪用の可能性や影響範囲を可視化する。単なる技術診断ではなく、経営判断に使えるかたちでリスクを示し、優先順位を決めた対応につなげる点が特徴だ。
 
　サイバーセキュリティユニットの佐藤拓也・アソシエートパートナーは「このプロンプトを入力すると機密情報が引き出せるといったかたちで示せば、リスクは初めて経営の議題になる。リスクを恐れてAIの導入を止めるのではなく、把握した上で適切に対処することが重要だ」と述べた。
（山本浩資）