AI技術の普及がますます進み、多くの企業ではAIを競争力の源泉と位置付けて活用を進めている。その半面で、AIエージェントがアタックサーフェスとなり、重大なセキュリティー事故を引き起こす懸念はぬぐえない。AI活用の推進とセキュリティー体制の構築は、今や企業の未来を決める最優先の経営課題と言っても過言ではない。AI実装を支援するSIerには、不可逆的に進む「AIによる企業変革（AX）」のアクセルを踏み続けられるようにする手段が求められており、新たな商機として立ち上がりつつある。
（取材・文／大畑直悠、春菜孝明）
 

ベストプラクティスを探す段階

AIのマルウェア化を止める

　「AIエージェントのマルウェア化を確実に防御しなければならない」。ガートナージャパンの矢野薫・シニアディレクターアナリストはこのように警鐘を鳴らす。社内を横断して多様な資産にアクセスするのがAIエージェントの大きな特徴であるが、マルウェアもまた同じだ。その違いは、組織にとってポジティブな結果を生むか、ネガティブな結果を生むか、だけである。矢野シニアディレクターアナリストはこの前提を踏まえ「（AIエージェントの利用には）相当、神経質な気持ちを持つべきだ」と訴える。
 
　もちろん、セキュリティー担当者の多くは、この危険性を認識している。しかし、必ずしもセキュリティー対策を最優先にできない場合もある。2026年2月に米Gartner（ガートナー）が実施した調査では、日本の多くの企業が、AIエージェントに対するセキュリティーについて「どこから着手すべきか分からない」「活用の議論が先行しており、セキュリティーが後手に回っている」と本音をのぞかせている。「普通であれば、どこから対策すべきか分からない状態なら活用しない」（矢野シニアディレクターアナリスト）が、労働力不足などの課題を抱える国内企業にとって、AIを無視した事業展望は現実的ではない。それゆえに、セキュリティー担当者よりも、DX担当者の声が優先される状況があるという。

　対策に遅れをもたらす一因として、AIに対するセキュリティーの手法が固まっていない点が挙げられる。最近のAI関連のテクノロジーは、その技術の誕生から実装までの時間が短く、グローバルで見ても成熟したセキュリティーツールがあるわけではない。また、国内企業はグローバルとほぼ同じタイミングで最新のAI技術を自社に取り込んでおり、過去のクラウドのように、利用が先行していた欧米の事例を参考にすることは難しい。矢野シニアディレクターアナリストは「AI技術はアジャイル的に小さな進展の積み重ねで発展している。セキュリティーも同じように柔軟性を持ち、ピボットできる状態にすることが重要だ。世の中にベストプラクティスがないなら、自分たちで方策を打ち立てなければならない」と強調する。

　AIへのセキュリティー対策に関しては、SIerも「（エンドユーザーと）一緒に試行錯誤できる存在であることが求められている」（矢野シニアディレクターアナリスト）とする。AIとセキュリティーの両立が模索される過渡期においてSIerには、最善の道をエンドユーザーと共に切り開き、AXを止めない方策を打ち立てる能力が重視される。矢野シニアディレクターアナリストは「ベストプラクティスは自分でつくるという気概にあふれたSIerが、新しいセキュリティーの時代には求められている」と話す。

　ただ、AIへのセキュリティーは未成熟な段階にあるとはいえ、対策の道筋がないわけではない。ガートナーは「ライフサイクル管理」「認証」「アクセス制御／権限管理」「情報漏えい対策」「モニタリング」「セキュリティー・プロセス設計／周知」を、注力すべき対策として挙げる。

　このうち、最初に取り組むべきはライフサイクル管理だ。AIエージェントが無秩序に増加してシャドーAI化する前に、適切な管理体制を整備し、誰が何の目的で構築したかを明確にしなければならない。不要になったAIエージェントを削除できるようにしておけば、攻撃者による乗っ取りを防ぎやすくなるだけでなく、素性の分からないAIエージェントを見分けられる。矢野シニアディレクターアナリストは「重要なのは単にアイデンティティーの登録で終わらず、AIエージェントの作成から削除までのライフサイクルの管理を徹底することだ。マシンアイデンティティーを一つずつ設定することに加え、人間のオーナーを明確にし、例えば異動があった際にAIエージェントが管理されないまま残るといった事態を避けることも含めて管理する必要がある」と説明する。

　ライフサイクルを正しく管理していれば、AIエージェントの安全性や業務範囲が明確となる上、AIエージェントがアクセスしたデータの扱いに対して、人間であるオーナーが責任を持てるようになり、情報漏えいの抑止にもつながるという。

　セキュリティー・プロセスの設計と周知に関しては、AIエージェントの進化や活用範囲の拡大によって、ビジネスプロセスが目まぐるしく変化するため、これに適応できるセキュリティー体制の構築が重要になるとする。境界防御やブロックリスト、シグネチャー、ポリシーなどをもとに、正常から異常を割り出す静的なセキュリティー対策だけでは、非決定論的に動作することを強みとするAIエージェントに対する安全性の確保に対処できない可能性があり、矢野シニアディレクターアナリストは「静的なセキュリティー対策に引っ張られずに新しいセキュリティーを積極的に求めなければならない」と力を込める。セキュリティーツールにおいても、モニタリングやアクセス制御などで新しい技術が出ており、新技術へ対応しながらセキュリティー・プロセスの構築を進めていく必要がある。矢野シニアディレクターアナリストは「自社で主体的に試しながら成熟させていくべきだ。他社の事例を待っていては乗り遅れる」と呼びかける。

　加えて、事業部門でAIエージェントのオーナーとなる従業員ごとに、必要なリテラシーを周知する必要もある。矢野シニアディレクターアナリストは「従来のように集合研修などで知識を詰め込むやり方では変化に対応しきれなくなる。プロセスの設計とそれに伴って必要なセキュリティーの周知はセットで必要だ。各従業員の業務と利用するAIエージェントに合わせ、AIとセキュリティーのリテラシーを上げなければならない」と述べる。事業部門側で進むAIエージェントの作成や活用に対し、セキュリティーを担う部署が安全性を担保する上でも、事業部門単位で、AIの利用を止められるような権限を持つセキュリティー関連の担当者を配置するといった組織面の見直しも重要になるだろう。

動き出したSIerのAIセキュリティー支援

ブレーキ役ではいけない

　AIの活用とセキュリティーをどう両立させるかが企業の悩みであるならば、SIerにとって、AIの活用とセットでセキュリティーの提案をすることは商機の拡大につながるはずだ。AIが身近な存在となり、業務効率化に役立つと認識されている現状では、会社としてAIを正式に採用していなければ、個人は自主的にAIツールを使い出すだろう。シャドーAIの蔓延を防ぐためにも、SIerには“正しい”AIツールの導入と、その安全性を担保するための方策の提案が求められる。
 
　ラックは企業の生成AI利用のガイドラインの策定を支援しており、Webアプリケーションの脆弱性をまとめているOWASP（Open Worldwide Application Security Project）や総務省などが出しているガイドラインを、顧客ごとに合わせて適用するためのサポートを展開している。上席執行役員の倉持浩明・CTOは「生成AIやAIエージェントツールも多くある中、それぞれについてセキュリティー対策やガードレールの構築の仕方にどのような違いがあるかを気にする顧客は多い。新しいツールが次々に増えているため、顧客は情報のキャッチアップに苦労している」と説明する。例えば「入力したデータがAIモデルの学習に利用されるかどうか」「入出力データがAIサービス事業者側で何日間保管されるか」というような細かい契約条項が、顧客の要望に合致するかを把握する手助けをしている。

　このほか、生成AIが組み込まれたサービスに対して、システムに脆弱性がないかを判断するためのサポートも提供している。倉持CTOは「セキュリティー担当者は事業を止める側ではなく、AIのビジネスへの活用を実現する役割を担ってもらいたい」と力を込める。
 
　NRIセキュアテクノロジーズは、AIを保護するセキュリティーへのニーズが確実に高まっているとする。木村匠・グローバル・リサーチコンサルティング部グループマネージャーは「これまで付き合いがあったセキュリティー担当者からの相談もあるが、AI活用の推進担当に就任したものの、必ずしもセキュリティーに詳しくない担当者への支援も増え始めている。AIを社内で普及させるためのガードレールを用意したいとする声は強まっている」と受け止める。

　対策を始めるには、まずは顧客のAIの活用状況を把握することが重要になるという。木村グループマネージャーは「何が問題か分からない状態で対策を講じるのは難しい」とし、壁打ち的な使い方も含めたAI利用業務の棚卸しから伴走するケースが多いとする。誰がどのような情報を使いながらAIを使っているかを把握し、データセキュリティーの体制の構築やAIエージェントの監視などの支援につなげている。

AIの種類ごとに対策を整理

　SB C＆Sの山名広朗・ICT事業本部 ネットワーク＆セキュリティ推進本部本部長は「どこでAIを使うかによって守り方は違い、これをエンドユーザーもパートナーも整理しなければならない」と話す。
 
　例えばSaaS製品として提供される「ChatGPT」などはインターネット経由でアクセスするため、SASEを通して誰がどのようにAIツールを利用しているかを把握でき、山名本部長は「既存のセキュリティー対策も大切になる」と強調する。他方で、AIエージェントが自律的に自社資産にアクセスする場合には、AIゲートウェイ製品を接続ポイントに設けるなどして不審な動きをすぐに検知できるようにしなければならない。「Amazon Bedrock」のようなクラウドベースのAI基盤であれば、CNAPP（Cloud Native Application Protection Platform）製品による設定情報の最適化などのアプローチが欠かせない。

　AIエージェントの挙動を把握する手段として、AIゲートウェイやマシンアイデンティティーの管理に加え、エンドポイントでの動きを追えるAIDR（AI Detection and Response）に対する関心が高いという。山名本部長は「（AIの登場で）ITインフラを守るためのコストとみられていたセキュリティーは、今や経営課題の筆頭格となっている」とみる。

　AI活用を守るための「Security for AI」製品はすでに多く市場に存在しているが、特定機能に特化したツールを展開するスタートアップもあれば、大手のセキュリティープラットフォーマーが機能として実装を進めている場合もあり、SB C＆Sは双方に対応している。SIerは、よりとがったスタートアップの製品を用いるか、プラットフォーマーの機能を用いて既存の運用体制を維持するかを、顧客のAI活用の戦略に合わせて提案する必要がある。山名本部長は「新しいセキュリティー製品を国内で取り扱う上では、サポートの体制なども含めてしっかりと判断している。Security for AIが複雑になる中、エンドユーザーはパートナー頼りになる部分があり、当社としてもディストリビューターの立場で支援したい」と説明する。

求められる組織の再設計

　AI時代においても、企業の安全なシステム運用を支える要となるのは、情報システム部門に代表されるセキュリティー担当の組織であることは変わらない。一方で、慢性的にセキュリティー人材不足が続く状況において、複数のシステムを横断して動作するAIエージェントへのセキュリティー対応業務が増えれば、その負担は重くのしかかる。彼らを支援するには、セキュリティー担当組織のあり方を改めて考える必要がある。SIer各社では、組織づくりも含めたコンサルティングサービスの展開に意欲を示している。

　ガートナージャパンの矢野シニアディレクターアナリストは、AIの普及によって「AIが事業部門におけるデータ活用を民主化する一方で、セキュリティーの体制が中央集権的なまま、という構造的なゆがみが生まれている」と指摘する。事業部門でAIエージェントの構築や活用が進めば、セキュリティー部門が想定していないデータへのアクセスが発生する可能性がある上、気づかぬうちにその責任を負わされる可能性もある。

　矢野シニアディレクターアナリストは「先進的な取り組みとして、DXとセキュリティーの責任者を同じ人物とする日本企業も現れている」と紹介した上で、AIの適用で変わる業務プロセスに遅れることなくセキュリティー部門が動けるような組織の必要性を説く。セキュリティー事案の発生に対処するだけの組織ではなく、AIを含めた業務プロセスの設計からセキュリティーを織り込んだ体制を構築することが重要になると言える。

　多くのAIエージェント基盤では、ノーコードで従業員がAIエージェントを構築する機能などを備えており、ラックの倉持CTOは「EUC（エンドユーザーコンピューティング）の乱立のような状況になりつつある」と危機感を口にする。さまざまな部門からリクエストされるAI活用を一つずつ精査していれば、膨大な時間が必要になる上、AI活用にブレーキをかけてしまうことにもなりかねない。加えて、社内情報を活用しなければAIの出力の品質を上げられないこともあり、社内資産を守りながら企業のAXを支えるには「AIの活用を担う部門とセキュリティー部門は、これまで以上に密なコミュニケーションを取ることが重要になる」（倉持CTO）とする。

　機密情報も含む社内資産をどこまで使えるようにするかは経営判断である。倉持CTOは「セキュリティー部門は企業の情報資産について、何をどこまで使っていいかをラベリングし、経営と現場の間を橋渡しする役割がある。DLP（Data Loss Prevention、データ損失防止）や秘密ラベルを付与する製品などを用いて、データに対する根本的なルールを整備し、データを使えるようにすべきだ」とする。

　NRIセキュアテクノロジーズの木村グループマネージャーは「AI活用のためのCoE（Center of Excellence）を立ち上げる顧客も多い。セキュリティー担当者や経営企画、AI戦略の担当者だけでなく、著作権侵害などを防ぐ観点で法務担当者を入れたり、チャットボットに乱暴な言葉遣いをさせないために広報担当者を入れたりして、多様な関係者での議論を通じて、AI活用の知見や責任を共有し合う必要がある」と紹介する。NRIセキュアテクノロジーズではセキュリティー製品の選定や実装だけではなく、組織体制に関する相談など、「あらゆる粒度の悩みに対応できる点が強みになっている」とする。

人材不足への対応も重要に

　セキュリティー人材の不足にも向き合わなければならない。木村グループマネージャーは「このままではリソース不足が加速することはあっても、緩和される状況は考えづらい」と注意を促す。Security for AIとともに現れたキーワードに「AI for Security」がある。セキュリティーの運用体制をAIで強化することを意味するこの言葉は、AIの悪用による攻撃への対応の高度化だけではなく、セキュリティー部隊の根本的なリソース不足に対処する上でも重要な概念となりそうだ。例えばインシデント対応はオペレーションを整備していればAIで代替しやすい領域だ。また、SIEMのような大量のデータを扱うセキュリティー製品でも情報の分析にAIが寄与する部分は大きいだろう。その意味でもAIによる防御策の強化と、安全にAIを活用するための方策は表裏一体と言える。

　セキュリティー部門だけにリスク管理が集中しないようにするには、実際にAIを利用する従業員一人一人に対するリテラシーの向上も重要になる。木村グループマネージャーは「例えばガイドラインをつくるにしても、重厚長大なものにせず、分かりやすくビジュアル化するなどの工夫が欠かせない。シャドーAI一つをとっても、完全には取り締まれない面もあり、具体的なユースケースを示して禁止事項を普及させていく必要がある」と訴える。

AI駆動攻撃に「先制防御」

　生成AIを巡っては、攻撃者による悪用も取り沙汰されている。AI駆動の攻撃では人間が想定しない経路による侵害や高速な攻撃も可能になってしまう。こうした攻撃に対抗する打ち手としては、セキュリティー運用の自動化や既存の対策の高度化に加え、AI駆動攻撃を想定した新しい防御手法にも取り組む必要がある。
 
　ガートナージャパンの鈴木弘之・ディレクターアナリストは、AIによって攻撃経路を見つける能力が高まると指摘。「AIは人間より何手も先まで読み、攻撃が成立する可能性を導き出せる」とし、複数の軽微な脆弱性を連鎖的に悪用するリスクにつながっていると分析する。攻撃経路が複雑になる場合、攻撃側が数多くの証跡を残すため、エンドポイントセキュリティーや境界防御などのいずれかで不審な点を検知すれば対処が可能となる。そのため、例えばEDRで重要度の高いアラートだけではなく、重要度が低いアラートについても平常時との違いに着目するなど、既存の対策も高度化する必要がある。

　防御側の対応自動化も課題だ。現状、EDRによる端末隔離など一部の対処を自動化していても、攻撃元となる特定のIPアドレスをファイアウォールで自動遮断する運用まで実践している企業は多くない。このように人による判断を待つ事後対応が中心では、AIを用いた攻撃の速度に追いつけない恐れがある。

　そこで鈴木ディレクターアナリストは、攻撃の兆候を早期に捉えて対処する「先制的サイバーセキュリティー」が重要になると説く。その手段の一つが、攻撃者をおとりの環境に誘導する「サイバーデセプション」だ。代表例であるハニーポットは、あえて脆弱なサーバーを設置して攻撃者の手法を観察する仕組みとして、従来は大学や研究機関などで利用されてきた。攻撃の兆候を早期に捉えられるため、一般企業にとっても対策の選択肢になり得るという。例えば、社内ネットワークに業務では使用しないサーバーやネットワーク領域を設けたり、ファイルサーバー内におとりのディレクトリーを置いたりする。通常はアクセスされない場所に接触があれば、攻撃者が社内へ侵入し、探索している可能性が高いと判断できる。既存の仕組みを強化しながら、攻撃を先回りして捉える防御体制へ移行することが、今後のトレンドの一つになりそうだ。