世界中で、ChatGPTや Bard、Bing AIなど生成 AI 技術の急速な開発、導入、普及が進んでいる。生成AIは、従来のAIでは難しかった文章などを自動的に作り出すことができ、要約、アイデア出し、資料の作成、プログラミングなどさまざまな業務の効率化が進むと期待されている。一方で、企業や行政機関が活用する際には、機密情報や個人情報の漏えいなどの課題もある。また、企業が許可していない生成AIサービスを利用するなど、シャドーITの問題もある。さらに学校現場においては学習効果への影響も懸念されている。

生成AI利用時の課題を解決するには

　生成AI利用時における課題に対しては、総務省、経済産業省、文部科学省および個人情報保護委員会などが公表している各種ガイドラインなどを参考に、各組織で生成AIの利活用におけるリテラシーを高め利用ルールを定めることが、まず今できる問題解決策の一つである。ただ、各組織でリテラシーを高め利用ルールを定めても、生成AIの抱える課題を解消することは難しい。意図せず個人情報を含むデータを生成AIに入力してしまうといったインシデントも起こりうる。そのためには、生成AIに対応したフィルタリングによる制御なども検討いただきたい。
 

生成AIに対応したフィルタリング

　生成AIを安心・安全に利活用するには、生成AIに対応したフィルタリングが必要である。具体的には、機密情報の漏えいなどに注意が必要な旨を伝える警告画面を表示する機能や、個人情報・機密情報など特定単語を含む生成AIへのメッセージ送信をブロックする機能、いつ・誰が・どんなメッセージを生成AIに送信したかといった情報をログとして確認する機能などがあると良い。
 
　フィルタリングを活用すると、特定の部署・役職には生成AIを許可し、それ以外の部署・役職には、許可しないという設定も行うことができる。学校においては、必要な授業のみ生成AIを許可するといった利用も可能だ。これらのフィルタリングに対応できる製品としてデジタルアーツのWebセキュリティ製品「i-FILTER」がある。フィルタリング検討時の参考にしていただきたい。

　これまでフィルタリングによって利用を制御する方法を述べてきたが、ログ機能があれば生成AIにどのようなメッセージを送信したかをログから分析できるため、より効果的に生成AIを活用するにはどうすれば良いかなどの検討も容易になる。
 

今後の生成AIの拡大に向けて

　2022年6月から、セキュリティ企業で勤務する企業内ITコーディネータの視点から、GIGAスクール構想、企業や行政機関のデジタル化とセキュリティ、ゼロトラスト運用面の課題と対策などについて解説してきた。デジタル社会は、光の部分には注目が集まりがちだが、影の部分は置き去りにされることも多い。

　生成AIは、デジタル社会の構成要素の一つであり、企業や行政機関、教育機関の各組織において、今後ますます利用拡大していくことが予想されるが、生成AIで発生する問題の対策は、これから検討するという段階の組織も多い。

　生成AIの利活用をさらに進めるためにも、安全な利活用を実現するフィルタリングは、いつ始めても手遅れということはない。これから本格的に生成AIの利用を検討するという組織の方には、影の部分への対策を優先的にお願いしたい。