ソフトバンクは、法人のAI活用を推進するプラットフォームサービス「AGENTIC STAR」で「LLM Gateway」機能の標準搭載を8月上旬から開始した。導入済みの企業にも順次適用する。

　AGENTIC STARは、業務のゴールを理解し、担当者と連携しながらタスクを自律的に進めるAIエージェントをはじめ、企業が安心してAIを活用するための機能をSaaSで提供するほか、AIエージェントの構築・運用も可能にするプラットフォーム。

　今回、標準搭載したLLM Gatewayは、エンジニアが業務で利用しているAIコーディングツールと、顧客が契約して利用する大規模言語モデル（LLM）サービスの間に配置させる法人向けのゲートウェイ機能。AIコーディングツールとLLMの間のやり取りをLLM Gateway経由にすることで、AGENTIC STARが提供する管理・制御機能を利用しているAIコーディングツールに適用できるようになる。これにより、AIコーディングツールの使い勝手はそのままに、各企業が定めるルールに沿ったコーディングが可能になる。

　具体的には、AGENTIC STARが提供するガードレール、機密情報・個人情報の取り扱いに関する制限、利用状況の記録・管理、利用可能なモデルの管理などの機能を、AIコーディングツールにも適用できる。また、対応するAIコーディングツールの接続先をLLM Gatewayに設定することで、利用者は現在使用しているツールの操作性や開発フローを大きく変えることなく、継続して利用できる。これによって、利用者の利便性を維持しながら、企業として必要なガバナンスを適用することができる。

　利用可能なLLMサービスや生成AIモデル、利用状況、利用量、コストなどを、管理者が一元的に確認・管理できる。部門や利用者ごとに個別に運用されていた生成AIの利用についても、企業全体で統一したルールに基づく運用が可能となる。

　AGENTIC STARの標準機能として提供するため、追加オプションを契約することなく、AIコーディングツールに生成AIガバナンス機能を適用できる。