NECは11月5日、AIの安全性を担保しつつトークンコストの最適化を実現するサービス「cotomi Gateway」を発表した。機密情報の保護や利便性、経済性を備えており、既存システムとのスムーズな連携によって業務プロセスの最適化とAI活用範囲の拡大に貢献する。

　cotomi Gatewayは、機密性やタスクの難易度、回答品質、コストなど複数の要素を総合的に評価し、適切なAIモデルを自動で選択する。さらに、プロンプトの冗長な部分や不要な情報を圧縮して、トークン消費を抑制する。機密情報を自動で検知・マスキングし、秘匿した状態で外部AIモデルを利用することも可能で、情報の外部漏洩リスクを低減する。マスキングによって処理が難しいタスクに関しては、オンプレミス環境で稼働するAIモデルを利用して対応する。

　AIの利用実績やコスト削減効果などのデータについては、ダッシュボード上でリアルタイムにモニタリングや評価ができ、運用状況の分析やAI活用の最適化にもつなげられるという。

　既存のシステムやアプリケーションとAPIでつなぐことで、共通ゲートウェイによる一元管理を実現し、業務フローや運用を大きく変えずに、AI活用の効率化が図れるとする。

　AI関連の100以上のサービス機能群を集約した「AI Platform Service」の機能として、cotomi Gatewayのソフトウェア版を提供。その後、SaaSとして順次展開する方針だ。料金は、月額100万円（税別）からとなる。