東芝と理化学研究所（理研）は、学習済みのAIをできるだけ性能を落とさずに演算量が異なるさまざまなシステムに展開することを可能にするスケーラブルAIを開発した。同技術を画像中の被写体分類に用いたところ、演算量を3分の1に削減した場合でも、分類精度の低下を従来のスケーラブルAIの3.9％から2.1％に抑えることができ、世界トップレベルの分類性能を達成したという。


　通常、AIエンジンは適用するシステムやサービスごとに求められる演算量や性能に応じて、AIのモデルサイズなどを人が試行錯誤しながら設計・開発する。今回の新技術を導入することで、例えば大規模で高性能な人物検出AIを一度学習すれば、スマートフォンや監視カメラ、無人搬送車（Automatic Guided Vehicle：AGV）といった適用環境ごとの試行錯誤が不要になる。

　また、異なる適用先に対してAIエンジンを共通化することが可能となり、AIエンジンの開発に必要なリードタイムの削減や管理の効率化が期待できる。さらに、大規模なAIを学習するときに演算量と性能の関係が明らかになり、適用するプロセッサーの選択などが容易になる。

　世界的に知られている一般画像の公開データを用いて、被写体に応じてデータを分類するタスクの精度を評価したところ、同技術によって学習したフルサイズDNNから演算量を2分の1、3分の1、4分の1に削減した場合、分類性能の低下率をそれぞれ1.1％（従来手法2.7％）、2.1％（同3.9％）、3.3％（同5.0％）に抑えることができ、従来のスケーラブルAIとの比較で世界トップレベルの性能を達成した。

　東芝と理研では今後、同技術をハードウェアアーキテクチャーに対して最適化することで、さまざまな組み込み機器やエッジデバイスへの適用を進め、実タスクでの有効性の検証を通して、23年までの実用化を目指す。