PKSHA Technologyは3月28日、生成AIの社会実装を進めるため、長文理解に優れている深層学習の方式を採用した独自の大規模言語モデル(LLM)を開発したと発表した。これまでの3倍の速度で回答を生成できるとみており、コンタクトセンターなどでの利用を想定し4月以降、実証を進めていく。
同社が採用したのは、米Microsoft(マイクロソフト)の研究所が2023年に発表した「Retentive Network(RetNet)」。LLMで現在主流の深層学習モデル「Transformer」を越える技術と期待され、学習速度、長文入力時の推論速度やメモリー効率が優れている上、従来と同等以上の精度を持つという。同社によると、RetNetを活用したLLMの開発は世界初。開発は日本マイクロソフトの技術協力を得て行われた。ビジネスへの生成AIの実装を目指す。
上野山勝也 社長
活用を想定しているのはコンタクトセンターや社内ヘルプデスクにおける生産性向上だ。生成AIをコンタクトセンターなどに導入する際に、長文入力、応答速度、運用コストの三つの課題があるが、RetNetを活用したLLMの応答速度では、オペレーターが話し終えた時点で次のアクションができ、顧客を待たせることなく個別最適な回答が可能になるという。
モデルのパラメーター数は70億で、日本語と英語に対応。日本語の2万字の情報量を入力した際に、従来の約3.3倍の速度で出力でき、入力情報量が多くなるほど優位性が高まるという。4月から段階的にビジネス現場での実運用を開始する。
上野山勝也社長は、自社のLLMについて「処理速度、データ量、コストなどを考え、高性能かつビジネスニーズに必要十分なレベルの精度を目指している」と説明。「生成AIの活用が一段と前に進む。日本社会が抱える人材不足などの問題にも、国産LLMや技術を活用することで解決につなげていきたい」と述べた。
(堀 茜)