三谷産業は、生成AIの誤回答を抑制し、回答根拠を追跡できる「AI信頼性ガバナンス基盤」を体系化した。構成する7件の要素技術について米国特許を仮出願しており、今後はパートナー企業との実証を通じて実用化を目指す。発明者である情報システム事業部ソリューション企画部の中野博明氏は、「AIにとって重要なのは、よく答えることではなく、判断が危ういときにブレーキをかけられること」と語る。
（山本浩資）
 
　中野氏は、生成AIについて「同じ問いを2回投げると違う答えが返ってくる状態」に以前から違和感を抱いていたという。医療や創薬の研究現場を経験してきたことから、「精度98％と言われても、残り2％で人の生死にかかわるような領域では使えない」という問題意識が、今回の取り組みの原点になった。

　大阪大学薬学部を卒業後、同大大学院で構造生物学を専攻し博士号を取得した研究者だ。京都大学大学院薬学研究科や兵庫医療大学（現兵庫医科大学）などで研究に従事した後、企業で医療・医薬品分野などの研究開発に携わり、2025年2月に三谷産業へ入社した。研究で培った計算科学やAI、データ解析の知見を、実際の業務や事業課題の解決に結び付けたいと考えたのが転機という。

　当初は三つほどの技術から始まったが、開発を進める中で、AIの信頼性を確保するには単一の技術では足りないとの考えに至った。情報の受け入れから回答の出力まで一連の流れとして管理する必要があると考え、技術を拡張。最終的に七つの要素技術で構成する現在の基盤へ発展したという。

　AI信頼性ガバナンス基盤の考え方は、製造業の品質管理に近い。工場が原材料の受け入れ、製造工程、出荷前の各段階で品質を確認するように、AIも「入り口」「工程」「出口」の3段階で管理する。現在は実用化を見据えた開発・検証を進めており、パートナー企業との連携に向けた協議を行っている。金融、医療、法務、自治体など、AIの誤りが大きな影響を及ぼす分野での活用を想定する。

　具体的には、情報の出所を記録する「根拠の明確化」、古い情報を排除する「情報の鮮度チェック」、回答の揺らぎや矛盾を検知する「安定性のチェック」、信頼性の低い情報を除外する「偽物の排除」、不確実な場合には回答を停止して人に確認を促す「安全装置と自動改善」など七つの要素技術で構成される。

　特徴の一つは、特定の生成AIに依存しないことだ。利用する大規模言語モデル（LLM）を問わず、その外側で信頼性を管理する「制御層」として機能する。単に誤回答を減らすだけでなく、回答の根拠や判断過程を追跡できる点を重視する。回答が誤っていた場合でも、どの情報を参照し、どのような処理を経てその結論に至ったかを事後検証できる仕組みだ。中野氏はこれを「AI版のドライブレコーダー」と表現する。

　中野氏は、「AIが賢くなるほど、どう管理し、どう説明責任を果たすかが重要になる」と強調した。