AI時代の説明責任とは

　取引先や顧客に「規則で決まっている」「システム上対応が難しい」などと伝えた経験のある人は少なくないだろう。相手を苛立たせたり、不快に思わせたりしたいわけではないが、そう言わざるを得ない状況はある。組織として、契約の履行やサービス提供に関わる意思決定の責任を、個人ではない別のどこかに置くようにできているからだ。

　本書では、意思決定に対する責任を回避させる仕組みを「アカウンタビリティ・シンク（流し台）」と表現する。現代の企業や市場、政府といった巨大システムは、なぜ責任をシンクに流し込み、誰も望まない結果を生み出し続けるのか。著者は分野横断的な学問「サイバネティックス」を参照し、「多様性」や「フィードバック」といった概念を手掛かりに論じる。生成AIの普及は、本書の問いをより切実なものにする。判断をAIに任せる場面はあらゆるところで増えていく（「AIがそう言っているので」と語る人間はすでに存在する）。しかし、問題はAIに判断を委ねること自体ではない。AIの意思決定に対する不満や疑問を、組織（＝システム）が適切に受け止め、より良い方向へと修正できる仕組みを設けられるかだろう。それが真の意味での説明責任であるはずだ。（無）
 

『知らぬまマシン　なぜ巨大システムはトンデモ決定をしてしまうのか』
ダン・デイヴィス 　著　川添節子　訳
みすず書房　刊　3960円（税込）