AIの判断の正当性をどう保つのか
AIがあらゆる面で人の意思決定をサポートするようになった一方で、AIの多くがブラックボックス化しており、AIの判断がどのような理由に基づいているのか説明できないことが危惧されている。時にAIが提示するものには差別や偏見、何らかのバイアスが含まれる。正当、平等な判断を行うために、AIを利用するベンダーはどのような対応を行っているのか。
セールスフォースでは、CRMのためのAI機能を作るに当たり、まずは自社データや公開データでモデルを作り、それをパイロットユーザーに提供し、検証してもらう形をとっている。たくさんの顧客データはSalesforceの中にあるが、ベンダーは必要となるデータを勝手に利用できないからだ。テスト段階でもユーザーのデータをセールスフォース側ではもちろん見ない。結果のフィードバックだけを受け取るのだ。機能を提供した後は、顧客からのフィードバックなどを基に、1カ月に1度のペースでモデルが最適化される。
そして同社では、AI機能の倫理を守るために「レスポンシビリティーを重要視し、学習するデータに偏見が入らないようにも注意している」とワカマツ氏。そのために、AIの普及やベストプラクティスの作成を目的とした非営利団体「パートナーシップ・オン・AI」にも参加している。「AIで弱者を切り捨てるのではなく、弱者を引き上げる。そういうところを目指している」とワカマツ氏は語る。
freeeではAIの倫理に関して、まずはAIが勝手に処理するのではなく、人と「協働」するようにしている。AIは人の作業の一部を担うものであり、人の作業を奪うものではない。逆にいえば、ユーザーに会計ソフトを使ってもらい、協働を感じてもらえるサービスにすることが重要だとみている。「仮にAIが勝手に処理し、もし間違っていればユーザーはさかのぼってそれを取り消さなければならない。そうなればユーザーは離れてしまうだろう」と鈴木氏は話す。
オラクルの場合も、AIが勝手に決めて自動的に業務のプロセスを進めるわけではない。人が分析しきれない量のデータを用いてリコメンドを行うが、リコメンドに従うかどうかは人に委ねるのだ。「これはAIの使い方の一つの特徴でもある」と原氏は説明する。
自動化するものもある。「Marketing Cloud」では、自動でリマインドメールなどを送ることができる。しかしこの場合も、一連のアクションを行うマーケティングのプロセスモデルをあらかじめ提案し、それを人が了承していた際にのみ自動実行する。つまり判断部分に常に人が介在することで、アプリケーションの中でAIが暴走しない仕組みとなっているのだ。
これまでオラクルは、さまざまな自動化機能をルールベースで実装してきた。それがここにきて、AI技術を活用したモデルベースに変化している。自動化の処理で説明性を上げるとなれば、ルールベースの方が分かりやすい。しかしそれでは、AIとは呼べなくなる。いたずらにブラックボックス化したAI機能を製品には実装しないが、「AIの機能を使いこなしていくことで、徐々にユーザーが納得できる答えを出せるようになると考えている」と原氏はいう。
そのため透明性確保のためにアルゴリズムやモデルを細かく説明するよりも、予測結果の確度を示す。どのようなデータを学習した結果から導き出したかを明らかにするなどで、ユーザーに納得してもらうようにするのだ。「使い込んでいくことで、AIがより良いアシスタントに育っていく」と原氏は語る。
AIをアプリケーションに組み込む
AIをアプリケーションに組み込むことが基本
「オラクルは、AIをあくまでもアプリケーションやプラットフォームのユーザーの作業などをサポートする機能として提供する」と、同社の執行役員ソリューション・エンジニアリング統括の原智宏氏は話す。
オラクルではAIやブロックチェーンのような新しい技術が、汎用的なPaaSとして提供される場合もある。しかし、アプリケーションなどに取り込んで提供するのが基本的なアプローチで、それにより新たな技術の普遍化を目指している。これはAIを業務の一環として、ユーザーに自然に利用してもらうことだといえる。
特にSaaSのアプリケーションに組み込めば、誰でもすぐにAIを利用できる。機能の裏でAIが動いていることに気付かない場合もあるだろう。多くのユーザーにとっては、データサイエンティストのようなスキルを自ら得て単独でAIを使うよりも、アプリケーションの中でAIを利用するニーズの方が高いと思われる。
AIを活用する 三つのオラクルアプリケーション
現在、オラクルのアプリケーションでAIを活用する主な機能としては、「Adaptive Intelligent Apps」「Intelligent UX」「Conversational Agents」の三つがある。
まず、Adaptive Intelligent Appsは、アプリケーションの機能としてのAIで、アプリケーションの中で提案や予測を行い、それで意思決定を支援する。例えば、HCM（Human Capital Management）のSaaSに「Best Fit Candidate」機能がある。これは外部から人材を採用する際に、応募者の中から最適な候補をAI機能で自動的に見つけ出すもので、過去の応募者、入社した人材のさまざまな情報を学習して利用する。また新たなプロジェクトに社員をアサインする際にも、人材のスペックや社内での経歴などを機械学習し、候補者を自動的に絞り込むことにも利用できる。これら機能は、すでにグローバルのオラクル社内で活用しており、それをSaaSの機能としても提供している。
また、Sales Cloudの「Next-Best Action」機能で使用している。ここでは、営業活動の履歴情報や受注、失注に至った案件情報などを学習し、案件の中から受注確度の高い案件を予測する。そしてデモを見てもらう、あるいは見積もりを提供するなど、次に行うべき営業アクションをリコメンドする。
二つめのIntelligent UXは、ユーザーがアプリケーションを利用する状況に応じ、ユーザーエクスペリエンスを最適に変えるものだ。ユーザーがログインして利用しようとしたタイミングなどから、なぜこのアプリケーションを使うのかを判断し、それに合わせてインタラクティブに変更を行う。例えば、月末に会計担当者がログインすれば、月次の締めの処理だと判断し、それをすぐに始められるように変更するといった具合だ。
日本オラクル
三つめのConversational Agentは、Adaptive Intelligent Appsなどと組み合わせて、対話形式でさまざまな推奨などを行う。単なる音声認識のインターフェースではなく、対話内容を理解しインテリジェントなやり取りをアプリケーションの中で実現する。
ほかにも、オラクルはアプリケーションを動かすクラウドのプラットフォーム部分でAIを活用している。オートノマス（自律的）なクラウドインフラを利用することで、性能劣化や障害発生でサービスが止まるといったことを事前に回避する。SaaSで利用している「Autonomous Database」もその一つ。結果的にSaaSのセキュリティーが担保され、高い品質、SLAでサービスを提供できる。アプリケーションの後ろ側で、見えない形でAIが活用されているのである。
