New Relicのセッションには、上席エヴァンジェリストの清水毅氏が登壇。「生成AI『使う・組み込む・作る』の三つの戦略と、オブザーバビリティ」と題して、企業が生成AIを活用する際に取るべき戦略について論じた。


　「ChatGPT」に代表される生成AIは、2024年はその本格活用が始まる年といわれている。「国内の生成AI需要額は、30年までに1兆7774億円になる見通し。世界では31兆円規模まで上昇する」と清水氏。企業にとっては、これを活用して競争優位性を獲得することが常識になると述べた。

　清水氏によれば、企業が生成AIを活用する戦略には「使う」「組み込む」「作る」の三つがあるという。「使う」では、外部の生成AIを業務効率化などに活用。「組み込む」ではその企業のシステムやサービスに生成AIを組み込んで活用する。「作る」は、その企業専用の生成AIモデルを自ら開発するやり方だ。

　ただ、生成AIをつくったり企業システムに組み込んだりする場合、適切に開発運用しないと、競争優位性を保つことはできない。管理対象の項目としては、パフォーマンス、品質、コスト、セキュリティー、コンプライアンスなど。これら項目の状態を可視化し、企業が必要な対策を取れるようにしておかなければならない。

　そうした開発運用の課題を解決するため、清水氏は同社のオブザーバビリティー（可観測性）プラットフォーム「New Relic」を紹介。「New Relicは、トラブルの発生を把握し、その原因を特定し、修正を迅速にすることで、企業の競争優位性の確保を支援する」と述べた。

　生成AIに対する開発運用のポイントは「サービスレベル」「ユーザー体験」「ビジネスKPI」の三つ。サービスレベルの監視と原因特定には、New Relic SLMとNew Relic APMが、原因特定と修正には生成AIを活用したオブザーバビリティアシスタントNew Relic AIが使われる。また、生成AIを組み込むアプリケーションのユーザー体験やコスト、レスポンス品質を可視化する業界初のAI APMが「New Relic AI Monitoring（AIM）」。23年3月にはOpenAI APIやChatGPT APIのパフォーマンスやコストを可視化する「OpenAI Observability」も登場し、現在のNew Relic AIMへと進化しているという。

　一方、売り上げや週間アクティブユーザー数（WAU）やコンバージョン率（CVR）などのビジネスKPIを観測し、それらとデジタルシステムのぞれぞれの問題をひもづけて原因特定と修正を可能にするのが、「New Relic Pathpoint」だ。清水氏は「どのビジネス、組織、システム、ユーザージャーニーに問題があるかを即座に特定することで、問題切り分けに要する時間を短縮できる」と述べ、活用を促した。