大手企業がこぞって進める生成AIの全社導入　日本企業におけるChatGPTとLLMの活用事例

海外版のピザ屋のデモ

森正弥氏：海外版のピザ屋のデモを流せればと思います。英語がちょっと流れますが、こんな感じです。

ピザ屋に店員のAIアバターがいて、お客さんが来て……お客さんがだいぶぶっきらぼうですけど（笑）、答えていくのをハンドリングして、最後はペイメントまでやるという感じでした。シナリオは一定はありますが、これは裏がLLMで、ここではNVIDIAのNeMoを使って会話をやっているので、シナリオじゃないアクションにももちろん普通に対応できます。

例えばいきなり「アジャイルって知っている？」と聞いたらきちんと答えてくれます。NeMoは英語とスペイン語がすごく得意なので、このデモは英語のデモになっていますが、日本語でも動きます。

あと、単にこれは単なるマイクロサービスのマッシュアップなので、23個ぐらいのマイクロサービスが立ち上がっていて、そんなに立ち上げるのかと思いながらやっています。マイクロサービスのマッシュアップなので、普通にChatGPTのAPIにリンクしたら、ChatGPTの表現力で動くという感じです。

みなさん、これはちょっと自然なやり取りだなと思いました？　思いました？　みたいな（笑）。

なんかちょっと自然な感じがしたよねという感じなんですけど、実は技術的に分析していくと、いろいろとツッコミどころがあるかもしれません。LLMの宿命かレスポンスにやや時間がかかっているところはあります。

ネットワークのレイテンシーとかいろいろ調べる中で、LLMが動いているサーバーの問題が多かったんですけど。ただこれは実は、マイクロサービスが立っていて、パラレルにやっていて、テキストやコンテキストを踏まえながら表情や動きを制御するというNVIDIAさんのモジュールがあって、例えば会話の中でお客さんがなにかを言った時に、「うんうん」みたいなことをやっていることによって、レスポンスのレイテンシーを稼いでいるんですよね。

並行してやっているので、自然なやり取りになっていて、これは巧妙にやっているなと思いながら見ています。ただ、この「うんうん」という頷きを日本のお客さまは「いらないよね」と思っているんですよね。日本だと、ダイレクトに反応しないといけないので、たぶん今後は厳しいチューニングが待っているんだろうなと思いながらやっています。

生成AIの活用とともに求められるアジャイル・ガバナンス

「生成AI」と聞いたらChatGPTがあって、プロンプトエンジニアリングがあって、開発にも使える、コーディングにも使えるみたいな話。あるいはマルチモーダルで絵も描ける、動画も作れるみたいな話だったりするわけですよね。でも今みたいに、実は裏側のエンジンとして使うことでAIコンシェルジュ、AIアバターを作ってしまおうという案件も非常に多いわけです。

そういうのがどんどん発掘されていく中で、日々とんでもない事例が出てきているし、新しい技術も課題も出て、その課題を克服する技術も出てくるという感じになっている。それが本当に言われている話なのかどうかを検証しなきゃいけないところがあって、まさにその動き方がアジャイルであるというのが、企業にも求められてきているのかなとも思います。

日本でこんなに生成AIの活用が進んでいるのは、僕自身は「DX」というキーワードによって各社さんがDXの取り組みをここ3、4年ずっと推進してきたことの成果の表れなんじゃないかと思っています。従来はセキュリティで使っちゃダメで終わっていたような大企業が、CoE（センターオブエクセレンス）を作って、検証させて、プラクティスを作って、ユースケースも作る。

それを部門で適用して、効果やフィードバックを受けながら改良していく、みたいな動きをみなさんしているんですよ。これはもうDXの成果がすごく表れていて、かつ今起きている技術的なトレンドにもどんどん対応しようとしている。アジャイル・ガバナンスにみなさんすごく移行しているという話があって、技術の検証をして活用していくという体制や、オペレーションを組めるかどうかが、間違いなく今後の先端技術活用においても肝だと思っています。

そこが実は、今のAIのトレンドと、アジャイルの実践やプラクティスやノウハウとの結合点である。そしてそれを踏まえて、AIのサービスマネジメントもやっていく必要があるのかなと思っているわけです。それが本日お伝えしたかった話です。

大手企業が生成AIを全社導入している

もうちょっといろいろ掘り下げながらやっていきたいと思います。生成AIはインパクトが大きいですよねという話をずっとしていますが、ゴールドマン・サックスが「2033年までにGDPを7パーセント引き上げる」という話をしている中で、3億人規模のフルタイムの働き手が、生成AIの影響を受けると言われていて、日本が世界で3番目に影響を受けるという話もされています。

最近はちょっと違うレポートが出てきて、単純に生成AIが仕事を奪うのではなくて、コラボレーションする関係にシフトしていくという話も出てきています。ペンシルベニア大学のレポートによると、約19パーセントの労働者の半分の仕事が、AIの影響を受けるという、働き方、あるいは経済に対して非常にインパクトがあると言われています。

例えば全社導入みたいな話だと、大手企業のみなさんが導入されています。すごく興味深いのは、生成AIに関しての新しいプラクティスがけっこう発見されてきていることです。

私は前職が某インターネット企業で、あとはいくつかのインターネット企業さんとお付き合いもあるので、お話をいろいろとさせていただくことがあるんですけど、インターネット企業さんと、プラクティスみたいな話をする中で、「やっていますか？」と聞くと「いや、なんかね、やるかどうかを今考えているんですよ」みたいな話をされます。

ですが、大手企業さんはみんな「やっています」みたいな。伝統的な企業さんはみんな「やっています」みたいな話をしていて、逆転現象が起きているのがすごく興味深いなと思っています。

かつ、大手企業さんが（生成AIを）導入したということをプレスリリースまでセットでやるみたいなことが、2023年3月、4月ぐらいにすごく流行ったんですよね。これはもう本当に今までにない動きですよね。

「何に使っていますか？」というお話を各企業さんに聞いて回りました。そうしたら、これはChatGPTに限らずMidjourneyとStable Diffusionも入っていますが、バックオフィス、フロントオフィス問わず、各部署で、こんな使い方をしているみたいな話が集まってくる。

1つの会社でこれを全部やっているというところは、今のところはまだない。もしかしたらみなさんの中で「あれ？　うちはやっているけど」というところがあるかもしれませんが、今のところはまだ出会っていません。ただ、やっている会社さんの使っている話を聞いてまとめていくと、全部署をカバーするみたいな感じになってきている。

生成AIの活用が一番進んでいるパナソニックグループの事例

しかも、こんなのは日本だけなんですよね。他の国はこんなところまでの適用が進んでいない。すごいですよね。

一番進んでいるのは、やはりパナソニックさん、パナソニック コネクトさんを皮切りに、パナソニックグループ全体が本当にもう進んでいますよね。ChatGPTのリリースの前である2022年10月に「ConnectGPT」をリリースされて、そのあとパナソニックグループ全体の「PX-GPT」というものをリリースされている。

リリースから23ヶ月で26万プロンプトが集まったみたいな話で、しかもそれがすごく詳細に分析されています。例えば、「これは使えるプロンプトだった」みたいなフィードバックを集めて、そのプロンプトをWebの画面からマウスだけで選べるようにして、すごく効率の高いGPTの活用を進めていたんですよ。

さらにロードマップがきちんと示されています。例えば、このGPTの活用は自社特化AIとしてやっています。公開されている自社の情報を、公開されている情報と、さらには自社固有の社外秘の情報を連携しています。さらに言うと、パーソナライズまでしていくみたいなロードマップを示しながらやっています。

あとは社員のフィードバックをきちんと集計して、何に使って、何が一番役に立っていますか？　みたいなところで、プログラミングや翻訳という中から、業務の中での組み立てや、有効なプロンプトの設計という話までにも活かしています。

パナソニックさんがもっとも進んでいるかなと思いますが、他の大手企業、電機メーカーさんを中心に非常に活用が進んでいて、我々も実際にご支援をしていますが、もうこういう仕組みを普通に構築していますよね。「これは僕も作っている」という方が、たぶんみなさんの中にもいると思います。

ここで説明すると、社員が使うプロンプトの効果を分析していく。フィードバックをきちんと集めて、例えばそれを1点から10点までのスコープにして、レンジにして、このプロンプトの結果は何点ですか？　みたいなことをきちんと集めたり、「いいね」とか「悪いね」とか、業務に役立ったとか、役に立たなかったとか、誤りがあるとか、そういうフィードバックをきちんと収集する。そして収集した中で、有効なプロンプトを見つける。そのプロンプトをきちんと社員が再利用できるように、先ほどお話ししたようにマウスだけで選べるようにする。

例えば「あなたはどの業務をGPTにやらせたいですか？」みたいな感じで、「マーケティングのプロモーションの企画を考える」を選ぶとプロンプトが出て、固有名詞をちょっと埋めていくと、その有効なプロンプトでアウトプットが返ってくるみたいな話ですね。

さらにいうとガバナンスの部分もあって、例えばこのフォーマットに則したようなプロンプトが入力されていたら、この文章は完全にコピペであると検知したりして、「さすがにそれはちょっと止めましょう」みたいなことをやるとか。自社内の禁止ワードを設定していくみたいなことを、その分析の結果でやっていく感じですね。それでガバナンスのコントロールをしていくということもやられているということです。

逆もありますよね。例えば製造業さんですと、「自殺回路」という単語を使ったりしますが、自殺回路を普通に入れるとOpenAIやMicrosoftに弾かれちゃいます。それを弾かれないように、きちんとプロンプトを分析することで、対応して効果を引き出していくという話で、調査や分析に使ったり、企画に使ったりみたいな話です。

（次回へつづく）