導入してわかった、「生成AI」の想像以上の賢さ

権田和士氏(以下、権田):ここからは秋山さんも参加してもらって、パネルディスカッションを行います。

今日ご参加いただいている方は、たぶんもうすでに(GPTを)取り入れられているか、これから取り入れようと考えていらっしゃる方が多いかと思います。どちらもいろいろと実験中で、これからさらにどう実験していくかというところかと。

コロンブスの卵ではないですが、お二方が最初にやってみたことの模擬体験、疑似体験をしたい方が多いのではないかなと思います。やってみてどうだったのか。予期していたことと予期していなかったこと。これはちょっと難しかったなということも含めてお聞きできたらと思います。

まず、秋山さんからおうかがいしたいんですが、仮説ベースでこう使えるのではないかと思っていたところもいろいろあったと思います。導入をされて3ヶ月くらいかと思いますが、実際にやってみてここが難しかったとか、ここは逆に思っていた以上にうまくできたみたいなところを、おうかがいしたいと思います。

秋山勝氏(以下、秋山):ちょっとずれた回答かもしれませんが、生成AIは想像をはるかに超えていると思います。

権田:なるほど。賢いということですね。

秋山:賢いし、融通が利く。データが粗かったとしても、その中から見出すのもそうです。これは社内の話で申し訳ないですが、僕がたまにやるのは人の評価設定で、「この設定における将来的なアウトプットでどういう問題が起きる?」みたいな質問に対して、しっかり回答してくれるんですね。評価設定とかも意外にチューニングが効くくらい賢いんです。

一番難しかったのは「社内の理解を促進する」こと

秋山:さっきの質問に戻すと、何が難しいかというと、社内の理解を促進するのが一番難しかったです。

権田:ほう。

秋山:僕らは代表なので大まかな方向性を出しますが、常に細かく自分たちでチューニングするわけではないと思うんですよね。考え方とか使い方をしっかりチューニングしていくには、現場の理解とそれに伴う胆力が同時に必要じゃないですか。ここをチューニングするのが一番難しかったです。

権田:現場からのリアクタンスとか、活用のハードルがあったんですね。

秋山:(GPTを導入した際の)現場の最初の回答は、「まあ普通っすね」みたいな感じでした。

権田:なるほどね。

秋山:初めて新しいものを触った時の、おおよそ想像できるリアクションではあるものの、一定探求して初めて使えるレベルになると思うんですよ。

本当に業務にミートできるかというと、何度も何度もトライ&エラーをしながらチューニングして、コツを身につけていかないといけない。最初、そこに持っていくのが非常に難しかったです。

権田:そうですよね。プロンプトもそうですし、どんどんやり取りをしながら使う側の人たちがうまくならないと。よく言われる問題ですけど、GPTに「1+1=3」とずっと答えていると、最初2と言っていたのに「3」と若干人間に合わせた回答になっていくところもあるので。

使う側がうまくやり取りをしていかないといけない中で、その部分のリテラシーを上げたりするところを苦戦してやられた感じですね。

秋山:そうですね。使える前提に立って使っていくのと、使えるかどうかわからないから1回やって、期待にそぐわない結果が出たら「使えない」と結論を出してしまうのって、似て非なる行為じゃないですか。

権田:そうですね。

秋山:理解が浅い時は、後者になりがちだったんです。なので、AI自体よりも組織の期待値コントロールと、ミッションの設定が、最初は一番難しかったと思います。

権田:なるほど。生成AI側に課題があったことはほとんどなく、ほぼ想定したところで活用はできて、使う側のマインドセットも含めた浸透にちょっと時間がかかった感じですね。

秋山:そうですね。生成AI自体が持っている問題は、おそらく本日参加されている方々が認識されている域は出ていないと思います。

適切なインプットや命令ができるかどうか、人間側の問題が大きい

権田:小笠原さんはいかがですか? 使ってみて苦労したポイントとか、逆に想定よりも良かったところをおうかがいできればと思います。

小笠原羽恭氏(以下、小笠原):私もポジティブサプライズとネガティブサプライズの両方があったと思います。ポジティブな面に関しては、非構造データから構造データを目指すところは、一定ミスしたり、取れないだろうなと予想していました。

でも実際にやってみたら、思ったよりもかなり正確に(データが)取れたので、これは効率化されるし、信頼できるなと思いました。

よく「ChatGPTが嘘をつく」みたいに言う方もいらっしゃいますが、AIなので一定当たり前かなと思っていて。インプットさせる情報や適切な命令を出せるかについても、先ほど秋山さんがおっしゃったように、人間側の問題かなと思っています。適切なインプットを与えて適切な処理を施せば、適切な結果が得られる。これはけっこうな精度でできるという印象を受けました。

ネガティブな面に関しては、文面生成の部分にフォーカスを当ててお話ししますが、営業文面を作る時に生成物がやるたびにけっこう変わって、可変性が高いんですね。なので、さっきできたのにもう1回やったらできなくなるみたいなケースがあって、けっこうランダム性が高い。

例えば、完璧な文面の8割9割くらいのポイントを押さえた文面がパッと出てきた時に、「これは使えるな」となるんですけど。次にやってみたら、6割ぐらいの完成度になり、そのまま6割が続いて、「さっきの8割9割の文面はどうやったら出てくるんだろう」みたいな感じで。けっこうランダム性が高いという印象は、ネガティブなイメージとしてありました。

ここのチューニングをするためには、「インプットをしっかりやれるか」「命令をしっかり出せるか」が重要になってくると思います。けっこういろんなパターンを網羅していきながら対策をしていく必要があるだろうなと、実用上の課題として感じましたね。

権田:そうですよね。両社ともいったんプロンプトの工夫はやっているとはいえ、ほぼ公開情報から引っ張ってきている状況で、独自情報で学習させるわけではないから、よりそういうことが起きるんですかね。

小笠原:インプット情報自体は変えているので、それをもとに独自の学習までは行けていないかもしれませんが、インプット情報は、公開情報以外のものも与えてやっていますね。

GPTを今後どう進化させていくか?

権田:さっそく今後に向けての話になりますが、貯まったデータから、自分たちのサービスがどんどん独自のアウトプット、独自の分析になっていくと見越した時に、学習環境を変えたり、アジュールへ移行させたり、今後どう進化をさせていこうと考えていらっしゃいますか? どちらからでもいいですけど。

秋山:環境に関して言うと、今おっしゃっていただいたように、アジュールのように一部先行してリリースされているものがありつつ、順次状況が変わっているので、あまり開発環境に関しては意識していないです。

権田:なるほど。

秋山:それよりも教師データの取り込みを、APIを経由してどこまでの速度でできるようになるかが1つのポイントかなと思っていて。例えば僕らでいうと、サイトがベースになるので、マーケティングをする上での受け皿を、AIを使ってどこまで人が作ったように自動的に作れるかが重要なテーマだと思うんですよね。

権田さんの質問に戻ると、これができると脅威にもなる構造ではあるものの、避けては通れない領域なので、どういうデータを構造化させるのか、させないのか。どういうテーマをどういう目的で与えることで、それができるかを、試行錯誤しながら、今進んでやっているというかたちですね。

精度を高めるのに必要なのは、大量の教師データ

権田:なるほど。小笠原さんいかがですか? 今後さらにエッジをつけていく上で、差別化をされる状況に向けて、活用法はたぶん2段階、3段階と進めていくんだと思うんですけど。どんなことを考えていらっしゃいますか?

小笠原:開発環境とかに関しては、特に弊社は意識していませんが、教師データについては大量に必要かなと思っています。例えば文面をパッと出した時に、それがどう修正されて、確定されたのかというデータが教師データになりますので、これをどんどん蓄積していく。

例えば、自社側の商材のバリエーションや、送る先の企業の特徴のバリエーションなどパターンがいくつもあると思うので、それを鑑みた時に最適な文面のデータをどんどん貯めてお送りできれば、精度も高まってくるかなと思います。

弊社には、これまでのいろんな文面のABテストのデータもあるので、これを取り込んで、より最短で最適な文面が出せればいいなと思って、進めているところです。

権田:精度が上がっていくとは、イコール文面がよりカスタマイズされて、非常に刺さる文面が生まれる状態を実現することを考えていらっしゃる感じですかね。

小笠原:そうですね。文面生成のところではおっしゃるとおりで、他の使い道では日程の調整とか、適切なアクションの提示とかがあります。このあたりも、このケースにおける適切なアクションがこれで合っているのかを、教師データとしてどんどんユースケースを拡張していきたいと思っていますね。

社内の推進役は「詳しくない人」がやるべき

権田:ちなみに、社内の組織体制をおうかがいしたいんですけど、秋山さんや小笠原さんのところは、現状社員は何人くらいいらっしゃいますか?

秋山:150人くらいですね。

小笠原:業務委託の方を入れて70人以上くらいですね。

権田:今日はまだ質問が出ていないんですが、誰が主幹で取り組むとか、社内のチームはどうなっているのかとか。たぶんしょっぱなはお二人が「よし、やるぞ」となったと思うんですけど、これを取り入れていく時にどんなチームを作って、今後そのチームはどう発展していくのか。体制としてどうなっているのかをお聞きしたいと思います。小笠原さん、どうですか?

小笠原:弊社の場合は、私もエンジニア出身なので、私やCTOの陳、そして8人くらいいる他のエンジニアもみんな興味津々で使って、「こういう使い方があるんじゃないか」みたいに話しつつ。

そこでは技術的な意見が出てくると思うので、私はお客さまと対話しながら、こういう使い方ができれば営業の成果が上がりそうだとか、何かしら効率化されそうだとか、マーケットへの観点も取り入れつつ、進めているイメージです。

社内で誰が推進するべきかに関しては、実は詳しくない人が進めるべきだと思っていて。

権田:ほう!

小笠原:なぜかといいますと、詳しい人ってめちゃめちゃ熱量があるので、推進力があると思うんですけど、その人が詳しいから使いこなせているだけなのと。あとは知識をつけ過ぎて、実際のニーズと違う使い方とかが、どんどん浮かんでくると思うんですね。

それよりも、新しいものに懐疑的な人が推進リーダーに任命されて、しょうがないから使ってみる。批判的な目で見つつ、絶対に本質的な価値に貢献できる部分だけが研ぎ澄まされて、社内で「これにしていこう」と推進していった事例をうかがったことがあります。これがポイントになってくるのではないかなと思ったりしていますね。

権田:今後はということで。

小笠原:そうですね。今後はということで。

権田:今はプロジェクトチームというかたちで動いているわけではなく、小笠原さんも含めてエンジニアのメンバーたちが使いながら、徐々に顧客のフロントに小笠原さんがニーズを確認しながらやっているんですね。

今後の体制はプロジェクトチームを作っていこうかなということと、その時の推進リーダーは、そういうことに対してちょっと遠そうな人が、懐疑的なかたちでやっていくと良さそうだという考えで、推進している感じですね。

小笠原:はい。おっしゃるとおりです。

大事なのは使う側の学習や組織のマインドセット

権田:秋山さん、現状はいかがですか?

秋山:スタートは、まさに小笠原さんと同じようなかたちで、僕とCTOとあとはプロダクトのマネージャーの3人で始めたんですよね。今は、複数のエンジニアが絡みながら推進している状況です。

我々の場合、β版というかたちで早々にお客さまに使っていただいているので、さっき小笠原さんが言ったことにもちょっと近いんですが、触れていない人とか、そこに対してベースの知見がない方に使っていただくのが、確かに手っ取り早いです。

想定されている回答もあれば、思っている以上にコツをつかんで、うまく使われている方も出たりするので。結果的に僕ら自身がそれによって学ぶスキルは上がっているのが、今今かなと思っています。

もう1個は、カスタマーカルテというかたちで、ご理解いただいているお客さまに対して、お客さまのデータに定性的なアドバイスを与えることを、実験的にやっているんですけれども、もう1段掘り下げないと、まだ難しいということがわかってきました。

定量データを定性化しても、まだまだギャップのあることが理解できたので、次なるコンテンツや、わからないがわかるとはいったい何なのかと考える。AIを登場させたことによって、より理解が深まりました。こうしてまた1個進んだのは、おもしろい発見でしたね。

権田:そうすると両社に共通しているのは、とりあえずやってみて、組織的な学習を進めていくのがすごく重要で、生成AI側にハードルがあるのではなく、使う側の学習や組織のマインドセットを作っていくのがけっこう重要だと。

最初は技術ドリブンでやって、ビジネスサイドにも広がっていくみたいなことを、今、考えていらっしゃるところですかね。

小笠原:そうですね。