ChatGPTは新たなプラットフォームになり得るか？　それぞれの立場で考える、現時点での課題と今後の展望

ChatGPTは新たなプラットフォームになり得るのか？

広木大地氏（以下、広木）：質問を募集したら来たので、それについてもちょっとみなさんとディスカッションしてみたいと思います。

質問です。「ChatGPTはApp Storeのように新たなプラットフォームになり得ますか？　プラグインが発表された時点でちょっと気になっています」というところなんですけど。確かにChatGPTプラグイン、しかも比較的簡単にOpenAPIの……。OpenAPIとOpenAIとでだいたい混乱しちゃうんですけど（笑）。

（一同笑）

広木：OpenAPIのドキュメントを読ませるだけで、あとはディスクリプションを書かせればプラグインは作れるからけっこうおもしろそうですよね。このあたりで笹野さんはどうですか？

笹野翔太氏（以下、笹野）：まず、その「先々どうなりますか？」系の予測はすごく難しいなと思いながら接している部分もあります。本当に個人的な感想だけを述べるとすると、まだそこまでにはなり得ないのかなという感覚はあります。あくまでプラグインというのは、結局そのなにかにぶら下がっているものだと僕は理解しているので、やはりまだそこまでのもの、今のアプリみたいな感じで独立して動くという世界観ではまだないのかなとちょっと思ったり思わなかったりという感じですかね。

広木：松本さんはどうですか？

松本宏太氏（以下、松本）：そうですね。たぶんプラットフォームになる気はしますが、課金は発生しないんじゃないかなと思っています。理由としては、ChatGPTのプラグインの作り方がもうネット上に公開されているエンドポイントを食わせる感じになっているので、そうすると「LangChainで自分たちで作れるじゃん」という話にけっこうなっちゃうと思います。なので結局ChatGPT側がそれを無料で開放しているという感じになる気がしています。

広木：だからアレですよね。おそらくなんですが、新しいロボットテキストみたいなことになるということですよね。

松本：はい。なので結局OpenAIが儲かるんですけど、そこでは儲けないというか（笑）。

（一同笑）

松本：結局どこかでAPIが叩かれると。

広木：そうですよね。どちらかというと、SEOの概念に近いのかなと理解しています。App Store的な意味合いというよりも、SEOの延長線上にあるチャットオプティマイゼーションみたいなことが必要で、そのための標準仕様になるかどうかは、このあと「Bard」や「Bing」がこの仕様を採用するかというところにちょっと依ってきそうですよね。

松本：そうですよね。

広木：染谷さんは、このあたりどうですか？

染谷洋平氏（以下、染谷）：松本さんとメチャクチャ一緒で、やはり一番大事なのは「プラットフォームになり得る」が金が儲かるかどうかですね。笹野さんも言っていたように、そこに出す人がまだあまりイメージできないので、徐々に環境が変わっていって「なるぞ！」と思ったら、お金が動いている証拠じゃなかろうかと。そんな感じで見ていくと、わりと合っているんじゃないかなと。

広木：そうですよね。

ChatGPTを活用したサービスで欲しいものは？

広木：もう1個質問が来ているので、みなさんの回答を聞いてみたいなと思います。のぶじゃすさんの「ChatGPTを活用したこういうサービスが欲しい！　というのがあればぜひ教えてください」ということなんですけど、「こういうのが欲しい！」ってどなたかありますか？　

「あったら作ってるよ」みたいなね（笑）。

（一同笑）

松本：そうなんですよね。

広木：そういう感じかもしれないですけど。個人的には先ほどのUI/UXの話じゃないんですけど、雑な指示をしたらいい感じにやっておいてくれるという度合いが高まるなと思っています。音声で適当に指示したら、それをそこそこ解釈して大人の文面にしてSlackとかに書いてほしいなと思っています。

いちいち丁寧な文章でタイピングするのはイヤだなということを、それっぽい感じに大人のメールで返してくれると手間が省けていいなと思ったんですけど。

笹野：確かに。

染谷：こういう話になると、だんだんと雑な話になってくるんですけど。例えば嫁から激詰めされていて「俺の友だちはこうやって考えているんだよね」と言う時に、LINEの友だちが何人か入って「そうだよ。俺もけっこう思うよ」とか、いい感じに議論して最終的に自分の持っていきたい方向に結論を出してくれるサービスがあったらけっこう世の男性は使うんじゃないのかなと思うんですよね（笑）。

広木：なるほど（笑）。お互いが使い始めると、お互いが思った方向に話がなっちゃうかもしれないですけどね。

AzureのOpenAIと素のOpenAIにおける、セキュリティ面での違いは？

広木：もう1つの質問です。これはあればですが、野村さんの「AzureのOpenAIと素のOpenAIを使った時のセキュリティ面での違い」という質問に対して、AzureのOpenAIを使っている人はいらっしゃいますか？

松本：まだ使い始めたぐらいですね。

広木：いない!?　いや、これは僕も1回調べはしました。OpenAI側のやつより、Azure側のほうがきちんとクラウドサービスとして提供するためのいろいろなドキュメントというか、こういうことの情報の扱いについてきちんと書いてくれるので、ホームにパッと渡して使おうと思った時には楽そうだと思ったんです。

だけど、やはり新しいものが出ているとかでいうと、やはり素のOpenAIのほうが使いやすいので、個人的にはOpenAIを使っています。みなさんはどうですか？　検討しました？

松本：思っているのがいくつかあって、キーの払い出しのやりやすさはたぶんAzureのほうがやりやすいとか。例えば、Azure ADと連携してこの人にこうするとか、あとはAzureのOpenAI上でプレイグラウンドが走れるので、そっちのほうがセキュアだよねとか。ChatGPTのAIだと、もしかしたら内容が食われちゃうかもしれないので、そういうのがリテラシー的な観点でやりやすいのかなという話。

あと、Azureの人にはメチャクチャ可用性が良いと聞きました。Azure品質の可用性を担保してくれるという話で、OpenAIだとちょこちょこ止まったりするので、もしかしたらAzureのほうがそういうセキュリティの中の可用性はあるんじゃないかなと思っていますね。

広木：確かに。柴戸さんはどうでしょうか？

柴戸純也氏（以下、柴戸）：うちはまだAzureのOpenAIを使っていないのですが、松本さんがおっしゃったように、Azureのセキュリティレベルは高いですが、正式版にしようとしたら今度はSLA的なものとか、止まった場合はどうなのかとか。お客さんにもそうだし社内にも説明しないといけない。

やはりAzureのサービスレベルのほうが一定の信頼性も高いし、今のところうちの会社はそちらに寄っていくんじゃないかなと思っています。

広木：なるほど。

サービスをリリースして感じるChatGPT APIの課題

広木：もう1個質問です。「実際にサービスをリリースしてみて、現時点で一番感じるChatGPT APIの課題点は何ですか？」というところなんですけど。

課題点とか、笹野さんはどうですか？

笹野：やはりそのトークン数の制限が一番苦労した部分ではあるので、挙げるとするとそこかなとは思いますね。

広木：GPT-4のAPIだとちょっとアレですが、あれはレスポンスが遅いですよね。

笹野：そうですね。レスポンスもまだ少しゆっくりだし、あとは同時にリクエストをしてどれぐらいの分量が返ってくるかによってもプロンプトの部分を調整しなきゃいけないとか、そういったところまで考えないといけないので。そのあたりの速さと量になりそうかなとは思います。

広木：絶妙に並列で投げて、松本さんが言っていたMapReduceしてRefineするとかのやつも並列で投げられたらいいことってけっこうありそうですもんね。

松本：そうですね。

広木：並列のコールとかってけっこうあれでクオータを超えやすいですよね。

松本：超えますね。

広木：そのあたりをいい感じに使えるといいのにってありますよね。

松本：自前でリトライ処理を挟んでいたりしますね。

広木：地味にそういうところが。ただ、生のCompletion APIよりChat APIのほうが100倍ぐらい使いやすい気がします。設計の時にシステムプロンプトで渡しておけば、そこまでユーザーの入力が敵対的プロンプトの影響を受けることもない気がしていて、そういう意味では少し楽になった感じがします。

GPTを使ったプロダクトに関して事業側が持つ責任の範囲とは？

広木：さて、けっこう時間がいい感じになってきました。次を最後の質問にしようかな。「事業側がGPTを使ったプロダクトを提供する時に、『アウトプットにどこまで責任を持つか』を考える必要があると思いますが、意見があれば教えてほしいです」。難しいのかな。難しそうな質問なので、松本さんに振っておこうかな。

（一同笑）

松本：（笑）。まだベータ版しか出せていないというのが正直あるので、難しいですよね。責任を持てる範囲で今は公開しているというのが正直なところですが、これが例えば採用の意思決定につながってしまうとなった時に、どうするんだみたいな。先ほどの話をすると倫理観みたいなところがけっこう論点になりそうだなとは思いますね。

広木：そうですよね。ミッションクリティカルとまではいけないけれども、それぞれの事業ドメインの中に非常に大事なお客さんのプロセスを持っている上でプロダクト化していく時に、そこに対する責任の持ち方というか。アウトプットというか、うまく制御をしていくというか、ユーザーに「このぐらいまでのクオリティのものなんですよ」と伝えていくことも重要なことかもしれないですね。柴戸さんは、そのあたりをどうお考えですか？

柴戸：広木さんがおっしゃったとおり、期待値をある程度調整するという前提があるのと、このご質問をした方の会社がどういうビジネスかによると思います。弊社の場合であれば、やはり先ほどのステップバイステップで相手と一緒に考えて、そのアウトプットを受けた行動に責任を持てるように、力を入れている感じですね。

最初は、期待値を調整していくことがすごく大事かなと思いますね。

広木：そうですよね。「そういうものだ」というメンタルモデルを、ユーザーがまだ獲得できていない部分もありますもんね。

柴戸：はい。

広木：染谷さんはプロダクトマネージャーとして、このあたりはどうですか？

染谷：僕は逆に柴戸さんとかに、その調整のバランス軸って何があるんだろうなと聞きたいです。例えばみんなが議論のプロセスを経て、顧客とコミュニケーションを取って、結果的に「うーん。じゃあ大丈夫かな」という着地点になるんですか？　それとも明確な軸があるんですか？

柴戸：うちですか？

染谷：はい。

柴戸：数値化できるような明確な軸はないのですが、いきなり導入しないように心がけているかなというのが1つ。あと、うちの場合は社内にコンサルタント、つまり多くのお客さんとやり取りしてきた人たちがいるので、コンサルタントによる判断、クオリティは信頼してやっていますね。

広木：カスタマーケアみたいなものも、ある程度できる前提で。

柴戸：そうですね。

染谷：グロービスの場合だと、いわゆる先生や講師がいるわけで、学生に対して教えるというニュアンスで使うと、とてもリスクが高くなる。一方で、学びを促すというかたちの使い方は、わりかしリスクがないのでそういったところでどんどん使っていく。これもケースバイケースで、この便利なものをどの方向に使うか。

僕は、最大限使えるところで使っていったほうがいいかなとは思っているので、なるべくその調整がいらないところに使っていきたいなと考えていますね。

柴戸：僕らも背中を押すところとか。完全にAかBかと言うよりも、きちんと提案するとかからと考えたりします。

広木：ありがとうございます。

各社からのメッセージ

広木：時間も迫ってきたので、各社一言ずつ。採用とか「こういうおもしろいことをやっているよ」という話がしたいんじゃないかなという空気を感じているので一言ずつお願いします。では染谷さんからお願いします。

染谷：大きな武器にもなるし、私たちの心臓を突き刺す可能性もあるChatGPTを、なるべく武器にすべくけっこうやっています。今年はどんどんUnlearnとかにトライしては9割9分ぐらい失敗すると思いますが、。そういったことに興味がある人がいたら、ぜひ声をかけていただきたいです。採用じゃなくても、「話をしてみたい」でもウェルカムです。ここに集まったみなさまが、「ChatGPTを使ってこんなことをやったな」というのが残る1年になればいいなと思っています。なんか年末の挨拶みたいになっちゃいましたけど（笑）。よろしくお願いします。

広木：ありがとうございます。ファインディの笹野さん、どうでしょう？

笹野：今日はありがとうございました。スライドでは表示しきれなかった新機能をぜひみなさん使ってみてくださいというところと、ファインディとしても、新しいプロダクト開発に興味のある方や、そういったところでバリバリやっていきたいという方を積極的に採用しています。

それ以外の部分でも機械学習エンジニアをはじめ、いろいろなポジションを公開しているので、一緒に働きたいなと思っていただいた方がいればぜひ応募してくださいということで以上としたいと思います。ありがとうございました。

広木：ありがとうございます。松本さんはいかがでしょう？

松本：はい。うちの会社は、最終的にすべてAIが代替するとはあまり思っていなくて、人がやらなきゃいけないことは絶対に残るなと思っています。その中でそこをきちんと大事にしていく。それ以外の雑務を自動化していくという文脈でいろいろとやっていきたいなと思っています。そういったところに興味がある方は、今後いろいろとプロダクトを作っていく予定なので、ぜひ一緒にやっていければなと思っています。よろしくお願いします。

広木：ありがとうございます。柴戸さんお願いします。

柴戸：今日はありがとうございました。これを聞いてくださった方々もありがとうございました。弊社は、自然言語部分を自分たちの価値としているところもあり、とても相性がいいなと思っています。人と機械の融和、それからともに価値を生み出す共創に向かって今は走り始めたところです。

実際に、これからハッカソンやアイデアソンをやったり、次の3ヶ月で全エンジニアに対してChatGPTのLLMの開発を経験させて、リリースまでしようと思っています。副業として経験したい方など、いつでも歓迎しますので、一緒に楽しいことをやっていけたらうれしいなと思います。よろしくお願いします。

広木：ありがとうございます。各社こういう新しいチャレンジに早めに取りかかれるのは、開発者体験がすごく良い場所ということを示していると思うので、そういったところをいろいろと見ていけるといいのかなと思っています。そんなイベントを、6月「Developer eXperience Day」として開催するので、ぜひともみなさんご参加いただければなと思います。

今日はこのあたりで締めたいと思います。みなさん遅くまでありがとうございました。