AIの進化が再定義する“人間の役割”　置き去りにされないために必要な力 [2/2]

技術だけでなく「体験や文化」まで込みで開発側の責任になる

牛久：ありがとうございます。開発側か使う側かというと、たぶん開発側に、より比重があると思っています。それはただ技術的な開発だけを指しているんじゃなくて、「体験や文化として何を提供するのかまで込みで開発側が」ということを言っています。

例えばどういうことかというと、もう今でもかなり、AIに任せたい問題って答えが1つに定まる問題じゃない場合も多分にあるわけですね。何でもいいんですけど、「何か動画を作ってよ」とか「広告を生成してよ」とか「音楽を作ってよ」とか入力をするとします。

（けれども、）答えは多様だし、人によってそれこそ「ドラえもんが硬いといいのか？　柔らかいといいのか？」のように、答えは人によるような問題もAIに解かせようとしています。

という時に、おそらくその正確さを追求するのは、途中から無理になります。（しかも、）その「1人に絞った」というその人が答えを明確に持ち合わせていないことも多分に考えられます。

という時に、そこは正解となる謎の存在を追い求めるというよりは、（答えが）曖昧な場合にはそれを一緒に考えていくというような、そこで納得をしてもらえる体験をどうやったら提供できるのか（が重要だと思います）。

人間同士で話していたって答えが結局どっちかわからない場合って、けっこうあるじゃないですか。高校受験や大学受験ぐらいまでならともかく、そこから先って、一緒に話している時に、教わるというよりは相談をします。誰も答えがわかっていないけど、ただ、そこの中で1つの結論にみんなで至っていくという意味合いだと、そこが正解かどうかってあまりみんな疑っていないと思うんですよね。

ちゃんと納得をしながら「こういうロジックでいきましょう」っていう意思決定まで至れるかという体験の問題かなと思っています。

AIはどんな目線（スタンス）で捉えるべきか

司会者：ありがとうございます。他にご質問がある方？

（会場挙手）

参加者2：AIを開発・提供・利用するにあたって、どんな目線（スタンス）でAIを捉えるべきでしょうか？

大澤：……目線でっていうことでいいんですよね？　うんうん。いっぱい、いろんな粒度でありますよね。それはおもしろい。何からいこうかな。

でも、一般的に言えることはいっぱいありそうなので、自分の専門に近いところで言います。まずそもそも、まったく同じAIを作ったとしても、人間側の解釈によってぜんぜん違うものとして扱われるよということをもう一歩深く理解しておくといいかなと思います。

先ほどの1個目の質問で「開発者側か？　使う側のユーザー側か？」みたいな話がありました。それに関連するかもしれないんですけど、ユーザー側も気にすることがいろいろあるよというのが僕らの研究分野なのかなとも思っていて、（それと）絡めてお話をします。

スマホの理解は「物理・設計・意図」の3つのスタンスで切り替わる

大澤：例えば、先ほどチラッと「ダニエル・デネットという人がいて、意図スタンスで……」と言ったのをもうちょっとだけ説明をしておきます。例えば、「スマートフォン」って、技術としては普遍的な1つの物じゃないですか。（でも、）僕らがこれを解釈する時には3通りの解釈をしていて、まったく違う頭の使い方でこれを理解しているんだよという話があります。

例えば「ここから手を放したらどうなるか？」と言われたら、落ちるってみんながわかるし、実際に落ちるのを見ても違和感がないですよね。これは「物理スタンス」とダニエル・デネットは呼んでいるんですけど、「物理法則に従っているだけだよね」と、（スマートフォンを）ただの物として捉えている時です。

でも、これがすごく便利な道具だから10万円も払って買うわけです。「スワイプするとロックが解除されるよね」みたいな感じで、だいたいの時は機械や道具として扱っていますよね。この時、物理法則は無視しています。「静電容量方式なので手の静電気が……」というのを気にしていません。

（スマートフォンの）使い方を1個1個覚えていきます。「スワイプしたら解除されるし、ピンクのアイコンを押したらInstagramが開くよね」みたいな。そういう、「ああなったら、こうなる」「こうなったら、ああなる」というのを、積み重ねて理解している時を「設計スタンス」といいます。

でも、ここに電話がかかってきて「もしもし。何をしているの？」みたいな感じで話し始めると、物理法則も無視しているし、ルールに基づいてしゃべっているわけじゃないですよね。「もしもし」と言ったら「もしもし」と返してくれるプログラムがあるなんてことは考えていない。

その時のことを「意図に基づいている（スタンスである）」と先ほどは言いました。AIと関わる時は何が起こるかというと、物理法則は複雑過ぎて読めないので、設計スタンスか意図スタンスのどちらかになってくる。つまり僕らは一般的に設計スタンスで見ている時は道具AIだと思っていますよね。意図スタンスで見ている時は仲間AIだと思っていますよね。

同じChatGPT（を使う場合）でも、プロンプトエンジニアリングをして効率的により良い答えを出そうとしている人もいれば、雑談相手になってもらって、相談している人もいますよね。これは、同じ振る舞いをする同じテクノロジーに対して、設計スタンスで解釈する人間と意図スタンスで解釈する人間が分かれているという状態です。

自分のスタンスを理解すると「注意喚起」がノイズでなくなる

大澤：世の中に対する（AIを使用する上での）注意喚起の半分が設計スタンスで捉える人向けで、半分が意図スタンスで捉える人向けみたいな感じに今はなっています。なので、自分はどっちのスタンスの人なのかをちゃんと理解する。それによって「世の中のAIはこうあるべきだよね」とか「こういうところを注意しないといけないよね」というTipsがノイズじゃなくて、自分にとって大事な情報として捉えることができる。

人間側の捉え方についてもうちょっと深く知っておくと自分の関わり方やサービスを提供した時の顧客の関わり方がすごく予測可能で解釈可能なものになるかなと思います。これはすごく知っておいたほうがいいと思っています。

参加者2：今教えていただいた設計スタンスと意図スタンスのところを、もうちょっと理解しながらやっていきます。ありがとうございます。

開発で大事なのは「相手の理解」と「トップダウンの解決」

牛久：ありがとうございます。AIの開発をされて2期目ということで。ディレクションやインタラクションとかのワードが今までも出ていましたけど、それ以外にもこれから重要そうな技術的な見方や、開発側で大事にしておいたほうがいいところがあるかというご質問だったと認識をしています。

その時に私から（言えること）は、2つぐらいに絞るんだとすると、1つが相手の理解で、もう1つが、そこからトップダウンにソリューションが出てくるかです。これが人間とAIのどちらにも必要だと思っています。

まず1個目の話だと、例えば（ChatGPTに）「Deep Researchのモードで何か調べてほしいな」と思った時って、（どういう方向性で調べたいかを明確にするために）必ず1回確認してくるじゃないですか。あれは、必ず1回確認させるように作っているからだと思います。

結局、何かをやってほしい時って、何かをやってほしいと思っている側がまだ思いついていないディテールがたくさんあるわけですよ。実際に、開発ベンダーさんが本当に迷わず開発に集中できる仕様書を一発で書けるって、かなり大変な才能です。

一方で、AIで何とかしたいが、どう「何とかできるか」もわからないし、どう「何とかしてもらう」のがベストソリューションになるかもよくわからないんだよね、みたいな人のほうが圧倒的に多いと思っているんですよね。ということで、これは開発する時の人間のお話になると思うんですけど、そういうところをいかに解きほぐしていくか（が大切だと思います）。

なので、Deep Researchで1回だけ（確認のために）聞いてきた後に、だいたいDeep Researchを始めちゃうと思うんです。けれども、本来はもっと重要なところはわかるまで聞き直したほうがいいと思うし、それは人間でも必要だと思います。

もう1つは、そういう本質的な課題や目標として本当にそれをやらなきゃいけないという何らかのプランニングをしたり、開発なら開発のソリューションを提案したりできるかだと思っています。

なので、これはけっこう研究者でもあるあるだと思うんですけど、「この技術は熱いからこれをやるんです」とか「ここがはやっているから、これをやるんです」ってなりがちなんです。けれども、それはおそらく、例えばお客さん側から「今はRAGっていうのがめちゃくちゃはやっているらしいね。うちにもデータがたくさんあるから、これでRAGを作ってよ」と言われたとします。

でも、本当は何をしてほしいのかを聞いていったら、例えば本当にプログラムを組めば解決できるようなところで、「対応できるようなソフトウェアを作れば、それで解決だったかもしれない」とかはよくある話です。そういうところが本当に1対1対応しているソリューションになっているのかをまず理解する。

その次に、そういうソリューションとして本質的なところをえぐっているのか。これはAIも人間も、どっちも必要な観点かなと思いました。