星新一はAIエージェントを予見していた？　SF小説に見る、人間に残された最後の役割

ターゲティング広告の対象は人間じゃなくAIになる？

西村真里子氏（以下、西村）：今月のNVIDIAが、AIエージェントとか……。

富永勇亮氏（以下、富永）：ああ、いいですね。その話をしたかった。

西村：組織の中にAIエージェントを入れるとか、あと、フィジカルAIみたいなかたちで、AIをリアル空間のロボットとか自動運転に残していく技術も出てきている。

働き手としての「死後デジタル労働」は、AIエージェントとしてやり始めている方も出てきていて。なので、本当に上田さんがおっしゃるとおり、物語というよりも、すでに起き始めている。

私の知り合いもAIエージェントに自分のやっている役割をいくつか当てはめています。いわゆる最初はチャットコミュニケーションから、必要になったらフィジカルを付けていくんだろうなと思うんですけど。

そういうものができるコンポーネントやグラフィックボードができている中に突入しているのであれば、自分としてどうしたいかとか、大切な家族に何を残したいかとか、何のかたちで宣言していけばいいのかなという。言い方は変ですけど、遺書を残せばいいんですかね？　やはり「D.E.A.D.（「死後デジタル労働」Webサイトの死後労働意思表明書）」ですかね？　

富永：確かにAIエージェントはおっしゃっているようなプロユース的な使い方もできれば、もっと個人で利用することもできます。例えば、買い物を任せることもできるわけです。

西村：確かに。

富永：今、広告業界でよくネタにされているのが、広告って個人の嗜好をすごく分析して、ターゲティングするじゃないですか。AIエージェントが買い物をし始めたら、ターゲティングの意味がなくなるんですよ。

真里子さんではなく、真里子さんのAIエージェントに向けて広告を打つことが必要になる。つまり、ターゲティングってむちゃくちゃ効率的にやるので、それをさらに効率化するなら、人ではなくてAIエージェントに売るべきだという話なんですね。

西村：ほう、確かに。

AIエージェントを予見した、星新一『肩の上の秘書』

富永：これね、実を言うと、昔、星新一さんが小説に書いているんですよ。

西村：そうなんですね。へぇ。

富永：ショートショートで、『肩の上の秘書』という作品があるんですけど、主人公はいろんなガジェットを売るセールスマンなんです。その人の肩にはインコが乗っているんですね。そのインコがAIや外部記憶装置になっていて。ピンポーンと訪問すると、家主が出てくるんですけど、その人の肩にもインコが乗っているんです。

西村：（笑）。なるほど。

富永：どんな会話が始まるかというと、セールスマンの肩のインコと、訪問先の女性のインコが会話し始めるんですよ。で、まさにセールストークが始まったり、奥さんが自分のインコに「いや、家族の承認を得ないといけないと言ってよ」とか言ったら、インコが上手に言っていくという。これはまさにAIエージェント同士の会話なんですよ。

西村：ワオ。

上田岳弘氏（以下、上田）：自分自身の外部化がどんどん始まっていって、外部同士がしゃべる状況になっていく。

富永：いやぁ、ありますよね。

上田：そうなってくると、「じゃあ人間って何をする人なの？」みたいな。これがおもしろいんです。

富永：そこなんですね。

上田：だから、権限、権利がある人みたいな。

富永：温度だけがあるとか。もしくは電源として、インコにエネルギーを吸われるかもしれないですね。

上田：そうですよね。

西村：またCESの話をしちゃいますけど、「Machine to Machine to Payment」みたいなキーワードもあって。具体的に言うと、例えばイーロン・マスクのロボタクシーがマクドナルドまで買いに行って、決済までして帰ってくるとか。私が運転していない時にロボタクシーが稼いでくれる「Machine to Machine to Earning」みたいな話が起きていて、それ、インコですよね。

富永：そうです。

人間の役割は謝罪だけ？

西村：ですよね。我々の仲間で、AIに詳しい深津貴之さんが言っていたのは、そういう時代の人間の役割は謝るだけだと。

富永：（笑）。

西村：あとはやはり判断する。これはどなたが言っていたのかちょっとあれですけども、インコちゃんも、言っていることは本当に正しいのかとか。家族の状況とか自分の経済状況とか、今まで以上に知らないと代弁させられなくなるから、より自分の生活に対して責任を持たなければいけなくなる。

上田：そのインコを止めてしまうと、良くないことが起こるというか、そこまで計算されちゃうと思うんですよ。「言うことを聞いていたほうが100パーセントいいよ」となった場合に、人間にできるのは、失敗とか間違いとかだけになってきたという気はしますけどね。謝るのと同じかもしれません。

西村：いやいや。

富永：僕もおっしゃるとおりだと思います。判断は怪しいなと思う。だって、もう、AIのほうが正しく判断する可能性はあるんです。けど、判断の基準を提供することはありますよね。

西村：ちょっと試してみたい。次、インコちゃんもお願いします。

富永：（笑）。いや、『肩の上の秘書』はめっちゃおもしろいので、読んでみてほしいですけど。

なぜアナログなクリエイティブに向かうのか

西村：ちょっとだけ。「これを言いたい」とか、ちょっと会場の方から……あ、ぜひぜひ。ちょっとマイクをお願いできますか？

富永：あ、速い。チョッ速だ。

質問者1：お話ありがとうございました。今はちょっと違うんですけれども、以前、AIの開発とか、検索とかレコメンドとかの技術をやっていた部署にいました。

お話をすごくおもしろく聞いていて、先ほど上田さんがおっしゃっていたんですけど、こういったお話って、やはり倫理観とか哲学とかに帰着するなぁと思っていました。

先ほどの「死んでから蘇る」ということに関しても、音楽もそうなんですけど、劣化しないデジタルな状態があると、逆にレコードみたいな、保存状態の新しさがなくなっていくから味わいがあるなと。

そこについて研究するとか、みんなで考えていかないと「政治的（な方向）に行っちゃうよね」と、すごく思っていました。社会としてどう考えていくべきかがあって、それを踏まえて個人として考えるのがいいのかな、という感想と、「みなさんはどうなのかな？」と、おうかがいしたいなと思って手を挙げました。

西村：ありがとうございます。まず勇亮さんにうかがいたいのは、ご自身もテクノロジーにバキバキに詳しい中で、先ほどの木彫りのコマ撮りを作っているのは、バランスを取ってやろうとしているのか、それともデジタルから抜け出したくてそっちに行っているのか。

言葉にするのは難しいかもしれないけど、ご自身が手触り感のほうに行っているのは、どういう変容があったんですか？

富永：僕たちはクリエイティブを「創意工夫」と呼んでいるんですけど、僕たちはテクノロジーを理解した表現者なので、うまく創意工夫して、PoCをすることが生業なんですね。

今まではそういうわかりやすいテクノロジーの使い方で作ってきたんですけど、AIが普及すると、限られたプロの仕事だったものがどんどんコモディティ化するんですよ。

新しい感覚のアウトプットがビジネスを生む

富永：僕がクリエイターになったきっかけって、実はWebサイトを作っていたんですね。いわゆるホームページをFlashで作っていた。でも、これはもう10年ぐらいやっていないんですよ。それはなんでかっていうと、誰でも作れるようになった時に、僕の表現の舞台ではなくなったんです。

僕がなんで手触り感のある作品に行ったり、「D.E.A.D.」みたいな1円にもならないものを世の中に出しているかというと、常に新しい感覚を外れ値として出していくと、そこからビジネスが生まれるんです。

それこそ僕は作らないけど、先ほどの10万円を切るバーチャル故人のようなものを作ることで多少の影響があって、おもしろいんですね。そういう振り幅があるから新しい仕事が生まれたりするので、常にスペキュラティブ（思索的）な実験を繰り返すようにしています。

今回のテーマに結びつけると、小説とかにもヒントがたくさんあるので、僕はけっこういろんなものを読んでいます。平野啓一郎さんの『本心』とかもすごくおもしろいし、星新一さんのショートショートは本当に（ヒントの）宝庫です。ちょっと質問に答えていない気がするのですが（笑）。

同じ未来に向かいながら、多様性を確保する

西村：振り幅があることによって、というアナログ感もあったと思うので。なら、先ほどの質問の、個人の思いも大切ですけど、社会としてどう考えていくべきかを、上田さんに聞きたいです。

上田：先ほどグジャラート指数の話が出た『太陽』という作品は、いろいろ端折りますけど、みんなで新しさ模索し続けた結果、爆弾を太陽にぶち込んで、核融合を加速させて金にしてしまう。要は最終的に絶滅しかやることがなくなりましたという小説なんですね。オチを言っちゃいましたけど。

富永：言っちゃいましたね（笑）。

上田：あるいは『惑星』という作品は、人間が平等とか自由を求めていった結果、みんながひとかたまりの人間になってしまって滅びてしまいました、みたいな、絶滅エンドの小説をたくさん書いていて。

それって要は、何かを突き詰めていくと「最終的になってしまうもの」が見えて、毎回立ち止まって「これって大丈夫なんだっけ？　絶滅しないようにするのがいいのかな？」みたいなことを考えながら小説を書いています。

西村：ワオ。すごくいいヒントというか、みんなが同じ方向に向かうといっても、いろんなものがあることが、我々が絶滅から逃れる方法ということですね。

上田：そうですね。

富永：すばらしいまとめだ。

フィクションの想像力で未来を検証する

西村：まだまだ聞きたいなと思いながら、あっという間に時間になってしまいました。今の話で考えが変わる人もいれば、変わらない人もいるかもしれません。「哲学なんて関係ないよ」「面倒くさいな。そんなこと考えなくていいじゃん」では逃れられないぐらいに、テクノロジーや政策面が進み始めている時に、ぜひそういう視点で、上田さんの小説を読んでいただいたりとか。

勇亮さんと上田さんから、一言ずつもらって終わりましょうか。では、勇亮さんから。

富永：今日はグジャラート指数の話ができたので、だいぶおもしろかったです。

西村：（笑）。

富永：例えば、漫画の『PSYCHO-PASS』に「ドミネーター」という武器が出てくるんですね。警察みたいな人が持っているんですけど、それを向けると、その人の犯罪係数が出るんです。

犯罪をした人ではないですが、係数なので、「この人はこれから犯罪をするんじゃないかな」と言って、バコーンと撃って捕まえてしまうんです。そういうディストピアを描きつつも、テクノロジーによって未然に犯罪を防げるとか、人の幸福を測ることは、実は可能だと思うんですよね。

この場には行政の人が多いと思うので、施行する前に、実験的に何かやってみるトライ・アンド・エラー、R&Dみたいなことには、こういう空想の力がすごく重要なんじゃないかなと思います。

西村：ありがとうございます。上田さん、お願いできますか。

上田：本当に刺激的なセッションをありがとうございました。僕はよく「あなたにとっての小説は何ですか？」と聞かれることがあって、「外すための予言です」って答えることが多いんですね。

西村：なるほど。

富永：いい。

上田：例えばですけど、冷戦期には「原子力爆弾によって世界が滅びてしまいます」という作品がめちゃくちゃ作られて、その結果として起こっていないと。

富永：確かに。

上田：という中で、「じゃあ、今はどういう絶滅を描くのが、小説家として正しいんだろうか？」みたいなことをこういったセッションで話し合うと、また新たなアイデアが生まれそうで、非常に楽しかったです。

富永：あ、うれしい。

上田：ありがとうございます。

西村：本当に、私自身も楽しませていただきましたけども、このセッションがみなさまにとっても、楽しいセッションであったら良かったなと思います。それではあらためまして、上田さん、勇亮さん、どうもありがとうございました。

富永：こちらこそ、ありがとうございました。

上田：ありがとうございました。

西村：ご来場のみなさん、ありがとうございました。

（会場拍手）