“AIで作ったコンテンツ”であることは公表すべきか？　ChatGPT責任者らが語った、AI活用と信頼性の問題

ChatGPTの安全性はどのように担保されているのか

ジョシュ・コンスティン氏（以下、ジョシュ）：OpenAIには、現実主義者が必要だと感じますか？　すばらしい製品を作るには楽観主義者が必要だとわかっていますが、時には人間の最悪の部分を想定する人が必要だとも思います。というのも、私たちは根っからひどい人間だからです。

私たちには恥ずべき罪がたくさんあり、それを私たちが使う製品に投影してしまうのです。そのような問題から先手を打つにはどうすればいいのでしょうか。「ダメダメ。誰かが悪いことをしそうだ」という（指摘をする）、特別にデザインされた人はいますか？

ピーター・デン氏（以下、ピーター）：ええ、いますよ。このチームがうまくいっているのは、安全性を製品作りの一部として考えているからだと思います。後付けではないのです。ですから、私たちのチームにはパートナーとなるすばらしい安全チームがあります。

機能を完全に構築する前に、彼らと関わりを持ち、どのようにレッドチームを組むか、どのように限界を押し広げるか、また安全な方法で開発しているかどうかを確認しています。ですから、そのような人たちはチームにとって非常に貴重な存在です。

私たちが内部で製品を構築する方法は何があり得るか、また何を防ぎたいかについて、複数の異なる視点を持つ複数の人々が集まって共同設計しています。

生成AIか人間か、どちらが作ったものかわからない場合は？

ジョシュ：あなたのお子さんはまだかなり小さいですが、ChatGPTやソーシャルネットワーク、あるいはGoogleなどを使わせると思いますか？

ピーター：私の子どもは3歳、5歳、7歳、9歳なので、この年頃では、まだ何にでも無制限にアクセスできるわけではありません。でも、監視下での使用という点では、そう言えると思います。

ChatGPTは子どもたちに使わせている製品です。彼らの創造性を探求するのに役立つおもしろいものがたくさんあると思いますし、子どもたちを手助けするための方法です。

うちの娘は今、物語を書くのに夢中なんですが、手書きの物語を写真に撮って、それを文字に起こすのを手伝ってくれるんです。そしてそれをCanvaに入れて、彼女が考えているようなストーリーブックを作ったり、DALL·Eを活用してストーリーに命を吹き込むような画像を生成することができます。実用性は本当にすばらしいです。

ジョシュ：私の最大の疑問の1つは、人間によって作られたものなのか、AIによって作られたものなのかがわからない場合に、どう対処するかということです。それは重要なことなのでしょうか？

ピーター：本当にいい質問だと思います。短期的な答えと長期的な答えがあると思いますが、短期的には絶対に重要だと思います。

今は選挙の年ですが、発信するものの信憑性を確認することは本当に重要です。OpenAIは、出所証明や流出する画像が安全性を考慮したものであることを確認できるような取り組みを行っています。しかしそれ以上に、将来、人々が気にするかどうかはわかりません。

AIが作成したコンテンツであることは公表すべきか

ピーター：いくつか例を挙げてみます。友達からメールが来たとしましょう。完璧に整った英文ですが、オートコレクト（スペルミスを自動的に修正する機能）が使われたことをどの程度気にしますか？

あるいはあなたがVCで、スタートアップについての売り込みメールを受け取ったとします。Grammarlyを使って違う言い方をしたり、よりプロフェッショナルになる手助けをしたことを気にしますか？

私たちはオースティンの街を歩いていますが、あの看板がPhotoshopを使っているのか、使っていないのか。それとも、どんなツールを使ってあの作品を作ったのか（を気にしますか）？

長期的に人々がどう気にするかはわかりません。しかし、もし人々が気にかけるのであれば修正されるでしょう。その例として、ちょっとくだらないかもしれませんがパンの話をしてみましょうか。

昔はパンはすべて手焼きで、職人の手によって焼かれていました。手作りなんですよ。店に入って、パンを見て、匂いを嗅いでいた。人々がそういうことが重要だと思われるようになれば、そうなると思いますし、オーガニック認証のように誰かが認証ラベルを作るべきだと思います。

ジョシュ：でも、個人的なコミュニケーションや、明らかにAIによって生成されたものではないアートや政治的なものについては、AIを使用していることを公表するようなルールが必要だと思います。

もし私が企業宛のEメールを受け取ったら、ビジネスの売り込みのようなもので、その中にAIが含まれていると思い込んでしまうからです。マーケティングキャンペーンみたいな大きなものならあまり気にしませんが、妻が私に詩を送ってきたら、AIが使われているかどうか知りたいんです。

作成元の公表は信頼性につながる

ジョシュ：こういったことに法律が追いつくのに、十分なスピードがあると思いますか？　それとも、もっと創発的な社会規範が必要なのでしょうか？

ピーター：社会規範から始めるべきだと思います。これが、私が長期的な答えを出した意味です。人々が気にかけるのであれば、私たちはそれに合わせるべきですし、製品もそれに合わせるべきです。

「モラル」というのはおもしろいですね。実はある日、スキー場か何かでカメラマンと話していたんです。彼が言うには、ここ1年で結婚式の写真で見た傾向の1つは、新郎新婦が携帯電話を取り出して、誓いの言葉をChatGPTから読み上げることだったそうです。

ジョシュ：でも、それは道徳的なことなので、社会的に強制されるようなことです。情報開示の問題として、また誠実さの問題として、人々は個人として開示すべきだと思います。

サウス・バイ・サウスウエストは常にデジタルカルチャーの発信地であり、トレンドセッターです。政治やアート、個人的なコミュニケーションに（AIを）使う時には、それを公表してください。そうすることで、他の人たちはあなたをより信頼するようになると思います。

AIがもたらすリスクに対処するには

ジョシュ：質問がたくさんありますので、少し早足で進めたいと思います。それでは、AIリテラシーについてのお話です。

10〜20年前の学校では、Google検索の仕方、引用の仕方、フィッシング詐欺の見破り方などを教えようとしていました。AIリテラシーを向上させることで人々がAIの恩恵にあずかれるようになると同時に、AIのリスクや限界に対処できるようになるにはどうすればいいのでしょうか？

ピーター：すばらしい質問です。リテラシーを向上させる最善の方法は、AIをより身近なものにすること。それが最大のポイントだと思います。私たちが持っている研究のいくつかをアクセス可能な製品に落とし込み、できるだけ広くリリースしようとすることです。

ジョシュ：それはChatGPTのことですか？　基本バージョンは、常に無料ということですか？

ピーター：ええ。無料バージョンは常にあります。時間が経つにつれて、より効率的に運営できるようになれば、より多くの機能を無料版に提供できるようになると思います。私たちの使命は、全人類に利益を分配することです。

ジョシュ：FacebookやGoogleのような、無料のインターネットサービスはとても重要です。お金を払わなくても使えるということは、世界中の何十億人というお金を払う余裕のない人たちが使えるということです。

例えば鉱業のようないくつかの産業では、鉱業会社が環境に与える影響を相殺するために支払うことを強制しています。OpenAIがインターネットを採掘している、つまり私たちの注意を採掘しているのであれば、OpenAIは識字率向上プログラムの一部を支払うべきだと思いますか？

MicrosoftのようなAIの大企業は、子どもたちが自己管理学習、ディープフェイク詐欺の見破り方、プロンプトエンジニアリングの方法、そしてできれば将来の自分のキャリアを保証する方法を学べるように、学校での識字率向上プログラムの費用を拠出すべきでしょうか？

ピーター：もちろんです。今日、実際にそのようなプログラムがいくつかあります。OpenAIの一部では、教育者と協力し、今後AIをどのように活用するのがベストかを考えています。

多くの人が懸念するディープフェイクの問題

ピーター：教育者というトピックでいうと、私が見てきたAIの最も感動的な使い方の1つは、人々を助けることを生業としている人々が、「人々を助ける技術」をより良くできるようになることです。

私たちは、多くの教師がカリキュラムを入力し、カスタムレッスンやカスタムクイズを作成できるのを見てきました。そうすることで、教師は時間を節約し、生徒とより多くの時間を過ごすことができるのです。

ジョシュ：私のX（旧Twitter）のフォロワーに尋ねたところ、彼らが本当に心配していることの第1位はディープフェイク詐欺でした。政治から国際的なニュース、株式市場に影響を与えるビジネスイベント、身代金詐欺に至るまで、あらゆるものがディープフェイクされています。どう対処すればいいのでしょうか？

ピーター：それは、間違いなく私たちが懸念していることです。私たちがテクノロジーをリリースする際に取ってきたアプローチは、非常に慎重で反復的なものでした。APIで物事をリリースする際には、安全性にどのような影響があるのかを考慮するようにしています。

前にも言ったように、これは私たちがChatGPTで製品を作る方法の一部であり、APIについても同様で、私たちは悪用される可能性についてよく考えています。

モデル自体は、私たちが現在公開しているものよりも潜在的に強力なものなのです。他のスタートアップは、そういったものを公開しているかもしれませんが、私たちとしてはそのことを非常に深刻に受け止め、ローンチする機能には本当に注意深く、慎重になるようにしています。

AI技術は加速すべきか、減速すべきか

ジョシュ：そこで、AIにおける最大の議論である「加速か減速か」という議論が持ち上がります。健康への恩恵を前倒しでもたらし、気候変動などの危機に取り組み、他国や不正集団との競争力を維持するために、できるだけ早く進歩させるべきだという意見もあります。

しかし、整合性を高め、予期せぬ結果を回避し、法律や新たな規範が追いつくまでの時間を与え、できれば人々を再教育し、大量の失業者の波を避けるための準備を整えるためには減速すべきだという意見もあります。加速か減速かという議論についてはどうお考えですか？

ピーター：私はどちらかといえば中間に位置すると思います。どんな新しい技術でも、本当にポジティブな使用例もあれば、本当に考慮しなければならないこともあると思います。

個人的な見解ですが、何が課題なのかを把握し、実際にどのように解決していくかという方法は、責任あるスピードでリリースする必要があると思います。社会がそれを吸収するチャンスを与えるような形で、技術をリリースすることです。

適切なセーフガードがあることを確認し、できる限りセーフガードがすでに組み込まれているような形で能力を解放する。しかし私が思うのは、AIが外の世界にアクセスすることなく、研究室だけで安全に開発されるとは思えないということです。

なぜなら私たち企業や産業界は、「人々がAIをどのように使いたいか」を社会とともに学ぶことができないからです。

ジョシュ：開発を加速させることには賛成だが、配備には慎重になるべきだということですね。

ピーター ：そうですね。

AI技術を進歩させるための最善の方法

ジョシュ：あなたたちがChatGPTを立ち上げて以来、Googleは少し後手に回っているように感じます。Geminiのような最新のものでさえも。Geminiが発売された途端、さまざまな問題が発生し、撤退を余儀なくされました。

企業がそのようなことをした場合、私たちはどのように対処すべきでしょうか？　AIがミスを犯した場合、誰が責任を取り、どうすべきなのでしょうか？　AIモデルは変更されるべきなのでしょうか？　エンジニアが責任を負うべきなのでしょうか？

ピーター：本当にいい質問ですね。仮定の法的な質問に戻りますが、私はGoogleで働いているわけではないのでGoogleのことは言えませんが、これは私たちの哲学を見るのに素晴らしい方法だと思います。

私たちは、DALL·E のようなものを非常にゆっくりと世に送り出してきました。一歩一歩慎重なステップを踏みながら、より広範囲にリリースする前に、安全性を確実に製品に組み込む方法を学んできました。これはある意味、反復的な展開がいかに私たちに役立っているかを示す素晴らしい例です。

AIは間違いを犯します。どんな優れた技術でも、長所もあれば短所もあるものです。しかし重要なのは、それをリリースし、段階的に世に送り出すことだと思います。ですから、このような反復展開のような作業方法は役立つと思いますし、私たちがこの技術を進歩させる最善の方法だと思います。

ジョシュ：個人的には、消費者が自分の足で投票してくれることを願っています。つまり、消費者は自分の足と財布で投票し、安全なものに移行しなければならないのです。もし企業が日常的に安全対策を上回るスピードで動いていて、常にミスを犯しているのであれば、私は唯一の真の解決策は市場解決策だと思います。

ピーター：私もその意見に賛成です。だからこそ、製品をリリースして何が反響を呼ぶかを見極める能力はとても重要だと思います。