ChatGPTの安全性はどのように担保されているのか
ジョシュ・コンスティン氏（以下、ジョシュ）：OpenAIには、現実主義者が必要だと感じますか？ すばらしい製品を作るには楽観主義者が必要だとわかっていますが、時には人間の最悪の部分を想定する人が必要だとも思います。というのも、私たちは根っからひどい人間だからです。
私たちには恥ずべき罪がたくさんあり、それを私たちが使う製品に投影してしまうのです。そのような問題から先手を打つにはどうすればいいのでしょうか。「ダメダメ。誰かが悪いことをしそうだ」という（指摘をする）、特別にデザインされた人はいますか？
ピーター・デン氏（以下、ピーター）：ええ、いますよ。このチームがうまくいっているのは、安全性を製品作りの一部として考えているからだと思います。後付けではないのです。ですから、私たちのチームにはパートナーとなるすばらしい安全チームがあります。
機能を完全に構築する前に、彼らと関わりを持ち、どのようにレッドチームを組むか、どのように限界を押し広げるか、また安全な方法で開発しているかどうかを確認しています。ですから、そのような人たちはチームにとって非常に貴重な存在です。
私たちが内部で製品を構築する方法は何があり得るか、また何を防ぎたいかについて、複数の異なる視点を持つ複数の人々が集まって共同設計しています。
生成AIか人間か、どちらが作ったものかわからない場合は？
ジョシュ：あなたのお子さんはまだかなり小さいですが、ChatGPTやソーシャルネットワーク、あるいはGoogleなどを使わせると思いますか？
ピーター：私の子どもは3歳、5歳、7歳、9歳なので、この年頃では、まだ何にでも無制限にアクセスできるわけではありません。でも、監視下での使用という点では、そう言えると思います。
ChatGPTは子どもたちに使わせている製品です。彼らの創造性を探求するのに役立つおもしろいものがたくさんあると思いますし、子どもたちを手助けするための方法です。
うちの娘は今、物語を書くのに夢中なんですが、手書きの物語を写真に撮って、それを文字に起こすのを手伝ってくれるんです。そしてそれをCanvaに入れて、彼女が考えているようなストーリーブックを作ったり、DALL·Eを活用してストーリーに命を吹き込むような画像を生成することができます。実用性は本当にすばらしいです。
ジョシュ：私の最大の疑問の1つは、人間によって作られたものなのか、AIによって作られたものなのかがわからない場合に、どう対処するかということです。それは重要なことなのでしょうか？
ピーター：本当にいい質問だと思います。短期的な答えと長期的な答えがあると思いますが、短期的には絶対に重要だと思います。
今は選挙の年ですが、発信するものの信憑性を確認することは本当に重要です。OpenAIは、出所証明や流出する画像が安全性を考慮したものであることを確認できるような取り組みを行っています。しかしそれ以上に、将来、人々が気にするかどうかはわかりません。
AIが作成したコンテンツであることは公表すべきか
ピーター：いくつか例を挙げてみます。友達からメールが来たとしましょう。完璧に整った英文ですが、オートコレクト（スペルミスを自動的に修正する機能）が使われたことをどの程度気にしますか？
あるいはあなたがVCで、スタートアップについての売り込みメールを受け取ったとします。Grammarlyを使って違う言い方をしたり、よりプロフェッショナルになる手助けをしたことを気にしますか？
私たちはオースティンの街を歩いていますが、あの看板がPhotoshopを使っているのか、使っていないのか。それとも、どんなツールを使ってあの作品を作ったのか（を気にしますか）？
長期的に人々がどう気にするかはわかりません。しかし、もし人々が気にかけるのであれば修正されるでしょう。その例として、ちょっとくだらないかもしれませんがパンの話をしてみましょうか。
昔はパンはすべて手焼きで、職人の手によって焼かれていました。手作りなんですよ。店に入って、パンを見て、匂いを嗅いでいた。人々がそういうことが重要だと思われるようになれば、そうなると思いますし、オーガニック認証のように誰かが認証ラベルを作るべきだと思います。
ジョシュ：でも、個人的なコミュニケーションや、明らかにAIによって生成されたものではないアートや政治的なものについては、AIを使用していることを公表するようなルールが必要だと思います。
もし私が企業宛のEメールを受け取ったら、ビジネスの売り込みのようなもので、その中にAIが含まれていると思い込んでしまうからです。マーケティングキャンペーンみたいな大きなものならあまり気にしませんが、妻が私に詩を送ってきたら、AIが使われているかどうか知りたいんです。
作成元の公表は信頼性につながる
ジョシュ：こういったことに法律が追いつくのに、十分なスピードがあると思いますか？ それとも、もっと創発的な社会規範が必要なのでしょうか？
