AI開発は安全性の確保が至上命題
司会者：さて、昨晩ビルさんとは人工知能（AI）について少し議論しました。ぜひこの場でもAIについて伺いたいと思います。イーロンさんは最近、「AI研究は悪魔を呼び出すようなものだ」とおっしゃったそうで、この発言をきっかけに白熱した議論が巻き起こりました。
例えばバイドゥのチーフサイエンティスト、アンドリュー・ヤングはインタビューのなかで「AIの負の側面を心配するなんて、火星での人口増加を心配するようなものだ」と述べていましてね。この意見に対して、どう思われます？ イーロンさんの発言はAI研究に取り組んでいる研究者たちを困らせるような発言だとアンドリューは述べているのですが。
イーロン：そもそも例えがよくないと思いますね。
（会場笑）
イーロン：火星のことはある程度僕もわかっていますから。
（会場笑）
イーロン：AIのリスクは……まず、AIは人間と同程度の知能ではなく、私たちをはるかに超えたレベルに到達するわけです。人間なんてあっという間に追い越されて、想像を超えた域までいってしまうということですよ。
もう少し適切な形で例えるなら、原子力研究がいい例ですね。原子力はかなりの危険性も伴っているわけですが、核エネルギーを放出すること自体は実は簡単でしてね。難しいのはそのエネルギーを安全な形で封じ込めること。
同じように、AI研究で重視されるべきはAIの安全性確保だと思います。AIを発展させていくことよりも、まずAI安全の確保に力を注ぐべきではないでしょうか。AIは世の中にいい形でも悪い形でも影響をおよぼす可能性があって、ひょっとしたら手に負えないくらいの悪影響をもたらすかもしれないわけですから。つまり原子力で言えば、核溶融に匹敵するような事態が起こる可能性ですね。ですからAI安全の確保にもっと力を入れるべきだと思います。
これははっきり言っておきたいのですが、AIを発達させること自体に異議はありません。慎重に取り組む必要があると思う、ということです。時間がかかるとしても、じっくり進めたほうがいい。実態もつかめていないうちから、焦って進めていくべきではないと思いますね。
人間は自分がインターネットを使っている側だと思っている
司会者：ビルさん、あなたもイーロンに近い考えをお持ちかと思いますが、何か違う点があればお話いただけますか？
ビル：ほとんどイーロンと同じ考えですね。確かイーロンは今お話されたことと関連して、AI研究のためにいくらか資金を提供されていたかと思いますが、とてもいいことだと思います。
聴衆の皆さんのなかでご興味のある方はぜひ、ニック・ボストロムの著書『Superintelligence』をお読みになってください。イーロンがおっしゃったのは……つまり人間は進化の過程である種の学習アルゴリズムを身につけたわけですが、例えるならこれをかなり重いコンピュータで動かしているわけです。メモリーの容量も小さくて、他の「コンピュータ」にデータを転送する際も口を使わなければいけない。
司会者：エネルギー効率が悪いですよね。
ビル：ええ、新しい「コンピュータ」は歩き方から学んでいかなければならないですしね。
ともあれ、経験をベースに知識を蓄えていくこのアルゴリズム、まだ現実にできたわけではありませんが、一度これを作ってしまえば、あっという間に人間を凌駕したレベルの知能ができてしまうんです。この学習アルゴリズムができてしまえば、それが雑誌や本からどんどん知識を蓄えて……インターネットはいわば超知能に知識を提供するベースでしてね。皆さんご自分がインターネットを使っている側だと思ってらっしゃいますよね。実はそれは間違いで、皆さんを通じてネットに知識が蓄えられているわけですよ。AIに危険性はないとおっしゃる方がいますけれども、なぜリスクが見えないのか私には理解できませんね。
司会者：AIに関しては、これから社会に対してかなり大きな影響及ぼすことになるでしょうね。バイドゥやマイクロソフトをはじめ、多くの企業がAI技術に投資していますし。
政府がイノベーションに対してどう向き合うべきか
司会者：最近ウォルター・アイザックソンの著書『The Innovators』を読んでいまして。これまでイノベーションがどのような形で起きてきたのか、かなり詳しく描写している本です。アイザックソン氏はこの中で、ほとんどのイノベーションは優秀な人たちの努力の結晶だということを言っておりましてね。
あともうひとつ面白いなと思った点は米国政府が、特に米軍ですけれども、技術の発展に大きな役割を果たしたという点。例えばアポロ計画です。これをきっかけにマイクロチップの大規模で安定的な需要が生まれて、インテルをはじめとしたシリコンバレーの企業の発展が起きました。インターネットもARPANETをベースにできたものですしね。このように米国政府は技術の発展に大きく貢献したと言えるわけです。
今月初め、中国のCPPCC（中国人民政治協商会議）に参加してきました。「中国脳」と呼ばれるプロジェクトを後押しするためにスピーチをしましてね。これは中国政府が進めているプロジェクトで、大きなAI基盤を作ろうというものでして……企業、起業家、大学といったアクターがこの仕組みをもとに研究にあたれるよう取り組んでいるのですが、お二人からこのプロジェクトに対してアドバイスをいただけませんでしょうか。
ビル：中国がこうした基礎研究に資金を提供しているのはとてもよいことだと思います。医学やコンピュータサイエンスなどの分野に限らず、大学のレベルアップへの貢献、そしてイノベーションを加速化させることになるわけですから。習近平主席もイノベーションの重要性についてよく言及されていますし、中国ができることはたくさんあると思います。
ひとつ気をつけないといけないのは、政府がイノベーションに対してどのような姿勢を取るかということ。例えば日本はかなり具体的にイノベーションの目標や手段を定めました。いわゆる「第五世代コンピュータプロジェクト」ですね。
ですが結果的にこのやり方は間違っていたわけです。80年代当時、日本のほうが米国より技術力も優れているし、政府主導のAI計画も米国よりいい形のものを打ち出している、そしてHDTV、つまり高精細度テレビジョン放送ですね、これに関しても日本は米国より優れたやり方を持っていると米国は感じていました。
その頃は米国にとってもいい時期で、ある種謙虚になっていたわけですね。大学の仕組みも統一がとれていなくて、政府主導の計画もなかったわけですが、実は米国は80年代の実績が一番優れていたんです。広範囲に及ぶシステムを使って、パソコンやインターネットをはじめ多くの分野が発展する基礎を形作ったのもこの時期です。
マンハッタン計画なんかはある種の例外ですけれども……どうやってコンピュータサイエンスに取り組んだかというと、異なるアプローチを何十と重ねていったわけですね、DARPA（アメリカ国防高等研究計画局）主催のロボットカーレースのような競技会も開いて。DARPAは今ではロボティクスチャレンジなんかもやっているようですね。とにかく日本と同じアプローチは避けること、そして米国のモデルがなぜうまくいったのか研究されることをお勧めします。
失敗したときの痛手を減らすことが大事
司会者：イーロンさんはいかがですか？
イーロン：ビルがおっしゃられたことに賛成ですね。イノベーションが育まれるような環境を整備することが大事だと思います、ダーウィン進化論的な形で進歩していきたいならね。何かひとつのテクノロジーに的を絞るよりもこちらのアプローチのほうがいいと思いますよ。的を絞ってもそれがうまくいくとは限りませんし、自然に発展させていくほうがいいと思います。
もしイノベーションを強力に後押しできるなら、それと失敗したとしても痛手が少ないのであれば……失敗したときの痛手が大きいのは避けたいわけですが、シリコンバレーの成功の鍵はまさにここだったのですよ。
今ではうまくいっている企業も、失敗を経験した上で現在に至っています。会社を立て直したり、人材を外に出したりね。シリコンバレーの企業は今あるものをうまく使って別のものを生み出す、あるいは自分たちをよりよい形に改善していくのがとてもうまいんです。これはとても大切なことだと思いますね。
イノベーションしたい、あるいは新たなテクノロジーを作りたいという場合、どんな道を進んでいけばいいかなんてわからないものです。地図があるわけでもないですから、先が見えないのは当然のこと。ですから誤った選択をしてしまうのも無理はありません。大事なのは選択を誤ってもダメージを少なく抑えられるように対策を打つ必要がある、ということです。
ビル：PayPalより以前には何か会社をやってらしたのですか？
イーロン：ええ、Zip2を起業したのはPayPalより前でした。
ビル：ロビンさんはバイドゥより前は？
司会者：特にありませんね。アイデアはいくつか持っていたのですが、実際に会社を起こしたわけではありませんでした。
ビル・ゲイツ氏が尊敬する5名の人物とは
司会者：それと関連してですが、ビルさんは私やイーロンさんが会社を立ち上げるよりもずっと以前から名を上げていらしたわけですよね（笑）。ということは、私たちより一世代上の起業家のみなさんのこともよくご存知かと思います。どなたか繋がりがあって、尊敬もしていて、この人から多くを学んだ、という方はいらっしゃいますか？
ビル：私がマイクロソフトを立ち上げた頃、業界ではIBMが圧倒的な地位を占めていました。巨大な存在でしたよ。結局は彼らとIBM PCのチップの部分を共同開発しましてね。1981年のことでした。一緒に開発に当たれたのはなんだか不思議な気分でしたね。様々なことを学べましたし、素晴らしい出会いもありました。
例えばフランク・ケアリー。それからインテルとも働く機会がとても多かったです。アンディ・グローブからはたくさんのことを学びましたね。厳しく接されることもありましたが、それでも色々と学ぶ機会をいただきました。
司会者：インテルとは「ウィンテル」も開発されていましたし、パートナーだったのですよね？
ビル：ええ、でも外から見るよりも実態はなかなか大変でしてね。
（会場笑）
でもとにかく、アンディは本当にすごい人でした。彼の出している経営関連の本もとてもいいですよね。
それとゴードン・ムーア。彼はマイクロチップに関するテクノロジーを担当してくださいましたが、とても優秀な方でした。現在では慈善活動に取り組んでらっしゃいますよ。
それとスティーブ・ジョブズ。彼もまた桁外れの人でしたね。エンジニアリングの知識はそれほど持っていたわけではないのですが、それにもかかわらず質の高いエンジニアリング関連の商品を作ってしまう。そういった点ですごい人でした。人を選ぶ力、商品の方向性の定め方も本当に驚異的ですよね。ソフトウェアや集積回路の原理に精通していたわけではなかった、という点が余計に彼のすごさを物語っていると思います。特にチームの作り方やものごとの進め方ですね。
そんな具合に、この人から学んだ、という人はたくさんいます。ひょっとするとウォーレン・バフェットからは一番多くのことを学んだかもしれません。まったく畑違いの人ですが。彼のビジネスに対する見方、そして取り組み方には他のどんな人よりも影響を受けたかもしれません。
それと日本が顧客だったということですね。さきほど申し上げたとおり、日本は80年代当時あまりうまくいっていたとは思いませんが、彼らのクオリティに対するこだわりは……マイクロソフトは立ち上げ当初、5年程度は日本からの売上が4割ほど占めていましてね……とにかく日本の顧客は製品の質に対する要求レベルが高くて、私たちの仕事の取り組み方を見直すきっかけとなりました。おかげでかなり大きく変われたと思いますね。
司会者：テクノロジー関連以外の起業家では誰かいらっしゃいますか？ ウォーレン・バフェットの話をされていましたが、彼は投資家ですよね？ どなたか起業家で接する機会があって、学ぶことが多かった方は？
ビル：私は今では慈善活動にシフトしましたので、多方面の素晴らしい起業家の方によくお会いしますよ。
マイクロソフトを立ち上げた頃、私も「起業家」とよく呼ばれたものです。ですが自分では自分のことをソフトウェア畑の人間だと思っていたので、そう呼ばれることにしっくりこなくて。あれもこれも手を広げようと思っていたわけではなくて、あくまで自分はソフト畑の人間だと思っていてね。12、3歳のころからソフトを書いていたわけで……自分が超一流になれる分野といえばソフトしかなかったわけですよ。11歳から17歳ごろまでにかけて、夢中で取り組んでいましたから。ですから起業するにしても、頭にあったのはあくまでソフトウェアのことなので、人をどう雇うのか勉強する必要がありましたし、解雇もしないといけない、こりゃ大変だ、といった具合でね。
（会場笑）
予算も考えて、製品を売って、会議に行ってブースを作って、そこで自分の作ったソフトを売り込まないといけない。あくまで自分のため、そして自分が力をつけるためにソフトに関わりたくて、契約に関することですとか、その他諸々は後から勉強しました。ソフトウェアに対して持っていた夢が全ての原動力になっていたと思います。会社をただ作って、適当な産業に参入していこうと考えていたわけではありません。
