2024.12.19
システムの穴を運用でカバーしようとしてミス多発… バグが大量発生、決算が合わない状態から業務効率化を実現するまで
リンクをコピー
記事をブックマーク
司会者:残り短い時間ですが、質疑応答に移りたいと思います。その前に、事務側から「最初のほうの通信品質が悪かったり、アクセスできない方が何名かいた」と聞いています。大変申し訳ございませんでした。
また、「資料が欲しい」とか、「アーカイブ動画が見たい」といった質問を多くいただいています。こちらもなるべく早い段階で公開していこうと思っているので、今しばらくお待ちください。よろしくお願いいたします。
では、残り短い間ですが、質疑応答にいきたいと思います。最初の質問です。「Azure OpenAI ServiceでAPI提供をしている推論用のサーバーは日本国内にはないため、個人情報などが含まれているデータを国外に出してはいけない企業は利用できないという理解でよいでしょうか?」という質問が来ています。よろしくお願いいたします。
蒲生弘郷氏(以下、蒲生):ご質問いただきありがとうございます。
こちら(のような内容)も質問としてけっこういただくケースが多いんですが、先ほどもお話ししたように、基本的にというか、Azure OpenAI ServiceのAPIは揮発性になっています。ログについても、明示的に保存をしなければプロンプトの内容も含めて保存されないようなかたちになります。
さらに個人情報を意識していきたいケース。「すぐに消していきたい」(という)ようなケースの場合には、オプトアウト申請などを通していけば、ログは残りません。そういったことを活用してもらいながら……。、もちろん法律を意識していく部分は出てくるかとは思いますが、Azureを使っていく上では、「データは保持されない」という選択も可能になっているので、そちらを利用してもらればと思います。
司会者:ありがとうございます。
司会者:次の質問もたぶん答えづらいものかなと思うんですが。「データの30日間の保持について、オプトアウト申請をした後に、実際に記録されていないことの証左は提示してもらえるんでしょうか? あるいは、どうしたらユーザーがこれを信用することができますか?」といったような、ちょっと回答が難しいかなという質問が来ているんですけれど、いかがでしょうか?
蒲生:監視していないという証明ですかね。そうなってきますと、「そもそもログを保持しない」というかたちになってくるので、やはりマイクロソフトを信用してもらうということしかできません。やはり弊社側の努力というかたちにはなってきてしまうかなというところになります。申し訳ございません。
司会者:ありがとうございます。これは難しいですよね。
司会者:次の質問に移りたいと思います。「ChatGPTは、文章情報のインプットが主だと思いますが、どの程度のメタデータ……。誰の発言か、いつ頃の情報かなどと併せて分析できるのでしょうか? もしくは、すべての文章に情報を入れる必要があるのでしょうか?」といった質問です。
蒲生:ちょっと解釈が広くなるような部分ではありますが、誰が発言したのか、誰が使ったのかというところをAzure ADの認証をかけて使ってもらうようなかたちであれば、そのID情報をアプリケーション側でしっかりと保持しておくことによって、当然ながら誰が聞いたのかは記録していくことが可能です。
「すべての情報を入れなければならないのか」というお話は、「プロンプトに毎回システムメッセージとかを打ち込まないといけないのか」というお話かなとちょっと思ったんですが……。
司会者:そういうような推論ができますね。
蒲生:それについては「イエス」です。毎回システムメッセージを含んだ上で回答させるかたちにしないと、途中でいきなり訳がわからない振る舞いをし始めるみたいなかたちになってしまうので。
しかも、その毎回のやり取りにシステムプロンプトを入れるということは、その都度課金するというかたちになるので。すみません。売上の上ではネガティブな情報になってしまいますが、なるべく誠実にお答えすると、「毎回入れなければならない」というのが回答になります。
司会者:ありがとうございます。
司会者:次の質問は実は私も聞きたかったものです。「Bing Chatでは根拠のリンクが出ますが、どうやって実現しているんでしょうか?」といった質問が来ています。
蒲生:ありがとうございます。ここについては、そもそも私もBing側の開発に携わっているわけではないので、正確な情報はないものの、先ほど例に出てきたようなエンタープライズサーチとかになってくると、例えば「Cognitive Search」で検索クエリを投げた時にヒットしたドキュメントは候補が出てくるので、そのドキュメントの候補の中で関連度の高いものを引用元として出していくみたいなところは可能で、Bingのサーチも似たようなことをやってあげているのかなと。候補の高いものを引用元として出しているようなかたちのイメージになるのかなと思います。
ピンポイントで「どこの文章でどことマッチングするのか」というところは、もしかしたら生成された文章とリンクに書かれている内容の類似度を見てマッチングさせて、引用として出しているのかもしれませんが、詳しいことはわからないという回答になります。
司会者:ありがとうございます。
司会者:残り時間が短くなってきたので、蒲生さまから「ぜひともこの質問には回答しておきたい」といったようなものをSlidoから選んで回答いただくのがよいかなと思うんですが、いかがでしょうか?
蒲生:少々お待ちください。全画面表示をするのがうまくいっていなくて。
司会者:では、蒲生さまが操作をされている間に(質問をいくつか)。「実際に社内とか企業で使われている具体的な事例を教えてほしい」といったような質問が来ています。
この質問についてはデータサイエンティスト協会として、ぜひとも今後のセミナーで何かにしたいとは考えています。必ずできるとは言いきれませんが検討していきたいので、お待ちいただければと思います。
また、もし視聴をされている方の中で「実際にGPTを使ってこんな事例がありますよ」という企業さまなどがいましたら、データサイエンティスト協会に一報をいただけたら、セミナーなどを企画したいと思います。よろしくお願いします。といったところで、蒲生さま。準備はできましたか?
蒲生:すみません、Slidoの画面共有が見えてはいるんですが、私のほうで操作はできない……。
司会者:ではもう少しこちらで挙げますね。
蒲生:すみません(笑)。必要なところについてはTwitter上で回答しますので。申し訳ございません。
司会者:あっ、これはおもしろいかな。
「プロンプトエンジニアリングは、LLMの進化の過程における一時的なものなのか、長期にわたって、例えば10年以上のスパンで重要なスキルとなるのか、どうお考えでしょうか?」といったような質問をいただいています。
蒲生:ありがとうございます。Prompt Engineeringについては、先ほどあったような、ユーザー側で意識するのか、それともシステム側で意識するのかというところで観点は違うかなと思います。システム側での意識というところは、やはりけっこう重要になってくるかなと思います。
逆にユーザー側というのは、もちろんGPTが登場したことによって、「自分の日本語ってちゃんとできてんのか?」みたいなところを意識するようにはなったと思うし、「重要な情報は打たなきゃ返ってこないかな」というところはなんとなく把握していて、その回答形式もテクニックとして出てくるとは思うんですけれど。
システム側でけっこう吸収されて、ユーザーがあまり意識しなくてもちゃんとできるようになっていくんじゃないかなとは個人的には思っているところです。
なので、初期だと例えばGoogle検索……。「(そこは)Bing検索って言えよ」という話ですが(笑)。Google検索においても最初のほうはテクニックがけっこう必要だったと思います。
(しかし)歴史を重ねていくにつれて、けっこう雑に投げたとしてもそれっぽい回答が返ってくるようなかたちにだんだんなってきたのと同じように、似たような経路をたどっていくんじゃないかなと私個人は思っています。
司会者:ありがとうございます。
司会者:そろそろ時間なので、次を最後の質問にしたいと思います。
(スライドを示して)次の質問はタイトルにもある、ChatGPTによって描かれる未来みたいなところで、「最初の頃スライドで話してくださったPhase 4以降の未来とかについて、どうお考えか教えてください」といった質問をいただいています。これで最後に締めたいと思うので、蒲生さん、よろしくお願いします。
蒲生:未来というよりかは……。Phase 3に入ってくると、AIにどこまで権限を持たせるのか、もしくはAIプラス、プログラムにどこまで権限を持たせるのかというところがやはり重要なトピックになってくると私は思っています。
なぜならば、なんでもかんでも実行できるようにしてしまった時、例えば攻撃を受けたりAIに対する解釈が違ったりといった時に、もちろん確認してもらってからやるというコードもありますが、どこを任せてどこを人間がやるべきなのかの検討は必ず入ってくると思うんですね。
さらに、動的タスクというところは、先ほど(の話で出てきた)自律性。いわゆる「AIが勝手に動いていいよ」というPhase 4の段階になってきた時に、その危険性も含めてやはり社会で議論していくような未来が出てくるんじゃないかなと私は思いました。すみません。回答になっているかどうかはわかりません。
司会者:ありがとうございます。蒲生さま、長い時間お付き合いいただきありがとうございます。
蒲生:ありがとうございます。
関連タグ:
「Azure OpenAI Service」の一般提供から始まった“ビジーな”進化 マイクロソフト製品におけるGPT機能組み込みの流れ
「GPTが動的な“タスク計画と実行”をする方向に進歩していく」 日本マイクロソフトの蒲生氏が語る、GPTで描かれる未来
「OpenAI APIの安定稼働版のようなイメージを持ってもらえればいい」 Azure OpenAI Serviceの特徴と、プレイグラウンドのデモ
例示で精度を高める「Few-shot Learning」、思考の連鎖「Chain of Thought」… 新しいパラダイム「プロンプトエンジニアリング」に対するアイデア
GPTが単純に回答するだけでなく、動的に振る舞えるようになる Groundingを使ったプロンプティング「ReAct」の流れ
日本マイクロソフトの社員が教える、GPT×ReAct活用のコツ トークン制限がある場合は分割格納、自然言語の履歴管理にはNoSQLデータベースを
AzureでGPT活用するためのシステムの参考アーキテクチャ “金太郎飴的に複製できる”管理構成のすすめ
Azure OpenAI ServiceやGPTなどに関するQ&A 「マイクロソフトから“監視していない証明”は出してもらえる?」「プロンプトエンジニアリングは重要視されるスキルとなる?」
2024.12.20
日本の約10倍がん患者が殺到し、病院はキャパオーバー ジャパンハートが描く医療の未来と、カンボジアに新病院を作る理由
2024.12.19
12万通りの「資格の組み合わせ」の中で厳選された60の項目 532の資格を持つ林雄次氏の新刊『資格のかけ算』の見所
2024.12.16
32歳で成績最下位から1年でトップ営業になれた理由 売るテクニックよりも大事な「あり方」
2023.03.21
民間宇宙開発で高まる「飛行機とロケットの衝突」の危機...どうやって回避する?
PR | 2024.12.20
モンスター化したExcelが、ある日突然崩壊 昭和のガス工事会社を生まれ変わらせた、起死回生のノーコード活用術
2024.12.12
会議で発言しやすくなる「心理的安全性」を高めるには ファシリテーションがうまい人の3つの条件
2024.12.18
「社長以外みんな儲かる給与設計」にした理由 経営者たちが語る、優秀な人材集め・会社を発展させるためのヒント
2024.12.17
面接で「後輩を指導できなさそう」と思われる人の伝え方 歳を重ねるほど重視される経験の「ノウハウ化」
2024.12.13
ファシリテーターは「しゃべらないほうがいい」理由 入山章栄氏が語る、心理的安全性の高い場を作るポイント
2024.12.10
メールのラリー回数でわかる「評価されない人」の特徴 職場での評価を下げる行動5選
Climbers Startup JAPAN EXPO 2024 - 秋 -
2024.11.20 - 2024.11.21
『主体的なキャリア形成』を考える~資格のかけ算について〜
2024.12.07 - 2024.12.07
Startup CTO of the year 2024
2024.11.19 - 2024.11.19
社員の力を引き出す経営戦略〜ひとり一人が自ら成長する組織づくり〜
2024.11.20 - 2024.11.20
「確率思考」で未来を見通す 事業を成功に導く意思決定 ~エビデンス・ベースド・マーケティング思考の調査分析で事業に有効な予測手法とは~
2024.11.05 - 2024.11.05