「LLMはタスク処理エンジンにすぎない」　日本マイクロソフト・エバンジェリストが語る“生成AI時代のエンジニア”に求められる能力

ゴールシークプロンプトを基にして目標を設定する

大森彩子氏：もう1つご紹介するのが、目標設定ですね。ゴールシークプロンプトを基にして、さまざまな目標を設定するというものです。

例えば「新製品を出したいです」「新しい調理家電を考えたいです」という時に、市場調査みたいなことをAI、もしくはそういったサービスに委ねることができます。もちろんChatGPTなりGPT-4に「今の調理家電、今のトレンドを教えて」とそのまま投げることもできます。実際にそういったデータを別に手元に用意して、そういったデータを持ったモデルを作っておいて、それらを参照させて、今現在の市場動向を作らせる。そういう機能ももちろん使うことができます。

「今の市場動向はこうだから、もうちょっとフワッといろいろなアイデアから物が作りたい」という時に、一定のビジネスモデルとしての目標設定を作り上げるとして、「足りない部分はこれですよ」と指摘してくれたり、言葉を補ったりなど、そういった機能をGenerative AIで担うことができるようになってきているので、そういった（目標設定の）プロセスの途中でもう1度（GenerativeAIに）投げてみて、目標設定について見直しをする。そのようなかたちで作っていくという使い方が、もう1つありえるかなと思います。

AIの使い方として、ここでは「ベクトル化」という言い方をしていますが、ベクトル化して、文章、データの中で用いる単語、用語など、文章自体のベクトルの距離ですね。そういったデータを作れる機能をうまく使って、データを格納しておきます。実際にデータを使う場面になった時には、AIがそのベクトルの言葉の距離が近いところを検索して取ってきて、文章を生成する、まとめる。

AIはユーザーの言葉が足りない、具体的じゃないところを補完したり、もしくはそれ（足りないところ、補完が必要なところ）を質問したりする。そういった文章を作ることができるので、さまざまに補う機能が必要なところにうまく使う。

最初にお話をしましたが、あくまでもAIが実行していることは推論であって、このGPTシリーズ自体もcompletionなんですね。会話を続けてくれる動作のように見えるけれど、単なる会話ではなくて、文章が途中で終わっているものに関しては補填したり、もしくは足りないものに対して「ちょっと探してください」と言うと探してくれる。そういった推論をする、足りないものに関して補填をするという技術です。

なので、この思考を持って使っていただくのが1つのヒントになるかなと思います。どういったベクトルデータを持たせると、こちらで意図する動作をするのか。もしくはうまく検索ができるのか。そこはいろいろと試行錯誤が必要なポイントにはなりますが、実際にご自身で試していただきながら作ってもらうというのが今の使い方のかたちです。

「もうこれ（デモのサンプルコード）をください」みたいなことをおっしゃる方もいるのですが、それはぜひ各社の開発される方のノウハウにしてもらえればと思います。そういう分野はこれから伸びていくところだと思うので、うまくデータを作って、それをうまくアタッチさせて、Generative AIにいい感じに答えを出してもらう。そこを取り扱えるように工夫をする。そういった部分を考えていただければと思います。

企業が分析をしたデータを取ってくれる。ある程度のデータを与えてベクトル化して、それを持たせておけばサマリーをしてくれる。Generative AIが要約をしてくれるということを今お話ししましたが、例えば企業分析をしたり、融資をしたりなど、そういったテンプレートは今までもやはりあるんですね。

ある程度お決まりの法則があるので、それを基にGenerativeAIが自動化するサービスを作っていただく。必要な項目をフィルして（埋めて）ちょうどいい文章を構成するアプリを作っていただく。例えばそういった活用方法が考えられるかなと思います。

「じゃらん」における、Generative AI活用法を紹介

あとは、このあたりは実際にAzure OpenAI Service をご利用いただいているサービスのデモになりますが、（スライドを示して）例えばこちらはリクルートさまの「じゃらん」のサイトです。実際にGenerative AIを使っていて、先ほどのBing Chatライクな画面ですが「どこに旅行へ行きたいんですか？」というのを対話型でやっていただいています。

こちらは人間が考える思考ですね。旅行に行きたい時に、まずどこに旅行へ行きたいか。漠然とちょっと遠くに行きたいというのもあるかもしれませんが、どのエリアに行きたいか、どれくらいの家族構成か、予算はどのくらいかなど、そういうものを含めてきちんとステップを踏んでいく部分は先ほどのChainです。

そのプロンプトのChainはサービス側で持っています。Chainから実行するタスクを構成する方法は、OpenAIのサービスを使って考えていただけるかと思います。（スライドの）下のところにいくつかオレンジの項目が出ていると思いますが、これは検索のワードですね。こういう候補を出していくタスクはもちろんGenerative AIでもできますし、これまでのCognitiveなAIでもできるところがあるので、こちらをうまく使い分けて、ユーザーの「（自分が入力したいのは）こんな感じだね」といったところが出力できるかを考えてサービスを構成していただくとよろしいかなと思います。というのが、先ほどお話ししたorchestrationの部分です。

ほかに気をつけるポイント

ほかに気をつけていただきたいポイントは、実際にもう少しAIモデル内部にデータを持たせてチューニングするファインチューニングという手法です。どちらかというと、チューニングする前にもう少しorchestrationの部分でできないかな？　ということを考えていただきたいと思っています。

あとは「Responsible AI」と呼ばれる、“責任あるAI”ですね。ユーザーがAIを活用したサービス、アプリを使った時に不快な言葉や差別的な言葉が出てはいけないので、そういったフレームワークも少し気にしていただきたいと思います。もちろんマイクロソフトはAIのサービスを提供する側としても、こういったフレームワークに則って提供しています。

実際にマイクロソフトでは、そういったAIを使ったサービスを提供される方々にも使っていただける“責任あるAI”のチェックリストをご提供しているので、ぜひそういうものをご活用いただいて、安心してAIサービスをご活用いただければと思います。

マイクロソフト製品の紹介

時間が残り少なくなってきました。こちらもマイクロソフトの製品群です。先ほどのGenerative AIもCognitive AIもいろいろ進歩しているんだよというところで、ぜひ知っていただきたいと思い、スクリーンショットになりますが紹介をさせてください。

画像の分野で動画を扱う際は、今までは動画から静止画を切ってそれを分析するというかたちで例えばサマリーをしていました。例えばこのフレームでなにかユーザーが危険な行為をしたとか。（スライドを示して）お店の中で「あ、牛乳こぼしちゃった」とか、そういった部分を瞬時に「このカットとこの部分ですよ」というかたちで検出できる。そういった機能は、例えばマイクロソフトのサービスでは Vision Serviceでもうすぐお使いいただけるモデルが用意されているので、1から作る必要はありません。

もう1つは先ほどの要約です。実は要約にはExtractiveとAbstractiveがあります。文章の良いところだけを抜き出すというもの（Extractice）と、言い換えも含めて短くする（Abstractive）という2種類があります。その部分も実はかなり進んできています。

例えばAbstractiveの機能。まずは、画面の下のほうになりますが、左側がExtractiveでちょうど良いセンテンスを拾ってきている。

始めのほうにお見せしたデモとまったく同じ例を使っています。「『ChatGPTって何ですか？』というのを30人に聞いてみました」というデータで、「それのサマリーを出してください」と言ってExtractiveしてみたものが左側です。右側がちょっと要約したもの（Abstractive）です。少し短くまとめられてはいますが、要は用途で使い分けたいですね。

「長い論文を要約してください」と言った場合と、「さまざまな人の意見を要約してください」と言った場合、やはり使う機能も違いますし、向き不向きもあります。また、こういったCognitive AIでもその技術が進歩しています。一部Generative AI、OpenAIの技術を使って進歩しているところもあります。

Generative AIの世界になっても最終的な判断を下すのは開発者

またCognitive AIは、GPTとは別のアプローチで進化しているところもあるので、これまでのCognitive AIがまったく使えないというのではなく、そういったところで取捨選択しながらうまく使っていただきたいというお話です。こちらは弊社のサービスの例なんですけれども、提供しているコストがまったく違います。

GPT-3とGPT-4でも、3倍とか4倍とか、それぐらいの違うケースがあるかと思いますが、さらにOpenAIやGenerative AIに限らず、Cognitive AIを使っていただくことによって1桁下がる。コストが10分の1……もっと少なくなるケースもあります。なので、あくまでもケースバイケースで使っていただくというかたちで、ぜひご検討いただければと思います。

ということで、ちょっとおまけではありましたが、全部が全部をChatGPTやGPT-4にやらせるのではなく、ぜひ適材適所で使っていただくということをご検討ください。

まとめ

前半ではGenerative AI、それからこれまでのAIの歴史の中からどういうふうにそのGenerative AIを捉えるべきかというお話をいたしました。

後半では、Generative AIやCognitive AIを使ってどう開発していくのがいいのかを弊社で作ってみたデモを事例としてみなさまにお話ししました。

Generative AIの世界になっても最終的に責任を持ってサービスを使ったり提供したりするのはみなさまです。AIが出すものがすべての答えではなく、推測ということをお忘れなくやっていただきたいと思います。

あと、先ほど「いろいろと分解して考える」というお話をしました。すべてを「全部Generative AIに投げればいいよね」ではなく、ステップに分けるということ。さらにその要素として今のGenerative AIのさまざまな動向であるとか、これまでのCognitiveのAIの動向。そういったものもぜひ知っていただければ、サービスとして、よりコストパフォーマンスの良いものができるかなと思います。

というところで、私のお話は以上です。いろいろな手法が出てきているので、おもしろいもの・楽しいものを作っていただけることを願って、私の話は以上で終了です。どうもご清聴ありがとうございました。