ChatGPTを直接活用する3つの方法

山下鎮寛氏:そんなふうに便利なChatGPTなんですが、現時点においてChatGPTを直接活用しようとすると方法は3つあります。1つが「Web UI」。もう1つが「OpenAI API」。3つ目が「ChatGPT plugins」という3つです。

それぞれ簡単に説明します。まずはWeb UIですが、これはもうわかりやすい。ChatGPTのWebサイトから直接チャットでプロンプトを入力して反応を得るという方法です。これを試された方がおそらく一番多いんじゃないかなと思っています。

もともとプロンプトを入力したもの、チャットのWeb UIから入力したものは、基本的には学習に利用されることになっていたので、機密情報だったり社外秘の情報の入力を禁止するなどのセキュリティ対策は必須でした。

日本時間の今日未明、OpenAIさんが「Chat History」と「Training」の設定をオフにすることができる機能を新しく提供したので、今後はより試しやすいかたちで、いくつか社外秘のデータなども取り扱うことが論理的には可能になってきました。

次がAPI経由で利用するというところで、ここではわかりやすいように「ChatGPTのAPI」と呼んでいるんですが、正確には「OpenAI API」と呼ばれるAPIを自社の環境から叩いて結果を得るという方法です。

API経由でプロンプトを送る場合はそもそも学習に使わせないという指定を送ることができるので、実際に社内データを使った質問をしたり、社内データを独自で追加学習させることができる、非常に便利な活用方法です。

先ほどのChat UIで検証されて「これは使えるんじゃないかな?」と思った時に、次にやることというと、おそらくAPIで自社のデータを使って、ChatGPTをさらに便利に使って分析するといったところが挙げられるのかなと考えています。

あとは自社環境以外でも、自社が提供するサービス、自分たちのバックオフィスの環境じゃなくて、自分たちが提供しているサービス、我々でいうとScalebaseのようなものに組み込んで使ったり。あとは利用しているサービスのSaaSなどとAPIで連携したりと、非常に使い道の幅としても広いものになっています。

3つ目が最後のプラグインというもので、正直これは日本ではそもそも提供されていないので使っていない方も非常に多いのかなと思っています。

どういうものかを一応紹介だけすると、ChatGPTがもともと持っているGPT-4などのモデルに対して、自社のサービスを連携するアプリケーションのようなものです。

具体的には、今ExpediaさんとかZapierさんが登録していて、Expediaさんの例でいうと、プロンプトの中で「バリに泊まりたいんだけど、いいホテルを教えてください」というような話だったり、「バリの中でプールがついているホテルを教えてください」とプロンプトに入力すると、それをChat UIで受け取ってモデルに投げます。

そのモデルが、今度はExpediaさんのプラグインに対して指示を出します。「この条件で検索して見つかったものを返してください」というような返答をプラグインがもらって、そこをChat UIが経由して、「Expediaで検索したんですけど、こういったホテルがお薦めですよ」とか「このホテルにはプールが存在します」というような回答を返せるというものになっています。

こちらも審査制ではあるんですが、活用のイメージ自体を湧かせようとすると、Salesforceさんの「AppExchange」に自分たちのアプリを出して、SalesforceのUIの中で、AppExchange上で私たちのサービスを使ってもらうようなイメージが非常に近いのかなと考えています。

ChatGPTを活用すればコーポレートITは進化するか?

ここまでChatGPTの仕組みであったり活用方法についてお話ししたんですが、我々がまず今回セミナーをさせていただく上で、最初に伝えるべきことだと思った内容で、「オペレーションの進化だったりコーポレートITの進化というものは、ChatGPTを活用すれば進化するのか?」と言われたら、ここは「No」だと考えています。

非常に便利なChatGPTではあるんですが、例えば文章を翻訳したり、マーケティングメッセージを打ち出すような業務ではすぐに活用できます。コーポレートITの文脈の中でいうと、非常に局所的なところはすぐに活用できます。でも、本格的に活用して効果を出すところに対しては、まずは自社がAI readyな状況にある必要があると考えています。

(スライドを示して)そのためのステップとして我々が考えているのが、ここに書いている、「進化1.0から4.0」という内容です。

まず進化1.0の正しくデータが生成されていることというところで、例えば学習データとして提供するにも、そもそも自社の中に正しいデータが生成されていなければ話にならないということです。

進化2.0として、実際にそのデータが生成されていても、それがデータレイクであったり、データウェアハウスに正しい状態で管理されていないと、比較するべきものが違っていたり、データの定義がテーブルによって違うような状況になってしまう。そうすると正しい回答ができなくなってしまうので、正しい状態で管理されていることも非常に重要です。

3つ目が、実際にオペレーションを進化させる、実際にその制御をするというところまでいくと、既存の業務フローがデータを使って連携できているのか、APIを使って連携できているのかが非常に重要になってきます。そうしないと、ChatGPTで返ってきた答えを人ががんばって手で対応するという本末転倒な仕組みになってしまうので、この進化3.0も重要だと。

それらが行えた上で、データやAIを使って効率化をしたり新しい価値を提供できるようになるところが進化4.0というかたちだと、我々としては考えています。

我々のようなプロフェッショナルサービスを提供している会社がこれを言うと非常にポジショントークっぽい内容になってしまうんですが、こういった進化の過程をたどる必要があるのかなと考えています。

「予測をして制御をする」という観点における3つのステップ

より具体的な話をすると、予測制御、現代制御というような学問の領域が存在していて、その中では定説になっているんですが、予測をして制御をするという観点においてステップは3つあります。

1つは観測をすること。状態を取得することですね。その次に観測に基づく予測ができること。最後に予測による制御ができることというものがあります。

これをコーポレートITの領域で例えると、1番の観測というところが、正しくデータが生成されていて観測できる状態。予測をするというところが、それらが生み出されたデータによって予測ができている。次に何をすべきなのか、どういうデータを出すべきなのかが予測できているという状態。3番の制御で、実際に予測をしたところと実行するアクションができる機能が接続されているというところが非常に重要になってきます。

これをそれぞれ、我々の今のトレンドであったり技術に置き換えてみると、1番の「観測をする」がビッグデータであったりデータウェアハウス、もしくはセンサーの高性能化だったり。低コスト化によって、今まで計測できていなかったようなデータが、IoTなどの技術を使って生成されていたり観測できる状況になっていることを指すのかなと考えています。

それらのデータを基にChatGPTで予測をしたり、LLM、あるいはそれ以外の技術を使ったり。あとはBIなどを使って予測のモデルを立てたり、深層学習などで学習していくというような、「予測を立てる」というプロセスがあります。

最後に、予測を使ってどう動かすのかというところで、マイクロソフトの「Power Platform」であったり「API Management」、もしくは車などでいうと自動運転、予測に基づいて制御をしていくという意味での自動運転のような技術が行われる。

ChatGPTは2番の部分が不足していたというところでどういうインパクトがあるかというと、データに対する取り組みのROI(Return On Investment)を大幅に高めることができるようになったところが、我々としてはインパクトが大きいのかなと思っています。

ChatGPTやLLMというのは、2番の「観測に基づく予測」で急進的に圧倒的な進化を遂げた領域だと考えています。

それによって、今まで以上にはるかにレベルの高い状態で、データに対する取り組みのROIを出すことができるようになったんじゃないかなと考えています。例えば「データ基盤を整えましょう」と挙げた時に、今までは「じゃあ、そのROIってどんなものなの?」という問いに対して答えるのは、正直かなり難儀だったなと思っています。

実際にやってもらって、すぐにROIが得られたケースは正直なかなかないと思うんですね。将来に対するための投資としてプロジェクトを遂行してきた方も多いんじゃないかなと個人的に見させてもらって思うところです。

でもこれからは非常に難しかったこの予測の部分。2番の「観測に基づく予測」という部分が、今まではデータサイエンティストの人ががんばってやられてきた領域だったのですが、人の手を介さずに、それも圧倒的なクオリティでできるようになった。

この3番である「予測による制御」まで一気につなげて、実際の業務のコスト削減をすごくするというような領域であったり、属人性を下げて収益を上げるための手段がわかるようになったというところが、非常に大きなインパクトじゃないかなと私たちは考えています。

(次回に続く)