皆さんこんにちは。CTO兼LayerX LLM Labsの松本です。最近はずっとLLMを触り続けており、新規事業としてLLMを使った企業向けツールの開発にも取り組んでいます。コード書いてます。
【宣伝】LLM Labsではソフトウェアエンジニア、絶賛募集中です！！ 【LLM Labs】ソフトウェアエンジニア / 株式会社LayerX
ところで今回は以前登壇したLLM in Productionでのトークについて触れていきます。ちなみにLLM in ProductionはMicrosoftさんと取り組んでいる、大規模言語モデルを実事業に活用していくための知見を共有する場として始めた勉強会コミュニティとなります。
Chat、盛り上がってますね
ここしばらく、ChatGPTを中心としたChatのインターフェースは、友人や家族との個人的な会話から、企業やサービスとのやり取りまで、様々なコンテキストで話題をさらっています。LINEやSlack上でのChatbotやWebサイト上の接客ツールまで様々な部分でChatを通じた機能提供を目指している会社が日本国内では非常に多い印象です。
ただ、先日のLLM in Productionや様々なイベントでの登壇で触れてきた通り、Chatを対話手段として使用する際には制約が伴います。完璧なUI、およびUXであるとは言えないと考えています。
中でも特にプロンプトリテラシー、つまりChatbotに対する質問力が課題になります。これは、従来の検索エンジンに対する検索リテラシー以上に高いスキルが求められます。Chatではユーザーが明確で適切なプロンプトを提供しなければ、システムが適切な情報を提供することができません。つまり、ユーザーが何を求めているのかを明確に伝えられなければ、システムは正確な応答を提供することができません。しかも、この伝え方にはLLMならではの工夫が必要だったりします。例えば、論理的思考に対する弱さを補完したり（Chain of Thought等）、答えの事例を含める（Few-shot）などですね。
さらには、ChatGPTやLLM系のChatbotは想定外の返答やhallucinations（一見それっぽく見えるが嘘である回答）を考慮に入れて設計する必要があることです。この性質があることを意識せず使ってしまうと、業務上で明らかに間違った情報で意思決定をしてしまうことにも繋がり、結果LLMは役に立たない、怖いとなる可能性すらあります。
これらの特徴を踏まえて使うには特定の技術が必要です。そのため、広く全ての人々が簡単にアクセスでき、使いやすいChatの設計は難易度が高く、目的とする生産性向上にたどり着けないことすらありえます。結果としては容易に利用されなくなることもあるかもしれません。
Why "Chat" 問題
ですのでChatというのは利用すべき場所、そうでない場所を明確に切り分けて利用すべきです。特に、再利用性の高いタスク指向なユースケースでは、そもそも自由入力を求めるChatでの対話ではなく、そのタスクに合わせたUIを構築できないか、そのUIと比べてなぜChatが良いのか論理的に整理すべきでしょう。
例えば、よくヘルプデスクをChatで、という事例を見かけます。これは単なるInformation Retrieval（情報検索）の問題であって、実はLLMで対話として組み立てる必要はなかったりします。ユーザーの質問に対して、答えとなる文書を即時に提示する方がLLMで回答生成のために何秒も待つより効率的ですし、LLMを間に挟むことでむしろ情報を歪めてしまう、Hallucinations等の問題の混入可能性を生み出しているとすら言えます。ユーザーが欲しいのは検索であって、そのために必要なのは対話ではなく、より情報ソースを増やす工夫だったりします。なぜなら情報が散らばっていたり、情報がそもそも存在しないゆえに回答ができないことの問題のほうが顕著だからです。これは自社でヘルプデスクを構築したゆえの気づきでした。
何より、Chatに限らず、技術は適切な使い方を心がける必要があります。LayerXは以前Blockchainの研究開発事業に取り組んでいましたが、この頃しきりに「なぜBlockchainを使うのか」問題を口にしていました。刺激的な新技術があると、多くの人がとりあえずその技術を使うことを目的にし始めます。特に、わかりやすいユースケースがあるとそれを万能の道具に見立てがちなところがあると思います。ChatGPTの登場によってChatが中心になってしまっているのは多少仕方ないところもあると思いますが、ChatGPTではなくLLMとしてどう取り組むか、そしてLLMじゃなければ本当にだめなのか、は正しく向き合うべきと思っています。
これらの課題を解決するために、LayerX LLM LabsではChatベースのインターフェースではないアプローチを中心にして開発に取り組んでいます。もちろん、特定のコンテキストやニーズに対してはChatが有用なツールとなることもあります。しかし、一つの解決策がすべての問題に適しているわけではないことは明確で、各ユースケースに対して最適なツールを提供することが最善の方法であると我々は考えています。
そして、LayerXで取り組むのは「すべての経済活動を、デジタル化する」ことです。そのためには業務プロセスを観察し、本当に課題を解決できる、そのためにお客様に利用してもらえるよいUXを迅速に届けることが必要です。業務プロセスに丁寧に伴走した技術活用を心がけねばなりません。
LLMは様々な場面でNLP的なタスクを解く上ではとても有用です。ものに寄っては既存アルゴリズムよりも良い性能を発揮しますし、そうでなくとも非ML系エンジニアが即座にNLP的なタスクを解く手助けをする、全員MLエンジニア化してくれるツールでもあります。プロトタイピング段階での活用は積極的に行いつつ良い課題を正しい技術で解くことを追求しています。
ということで、Chat is not all you needというスライドについて触れてきたのですが、現在LayerXでは新たな事業として立ち上がりつつあるLLM LabsのソフトウェアエンジニアやPdM、BizDevを募集しています。LLMでお客様、特に非常に大きな大企業の皆様の課題を解決する事業、すでに様々なものが動き出しており、ぜひ一緒に開発しませんか？新しいLLMを用いたソフトウェアの当たり前を作って行きたく、カジュアルにお話でも良いのでぜひよろしくお願いします！！
