GPT-4発表翌日から開発に着手

2023年にOpenAIによるLLM（大規模言語モデル）「GPT-4」が発表されて以降、さまざまな領域でAIチャットボットの開発や実装が進んでいる。なかでも多くの企業が注目しているのが、社内の情報や環境に合わせてカスタマイズされたチャットボットだ。社内のデータや暗黙知をLLMに組み込むことで、これまで個人に閉じていた知見が開かれ、業務の効率化や社員の負担軽減が期待されている。

丸紅もまた、GPT-4の発表翌日から社内チャットボット「Marubeni Chatbot」の開発に着手していた。GPT-4は従来のモデルよりも格段に文章の理解度や出力の精度が高いため、社内ではすぐにビジネスへの活用に向けた検討がスタート。要件定義から運用フロー構築まで、スピードを重視するためにわずか数名のチームで開発が進められたという。デジタル・イノベーション部のようなDX推進組織を社内に擁していたからこそ、商社であっても迅速なプロトタイピングや開発が実現したのである。

綿密な社内ヒアリングで課題をクリアに

企業のチャットボット活用においてとりわけ課題となるのは、機密情報の処理だろう。Marubeni Chatbotの開発においては、Microsoftのサービスを活用することで情報セキュリティを担保しながら社内情報を含めた質問にも対応できるようになっている。

実際に業務の効率化を実現するうえでは、利用シーンの拡大や精査も必要不可欠だ。各部署へのヒアリングを通じて文書作成や問い合わせ対応へのコストが高いことが判明したため、まずは社内規程やユーザが登録した文書に基づいた回答の生成や議事録の作成機能を実装。さらに現在は部署を問わずアイディエーションなどに活用されているほか、個別の業務へ特化した追加機能の実装も進んでいる。

仮にチャットボットをつくっても、使われなければ意味がない。一つひとつの部署と向き合い、リアルなニーズの把握やツールを普及させるイベントも合わせて実施することは社内チャットボットの実装に必要不可欠となるだろう。たとえば丸紅ではChatGPTが話題となった2023年4月やMarubeni Chatbotを全社展開した同年10月に全社向けの生成AI勉強会を実施しているほか、ユーザを増やしていくために具体的なユースケースの発信や部署別の生成AI活用セミナーの実施にも取り組んでいる。

Marubeni Chatbotの普及はもちろんのこと、日々の運用においても利用量を可視化しモニタリングするとともに、ヘビーユーザに対しては利用状況のアンケートやインタビューを行うことで、さらなるニーズの把握や機能の改善が進行中だ。結果として、月間のアクティブ率はグループ全体で5割を超えている（丸紅単体で見れば、6割を超えている）。

チャットボットの開発は要件を完全に定めることが難しく、ニーズの変化だけでなくLLM領域の発展に応じてリリース後も頻繁に機能追加や仕様変更を行う必要がある。Marubeni Chatbotではデータベースやアーキテクチャの設計を重視し、柔軟性を確保していた。

AI技術を巡る状況は日々急速に変化しており、常にアップデートが求められる。デジタル・イノベーション部は開発・運用保守を少数のメンバーで行いつつ、コストを最小限に抑えられるよう、DevOpsの設計や積極的なBaaSの活用、分散データベースの採⽤など随所に工夫を凝らしていった。2024年5月に新たなモデル「GPT-4o」が発表されると即日デプロイを行うなど現在も毎週2〜3回アップデートが続いており、柔軟な設計を行ったからこそクイックに改善を進められるようになっている。

抽象度の高い設計で柔軟なツールを実現

Marubeni Chatbotのリリース時はGPT-4が注目されていたが、現在はGoogleやAnthropicなど多くの企業がLLMの開発を進めている状況にある。LLMの発展は目覚ましく、現在は個々のモデルごとに強みも異なっており、どのLLMが業務やユーザにとって最適か検討しなければならない。そんな状況においてひとつのLLMに依存した設計を行うと、結果として全体のパフォーマンスを下げることにつながりかねない。単一LLMへの依存を最小限に留めていることも、Marubeni Chatbotの特徴のひとつといえる。

社内チャットボット開発のカギは、「抽象度の高い設計」にあるといえるかもしれない。抽象度が高ければ、柔軟な運用が可能になる。それはシステムの制約にとらわれず、ユーザが必要としている要件へ集中できることを意味している。

チャットボットはあくまでも“ツール”であり、重要なのは社内の困りごとを解消することだ。いまもなお現在進行系で進化を続けるMarubeni Chatbotからは、企業とAIの幸福な関係性が見えてくる。