100年近い歴史を持ち、世界最大級のコンサルティング会社であるMcKinsey and Company は今年初め、ジェネレーティブ AI ツールの急速な導入で大きな話題となった。

その McKinsey が、独自のAIツール「Lilli」を発表した。これは McKinsey の CTO Jacky Wright 氏が率いるチーム「ClienTech」が設計した社員向けの新しいチャットアプリケーションだ。情報、洞察、データ、計画を提供し、コンサルティングプロジェクトに最も適した社内の専門家を推薦する。

McKinsey のシニアパートナーで、この製品の開発を率いた Erik Roth 氏は、VentureBeat に次のように答えた。

McKinseyの 知識を総動員して質問し、（AI が）それに答えてくれるとしたら、それは会社にとってどんなことになるでしょうか。Lilliはまさにそれです。

Lilli は、1945年に McKinsey がプロフェッショナルサービスに採用した初の女性社員 Lillian Dombrowski 氏にちなんで命名されたもので、2023年6月からベータ版が開始され、今秋には McKinsey 全体で展開される予定だ。

Roth 氏と McKinsey の共同研究者たちは VentureBeat に、Lilli はすでに「最小実行可能製品（MVP）」として約7,000人の社員に使われており、調査や計画作業に費やす時間をすでに数週間から数時間に、他のケースでは数時間から数分に短縮していると語った。

この2週間で、Lilliは50,000件の質問に回答しました。ユーザの66％が週に何度も利用しています。（Roth 氏）

Lilli の仕組み

Roth 氏は VentureBeat に Lilli の独占デモを提供し、インターフェイスと Lilli が生成する回答のいくつかの例を見せてくれた。

このインターフェースは、OpenAI の「ChatGPT」や Anthropic の「Claude 2」のような、一般向けのテキストベースの AI ツールを使ったことがある人にはなじみのあるものだろう。Lilli には、ユーザが質問、検索、プロンプトを入力するためのテキスト入力ボックスが主要ウィンドウの下部にあり、ユーザのプロンプトとLilliの応答が時系列に続くチャットの上部に表示されるようになっている。

しかし、追加的な実用性という点で、すぐに目を引く機能がいくつかある。Lilli には、保存されたプロンプトをコピー＆ペーストして自分の好みに修正でき、拡張可能な左側のサイドバーがある。Roth 氏によると、これらのプロンプト用のカテゴリも近々このプラットフォームに追加される予定だという。

「GenAI Chat」と「Client Capabilities」

インターフェイスには、ユーザが切り替えることができる 2 つのタブが含まれている。1つは、より一般化された大規模言語モデル（LLM）バックエンドからデータを取得する「GenAI Chat」、もう1つは、McKinseyの10万件以上の文書、書き起こし、プレゼンテーションのコーパスから応答を取得する「Client Capabilities」である。

私たちは、社内にあるものと一般に公開されているものを学び、比較するために、意図的に両方の経験を作りました。（Roth 氏）

もう一つの差別化は、情報源にある。OpenAI GPT-4 で動作する Microsoft Bing Chat  は特筆すべき例外だが、Lilli はすべての回答の下に「ソース」セクションを設け、そのモデルが回答を導き出した特定のページへのリンクとページ番号まで表示している。

私たちは完全なアトリビューションを行っています。私が話をしたクライアントは、そのことにとても興奮していました。（Roth 氏）

Lilli は何に使えるのか

McKinsey の新しい AI「Lilli」は、どのような仕事をこなすのに最適なのだろうか。

Roth 氏は、McKinsey のコンサルタントが、クライアントの業界や競合他社、類似企業に関する初期調査の収集から、クライアントが具体的なプロジェクトを実施するための計画の立案まで、クライアントとの仕事のほぼすべての段階を通じて Lilli を利用することを想定しているという。

VentureBeat が行った Lilli のデモでは、そのような多機能性が披露された。Lilli は、大手 e コマース小売業者について話す資格を持つ McKinsey 社内の専門家のリストや、今後10年間のアメリカにおけるクリーンエネルギーの見通し、10週間の新しいエネルギープラントの建設計画などを提供することができた。

そのすべてにおいて、AI は出典を一番下に明記している。

Roht 氏によると、McKinsey は常にスピードのアップデートを行い、迅速さよりも情報の質を優先しているという。

さらに Roth 氏は、McKinsey のサーバに顧客の情報や書類をアップロードし、安全でプライベートな分析を行えるようにするための機能を実験中であるとしながらも、この機能はまだ開発中であり、完成するまでは導入しないと述べた。

Lilli は、非常に安全でセキュアな方法で顧客データをアップロードする能力を持っています。将来的には、私たちのデータとクライアントのデータを組み合わせたり、クライアントのデータを同じプラットフォーム上で使用し、より総合的な分析を行うようなユースケースを考えることができます。（Roth 氏）

社内のテクノロジー、社外に展開の可能性も

Lilli は、McKinsey のパートナーである Cohere が開発した LLM や、Microsoft Azure プラットフォーム上の OpenAI など、現在利用可能な LLM を活用して、GenAI Chat と自然言語処理（NLP）機能を提供している。

しかし、このアプリケーションは McKinsey が構築したもので、ユーザと基礎データの間に入るセキュアなレイヤーとして機能する。

私たちは Lilli を独自の技術だと考えています。コーパスと LLM の間に独自のレイヤーがあります。Lilli はディープラーニングの機能を持ち、学習可能なモジュールも持っていますが、複数の技術を組み合わせて技術を構成しているのです。（Roth 氏）

Roth氏は、McKinsey は LLM にとらわれない企業であり、現在もメンテナンスが続けられている古いバージョンも含め、常に新しい LLM や AI モデルを探求し、どれが最も有用かを検討していると強調した。

McKinsey は、Lilli の利用を全社員に拡大することを視野に入れているが、Roth 氏は Lilli をホワイトラベル化したり、McKinsey のクライアントや他の企業が利用するための社外向け製品にしたりする可能性も排除していないと述べた。

現時点では、すべての話し合いが進行中です。私は個人的に、どの組織にも Lilli が必要だと信じています。（Roth 氏）

【via VentureBeat】 @VentureBeat

【原文】