GoogleのChatGPT対抗「Bard」が日本語対応、コーディングや推論など拡張した基盤モデル「PaLM 2」公表

Googleは本日、年次I/Oカンファレンスをキックオフし、そのドメイン全体で人工知能（AI）を進化させるために何をしているのかという、中核的な話題を提供した（まあ、要はPaLM 2についてのことだ）。

Google I/Oは、Googleの主要な開発者向けカンファレンスとして、さまざまなトピックに取り組んできた。しかし、2023年は違う。AIがイベントのほぼすべての側面を支配している。今年は、MicrosoftやOpenAIのライバルたちがChatGPTの大成功に酔いしれる中、Googleは市場でのリーダーとしての地位を確立しようとしている。

このLLM（大規模言語モデル）は、Bard、Workspace、Cloud、Security、Vertex AIなど、I/Oのセッションで詳述される少なくとも25のGoogle製品およびサービスの動力源として機能する予定だ。

オリジナルのPaLM（Pathways Language Modelの略）は、ジェネレーティブ（生成）AIのためのGoogleの基盤LLMの最初のイテレーションとして、2022年4月に発表された。Google は、PaLM 2 が同社の生成 AI の能力を有意義な方法で劇的に拡張すると主張する。

「Googleの使命は、世界の情報を普遍的にアクセスし、有用なものにすることです。そして、これは永遠のミッションであり、最近のAIの加速によって新たな意味を持つようになりました」と、Google DeepMindのVPであるZoubin Ghahramani氏は、ラウンドテーブルのプレスブリーフィングで述べ「AIは、世界についてより深く理解し、私たちの製品をより役立つものにする機会を作り出しています」と続けた。

PaLM 2で最先端のAIを開発者の「手のひら」に乗せる

Ghahramani氏は、PaLM 2が数学、コーディング、推論、多言語翻訳、自然言語生成を得意とする最先端の言語モデルであると説明し、測定できるほぼすべての方法で、GoogleのこれまでのLLMより優れていることを強調した。

とはいえ、以前のモデルが測定された方法の1つは、パラメータの数だった。例えば、PaLMの最初の反復が開始された2022年、Googleは最大のモデルに対して5400億のパラメータがあると主張している。VentureBeatが投げかけた質問に対し、Ghahramani氏はPaLM 2のパラメータサイズの具体的な数値の提示を避け、パラメータのカウントは性能や能力を測定する理想的な方法ではないことだけを指摘した。

Ghahramani氏は代わりに、モデルがより良くなるような方法で訓練され、構築されていると指摘する。Google は PaLM 2 を最新のTensor Processing Unit（TPU）インフラストラクチャでトレーニングしたそうだ。これは Google の機械学習（ML）トレーニング用の専用シリコンチップになる。

PaLM 2はAI推論でも優れている。Ghahramani氏は、計算機、最適なスケーリング、データセットミックスの改善、さらにモデルアーキテクチャの改善をまとめることで、PaLM 2はモデルへのサービスをより効率的に行うとともに、全体としてより優れた性能を発揮すると説明している。

PaLM 2のコア機能の向上という点では、Ghahramani氏が特に注力した以下の3つの点がある。

多言語対応：新しいモデルは100以上の話し言葉で訓練されているため、PaLM 2は多言語タスクに優れている。さらに、文字通りの意味ではなく、曖昧な意味や比喩的な意味を含む、異なる言語のニュアンスのフレーズを理解することができるとGhahramani氏は述べていた。

推論：PaLM 2は前モデルよりも強力な論理、常識的な推論、数学を提供する。Ghahramani氏は科学論文や数式など、膨大な量の数学と科学のテキストでトレーニングを実施したと話していた。

コーディングができる： PaLM 2は、コードの理解、生成、デバッグも行い、20以上のプログラミング言語について事前学習した。PythonやJavaScriptのような一般的なプログラミング言語の他に、PaLM 2はFortranのような古い言語も扱うことができるそうだ。

「コードの一部を修正するためのサポートを必要とする場合、PaLM 2はコードを修正するだけでなく、必要なドキュメントをあらゆる言語で提供することができます。つまり、これは世界中のプログラマーがより良いコードを学び、またコラボレーションをするのに役立ちます」（Ghahramani氏）。

PaLM 2は、Bardを含むGoogleの25のアプリケーションを動かすAIモデル

訳註：Googleの対話型AIアプリ「Bard」も日本語が通るようになった（BRIDGE編集部にて追記）

Ghahramani氏は、PaLM 2は幅広いタスクに適応できると述べ、Google I/Oでは、ユーザー体験のあらゆる側面に影響を与える25の製品に対応していることを詳細に説明した。

汎用的なPaLM 2をベースに、Googleは医療従事者向けのモデルであるMed-PaLM 2も開発した。セキュリティ用途では、GoogleはSec-PaLMを開発している。GoogleのChatGPTの競合であるBardも、PaLM 2の力を借りることになり、技術力に関係なく、誰でも使える直感的なプロンプトベースのユーザーインターフェースを提供することとなった。また、Googleの生産性向上アプリケーションであるWorkspaceスイートも、PaLM 2のおかげでインテリジェンスを高めることができるようになる。