サンフランシスコを拠点とする AI セーフティスタートアップ Anthropic は11日、同社のAIモデル「Claude」をより高性能にした「Claude 2」のリリースを発表した。更新されたモデルは、人間とのより長く安全な会話を生み出す。

新バージョンは、わずか4ヶ月前にリリースされた前バージョン「Claude 1.3」の約512トークンから、最大4,000トークンの応答を生成するために追加データで訓練されている。Anthropic によると、Claude 2は、コーディング、数学、論理問題などの測定基準における性能も大幅に向上させ、より無害な回答を生成することで、潜在的な悪用に対する懸念に対処している。

Anthropic go-to-market（GTM）リードの Sandy Banerjee 氏は、VentureBeat との最近のインタビューで次のように答えた。

Claude 2 は、パフォーマンスが向上し、（より長い応答を提供し）APIを介してアクセスすることができます。私たちはユーザから、Claude は会話がしやすく、自分の考えを明確に説明し、有害な出力を生成する可能性が低く、より長いメモリを持っていると聞いています。

Claude 2 を試してもらうのが楽しみだ。ユーザは Claude を、ほとんどコンテキストのない、熱心な新しい同僚として扱うべきです。あなたが誰なのか、AIに何を求めているのか、A Iに与えているタスクの背景について情報を提供してください。Claude は繰り返し、フィードバックをとてもうまく受け止めることができます。

Anthropic のアプローチは企業の共感を呼んでいるようだ。Banerjee 氏によると、このスタートアップは、Slack や Notion のような生産性の高い企業をはじめ、Claude API を使用する数千の企業と協力している。彼女によると、Claude 2 の100kトークンコンテキストウィンドウ（つまり入力できる情報量）は、長い会話の要約やメモや論説の草稿のような新しいユースケースを可能にしているという。

Banerjee 氏は、Claude 2 は有用で、無害で、正直であるように設計されており、同社は常にこれらの軸を連動させて改善しようとしていると述べた。彼女はまた、Anthropic は責任ある慎重な展開アプローチをとっており、まずはアメリカとイギリスという少数の市場から始め、より多くの地域に拡大する計画であると述べた。

ChatGPT への直接挑戦

元 OpenAI の研究幹部 Dario Amodei 氏、Daniela Amodei 氏、Jack Clark氏、Sam McCandlish 氏、Tom Brown 氏によって2021年に設立された Anthropic は、人々が信頼できる AI 製品を作り、AI の機会とリスクに関する研究を生み出すことを使命としている。

同社はこれまでに、Google、Salesforce Ventures、Spark Capital、Sound Ventures、Zoom Ventures などの投資家から15億米ドルの資金を調達している。Anthropic はまた、憲法 AI、社会的影響、解釈可能性、レッドチーミング（企業の資産に対する攻撃シミュレーション）、スケーリング則（言語処理モデルのサイズ＝パラメーター数、データセットのサイズ、トレーニングに使用される計算量が増えるほど、より高い性能を発揮できるという法則）などのトピックに関する15以上の安全研究論文を発表している。

Anthropic はまた、さまざまな使用例で Claude 2 を使用しているいくつかの企業と提携している。以下はその一部だ。

• SlackとNotion：これらの生産性向上ツールは、Claudeを使用して、会話の要約、ドキュメントの下書き、フィードバックに基づく反復、詳細なビジネスコンテンツの作成などを行う。
• Midjourney： この人気のAIツールは、Discord チャンネルで Claude をコンテンツモデレータとして使い、ユーザが作成したコンテンツを素早く分類する。
• Zoom：この人気のビデオ会議プラットフォームは、Claudeを使用して、コンタクトセンターのエージェントが顧客からの問い合わせに迅速かつ効率的に対応できるようにしている。
• Robin AI：このリーガルサービスプラットフォームは、Claude を使用して抜け穴を検出し、契約書の強度を向上させるために推奨される文言を提供する。
• Sourcegraph：このコードAIプラットフォームは、Claude の推論能力の向上により、ユーザのクエリに対してより正確な回答を返すと同時に、より多くのコードベースのコンテキストを伝える。
• Jasper：このジェネレーティブ AI プラットフォームは、Claude を使用して、個人やチームがコンテンツ戦略をより迅速に拡張できるようにする。

安全な企業向けチャットボットへのニーズの高まり

OpenAI のような大手企業が席巻する業界において、Anthropic は責任感があり、透明性が高く、使いやすい AI ソリューションの開発に注力することで人気を博している。Banerjee 氏は、同社の成功の重要な要因として、展開と継続的改善に対する測定アプローチを強調した。

私たちは多くのことを測定しています。継続的な展開プロセスです（Banerjee 氏）

Anthropic は、AI のセキュリティと倫理に対する革新的なアプローチでも注目を集めている。Hugging Face で公開された同社のレッドチーミングデータセットは、この分野で最も広く利用されているデータセットの1つだ。これは、Anthropic の倫理的な AI の実践へのコミットメントと、 顧客が AI システムのパフォーマンスを向上させるのを支援することへの献身を強調している。

Claude 2 のローンチは、AI 業界の現状に挑戦し続ける Anthropic にとって大きな節目を意味する。AI の力を使って業務を合理化し、意思決定を改善し、競合他社に先んじることに関心のある企業は、Anthropic の最新製品から目を離すべきではないだろう。

Anthropic が Claude 2 を発表したのは、さまざまな業界や領域で AI 技術の需要が急速に高まっている中でのことだ。しかし、AI システムの安全性、信頼性、透明性の確保、人間の価値観との整合性などの課題も存在する。Anthropic は、フロンティア研究と製品開発を組み合わせたアプローチで、これらの課題に対処し、企業や消費者にとって真に役立つ AI システムを創造することを目指している。

【via VentureBeat】 @VentureBeat

【原文】