データクラウドのSnowflake、LLMアプリを構築できるマネージドサービス「Cortex」を公開〜Snowday 2023から

SHARE:
Image credit: Snowflake

モンタナ州を拠点とする Data as a Service およびクラウドストレージ企業の Snowflake は1日、大規模言語モデル(LLM)のパワーをデータクラウドに取り込むフルマネージドサービス「Cortex」を発表した。

同社の年次イベント「Snowday」で発表された Cortex は、Snowflake のデータクラウドを利用する企業に、オープンソースの LLM を含む一連のAIビルディングブロックを提供し、データを分析し、さまざまなビジネス固有のユースケースをターゲットにしたアプリケーションを構築する。

Snowflake の AI 担当 SVP Sridhar Ramaswamy 氏は声明の中で次のように述べた。

Snowflake Cortex によって、企業は数秒で LLM を利用し、数分でカスタム LLM を搭載したアプリを構築し、データの柔軟性と制御を維持することができます。また、すべてのユーザがジェネレーティブ AI を活用してビジネス価値を提供する方法を再考することができます。

このサービスは1日からプライベートプレビューが開始され、データクラウド内の特定の機能を効率化するために設計された、タスクに特化したモデル一式がバンドルされている。Snowflake はまた、同社の3つの AI ツール「Snowflake copilot」「Universal search」「Document AI」にも Cortex を使用している。

Cortex を使った LLM アプリの構築

今日、企業はジェネレーティブAIを取り入れたいと考えているが、AI 人材の必要性や複雑な GPU インフラ管理など、このテクノロジーに関連する制約を考えると、多くの企業はアプリケーションを本番稼動させることが難しいと感じている。

Snowflake Cortex は、このプロセス全体を合理化することを目指している。

このサービスは、サーバーレスに特化した汎用 AI 関数のセットをユーザに提供する。ユーザは、SQL または Python コードの呼び出しでこれらの関数にアクセスし、機能的な AI ユースケースへの旅を開始できる。

Snowflake Cortex のア ーキテクチャ
Image credit: Snowflake

 

特化された機能は、言語と機械学習モデルを活用し、ユーザが自然言語入力によって特定の分析タスクを加速できるようにする。例えば、モデルは答えを抽出し、その情報を要約したり、別の言語に翻訳したりすることができる。また、データに基づいて予測を立てたり、異常を検出したりすることもできる。

一方、汎用機能は、開発者が利用できる幅広い選択肢となる。「LLama 2」のようなオープンソースの LLM から Snowflake 独自のモデルまで、さまざまなモデルをカバーしている。

最も重要なのは、これらの汎用関数にはベクトル埋め込みと検索機能も付いていることで、ユーザはデータに基づいてモデルの応答を簡単に文脈化し、異なるユースケースをターゲットにしたカスタムアプリケーションを作成することができる。この部分は、Snowflake の「Streamlit」で処理される。

Snowflake が数カ月前に買収した AI 企業 Neeva を設立した Ramaswamy 氏は、記者会見で次のように述べた。

プロビジョニングとデプロイは我々が行います。これは、OpenAI が提供しているものと似ていますが、Snowflake 内に構築された API のようなものです。データはどこにも出ず、我々の顧客が望み、要求するような保証がついてくる。つまり、顧客データは常に隔離された状態に保たれ、顧客間のトレーニングに使用されることはありません。安全で、セキュアで、競争力の高い環境です。

Ramaswamy 氏はさらに、このサービスには大規模なプログラミングは必要ないと強調した。

ユーザは SQL 環境で操作するだけでいいのです。

アプリケーションの面では、ユーザはヘルプコンテンツに特化した訓練を受けたコパイロットのように、業務知識に合わせた会話型チャットボットを簡単に構築できるという。

Cortex に支えられたネイティブ LLM 体験

Cortex は企業向けに発表されたばかりだが、Snowflake はすでにこのサービスを利用して、ネイティブ LLM 体験でプラットフォームの機能を強化している。Snowflake は、Cortexを利用した3つの機能「Snowflake copilot」「Universal Search」「Document AI」をプライベートプレビューとして発表した。

「Snowflake copilot」
Image credit: Snowflake

Snowflake copilot は、プラットフォーム利用者のための会話アシスタントとして機能し、平文でデータに関する質問をしたり、関連するデータセットに対して SQL クエリを書いたり、クエリを絞り込んだり、洞察をフィルタリングしたりすることができる。

「Universal Search」
Image credit: Snowflake

Universal Search は、LLM を搭載した検索機能で、ユーザがユースケースに最も関連性の高いデータやアプリを見つけ、そこから価値を得始めるのを助ける。

「Document AI」
Image credit: Snowflake

最後に、Document AI は、Snowflake データクラウドにホストされている非構造化文書から情報(請求書の金額や契約条件など)を抽出するのに役立つ。

最近「LakehouseIQ」を発表した Snowflake 最大の競合の1つ Databricks など、データ業界の他のプレーヤーも同様の機能を構築している。

Informatica と Dremio もそれぞれ LLM を発表し、企業が自然言語入力によってデータを管理したり、クエリを実行できるようにしている。

Snowday 2023でのその他の発表

Cortex の他にも、Snowflake は「Iceberg Tables」のサポートを進め、ユーザがサイロをなくし、データクラウドですべてのデータを連携できるようにすること、そしてガバナンスソリューション「Horizon」に新しい機能を追加することを発表した。これには、データ品質のモニタリング、データリネージを理解するための新しいインターフェイス、データの分類強化、クロスクラウドのセキュリティとコンプライアンスモニタリングを合理化するトラストセンターなどが含まれる。

最後に、同社は Snowflake ネイティブアプリケーションを構築するアーリーステージのスタートアップを対象に、最大1億米ドルを投資する資金調達プログラムのローンチも発表した。

このプログラムには、自社の VC 部門のほか、Altimeter Capital、Amplify Partners、Anthos Capital、Coatue、ICONIQ Growth、IVP、Madrona、Menlo Ventures、Redpoint Ventures など複数のベンチャーキャピタルが参加している。

【via VentureBeat】 @VentureBeat

【原文】

Members

BRIDGEの会員制度「Members」に登録いただくと無料で会員限定の記事が毎月10本までお読みいただけます。また、有料の「Members Plus」の方は記事が全て読めるほか、BRIDGE HOT 100などのコンテンツや会員限定のオンラインイベントにご参加いただけます。
無料で登録する