カリフォルニア州マウンテンビューを拠点とするスタートアップ Groq は、大規模言語モデル（LLM）を迅速かつ効率的に実行するために特別に設計された独自のマイクロチップで AI コミュニティの注目を集めたが、今週さらに波紋を広げている。

同社は1日、スタートアップの Definitive Intelligence の買収と、以前から継続中の両社の協力関係の上に構築された新製品「GroqCloud」を発表した。GroqCloud は、両社が「完全に統合されたドキュメント、コードサンプル、セルフサービスアクセスを備えた開発者の遊び場」と表現している。

大きな売りは AI 推論を実行するための LPU アクセス

しかし、GroqCloud の大きな売りは、AI 開発者ユーザが Groq 言語処理ユニット（LPU）推論エンジンにアクセスできることだろう。

Groq の LPU は最近、ほぼ瞬時に結果を出すことで AI 開発者から大きな注目を集めており、ライバルの NVIDIA の収益が NVIDIA の GPU の需要の強さを背景に高騰しているにもかかわらず、Groq はスポットライトを浴びている。

しかし、GPU はその名の通り、コンピュータグラフィックスをレンダリングするために設計されたもので、もともとはゲームやマルチメディアソフトウェア用だったが、ここ数十年は AI アプリケーションにも使われている。しかし、GPU は最近まで、このタスクに特化したものではなかった。VentureBeat が以前報じたように、Groq の CEO 兼創業者である Jonathan Ross 氏（以前は Google の TPU: Tensor Processing Unit の開発者だった）は、Groq の専用 LPU が最終的に近いうちに市場をリードするようになると考えている。

彼は先週、LPU が NVIDIA の GPU よりもコスト面で大きく有利であり、性能も優れていることを挙げて、私の同僚の Sharon Goldman 氏に次のように語っている。

おそらく年末までには、ほとんどのスタートアップが使用するインフラになるでしょう。

ソフトローンチ後、好調な立ち上がりを見せる

GroqCloud は2月19日にソフトローンチされ、すでに何千人もの開発者が機械学習（ML）アプリケーションや推論（トレーニングではなく、ユーザのために AI モデルを実行する）のために LPU を活用するために利用している。

「Groq では、優れたアイデアを持つ誰もがアクセスしやすく、手頃な価格で利用できる AI 経済の実現に取り組んでいます」と Ross 氏はプレスリリースで述べている。

NVIDIA に対抗するために Groq の能力を高める

Definitive Intelligence の共同設立者兼 CEO である Sunny Madra 氏は、Groq と手を組むことに興奮を示した。

「Groq では、生成 AI の約束を実現するために必要なスピード、低レイテンシー、効率性を開発者に提供しています」と Madra 氏は同リリースで述べており、Groq のテクノロジーの変革能力を強調している。

この買収により、Groq Systems の事業部門も設立され、イノベーションに焦点を当て、公共部門や高度な AI コンピューティング・ソリューションを必要とする顧客のニーズに対応する。この戦略部門は、Groq のイノベーションを加速させ、AI チップ業界をリードするというコミットメントを強化することを目的としている。

最先端の AI 機能への開発者のアクセスを強化し、現状に挑戦することに重点を置く Groq は、AI チップ競争に参戦するだけでなく、AI 技術がよりアクセスしやすく、効率的で、変革をもたらす未来をデザインしている。

【via VentureBeat】 @VentureBeat

【原文】