チップ不足に悩むAI市場に救世主登場、GPUの時間貸しマッチングを提供するInference.ai

Image credit: Inference.ai

世界中がチップを求めてしのぎを削っていると言っても過言ではない。そのため NVIDIA は市場で最もホットな企業となり、株価は半年で400米ドルから700米ドルに上昇した。チップ不足からアメリカ連邦取引委員会が独占や不公正な取引がないかを調査する事態にまで発展している。

その理由は、AI 開発に GPU が不可欠だからだ。

AI 製品の開発を停滞させないために、Meta、Google、Amazon、Microsoft といったテック大手は、できる限り多くの GPU を購入し、自社チップの開発にリソースを投入している。そんな中、Inference.ai は、リソースの少ない企業向けに別の解決策を用意している。これは、言わば「GPU の Airbnb」——アルゴリズムを使って「GPU を必要とする顧客」と「GPU リソースを持つデータセンター」を即座にマッチングし、レンタルサービスを提供する。

GPU ホスティング市場の息吹

John Yue 氏

John Yue 氏と Michael Yu 氏が共同創業した Inference.ai は、リアルタイムのマッチメイキングプラットフォームとして機能する。借りたいユーザがリクエストをするだけで、Inference.ai のアルゴリズムが余剰 GPU リソースを持つサードパーティのデータセンターとのマッチングを支援する。

例えば、ユーザは Inference.ai から NVDIA H100 GPU チップを1時間あたり約2米ドルで借りることができる。

Inference.ai によれば、GPU クラウドを利用することで、ユーザは GPU にかかるコストを最大82%削減できるという。このメリットは、小規模な AI 企業が研究開発の初期段階でインフラやデータセンターの設置・維持に多額の費用をかける必要がないこと、また、製品を特定の GPU サイズや構成に縛る代わりに、個々のタスクを同時に異なる GPU にロードできることだ。

サードパーティのデータセンターは Inference.ai にとって重要な事業リソースだが、公式 web サイトやメディアの報道では、どの企業がそのような役割を果たすのか実例が示されておらず、利益がどのように分配されるのかも説明されていない。しかし確実なのは、Inference.ai はすでに100以上のサードパーティーのデータセンターと提携し、NVIDIA や AMD ファミリーのチップを提供しているということだ。

Cherubic Ventures(心元資本)が見る GPU ホスティング市場

Image credit: Inference.ai

GPU がますます高価で希少なものとなっている現在、このようなレンタルの GPU インフラサービスは、現状に対処するための新たなビジネスチャンスとなるかもしれない。

しかし、Yue 氏は、GPU ホスティング市場はまだ黎明期にあり、同じ構成でも最大10倍もの価格変動があるなど、メリットはまだ不安定であると話した。この市場に参入するため、Inference.ai の競合他社は、GPU クラウドプロバイダの Together や、ハードウェアデバイスの制限をなくすことで AI 製品開発の敷居を下げることを目指す Run.aiExafunction など、さまざまな角度から市場にアプローチしている。

Inference.ai の製品はまだ市場で実証されていないにもかかわらず、台湾を拠点とするベンチャーキャピタルの Cherubic Ventures(心元資本)と Maple VC のリードで、すでに総額約400万米ドルの資金を調達している。

IDC によると、生成 AI への投資は2023年の160億米ドルから2027年には1,430億米ドルに増加し、AI はもはや製品のアドオンではなく、多くの製品やシステムの基盤となりつつある。

GPU の限界に悩む AI スタートアップにとって、Inference.ai は、そのアルゴリズム的アプローチと低コスト化へコミットメントによって、ゲームチェンジャーとなる可能性がある。

【via Meet Global by Business Next(数位時代) 】 @meet_startup

【原文】

BRIDGE Members

BRIDGEでは会員制度の「Members」を運営しています。登録いただくと会員限定の記事が毎月3本まで読めるほか、Discordの招待リンクをお送りしています。登録は無料で、有料会員の方は会員限定記事が全て読めるようになります(初回登録時1週間無料)。
  • 会員限定記事・毎月3本
  • コミュニティDiscord招待
無料メンバー登録