話題のポイント：人工知能（AI）の進化は止まりません。その進化を支えるハードウェアの側面では、長らく Nvidia が独走してきました。そんな中、シリコンバレーのスタートアップ d-Matrix が登場。業界をリードする Nvidia の「H100 GPU」を凌駕する性能を発表し、AI ハードウェア業界に新たな波紋を投げかけています。

d-Matrix は、AI ハードウェアの専門家 Sid Sheth 氏とSudeep Bhoja 氏 によって2019年に設立されました。このスタートアップは、AI モデル「Transformer」のアーキテクチャに特化したハードウェアの開発に注力しています。Transformer は、「GPT-3」や「MT-NLG」などの大規模言語モデル（LLM）に広く使用されていますが、現行の AI ハードウェアではデータセンターでの効率的な推論が困難です。

d-Matrix が発表したカード「Corsair C8」は、特許取得済みのデジタル・イン・メモリ・コンピュータ（DIMC）アーキテクチャを使用しています。この技術により、Nvidia H100 に対して9倍、A100に対して27倍のスループット向上を実現しています。Corsair C8は、2,048の DIMC コア、1,300億のトランジスタ、256GB の LPDDR5 RAM を搭載し、1TB／sのチップ間帯域幅と2,400から9,600 TFLOPS の計算性能を持っています。

d-Matrix は、最新の資金調達ラウンドで1億1,000万米ドルを調達しました。このラウンドは、シンガポールに拠点を置く Temasek がリードし、Playground Global と Microsoft が支援しています。Microsoft は単なる沈黙の投資家ではなく、d-Matrix のチップを自社の事業で積極的に使用することを検討しています。今年の売上見込は1,000万米ドル未満ですが、d-Matrix は2年以内に年間7,000万から7,500万米ドルの売上を目指しています。

d-Matrix は、従来の GPU と比べて最大30倍のコスト削減が可能であり、AI ワークロードにおけるエネルギー消費を大幅に削減すると主張しています。この技術は、特に LLM に対する高いスループットと低レイテンシを実現しています。

d-Matrix はまた、次世代計算プラットフォーム「Jayhawk II」も発表しています。このプラットフォームはデータセンター向けで、DIMC を強化します。Jayhawk II は、計算アーキテクチャの隣に完全にデジタルプログラム可能なメモリを直接配置することで、データの移動時間を削減し、全体の計算効率を向上させます。d-Matrix は2024年に Jayhawk II を市場投入する計画で、すでに多数の企業に評価版の Jayhalk II を提供しています。

d-Matrixは、AI ハードウェアの新たな可能性を切り開く企業として、多くの注目を集めています。Nvidia の独走を阻止し、AI ハードウェア業界に新たな選択肢と競争をもたらす可能性が高いです。今後が非常に楽しみな企業であり、その動向に注目が集まることでしょう。