機械学習は次のステージへーーMIT研究者が発明、“No-Hardware AI”「Neural Magic」のインパクト

SHARE:
01.png
Image Credit : Neural Magic HP

ピックアップ:Neural Magic gets $15M seed to run machine learning models on commodity CPUs

ニュースサマリ:“No-Hardware AI” 企業を謳う「Neural Magic」は、11月6日、シードラウンドにて1,500万ドルの資金調達を実施したと発表した。出資者にはComcast Ventures NEA、Andreessen Horowitz、Pillar VC、Amdocsが名を連ねる。

同社は、MITでマルチコア処理と機械学習を長年研究してきた2人の研究者によって2018年に設立された。ディープラーニングモデルを処理する高コストなGPUやTPUなどの専用AIハードウェアを使うことなく、汎用CPUでより大きなモデルをより速く、より高い精度で処理するソフトウェアを開発する。

調達した資金は機械学習エンジニア、ソフトウェアエンジニア、セールスおよびマーケティングの採用に使われる。

話題のポイント:現在、AIの躍進を支えるのはムーアの法則(1965年にインテル共同創業者のGordon E. Moore氏が唱えた「集積回路の実装密度は18カ月ごとに2倍になる」)をなぞるように発達したコンピュータの計算能力であることは周知だと思います。

しかし、見方を変えれば2012年以降、常にAIのあしかせになっているのがハードウェアでしょう。画像処理でよく用いられる畳み込みニューラルネットワーク(CNN)を訓練する場合、GPUのメモリ制限内に収まるように画像サイズやデータセットを縮小する必要があります。こういった精度を犠牲にするやり方は、大規模な医療画像データセットを使用する場合、好ましいとはいえません。

実際、AI専用のチップセットを作る大手NvidiaのチーフサイエンティストのBill Dallyは「ディープラーニングはハードウェアによって完全に制限されている」と述べています。

機械学習が実用的かどうかは予測の速度、効率、精度が判断基準となります。高いレベルで実行されれば適用事例は格段に増えるはずです。

さて、ここまで書いたことがよく知られている一般的な話です。

nuralmagic.png
Image Credit : Neural Magic HP

今回取り上げた「Neural Magic」は“No-Hardwawre AI”を謳う企業です。高価なAI専用GPUやTPUを使わずに、誰でも持っているPCに入っている汎用CPUで大きなディープラーニングの高性能実行するためのソフトウェアを開発しています。

Neural Magicがユニークなのは「ハードウェアはボトルネックだが、ソフトウェアでもっとできることはないのか?」というニーズに応えている点です。

同社はコネクトミクスの研究を起点に以下を提供すると発表しています。

  • 汎用CPUで大規模なディープラーニングモデルを実行した場合、条件によっては最大10倍のコスト削減
  • 精度を犠牲にすることなくGPUと同等のパフォーマンスを実現
  • 既存のツールと連携し、必要な場所(オンプレミス、クラウド、またはエッジ)に展開できる柔軟性

CNNが適用できる領域に限られますが、ハードウェアの発展に頼らず低コスト化とハイパフォーマンスを実現できる衝撃は大きいです。仮にGPUと併用できるならハイスペックマシーンを社内で取り合うことは間違いなくなくなるでしょう。

ちなみに、CNNが適用できる領域を少し紹介すると、衛生画像や医療画像の分析、音声認識、感情分析、SpotifyやTikTokのレコメンデーションなどが挙げられます。ディープラーニングが得意とする画像分析に含まれているので十分な適用範囲といえます。

04.png
Image Credit : Neural Magic HP

たとえハードウェアの効率化をしたとしても、導入企業からすればスイッチコストが非常に高くなります。一方、ソフトウェアは入力と出力の型を統一しておけば、新しいコンセプトのソフトウェアが登場したとしても柔軟に対応できます。

また、ビッグデータの取り扱い需要の高騰に伴い、これまで表計算程度の処理で済んでいたシステムに限界が押し寄せるでしょう。そのため、リレーショナルデータベースや基幹系システムに代わる新たな仕組みに期待が集まります。

そこで最小限の処理機能しか想定されていなかった従来型ソフトウェアの大幅アップデートがAI市場で起こると感じています。この再発明はスタートアップにとって大きなチャンスが眠っており、Neural Magicはまさにそこを突きました。

Neural Magicは資金調達の翌日、最初の製品となるNeural Magic Inference Engineを発表しました。現在、アーリーアクセスができる状態です。Pytorch、Tensorflow、Caffeなどの主要な機械学習フレームワークからONNXファイル出力で動作します。気になった方は是非試してみてください。

----------[AD]----------