株式会社エヌエスアイテクス(本社:東京都港区、代表者:新見 幸秀、以下「NSITEXE」)は、高い電力効率を実現するAI向けアクセラレータとして、「ML041」を開発し、お客様に評価提供を開始する事を発表します。
人とクルマをつなげるモビリティ社会、人と街をつなげるスマートシティ、産業界において現実世界をコンピュータ上で再現するCyber Physical Systemの実現において、ニューラルネットワーク等のAIの活用がますます進む中、発熱、およびコスト制約が厳しいエッジデバイスでAI処理を効率良く実行することが、AIを幅広い分野に適用する上で重要な課題となっています。
従来のニューラルネットワーク処理では、レイヤ処理毎に中間データを消費電力の大きい外部メモリに退避しており、これが電力効率低下の原因となっていました。今回、NSITEXEが開発したAIアクセラレータ「ML041」は、入力データを分割(Tiling)し、分割したデータ毎に複数のレイヤ処理の入出力を連結(Layer fusion)して処理することにより、中間データの外部メモリへの退避を削減し、電力効率を向上することが可能です。これにより、VGG16、MobileNet、ResNetといったニューラルネットワークを12TOPS/Wの電力効率(7nm世代SoC実装時)で実行できる見込みです。