AIの出した誤りを自動検知するCitadel AI、東大IPCとANRIから1億円をシード調達

SHARE:
Image credit: Citadel AI

※この記事は英語で書かれた記事を日本語訳したものです。英語版の記事はコチラから

AI の品質保守自動化ツールを開発する Citadel AI は4日、シードラウンドで東大協創プラットフォーム開発(東大 IPC)と ANRI から1億円を調達したと発表した。同社にとっては、初の外部資金調達となる。同社は、企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI 固有のリスクから企業を守ることができるツール「Citadel Rader」を今年5月にβローンチしていた

Citadel AI は2020年12月、三菱商事傘下のロイヤリティマーケティング(Ponta 運営)社長、北米三菱商事会社 SVP、米食肉加工大手 Indiana Packers Corporation CEO などを務めた小林裕宜氏(現 CEO)と、Google の AI 中枢研究開発機関 Google Brain のプロダクトマネージャーとして TensorFlow や AutoML などの開発をリードしてきた Kenny Song 氏(現 CTO)により共同創業。

従来のハードロジックに基づくソフトウェアと異なり、AI システムは、時々刻々と変化する実環境に晒される中で、日々その精度や品質が劣化してゆく。AI が誤認識・誤判断し、ビジネス上の損失やコンプライアンス問題として顕在化する前に異常を自動検知し、AI の品質を保つことがビジネスにとって重要だ。Citadel Rader は、AI の入出力の異常を自動検知・ブロックし、人間が理解できる形で可視化する XAI(eXplainable Artificial Intelligence)機能を搭載している。

AI は開発段階ではキレイなデータしか読み込ませないが、実運用に移行すると、入力間違いのあるデータをはじめ、さまざまなデータが入ってくる。基本的には人はコンピュータは正しい回答を出すと思っていて、誤った答えが出てもなかなか指摘できない。

また、企業では AI が出てくるアウトプットをモニタするために人を割くことは難しいし、Citadel Rader を導入することで、日々の業務に忙殺される AI エンジニアが本来業務に集中できる時間を創出する効果もある。(小林氏)

Image credit: Citadel AI

システムインテグレータが企業から AI システムの発注を受けた場合、対応するのは基本的にシステムの導入までで、その後の運用やメンテナンスを自動化するまでのサービスを提供することはなかった。納品後の実運用でさまざまな実データにさらされる中で精度や品質が劣化しても、AI がアウトプットする情報に品質保証は提供されず、その問題をシステマティックに指摘することはできなかった。

精度や品質が劣化すると、最悪の場合、売上予測でエラーが発生したりとか、与信審査で基準が狂ったりとか、企業ではそういった問題が生じる。例えば、FATF(金融活動作業部会。各国のマネーロンダリングを統括する世界組織)のような組織だったとしたら、どこかのノード1つのマネロン判定のセキュリティが甘いだけで全世界のネットワークの脆弱性につながることから、組織に入れてもらえないというようなことにもつながりかねない。(小林氏)

小林氏によれば、Citadel Rader は現在10社以上で試験利用され、100社以上と商談を進めていて、概ね3分の2は大企業、3分の1はスタートアップだという。ユーザは、メーカー、銀行、商社、システムインテグレータ、ローコード・ノーコード開発している中堅企業など多岐にわたる。Citadel AI では今回調達した資金を、来春に予定する Citadel Rader の商用化サービスのローンチに向けたエンジニアチームの増強のために充てる計画だ。

BRIDGE Members

BRIDGEが運営するメンバー向けイベント「Tokyo Meetup」では新サービスの紹介やノウハウ共有などを通じて、スタートアップと読者のみなさんが繋がる場所を提供いたします。メンバー登録は無料です。
  • BRIDGE Canvasの購読
  • メンバー向けDiscordご招待
  • BRIDGE Tokyoなどイベントご招待
無料メンバー登録