タグ Citadel Rader

AIの出した誤りを自動検知するCitadel AI、東大IPCとANRIから1億円をシード調達

SHARE:

※この記事は英語で書かれた記事を日本語訳したものです。英語版の記事はコチラから。 AI の品質保守自動化ツールを開発する Citadel AI は4日、シードラウンドで東大協創プラットフォーム開発(東大 IPC)と ANRI から1億円を調達したと発表した。同社にとっては、初の外部資金調達となる。同社は、企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI …

Image credit: Citadel AI

※この記事は英語で書かれた記事を日本語訳したものです。英語版の記事はコチラから

AI の品質保守自動化ツールを開発する Citadel AI は4日、シードラウンドで東大協創プラットフォーム開発(東大 IPC)と ANRI から1億円を調達したと発表した。同社にとっては、初の外部資金調達となる。同社は、企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI 固有のリスクから企業を守ることができるツール「Citadel Rader」を今年5月にβローンチしていた

Citadel AI は2020年12月、三菱商事傘下のロイヤリティマーケティング(Ponta 運営)社長、北米三菱商事会社 SVP、米食肉加工大手 Indiana Packers Corporation CEO などを務めた小林裕宜氏(現 CEO)と、Google の AI 中枢研究開発機関 Google Brain のプロダクトマネージャーとして TensorFlow や AutoML などの開発をリードしてきた Kenny Song 氏(現 CTO)により共同創業。

従来のハードロジックに基づくソフトウェアと異なり、AI システムは、時々刻々と変化する実環境に晒される中で、日々その精度や品質が劣化してゆく。AI が誤認識・誤判断し、ビジネス上の損失やコンプライアンス問題として顕在化する前に異常を自動検知し、AI の品質を保つことがビジネスにとって重要だ。Citadel Rader は、AI の入出力の異常を自動検知・ブロックし、人間が理解できる形で可視化する XAI(eXplainable Artificial Intelligence)機能を搭載している。

AI は開発段階ではキレイなデータしか読み込ませないが、実運用に移行すると、入力間違いのあるデータをはじめ、さまざまなデータが入ってくる。基本的には人はコンピュータは正しい回答を出すと思っていて、誤った答えが出てもなかなか指摘できない。

また、企業では AI が出てくるアウトプットをモニタするために人を割くことは難しいし、Citadel Rader を導入することで、日々の業務に忙殺される AI エンジニアが本来業務に集中できる時間を創出する効果もある。(小林氏)

Image credit: Citadel AI

システムインテグレータが企業から AI システムの発注を受けた場合、対応するのは基本的にシステムの導入までで、その後の運用やメンテナンスを自動化するまでのサービスを提供することはなかった。納品後の実運用でさまざまな実データにさらされる中で精度や品質が劣化しても、AI がアウトプットする情報に品質保証は提供されず、その問題をシステマティックに指摘することはできなかった。

精度や品質が劣化すると、最悪の場合、売上予測でエラーが発生したりとか、与信審査で基準が狂ったりとか、企業ではそういった問題が生じる。例えば、FATF(金融活動作業部会。各国のマネーロンダリングを統括する世界組織)のような組織だったとしたら、どこかのノード1つのマネロン判定のセキュリティが甘いだけで全世界のネットワークの脆弱性につながることから、組織に入れてもらえないというようなことにもつながりかねない。(小林氏)

小林氏によれば、Citadel Rader は現在10社以上で試験利用され、100社以上と商談を進めていて、概ね3分の2は大企業、3分の1はスタートアップだという。ユーザは、メーカー、銀行、商社、システムインテグレータ、ローコード・ノーコード開発している中堅企業など多岐にわたる。Citadel AI では今回調達した資金を、来春に予定する Citadel Rader の商用化サービスのローンチに向けたエンジニアチームの増強のために充てる計画だ。

BRIDGE Members

BRIDGEが運営するメンバー向けイベント「Tokyo Meetup」では新サービスの紹介やノウハウ共有などを通じて、スタートアップと読者のみなさんが繋がる場所を提供いたします。メンバー登録は無料です。
  • BRIDGE Canvasの購読
  • メンバー向けDiscordご招待
  • BRIDGE Tokyoなどイベントご招待
無料メンバー登録


Google Brainの元AI責任者がリードするCitadel AI、AI品質保守を効率的に実現する「Citadel Radar」をβローンチ

SHARE:

AI の品質保守を効率的に実現するツール「Citadel Radar」を開発する Citadel AI は10日、同サービスをβローンチした。企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI 固有のリスクから企業を守ることができる。同社では、AI を改修することなく、さまざまな AI のモデルやアプリケーションに適用可能としている。 Citadel AI…

Image credit: Citadel AI

AI の品質保守を効率的に実現するツール「Citadel Radar」を開発する Citadel AI は10日、同サービスをβローンチした。企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI 固有のリスクから企業を守ることができる。同社では、AI を改修することなく、さまざまな AI のモデルやアプリケーションに適用可能としている。

Citadel AI は2020年12月、三菱商事傘下のロイヤリティマーケティング(Ponta 運営)社長、北米三菱商事会社 SVP、米食肉加工大手 Indiana Packers Corporation CEO などを務めた小林裕宜氏(現 CEO)と、Google の AI 中枢研究開発機関 Google Brain のプロダクトマネージャーとして TensorFlow や AutoML などの開発をリードしてきた Kenny Song 氏(現 CTO)により共同創業。

同社が、東大 IPC の起業支援プログラム「1stRound」第4期に採択されたのは記憶に新しい。

Citadel Rader が提供するのは、主に以下の3つの機能。

  • モニタリング機能(Monitoring)…… お客様の AI を自動モニタリングし、学習データと運用データの頻度変化(Data Gap)や分布の歪み(Data Drift)、予測値の経年変化(Prediction Drift)等の不具合をリアルタイムで検知する。
  • ファイアウォール機能(Firewall)…… 運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ(Invalid Data)、異常値(Outlier)、悪意のあるデータ(Adversarial Data)等をブロックしたりタグ付けする。
  • 可視化機能(Explainability)…… 各特徴量の影響度評価(Feature Importance)や反実仮想分析(Counterfactual)等を通じて、お客様のAIの思考過程を可視化し、説明根拠を提示する。さまざまなAIのモデルに適用可能だ。

先月末発表された EU の AI 規制案は、AI によるほとんどの監視活動を禁止する内容が含まれている。世界的に見て AI は中国とアメリカがほぼ独占する市場だが、EU の規制案では、スクの高いアプリに AI を使用する企業は、その安全性を示すリスク評価を当局に提出する必要があり、それに従わない企業には、世界売上高の最大6%の罰金が科せられる可能性がある。

AI システムは判断過程がブラックボックス化しやすく、その透明性を維持することが困難になる場合がある。Citadel AI では、いかにして AI の品質を担保し、信用を維持し続けることができるかが、これからの事業経営にとって重要な鍵となると説明。コストやリソースといった課題を乗り越えつつ、AI の品質保守を実現するツールとして Citadel Rader を開発したという。

via PR TIMES

BRIDGE Members

BRIDGEが運営するメンバー向けイベント「Tokyo Meetup」では新サービスの紹介やノウハウ共有などを通じて、スタートアップと読者のみなさんが繋がる場所を提供いたします。メンバー登録は無料です。
  • BRIDGE Canvasの購読
  • メンバー向けDiscordご招待
  • BRIDGE Tokyoなどイベントご招待
無料メンバー登録