Google Brainの元AI責任者がリードするCitadel AI、AI品質保守を効率的に実現する「Citadel Radar」をβローンチ

SHARE:
Image credit: Citadel AI

AI の品質保守を効率的に実現するツール「Citadel Radar」を開発する Citadel AI は10日、同サービスをβローンチした。企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI 固有のリスクから企業を守ることができる。同社では、AI を改修することなく、さまざまな AI のモデルやアプリケーションに適用可能としている。

Citadel AI は2020年12月、三菱商事傘下のロイヤリティマーケティング(Ponta 運営)社長、北米三菱商事会社 SVP、米食肉加工大手 Indiana Packers Corporation CEO などを務めた小林裕宜氏(現 CEO)と、Google の AI 中枢研究開発機関 Google Brain のプロダクトマネージャーとして TensorFlow や AutoML などの開発をリードしてきた Kenny Song 氏(現 CTO)により共同創業。

同社が、東大 IPC の起業支援プログラム「1stRound」第4期に採択されたのは記憶に新しい。

Citadel Rader が提供するのは、主に以下の3つの機能。

  • モニタリング機能(Monitoring)…… お客様の AI を自動モニタリングし、学習データと運用データの頻度変化(Data Gap)や分布の歪み(Data Drift)、予測値の経年変化(Prediction Drift)等の不具合をリアルタイムで検知する。
  • ファイアウォール機能(Firewall)…… 運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ(Invalid Data)、異常値(Outlier)、悪意のあるデータ(Adversarial Data)等をブロックしたりタグ付けする。
  • 可視化機能(Explainability)…… 各特徴量の影響度評価(Feature Importance)や反実仮想分析(Counterfactual)等を通じて、お客様のAIの思考過程を可視化し、説明根拠を提示する。さまざまなAIのモデルに適用可能だ。

先月末発表された EU の AI 規制案は、AI によるほとんどの監視活動を禁止する内容が含まれている。世界的に見て AI は中国とアメリカがほぼ独占する市場だが、EU の規制案では、スクの高いアプリに AI を使用する企業は、その安全性を示すリスク評価を当局に提出する必要があり、それに従わない企業には、世界売上高の最大6%の罰金が科せられる可能性がある。

AI システムは判断過程がブラックボックス化しやすく、その透明性を維持することが困難になる場合がある。Citadel AI では、いかにして AI の品質を担保し、信用を維持し続けることができるかが、これからの事業経営にとって重要な鍵となると説明。コストやリソースといった課題を乗り越えつつ、AI の品質保守を実現するツールとして Citadel Rader を開発したという。

via PR TIMES

BRIDGE Members

BRIDGEが運営するメンバー向けイベント「Tokyo Meetup」では新サービスの紹介やノウハウ共有などを通じて、スタートアップと読者のみなさんが繋がる場所を提供いたします。メンバー登録は無料です。
  • BRIDGE Canvasの購読
  • メンバー向けDiscordご招待
  • BRIDGE Tokyoなどイベントご招待
無料メンバー登録