AI の品質保守を効率的に実現するツール「Citadel Radar」を開発する Citadel AI は10日、同サービスをβローンチした。企業が持つ AI システムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI 固有のリスクから企業を守ることができる。同社では、AI を改修することなく、さまざまな AI のモデルやアプリケーションに適用可能としている。

Citadel AI は2020年12月、三菱商事傘下のロイヤリティマーケティング（Ponta 運営）社長、北米三菱商事会社 SVP、米食肉加工大手 Indiana Packers Corporation CEO などを務めた小林裕宜氏（現 CEO）と、Google の AI 中枢研究開発機関 Google Brain のプロダクトマネージャーとして TensorFlow や AutoML などの開発をリードしてきた Kenny Song 氏（現 CTO）により共同創業。

同社が、東大 IPC の起業支援プログラム「1stRound」第4期に採択されたのは記憶に新しい。

Citadel Rader が提供するのは、主に以下の3つの機能。

• モニタリング機能（Monitoring）…… お客様の AI を自動モニタリングし、学習データと運用データの頻度変化（Data Gap）や分布の歪み（Data Drift）、予測値の経年変化（Prediction Drift）等の不具合をリアルタイムで検知する。
• ファイアウォール機能（Firewall）…… 運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ（Invalid Data）、異常値（Outlier）、悪意のあるデータ（Adversarial Data）等をブロックしたりタグ付けする。
• 可視化機能（Explainability）…… 各特徴量の影響度評価（Feature Importance）や反実仮想分析（Counterfactual）等を通じて、お客様のAIの思考過程を可視化し、説明根拠を提示する。さまざまなAIのモデルに適用可能だ。

先月末発表された EU の AI 規制案は、AI によるほとんどの監視活動を禁止する内容が含まれている。世界的に見て AI は中国とアメリカがほぼ独占する市場だが、EU の規制案では、スクの高いアプリに AI を使用する企業は、その安全性を示すリスク評価を当局に提出する必要があり、それに従わない企業には、世界売上高の最大6％の罰金が科せられる可能性がある。

AI システムは判断過程がブラックボックス化しやすく、その透明性を維持することが困難になる場合がある。Citadel AI では、いかにして AI の品質を担保し、信用を維持し続けることができるかが、これからの事業経営にとって重要な鍵となると説明。コストやリソースといった課題を乗り越えつつ、AI の品質保守を実現するツールとして Citadel Rader を開発したという。

via PR TIMES