企業向けのデータプライバシー・ガバナンスプラットフォームである MineOS は先週、AI 資産の探索とリスク評価の新モジュールを発表した。これは人工知能の「ブラックボックス」の中を覗き、企業がこれらの強力だが不透明なテクノロジーを管理するのに必要な可視性を提供するよう設計されている。

Mine の共同創業者兼 CEO である Gal Ringel (ガル・リンゲル) 氏によると、この発表は監視への需要の高まりを引き起こしている ChatGPT や Gemini のような主要な AI の進歩に対応したものとなる。「 ChatGPT がリリースされて以来、AI ガバナンスはテック業界の最大の関心事だ。生成 AI 技術への主要なプライバシー調査や、EU が AI 法案を可決したことで、社会全体でその連鎖反応が起きていると思う」と Ringel 氏は VentureBeat とのインタビューで語った。

大規模言語モデル (LLM) のような AI システムは大きな利点を提供できるが、その内部動作はユーザーにとってしばしば不可視だ。これにより、セキュリティ、倫理、プライバシーなどに関する潜在的な危害についての懸念が高まっている。

AIガバナンスのギャップ

広い意味で、企業が AI の開発と使用を効果的に管理するためのフレームワークとソリューションの登場は遅れている。

「多くの場合、AI の不透明性の問題は、組織がそもそも AI が使われていることを知らないことだ。これにより、許容できないレベルの不確実性とリスクが加わる。我々はそれを解決することを目指している」と Ringel 氏は VentureBeat に語った。

このガバナンスのギャップは、EU の AI 法のような規制により新たな評価要件が課されることで、立法者の注目を集めている。しかし、管理体制の構築と実施は多くの企業にとって依然として課題だ。

「ブラックボックス」を照らす

MineOS は、システムスキャンとEメールのメタデータ分析を組み合わせて、組織内で使用されているほぼすべてのデータシステムとAIツールを検出する。これには、サードパーティのものと内部で開発されたものの両方が含まれる。これにより、企業はAIの状況を把握し、新しい法律に準拠することができる。

「我々のEメール探索は、請求書やサインアップ通知などを探してEメールのメタデータを調査し、追加のデータシステムを検出する」と Ringel 氏は説明した。

「従業員が ChatGPT や Grammarly、その他の AI を使ったシステムを使っていれば、その E メールの痕跡があるはずだ。そして我々は、E メール自体の内容を見ることなくそれを確認できる」。

一度 AI システムが発見されると、MineOS の顧客はリスクを分析し、新しい法律に合わせたガバナンスルールを作成し、コンプライアンスを実証する監査を実行できる。このエンドツーエンドのアプローチは、AI ガバナンスをシームレスにすることを目指している。

競争の状況

MineOS は、IBM、Microsoft、Google などのテック大手が AI ガバナンス機能を急速に構築している中、ますます混雑する領域に参入している。

しかし、同社はプライバシー重視の DNA が優位性をもたらすと考えている。「データプライバシーは、AIガバナンスの中核的な原則であり、今後もそうあり続ける」と Ringel 氏は言う。

「データプライバシーに革新的なアプローチをとっている製品と企業として、マッピングのような重要なデータガバナンス演習の自動化において我々が持つ経験は、AI ガバナンスを管理するための非常に強力な基盤を与えてくれた」

Google の AI ファンドである Gradient Ventures などの一流投資家から 4250 万ドルの資金を得ている MineOS は、そのプライバシー第一のアプローチが、世界中の企業のAI「ブラックボックス」を照らすリーダーになることを期待している。しかし、AIガバナンスの未来を定義する高いステークスのレースでは、何も保証されていない。

【via VentureBeat】 @VentureBeat

【原文】