大規模言語モデル（LLM）に機密データが流出するというセキュリティ上の脅威があるにもかかわらず、どの組織も ChatGPT を始めとするジェネレーティブ AI の生産性向上を活用したいと考えている。CISO らは VentureBeat に、この問題については意見が分かれており、AI ガバナンスは取締役会とのリスク管理の議論においてホットな話題になっていると語っている。

National Oilwell Varco（NOV）の CIO Alex Philips 氏は、今年初め、VentureBeat のインタビューに答え、取締役会が最新のメリット、リスク、AI 技術の現状を把握できるよう、教育中心のアプローチをとっていると語った。Philips 氏は継続的な教育プロセスを持つことで、AI に何ができ、何ができないかについての期待値を設定し、NOV が機密データ漏えいを回避するためのガードレールを設置するのに役立つと述べている。

ヘルスケアの CISO や CIO の何人かは、研究開発、価格設定、ライセンシングの全事業部門にわたって ChatGPT へのアクセスを制限している。CISO は機密データが LLM に混入するセキュリティ上の脅威をどのように管理するかについて意見が分かれている。研究ツールとしてジェネレーティブ AI を持たないことは、医療提供者にとって、知的財産、価格設定、ライセンス供与に対するリスクが大きすぎるため、競争上不利になる。

リスクを低減しながら生産性を高める

課題は従業員がブラウザ、アプリ、API レベルでジェネレーティブ AI と ChatGPT を使用して生産性を向上させながら、機密データを安全に保護することだ。クラウドデータ損失防止（DLP）プラットフォームの Nightfall AI は4日、API ブラウザとSaaS（Software-as-a-Service）アプリケーションのジェネレーティブ AI 保護にまたがる、ジェネレーティブ AI 向けの初のデータセキュリティプラットフォームを発表した。

Nightfall AI のプラットフォームは、CISO や CIO が直面している生産性のパラドックスに対処するために設計されており、AI や ChatGPT が組織全体で使用される際に CISO が最も必要とする3つの脅威ベクトルに対して拡張可能な初の DLP プラットフォームだ。その目標は、組織が機密データを保護しリスクを低減しながら、AI の利点を安全に利用できるようにすることだ。

データセキュリティプラットフォーム「Nightfall for GenAI」は、以下の3つの製品で構成されている。

Nightfall for ChatGPT

Nightfall AI のブラウザベースのソリューションは、従業員がチャットボットに入力した機密データを、公開前にリアルタイムでスキャンし、再編集する。ブラウザベースの拡張機能の提供は、ユーザ体験への影響を最小限に抑えるのに適した手法であるため、データを保護するためのあまり邪魔にならない方法の1つだ。Nightfall AI の CEO Isaac Madan 氏 はVentureBeat の取材に対し、ユーザが Nightfall for ChatGPT で体験したことが、製品の設計目標の基礎になったと語った。

Madan 氏によれば、当初サポートされるブラウザは Apple Safari、Google Chrome、Microsoft Edge だという。

Genesys のセキュリティ担当バイスプレジデント Eric Cohen 氏は次のように語った。

Nightfall for ChatGPT は、ジェネシスの同僚にリスクを軽減しながらジェネレーティブ AI 製品へのアクセスを提供する画期的なものだと考えている。Nightfall AI が協調的なアプローチを取り、ユーザがジェネレーティブ AI の専門家でなくても、データリスクを自己修復できるようにすることが理想だと語った。

Nightfall API for LLMs

Nightfall AIの中核的な強みの一つであり、企業が大規模に AI から生産性向上を達成できるようにするための挑戦にも反映されている。Nightfall for LLMs は、ソフトウェア開発キット（SDK）に連携された LLM を訓練するために開発者が入力したデータを検出し、再編集する開発者 API だ。多くの業界リーダーがすでにこれらの API をワークフローに組み込んでいる。

Nightfall AI の API 戦略は、Genesys が組織や技術スタック全体でジェネレーティブ AI 保護を拡張するために必要なカスタマイズ性と柔軟性を提供します。また、Nightfall AI は再編集率に関する洞察も提供し、ジェネレーティブ AI をより生産性を高めるためにどのように安全に利用できるかについて、より大きな洞察と学習を加えることができます。（Cohen 氏）

Nightfall for SaaS

一般的な SaaS アプリケーションのワークフロー内で直接データ漏えい防止機能を提供し、サードパーティの AI システムがデータを処理する際に、企業が機密データを検出して再編集できるようにします。これにより、チャットボットの会話、ドキュメント、クラウドストレージ、その他のSaaSアプリケーションで機密情報が漏洩するのを防ぐことができる。Nightfall for SaaS は、SaaS エコシステム内で顧客データを保護する必要がある MovableInk、Aaron’s、Klaviyo に導入されている。これらのアプリで Nightfall の DLP 機能をネイティブに活用することで、これらの企業は機密データの制御と可視性を維持しながら、サードパーティの AI を活用することができる。

これらの製品はすべて、試すことができる。Nightfall for ChatGPT は Google Chrome ストアで14日間の無料トライアルで利用できる。

ジェネレーティブ AI が実現する生産性向上の未来を担保

Cohen 氏は VentureBeat に対し、Genesys が顧客のために優れたサービスを提供し続けるためには、ジェネレーティブ AI の生産性が不可欠だと語った。

ジェネレーティブ AI は、チームの垣根を越えて組織の生産性を大幅に向上させますが、Nightfall AI が登場するまでは、これらのツールを安全に使用できるセキュリティ製品が不足していました。

Cohen 氏は、Genesys が直面していたデータプライバシーの問題を解決するため、DLP ソリューションを積極的に調査していたときに Nightfall AI を見つけた。Nightfall のデータルールのカスタマイズ性は、彼が調べた他の選択肢よりも優れていました。

CISO らは VentureBeat に、リサーチや生産性向上のプラットフォームとしてジェネレーティブ AI を採用することについて、主に3つの懸念があると語っている。

1. 従業員がチャットボットのプロンプトに機密データ（ソフトウェアの認証情報や顧客の個人情報など）を含めることを懸念している。
2. Anthropic のようなサードパーティ の AI サブプロセッサーを使用する Notion のような SaaS アプリを使用することで、従業員が不注意に会社の機密データを暴露することを懸念している。
3. エンジニアやデータサイエンティストが LLM を構築・訓練するために機密データを使用すること。この最後の懸念は、ユーザが ChatGPT を騙して Windows 用のアクティブ API キーを生成させた最近の事件によって強調されている。

ジェネレーティブ AI は、雇用者と従業員に大きな生産性向上のメリットをもたらす可能性を秘めていますが、完全な DLP ソリューションがないことが、AI の安全な導入を妨げています。

その結果、多くの組織がこれらのツールを完全にブロックするか、リスクを軽減するためのパッチワークソリューションとして複数のセキュリティ製品を使用することに頼っています。（Cohen 氏）

この苦闘が、最終的に Nightfall の最新イノベーション「Nightfall for GenAI」を生み出す原動力となった。

Okta の共同設立者兼エグゼクティブ・バイスチェアマン Frederic Kerrest は Nightfall を称賛し、その最新の取り組みを Okta の初期と比較した。

Nightfall を使用していると、Okta の初期のビジョンと多くの共通点があることがわかります。Nightfall は現在、ジェネレーティブ AI とクラウド全体のデータセキュリティのために同じことを行っています。

Genesys のような早期導入企業は、Nightfall のカスタマイズ可能なデータルールと、ユーザの自己修正を支援する改善インサイトの利点を強調している。CISOらにとって、このプラットフォームはデータセキュリティを確実に維持しながら AI を活用するために必要な可視性と制御を提供する。AI に特化した Nightfall のプラットフォームは、AI の可能性を実現する上で重要なマイルストーンとなる。

【via VentureBeat】 @VentureBeat

【原文】