AIにはAIで対抗ーーSlashNextが爆増する「ChatGPTフィッシング攻撃」シャットダウンに挑む

SHARE:
Image credit:SlashNext

ChatGPTとジェネレーティブAIは、セキュリティチームを苦しめている。ハッカー志願者は、簡単なプロンプトを書くだけで、数秒でフィッシングメールのテンプレートを生成し、悪意のあるリンクや添付ファイルをクリックミスを犯すまで、無数の無防備なユーザーに送りつけることができるのだ。

メールセキュリティのプロバイダーであるSlashNextは、AIにはAIで対抗しようと考えている。同社の新しい特許出願中のソリューションであるBEC Generative AIは、ChatGPTやその他のAIモデルによって生成された詐欺メールを識別し、ブロックするために設計されている。

BEC Generative AIは、AIデータの増強とクローニング技術を使用して、潜在的なビジネスメール侵害(BEC)の脅威を数千件レベルで自動生成する。SlashNextの既存のHuman AIソリューションは、これらを自然言語処理で分析し、悪意のあるメールをよりよく検知する方法を学習する。

SlashNextはこのソリューションが業界で初めてジェネレーティブAIを使用してBEC攻撃を阻止するものであると主張している。より広い意味で、このリリースはジェネレーティブAIがデータセキュリティ環境においていかに積極的な役割を果たすことができるかを、多くのデータ侵害を引き起こすフィッシングメールやソーシャルエンジニアリング詐欺の検出を強化することによって実証している。

ジェネレーティブAIはどのようにフィッシングに革命を起こしているのか

11月のChatGPTのリリース後、フィッシング詐欺が増加傾向にある。Vadeによれば、2022年第3四半期の7440万件に対し、第4四半期には2億7830万件のユニークフィッシングメールを発見している。

これらの攻撃は、低労力かつ高リターンであるため非常に人気があるのだ。例えば、偽のOffice 365ログインフォームを作成し、フィッシングメールのテンプレートを無防備なユーザーに送信し、ログインしようとしたユーザーのアカウント情報を取得することができる。

エンドユーザーとセキュリティチームの両方にとって、各メールを確認し、コンテンツが正当なものかどうかを判断するのは非常に時間のかかる作業だ。実際、70%の組織が1通のフィッシングメールの対応に16~60分の時間を費やしているという調査結果がある。

ユーザーが疲労に負けて、たった一度でも詐欺メールを額面通りに受け取ってしまうと、何百万ドルもかかるデータ漏洩を引き起こしてしまう可能性がある。ジェネレーティブAIの利用は増加傾向にあり、従業員がさらされる脅威の量は増える一方だ。

「ジェネレーティブAI はすでに脅威の担い手によって、独自に調整された何千ものフィッシングメッセージを自動生成するために使用されています。さらに、それらのメッセージは何千ものバリエーションを作成し、成功率をさらに高めることができるのです」(SlashNextのCEO、Patrick Harr氏)

またHarr氏は「GPT-3のような大規模な言語モデルは自由に利用可能であり、悪質な攻撃者は時間、労力、およびコストを削減しながら攻撃の量を増やすことができる新しいツールを非常に迅速に利用するでしょう。脅威を与える側にとってはWin-Winの関係であり、セキュリティコミュニティはAIにはAIで対抗する準備をしなければなりません」と語る。

ジェネレーティブAIによって作成された詐欺の増加は新たな課題をもたらすが、組織はAIを自ら利用してセキュリティ運用の自動化と規模拡大を図り、AIが生成した悪意のあるコンテンツを迅速に検出する準備を整えておくことが必要となる。

メールセキュリティの市場

SlashNextのソリューションはクラウドベースのメールセキュリティ市場に分類される。Mordor Intelligenceによれば、2020年の市場規模は7億6,282万ドル、2026年には12億4699万ドルに達すると予測している。

SlashNextの主な競合の1つは、AIを使用して受信した問題を評価し、ユーザーのベースラインアクティビティと比較するプラットフォームを提供するAI駆動型メールセキュリティのプロバイダーであるAbnormal Securityだ。BECの試みとフィッシング詐欺を示す異常な通信を識別し、悪意のあるメールを自動的に修正することができるので、人間のユーザーはその必要がなくなるというものだ。

昨年、Abnormal Securityは40億ドルの評価額を達成した。

もう一つの競合は、クラウドメールセキュリティプロバイダーのAvananで、自然言語処理と画像認識によるAPIベースのソリューションを提供しており、99.2%の削減率でフィッシングメールを識別できると主張している。Check Pointは2021年に約3億ドルでAvananを買収している。Harr氏は、SlashNextと競合他社との重要な差別化要因は、ゼロアワーでの脅威検知の精度にあると主張する。

SlashNextは、自然言語処理、コンピュータビジョン、機械学習、ディープコンテキスト化、関係グラフ、添付ファイル検査、送信者なりすまし分析を一つのソリューションにまとめ、業界最高精度のゼロアワー脅威検知を実現している唯一の企業なんです」(Harr氏)。

【via VentureBeat】 @VentureBeat

【原文】

BRIDGE Members

BRIDGEでは会員制度の「Members」を運営しています。登録いただくと会員限定の記事が毎月3本まで読めるほか、Discordの招待リンクをお送りしています。登録は無料で、有料会員の方は会員限定記事が全て読めるようになります(初回登録時1週間無料)。
  • 会員限定記事・毎月3本
  • コミュニティDiscord招待
無料メンバー登録