アーサー・C・クラークがかつて言ったように、十分に進歩した技術は 「魔法と区別がつかない」ものだ。これはChatGPTにも言えることで、言わば「黒魔術」も含まれているのかもしれない。

11月にリリースされたAIチャットボットのChatGPTはセキュリティチーム、ペンテスター、開発者によって悪用のケースが発見され、今月初めにリリースされたGPT-4でも進化し続けていると、BlueWillow社のマーケティング担当副社長であるHector Ferran氏は語る。

「GPT-4自体が新たなサイバー脅威を生み出すことはないでしょうが、すでに数百万人が日常業務を増強・簡略化するために使用しており、悪質な行為者が犯罪行為を増強するために使用することも可能であることは認識しておく必要があります」。

進化する技術、脅威

ChatGPTは、サービス開始からわずか2ヶ月後の1月に1億ユーザーを達成し、アプリの最速ユーザー増加記録を樹立した。また、知名度が上がったことで、サイバー犯罪者にとってはピカイチのツールとなり、ツールの作成や攻撃の展開が迅速に行えるようになった。最も注目すべきは、このツールが、マルウェア、ランサムウェア、フィッシング攻撃に使用できるプログラムの生成に使用されていることである。

例えばBlackFogは最近、「悪意のない」方法でPowerShell攻撃を作成するよう同ツールに依頼した。研究者によると、このスクリプトはすぐに生成され、すぐに使える状態であったという。

一方、CyberArkは、フィルタを回避して、変異を繰り返すポリモーフィックマルウェアを作成することができた。また、CyberArkはChatGPTを使用して、高度に回避的で検出が困難となるコードを変異させることも確認している。

そして、チェック・ポイント・リサーチは、ChatGPTを使用して説得力のあるスピアフィッシング攻撃を作成することができた。同社の研究者は、ChatGPTがハッカーによって使用されている次の5つの分野を特定した

• PDFファイルを収集してFTPに送信するC++マルウェア
• 銀行を装ったフィッシング
• 従業員を装ったフィッシング
• PHPリバースシェル（シェルセッションを開始し、脆弱性を悪用して被害者のデバイスにアクセスする）
• 隠れたPowerShellとして起動できるputtyをダウンロードし実行するJavaプログラム

GPT-4：エキサイティングな新機能とリスク

上記はほんの一例であり、まだまだ多くの発見や実践があることは間違いないだろう。

BlackFogの創設者兼CEOであるDarren Williams氏は「要求するクエリの種類を非常に特定すれば、基本的な制御の一部をバイパスして、実際に非常に有効な悪意のあるコードを生成することは非常に簡単だ。これは、クリエイティブ・ライティングからエンジニアリング、コンピュータ・サイエンスに至るまで、事実上あらゆる分野に応用することが可能だ」と語る。

さらにWilliams氏は「GPT-4は新たなパワーと可能な脅威を解き放つ、多くのエキサイティングな新機能を備えている」と述べる。

一例として挙げたのが、画像を入力として受け付け、それを適応させることができるようになったことだという。しかしこれは 「ステガノグラフィー攻撃 」と呼ばれる、悪意のあるコードを埋め込んだ画像の使用につながる可能性がある。基本的に、最新バージョンは「すでに強力なシステムを進化させたもので、まだ我々のチームでは調査中だ」と彼は言う。

「これらのツールは、AIが本当にできることに大きな進歩をもたらし業界全体を前進させるが、他のテクノロジーと同様、私たちはまだその周りにどのようなコントロールを置く必要があるかに取り組んでいる。これらのツールはまだ進化しており、同時にいくつかのセキュリティとしての意味合いも持っているんだ」（Williams氏）。

ツールではなく、ユーザー

より一般的に言えば、既存の偽情報の拡散を補強・強化するためにChatGPTを使用することこそが懸念材料だーーそう語るのが前出のFerran氏だ。一方で悪意はAIツールに限ったことではないとも強調する。

ChatGPTはそれ自体でセキュリティ上の脅威をもたらすものではないとしつつFerran氏は次のように指摘した。

「すべてのテクノロジーは、善にも悪にも使われる可能性を持っています。セキュリティの脅威は、新しい技術を悪意のある目的に利用する悪質な行為者からもたらされるのです」。

さらに脅威は、人々がどのように使うかを選ぶことから生まれると彼は続けた。これに対し、個人や組織はより警戒心を強め、コミュニケーションをより綿密に精査して、AIによる攻撃を発見しようとする必要があると同氏は述べる。また、適切なセーフガード、検出方法、倫理的ガイドラインを導入することで、悪用を防ぐための積極的な対策を講じる必要がある。

Ferran氏は「潜在的なリスクを軽減しながら、AIのメリットを最大化することができる」と語る。脅威への対処には、複数のステークホルダーの総力を結集することが必要だ。彼はさらに「協力することで、ChatGPTや類似のツールがポジティブな成長と変化のために使われるようにすることが可能になる」とも指摘した。

また、このツールには悪用を防ぐためのコンテンツフィルターが設置されているが、明らかにこれらはかなり簡単に回避できるため「これらの保護措置を強化するよう、その所有者に圧力をかける必要があるかもしれません」とも語っていた。

サイバーセキュリティの能力

裏を返せば、ChatGPTをはじめとする高度なAIツールは、組織にとって攻めと守りの両面で活用できるものになる。Ferran氏は「幸いなことに、AIは悪質業者に対して振るうべき強力なツールでもある」と語る。また、サイバーセキュリティ企業は、悪意のある脅威を発見し、カタログ化する取り組みにAIを活用している。

「本質的にモグラ叩きの軍拡競争になりかねない状況で勝利するため、サイバー脅威管理はあらゆる機会を利用して、予防策の開発にAIを活用すべきです」（Ferran氏）。

強化されたセーフガードと悪意のある行動を検出する能力を備えれば、最終的には組織にとって「強力な資産」となり得るのだ。

Ferran氏はあらゆる言語でコードを書くことができる拡張機能を指摘しつつ「GPT-4は、自然言語ベースのモデルにおいて目覚ましい飛躍を遂げ、その潜在的なユースケースを大幅に拡大し、これまでの反復の成果を積み重ねていくだろう」とした。また、Williams氏は、AIは他の強力なツールと同様であるとし組織は自分自身でデューデリジェンスを行う必要があると語り、悪用されるリスクをはるかに上回るメリットがあると語っていた。

【via VentureBeat】 @VentureBeat

【原文】