この24〜48時間のうちに、かつて Twitter として知られていたソーシャルネットワーク「X」をチェックしたなら、AI が生成した Taylor Swift（テイラー・スイフト）氏の肖像を使ったディープフェイクの静止画や動画に出くわした可能性が高い。その画像は、彼女が米プロフットボール選手のボーイフレンド Travis Kelce 氏の所属する NFL チーム「Kansas City Chiefs」のファンたちと露骨な性行為に及んでいる様子を描いたものだった。

この Swift 氏の露骨な非合法画像は、彼女のファンたちから大反響を呼び、非難された。5日未明、X 上では「Taylor Swift AI」と並んで「#ProtectTaylorSwift」というハッシュタグがトレンド入りし、世界中のニュースメディアの見出しを飾った。

また、アメリカの議員たちが、急速に発展しているジェネレーティブ AI 市場を取り締まるよう、改めて呼びかけるきっかけにもなった。

しかし、イノベーションを阻害したり、パロディやファンアート、その他公人の無許可の描写を非合法化したりすることなくそれを実現するにはどうすればいいのか、表現と言論の自由を市民に保障する合衆国憲法修正第1条の下で伝統的に保護されてきたことについては、大きな疑問が残る。

AI ディープフェイクを作るためにどのようなツールが使われたのか？

例えば、大手サービスの Midjourney や OpenAI の DALL-E 3は、ポリシーや技術的なレベルで、性的に露骨な、あるいは性的に示唆的なコンテンツの作成を禁止している。

Newsweek によると、X のアカウント @Zvbear は画像の一部を投稿したことを認め、その後アカウントを非公開にした。

独立系テック系ニュースのアウトレット「404 Media」は、画像をメッセージングアプリ「Telegram」のあるグループによるものと突き止め、彼らが「Microsoftの AI ツール」、より具体的には Microsoftの Designer を使用したと述べた。Designer は OpenAI の DALL-E 3画像モデルを搭載しており、Swift 氏や他の有名人の顔を使った無害な作品でさえも禁止している。

これらの AI 画像生成ツール（VentureBeat は、記事のヘッダー画像やテキストコンテンツを生成するために、これらや他の AI ツールを使用している）は、ユーザからのこのような指示（「プロンプト」と呼ばれる）に積極的にフラグを立て、このようなコンテンツを含む画像の作成をブロックし、利用規約に違反することでアカウントを失うリスクがあることをユーザに警告する。

それでも、スタートアップの Stability AI が作成した人気の画像生成 AI モデル「Stable Diffusion」はオープンソースであり、個人、グループ、企業は性的に露骨な画像を含むさまざまな画像を作成するために使用することができる。

実際、これこそが画像生成およびコミュニティサービスを提供する Civitai が404 Media のジャーナリストとトラブルになった原因であり、ユーザは実在の人物や有名人、人気のある架空の人物の非合意のポルノ画像やディープフェイク AI 画像を次々と作成しているのを目撃している。

Civitai はそれ以来、この種の画像の作成を根絶するために取り組んでいると述べており、今週問題となっている Swift 氏のディープフェイクを可能にする責任があるという兆候はまだない。

さらに、モデル作成者の Stability AI が web サイト「Clipdrop」に実装している Stable Diffusion AI 生成モデルも、露骨な「ポルノ」や暴力的なイメージを禁止している。

AI のディープフェイクポルノや露骨な画像の作成を防止するために設計されたこれらのポリシーや技術的対策にかかわらず、明らかに、ユーザはそれらを回避する方法や、そのような画像を提供する他のサービスを見つけており、ここ数日間の Swift 画像の洪水につながった。

私の見解では、例えば、HBO の新シリーズ「True Detective: Night Country」や、かつて Kanye West（カニエ・ウェスト）氏として知られたラッパー兼プロデューサー、そしてそれ以前には Marvel など、ポップカルチャーの世界ではますます有名になりつつある人物たちによって、AI が同意に基づく創作に容易に受け入れられているにもかかわらず、このテクノロジーは明らかに悪意のある目的にも使用されつつあり、世間や法律家の間でその評判を落としかねない。

AI ベンダーや AI ベンダーに依存する企業は、たとえそれが無害なものであっても、あるいは攻撃的でないものであったとしても、その技術をまったく使用していないことで、突然非難を浴びることになるかもしれない。新たな規制が施行された場合、AI 世代モデルの能力は著しく制限される可能性があり、その結果、攻撃的でない用途で AI 世代モデルに依存している人々の仕事も制限されることになる。

訴訟か？

イギリスのタブロイド紙「The Daily Mail 」の報道によると、Swift 氏の許可なく露骨な画像がアップロードされたのは web サイト「Celeb Jihad」であり、Swift 氏はその拡散に「激怒」し、法的措置を検討していると報じられている。それが Celeb Jihad に対してなのか、Microsoft や OpenAI のような AI 画像生成ツール会社に対してなのかはまだわからない。

このような AI が生成した画像が広まったことで、AI 生成ツールの使用や、有名人であろうとなかろうと、実在の人物を危うく、恥ずかしく、露骨な状況で描写する画像を作成する能力に対する新たな懸念が高まっている。

Swift 氏の母国であるアメリカの議員たちが、この技術をさらに規制するよう求めているのは、おそらく驚くべきことではないだろう。

ニュージャージー州選出の共和党下院議員 Tom Kean, Jr. 氏は、AI を規制するための2つの法案（AI ラベリング法と親密画像のディープフェイク防止法）を最近提出したが、25日、報道陣と VentureBeat に声明を発表し、議会がこの法案を取り上げ、可決するよう促した。

我々は日々変化する高度に発達した技術世界に生きており、適切な監視が必要である。

AI 規制の重要性に気づくために、次の犠牲者を待つのはやめよう。

We are living in a highly advanced technological world that is ever-changing, and proper oversight is necessary.

Let’s not wait for the next victim to realize the importance of AI regulations. https://t.co/Aw5bP1StNB

— Congressman Tom Kean (@CongressmanKean) January 25, 2024

Kean 氏が提案する法案は、最初の法案の場合、AI マルチメディア生成企業に、生成された作品に「AI が生成したコンテンツ」であることを「明確かつ目立つように表示」することを義務付けるものだ。しかし、この告知によって、露骨な AI ディープフェイクポルノや画像の作成や拡散がどのように阻止されるのかは明らかではない。

すでに Meta は、先月から提供を開始した、ユーザが作成した Facebook や Instagram の画像に学習させた画像生成AI ツール「Imagine」を使って生成された画像のロゴとして、このようなラベルやシールを使用している。OpenAI は最近、DALL-E 3世代に Coalition for Content Provenance and Authenticity（C2PA）の AI 画像認証情報を実装し始めることを約束した。

C2PA は、ハイテク企業や AI 企業、業界団体による非営利の取り組みで、AI が生成した画像やコンテンツに暗号化された電子透かしを入れることで、今後 AI が生成したものであることを確実に検出できるようにする。

2つ目の法案は、Kean 氏と、彼の政治的な同僚であるニューヨーク州の民主党下院議員、Joe Morelle 氏が共同提出したもので、2022年の女性に対する暴力防止法（Violence Against Women Act Reauthorization Act）を改正し、非合意的なディープフェイクの被害者が、クリエイターや、場合によってはその背後にいるソフトウェア会社を、15万米ドルの損害賠償と、訴訟費用、あるいは追加の損害賠償で訴えることができるようにするものである。

両法案とも、有名人の顔を AI で作成することを全面的に禁止するには至っていないが、そのような禁止は最終的に下級審や連邦最高裁判所によって覆される可能性が高いことを考えれば、これはおそらく賢明な行動だろう。公人の無許可の芸術作品は、伝統的に合衆国憲法修正第1条の下で、裁判所によって許された言論とみなされてきた。AI 以前にも、社説漫画、風刺画、社説イラスト、ファンアート（露骨なファンアートでさえも）、その他、描かれた対象が署名していないメディアの形で広く見られることがあった。

というのも、裁判所は公人や有名人がそのイメージを利用することで「プライバシー権」を放棄したと判断してきたからだ。しかし、1953年に連邦控訴裁判所判事 Jerome N. Frank 氏の造語である「パブリシティ権」に基づき、営利目的で自分の肖像を悪用した人々を訴えたセレブリティは勝訴している。Swift 氏が訴えるとすれば、おそらくこの後者の権利に基づくものだろう。新法案は、彼女の特定のケースを助ける可能性は低いが、おそらく将来の被害者がディープフェイクを行った者に勝訴しやすくするだろう。

実際に法制化されるためには、新法案はいずれも関連委員会で審議され、下院本会議で採決される必要がある。そして最後に、米大統領が両議会を統合した法案に署名する必要がある。今のところ、両法案について行われているのは、法案の提出と委員会への付託だけである。

Swift 氏のディープフェイク問題に関する Kean 氏の声明全文は以下の通りだ。

Taylor Swift 氏の露骨なディープフェイク事件に関する Kean 氏の声明

連絡先 Dan Scharfenberger

(2024年1月25日）ニュージャージー州バーナーズビル – Tom Kean Jr.下院議員は25日、AI を使って生成された Taylor Swift 氏の偽のポルノ画像がソーシャルメディア上で出回り、流行したとの報道を受けて声明を発表しました。

「AI 技術が必要なガードレールよりも早く進歩していることは明らかです。被害者が Taylor Swift 氏であろうと、わが国の若者であろうと、この憂慮すべき傾向に対抗するための安全策を確立する必要があります。私の法案である AI ラベリング法は、非常に重要な前進となるでしょう。」

2023年11月、ウェストフィールド高校の生徒が同様の AI を使い、同校の他の生徒の偽のポルノ画像を作成しました。生徒の写真が加工され、校内で共有されていたことが報道され、AI が作成したポルノに法的手段がないことについて、学校や地域社会の間で懸念が広がりました。この種の加工された写真は、ネット上では「ディープフェイク」として知られています。

Kean 下院議員は最近、ワシントン DC で被害者の Francesca Mani さんと母親の Dorota Mani さんと共同で記者会見を開きました。Mani 夫妻は AI 規制の主要な提唱者となっています。

HR.6466「AI ラベリング法」の提出に加え、Kean 氏は H.R.3106「親密画像のディープフェイク防止法」の共同提案者でもあります。

Kean 氏の AI ラベリング法は次のようなものだ。

• アメリカ国立標準技術研究所（NIST）所長に対し、他の連邦政府機関と協力して、AI が生成したコンテンツの特定を支援するワーキンググループを結成し、AI のラベリングに関する枠組みを確立するよう指示する。
• ジェネレーティブ AI システムの開発者に対し、AI によって生成されたコンテンツを明確に識別するために、目立つように表示する開示を組み込むことを義務付ける。
• 開発者や第三者ライセンシーが、開示のないコンテンツの体系的な公表を防ぐための責任ある措置をとることを確保する。
• 政府、AI 開発者、学界、ソーシャルメディアプラットフォームからなる作業部会を設置し、AI が生成したコンテンツを特定し、消費者に透明性をもって開示するための最も効果的な手段を決定するためのベストプラクティスを特定する。

法案についての詳細はこちらをご覧ください。

【via VentureBeat】 @VentureBeat

【原文】