Facebook、Instagram、ThreadsのAI生成投稿にラベル表示へ——テイラー・スウィフト氏のフェイク画像拡散受け

SHARE:
Image credit: Meta

今朝の新しい投稿で、Meta は Facebook 、Instagram 、Threads 上の AI が生成したコンテンツを特定し、ラベルを付けると発表した。

この発表は、AI が生成した歌手 Taylor Swift(テイラー・スウィフト)氏のポルノ的なディープフェイクが Twitter で拡散され、ファンや議員からの非難や世界的な見出しにつながった2週間後に行われた。また、2024年のアメリカ選挙を前に、Meta は AI が生成した画像や加工された動画への対処を迫られている

Meta の 国際情勢担当部長 Nick Clegg 氏は次のように述べた。

AI が生成したコンテンツが普及するには、まだ日が浅い。それが一般的になるにつれ、合成コンテンツと非合成コンテンツの両方を識別するために、何をすべきで、何をすべきでないかについて、社会全体で議論が起こるでしょう。見続け、学び続け、その中で我々のアプローチも見直していきます。私たちは業界の同業者と協力し続けます。また、政府や市民社会との対話も続けていきます。

Meta の取り組みは業界のベストプラクティスに沿っている

投稿では、Meta は AI に関するパートナーシップ(PAI)のような業界団体と協力し、AI が生成したコンテンツを識別するための共通基準を開発していることを強調している。Meta AI の画像に使用されている不可視のマーカー(IPTC メタデータと不可視の透かし)は、PAI のベストプラクティスに沿っているという。

Meta は、ユーザが Facebook、Instagram、Threads に投稿する画像について、「AI が生成したものであることを示す業界標準の指標を検出できた場合にラベルを付けます」と述べた。この投稿は、Meta AI を使って作成された写実的な画像は、サービス開始以来、ユーザにわかるように「Imagined with AI」というラベルが付けられていると付け加えた。

(Meta のアプローチは)現在技術的に可能なことの最先端を表している。コンテンツに目に見えないマーカーがない場合でも、AI が生成したコンテンツを自動的に検出できるような分類器の開発に懸命に取り組んでいます。同時に、目に見えない透かしの除去や改ざんをより困難にする方法も模索しています。(Clegg 氏)

AI 生成コンテンツのラベリング

Meta の発表は、見えない透かしのような技術によって AI が生成したコンテンツを識別し、ラベル付けするための最新の取り組みである。2023年7月には、7社がバイデン大統領に電子透かしを含む AI の安全性を高めるための具体的な措置を講じると約束し、8月には Google DeepMind が新しい電子透かしツール「SynthID」のベータ版をリリースした

しかし、これまでのところ、デジタル透かしは、目に見えるか見えないかにかかわらず、悪質業者を阻止するには十分ではない。10月、Wired はメリーランド大学教授 Soheil Feizi 氏(コンピュータサイエンス)の「現時点では信頼できる電子透かしはありません。私たちはすべての透かしを除去することができました」という言葉を引用した。Feizi 氏と彼の仲間の研究者たちは、悪質な行為者が電子透かしの試みを回避することがいかに容易であるかを調査した。攻撃者が電子透かしを除去する方法を示しただけでなく、人間が作成した画像に電子透かしを追加し、誤検出を引き起こす方法も示した。

電子透かしは有用だが、AI コンテンツの「特効薬」ではないと専門家

Hugging Face のチーフ倫理サイエンティスト Margaret Mitchell 氏は10月、VentureBeat に対し、こうした目に見えないデジタル透かしは有用だが、AI が生成したコンテンツを識別する「特効薬」ではないと語った。

しかし彼女は、電子透かしは悪質な行為者を止めることはできないかもしれないが、AI コンテンツに「栄養ラベル」のようなものを埋め込むことを望む善良な行為者を可能にし、支援するためには「本当に大きなもの」だと強調した。

AI が生成した画像やテキストにまつわる倫理や価値観について言えば、彼女は、価値観のひとつは出所の概念に関連していると説明した。

物事がどこから来て、どのように進化してきたのか、ある種の系譜を持つことができるようにしたいものです。それは、同意のクレジットや補償のためにコンテンツを追跡するのに便利です。また、モデルの潜在的なインプットを理解するためにも重要です。(Mitchell 氏)

Mitchell 氏が「本当にワクワクする」と語ったのは、この電子透かしユーザの多さである。

最近のレトリックの中で、そのことが本当に失われていると思います。(Mitchell 氏)

Mitchell 氏は、AI 技術がうまく機能しない方法は常に存在すると説明した。しかし、それは技術全体が悪いという意味ではない。

【via VentureBeat】 @VentureBeat

【原文】

BRIDGE Members

BRIDGEでは会員制度の「Members」を運営しています。登録いただくと会員限定の記事が毎月3本まで読めるほか、Discordの招待リンクをお送りしています。登録は無料で、有料会員の方は会員限定記事が全て読めるようになります(初回登録時1週間無料)。
  • 会員限定記事・毎月3本
  • コミュニティDiscord招待
無料メンバー登録