Facebook、Instagram、ThreadsのAI生成投稿にラベル表示へ——テイラー・スウィフト氏のフェイク画像拡散受け

今朝の新しい投稿で、Meta は Facebook 、Instagram 、Threads 上の AI が生成したコンテンツを特定し、ラベルを付けると発表した。

この発表は、AI が生成した歌手 Taylor Swift（テイラー・スウィフト）氏のポルノ的なディープフェイクが Twitter で拡散され、ファンや議員からの非難や世界的な見出しにつながった2週間後に行われた。また、2024年のアメリカ選挙を前に、Meta は AI が生成した画像や加工された動画への対処を迫られている。

Meta の国際情勢担当部長 Nick Clegg 氏は次のように述べた。

AI が生成したコンテンツが普及するには、まだ日が浅い。それが一般的になるにつれ、合成コンテンツと非合成コンテンツの両方を識別するために、何をすべきで、何をすべきでないかについて、社会全体で議論が起こるでしょう。見続け、学び続け、その中で我々のアプローチも見直していきます。私たちは業界の同業者と協力し続けます。また、政府や市民社会との対話も続けていきます。

Meta の取り組みは業界のベストプラクティスに沿っている

投稿では、Meta は AI に関するパートナーシップ（PAI）のような業界団体と協力し、AI が生成したコンテンツを識別するための共通基準を開発していることを強調している。Meta AI の画像に使用されている不可視のマーカー（IPTC メタデータと不可視の透かし）は、PAI のベストプラクティスに沿っているという。

Meta は、ユーザが Facebook、Instagram、Threads に投稿する画像について、「AI が生成したものであることを示す業界標準の指標を検出できた場合にラベルを付けます」と述べた。この投稿は、Meta AI を使って作成された写実的な画像は、サービス開始以来、ユーザにわかるように「Imagined with AI」というラベルが付けられていると付け加えた。

（Meta のアプローチは）現在技術的に可能なことの最先端を表している。コンテンツに目に見えないマーカーがない場合でも、AI が生成したコンテンツを自動的に検出できるような分類器の開発に懸命に取り組んでいます。同時に、目に見えない透かしの除去や改ざんをより困難にする方法も模索しています。（Clegg 氏）

AI 生成コンテンツのラベリング

Meta の発表は、見えない透かしのような技術によって AI が生成したコンテンツを識別し、ラベル付けするための最新の取り組みである。2023年7月には、7社がバイデン大統領に電子透かしを含む AI の安全性を高めるための具体的な措置を講じると約束し、8月には Google DeepMind が新しい電子透かしツール「SynthID」のベータ版をリリースした。

しかし、これまでのところ、デジタル透かしは、目に見えるか見えないかにかかわらず、悪質業者を阻止するには十分ではない。10月、Wired はメリーランド大学教授 Soheil Feizi 氏（コンピュータサイエンス）の「現時点では信頼できる電子透かしはありません。私たちはすべての透かしを除去することができました」という言葉を引用した。Feizi 氏と彼の仲間の研究者たちは、悪質な行為者が電子透かしの試みを回避することがいかに容易であるかを調査した。攻撃者が電子透かしを除去する方法を示しただけでなく、人間が作成した画像に電子透かしを追加し、誤検出を引き起こす方法も示した。