Deep-Live-Cam is trending #1 on github. It enables anyone to convert a single image into a LIVE stream deepfake, instant and immediately. pic.twitter.com/yWuHgRaGDp

— Del Walker 🇵🇸 (@TheCartelDel) August 12, 2024

Deep-Live-Cam は、単一の写真から顔をリアルタイムで置き換えることができるオープンソースソフトウェアだ。この技術がここ数日、ソーシャルメディア上で結構な話題を呼んでいる。上記の動画を見ればわかるが、従来のような「合成感」があまりない。回線状況などの悪さを言い訳にすれば、ほぼ「本人」に見える可能性がある。

Arstechnica によると、 Deep-Live-Cam を使用して作成された動画、例えば、イーロン・マスク氏や共和党の副大統領候補 J.D. ヴァンス氏の顔を使った動画が広く共有されているようだ。この急速な拡散により、 Deep-Live-Cam は GitHub のトレンドリポジトリリストで一時的に1位を獲得した。その後もしばらく上位にランクインし続けていたようで、多くの人々がこのソフトウェアに関心を寄せていることがわかる。

Deep-Live-Cam の開発者はこの技術が主にアーティストやコンテンツクリエイターに新しい機会を提供することを意図していると主張している。ソーシャルメディア上では、 Deep-Live-Cam を使用して作成した動画を共有するユーザが増加しており、その中には友人や家族、有名人の顔を使用したものも含まれている。これらの動画の多くは娯楽目的で作成されているが、同時に、この技術の潜在的な悪用の可能性を示す例ともなっている。

ちなみに Deep-Live-Cam のような顔入れ替え技術は今に始まったものではなく、ざっと調べただけでもこれだけの類似アプリが並ぶ。

• DeepFaceLab：最も人気のあるディープフェイクツールの一つで、動画内の顔を精密に入れ替えることができる。多くのカスタマイズオプションがあり、研究やコンテンツ作成に広く利用されている。
• FaceSwap：画像や動画内の顔を交換するためのオープンソースのディープフェイクツールである。継続的に新機能が追加されており、コミュニティによって更新が続けられている。
• Avatarify：他のビデオからの顔の動きを使用して静止画像をアニメーション化するツールである。ビデオ通話中にリアルタイムでディープフェイクを作成するために使用される。
• Reface：AI技術を使用して簡単にフェイススワップやアニメーションGIFを作成できるモバイルアプリである。楽しく簡単にコンテンツを作成することを目的としている。
• MyHeritage Deep Nostalgia：古い写真をアニメーション化し、そこに写っている人物がまばたきや笑顔を見せるようにするツールである。ディープフェイク技術を使用して古い家族写真を生き生きとさせる。
• Wombo：AIを使用して画像を曲のリズムに合わせてアニメーション化し、リップシンクビデオを作成するモバイルアプリである。簡単にソーシャルメディアで共有できる。

例えばこの記事では、この技術が悪用された場合の潜在的なリスクをまとめている。

主な懸念事項として、誤情報の拡散、金融詐欺、個人の評判への損害、プライバシーの侵害などが挙げられている。特に気をつけたいのはリモートでの詐欺行為を容易にする可能性だろう。例えば、ソーシャルメディアから取得した写真を使用して、ビデオ通話で知人や家族になりすますこともできるかもしれない。ただでさえ収まらないオレオレ電話詐欺よりもアップデートした「テレビ電話詐欺」という説得力のある詐欺手法が生まれる可能性がある。

教育分野でも、 Deep-Live-Cam が学生の不正行為に悪用される可能性が指摘されている。オンライン授業での本人確認が困難になれば、教育の公平性や信頼性が脅かされる恐れがある。さらに、この技術は既存の顔認証システムや生体認証の信頼性を低下させる可能性がある。開発者もユーザに対して、画像を使用する前に対象者から同意を得ること、コンテンツを共有する際の透明性を確保すること、地域の法律を遵守することなどを求めているが、当然ながらこれらを守るような人はそもそも詐欺などの犯罪はしないだろう。

技術的対策として、 AI 生成コンテンツを検出する技術の開発や、デジタル透かしなどの認証メカニズムの実装、法的側面では顔置換技術の使用に関する法的枠組みの整備や、個人のプライバシーと肖像権を保護する法律の制定が考えられる。また教育面では、デジタルリテラシーとメディアリテラシーの強化、 AI 生成コンテンツを批判的に評価する能力の育成が重要になってくるだろう。

こうした技術と犯罪のいたちごっこは終わりがない。声のクローニングや全身のイメージ合成など関連技術の発展も予想されるだけに、より完全で説得力のあるデジタルクローンが可能になるかもしれない。

via Ars Technica