Googleフォトにおいて、Magic Editorの生成AI機能を使用して編集された写真にデジタル透かしであるSynthIDが追加されることが発表された。この新機能は「今週」から展開され、Magic Editorの「再想像」ツールを使って操作された画像を迅速に識別できるようにすることを目的としている。SynthIDはGoogleのDeepMindチームによって開発された透かしシステムで、AIツールを用いて生成または編集された画像、映像、音声、テキストにデジタルメタデータタグを埋め込む。この透かしは、GoogleのImagenというテキストから画像を生成するモデルを使用して完全にAI生成された画像にも適用されている。Adobeも自社のCreative Cloudアプリを使用して生成または編集された作品に「Content Credentials」という同様の透かしシステムを開発している。GoogleのPixel 9フォンで利用可能な再想像機能を使用すると、欲しい要素を記述するだけで写真が簡単に説得力を持って編集できる。そのため、AI編集ツールが必ずしも悪用されるわけではないが、Magic Editorはクレッシュしたヘリコプターや薬物関連アイテム、さらには死体を含む写真までも生成することがあり、どのように操作が行われたかを明示する方法はない。Googleは昨年の10月に少なくともAI編集された画像をファイル記述の中でタグ付けし始めた。
この新しい透かしの更新は、上記のような問題を解決することを目指しているが、いくつかの課題が存在する。一つには、SynthIDは画像に視覚的に影響を与えないため、Googleの「この画像について」機能の一部である専用のAI検出ツールを使用して確認する必要がある。また、Googleは、Magic Editorで行われた一部の編集が「SynthIDにラベル付けおよび検出されるには小さすぎる場合がある」とも述べている。透かし技術は、操作をキャッチできる場合には役立つかもしれないが、この分野の専門家によると、透かしだけではAI生成コンテンツをスケールで確実に認証するには十分ではなく、さまざまなアプローチが相互に連携して動作する必要があると合意されている。
