Googleは検索結果における露骨なディープフェイクの拡散に対抗するため、断固たる行動を取っています。この技術大手は、非合意のAI生成による露骨な画像から個人を保護することを目的とした、検索アルゴリズムとコンテンツ削除プロセスの一連の更新を発表しました。

Google検索の主な変更点

• 削除プロセスの改善: Googleは露骨なディープフェイクの削除システムを合理化しました。削除リクエストが承認されると、システムは自動的に様々な検索クエリにわたって、その個人に関連する類似の露骨な結果をフィルタリングします。

• プロアクティブな重複検出: 新システムは、違反画像の複製を、異なるウェブサイトやプラットフォームに表示されていても、スキャンして削除します。

• 検索ランキングの調整: 露骨なディープフェイクにつながる可能性のあるクエリは、偽の画像ではなく、関連するニュース記事などの高品質で非露骨なコンテンツを優先するようになります。

• ウェブサイトの格下げ: 露骨なディープフェイクに関する多数の削除リクエストを受けたサイトは、Google検索結果でのランキングが下がります。

影響と効果

Googleは、これまでの更新により、今年に入って露骨なディープフェイクコンテンツへの露出が70%以上減少したと報告しています。同社はこれらの新しい対策でこの成功を更に拡大することを目指しています。

バランスの取れた対応

非合意のディープフェイクに積極的に対処する一方で、Googleは偽のコンテンツと正当な露骨な素材（俳優の合意の上でのヌードシーンなど）を区別することの難しさを認識しています。同社は正当なコンテンツが不当に格下げされないよう、アプローチの改善に取り組んでいます。

業界全体の取り組み

Googleのイニシアチブは、AI生成の露骨なコンテンツに対する懸念の高まりに対処するテクノロジー業界の広範な傾向の一部です：

• MetaはFacebookとInstagramのポリシーを更新し、AI生成の露骨な素材をカバーするようにしました。
• ニューヨーク州やオーストラリアを含む様々な管轄区域の立法者は、非合意のディープフェイクの作成と配布を犯罪化する法案に取り組んでいます。

今後の展望

Google製品マネージャーのEmma Highamは、これらの更新が大きな進歩を表す一方で、まだやるべきことがあると強調しました。同社はこの複雑な問題に取り組むため、新しいソリューションの開発と業界全体のパートナーシップへの参加を継続する計画です。

AI技術が進化し続ける中、ディープフェイクの悪用との戦いは、テクノロジー企業と社会全体にとって継続的な課題となっています。

Googleのロゴが示すように、GoogleはAIの悪用に対する取り組みを強調しており、ディープフェイクの課題に対する継続的な努力を象徴しています