OpenAI、セレブのディープフェイク懸念を受けSoraの安全対策を強化

OpenAIは、AI動画アプリ「Sora」において、ユーザーがセレブの肖像や声を無断で使用した動画を作成できないよう、安全対策を強化しました。これは、俳優のBryan CranstonやSAG-AFTRA、United Talent Agency、Creative Artists Agency、Association of Talent Agentsとの共同声明で発表されたもので、Sora 2およびSoraアプリで生成されるコンテンツに対する声と肖像の保護を確実にするための「生産的な協力」を目指すとしています。

Cranston氏は、自身の肖像を無断で使用したディープフェイクが作成されることに懸念を示しました。また、Robin Williams、George Carlin、Martin Luther King Jr.の家族も、Soraアプリに関してOpenAIに苦情を申し立てています。

今回の措置により、Soraユーザーはセレブの肖像や声を使った動画を作成できなくなり、AI動画の倫理的利用とセレブの権利保護の両立が図られることになります。