サンフランシスコ市、AIヌード化アプリの削除をAppleとGoogleに要求
AI要約 WIRED AI 元記事を読む
サンフランシスコ市は、AppleとGoogleに対し、AIを用いて人物画像を不適切に改変する「ヌード化」アプリをアプリストアから削除するよう要請しました。市弁護士事務所は、主に女性や少女が標的となる13種類の「フェイススワップ」アプリの配信停止を求める書簡を両社に送付したことを明らかにしました。
なぜ重要か
この動きは、生成AI技術の悪用、特に悪意あるディープフェイクによる性的搾取に対するプラットフォーム側の責任を改めて浮き彫りにします。AIの進化に伴い、倫理的な問題やプライバシー侵害への対応が社会全体の課題となっている中で、テック企業の果たすべき役割が注目されています。
背景
近年、AIによる画像生成や操作技術が急速に進化し、現実と見分けがつかない「ディープフェイク」コンテンツの作成が容易になっています。これにより、個人の肖像権やプライバシーを侵害し、特に女性を標的とした性的搾取の手段として悪用されるケースが世界的に問題視されていました。
今後の注目点
AppleとGoogleがこの要求にどう応じるか、また他の司法管轄区が同様の措置を取るかが今後の注目点です。AIの悪用に対するプラットフォーム責任の議論は今後さらに活発化するでしょう。
原題: San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores
