サンフランシスコ市、Apple・Googleにヌード化アプリ削除を命令
AI要約 Ars Technica AI 元記事を読む
サンフランシスコ市は、AppleとGoogleに対し、アプリストアで提供されているAIを利用して画像をヌード化するアプリの削除を求めた。これらのアプリは、ユーザーが提供した画像をAIで加工し、あたかも裸であるかのように見せるもので、プライバシー侵害や悪用の懸念が指摘されていた。
なぜ重要か
この命令は、AI技術の悪用に対する地方自治体の懸念と規制の動きが強まっていることを示している。特に生成AIによるディープフェイク技術が悪用されるリスクが顕在化しており、プラットフォーム事業者にはその流通を阻止する責任が求められるようになるだろう。
背景
生成AI技術の進化により、リアルなフェイク画像や動画が容易に作成できるようになり、個人への名誉毀損や性的搾取などの問題が世界的に深刻化している。各国政府や規制当局は、この種のAI悪用に対する対策を模索しており、プラットフォーム事業者の責任を問う声が高まっていた。
今後の注目点
今回の命令が他の都市や国にも広がるか、そしてAppleやGoogleが具体的な対策をどのように講じるか、その対応が注目される。
原題: San Francisco orders Apple, Google to remove nudify apps from app stores
