サンフランシスコ市、MetaにAI児童虐待広告の掲載停止を要請
AI要約 WIRED AI 元記事を読む
サンフランシスコ市は、Metaが運営するFacebookとInstagram上でAIによって生成されたとみられる児童虐待広告が繰り返し表示されている問題について、Metaに調査と掲載停止を求めた。市検察当局は、これらの有害な広告がどのようにしてプラットフォームに掲載されたのか、Metaからの説明を要求している。
なぜ重要か
AI技術の進化に伴い、生成AIが悪用され、虚偽や有害なコンテンツが生成・拡散されるリスクが高まっていることが改めて浮き彫りになった。特に児童虐待関連コンテンツは社会的に許容されがたく、プラットフォーム側のコンテンツモデレーションの責任とAI時代におけるその限界が問われている。企業にはより高度な倫理的・技術的対応が求められるだろう。
背景
近年、画像生成AIなどの発展により、悪意あるユーザーが性的虐待画像を容易に生成し、オンライン上で流通させる問題が指摘されている。SNSプラットフォームは利用規約でこのようなコンテンツを禁止しているが、自動検出と人手による審査の両面で対策が追いつかない現状が度々批判されてきた。AIによって生成されるコンテンツは、従来のフィルタリングでは見逃されやすいという新たな課題も生まれている。
今後の注目点
Metaがサンフランシスコ市の要請にどのように対応するか、そしてAI生成コンテンツに対するプラットフォームの責任と規制のあり方が今後どのように議論されるか注目される。
原題: San Francisco Orders Meta to Stop ‘Allowing’ AI Child Abuse Ads
