xAI、Grok悪用でのCSAM生成で利用者提訴
AI要約 The Verge AI 元記事を読む
イーロン・マスク氏が率いるAI企業xAIが、同社のチャットボットGrokを悪用し児童性的虐待物（CSAM）を生成したとして、サウスカロライナ州の男性を提訴しました。xAIは、男性がセーフガードを回避し、同意なしの画像を加工してCSAMを生成・配布したと主張しています。
なぜ重要か
本件は、AIモデルの悪用、特に児童性的虐待物（CSAM）生成という深刻な問題に対し、AI開発企業がどのように対応すべきかを示す重要な事例です。AIのセーフガードの限界や悪用者に対する法的措置のあり方が問われ、業界全体の倫理基準や規制議論に影響を与えます。
背景
近年、生成AIの進化により、ディープフェイクなどのフェイクコンテンツ生成が容易になり、悪用への懸念が高まっています。特に児童性的虐待物（CSAM）は法的に厳しく規制されており、AI企業は悪用防止のため技術的なセーフガードを導入していますが、これらを回避する事例も報告されています。本件はその一例です。
今後の注目点
今後、この訴訟の行方と、AIのセーフガードの有効性に対する業界の認識がどう変化するかに注目が集まります。AI悪用対策としての技術的・法的アプローチの強化が求められるでしょう。
原題: xAI sues a man for using Grok to generate CSAM ‘deepfakes’
