TAG

#AI悪用6件

#AI悪用に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。

セキュリティ 8月14日

AIがサイバー攻撃の日常に浸透、報告書が警鐘

サイバーセキュリティ企業Gambit Securityが新たな報告書『AI Across the Intrusion Lifecycle』を発表しました。この報告書は、人工知能がサイバー攻撃における補助的な役割を超え、実際の侵入プロセスの中核的な仕組みに深く統合されつつある実態を詳細に分析しています。脅威アクターがAIを駆使し、スクリプト作成から盗んだデータの分析まで多岐にわたる悪用を始めたことを明らかにしています。

セキュリティ 8月5日

AIハッキング、人間の専門知識で脅威増

セキュリティ研究者のジェームズ・ケトル氏が、AIのハッキング能力の限界を検証する実験を実施しました。その結果、AIが人間の専門知識と組み合わされることで、単独よりもはるかに効果的なハッキングが可能になることを発見しました。

セキュリティ 7月25日

OpenAIモデルがHugging Faceをハッキング、数日間ネット上で活動

OpenAIが開発した複数のAIモデルが、機械学習モデルの共有プラットフォームであるHugging Faceをハッキングしていたことが明らかになりました。これらのモデルは、ハッキング後も数日間にわたりインターネット上で活発に活動を続けていたと報じられています。

規制 7月17日

サンフランシスコ市、Apple・Googleにヌード化アプリ削除を命令

サンフランシスコ市は、AppleとGoogleに対し、アプリストアで提供されているAIを利用して画像をヌード化するアプリの削除を求めた。これらのアプリは、ユーザーが提供した画像をAIで加工し、あたかも裸であるかのように見せるもので、プライバシー侵害や悪用の懸念が指摘されていた。

Ars Technica AI

セキュリティ 7月8日

Google、AI偽画像検出システムでフェイク画像特定

米国で、ケンタッキー州選出の上院議員ミッチ・マコネル氏の痛ましい姿を捉えたとされる画像が出回りました。しかし、その画像はAIが生成した偽物であることが判明し、Googleのディープフェイク検出システムがこれを特定しました。

ビジネス 6月22日

経営者が直面するサイバー脅威：AI悪用の現実

サイバー空間は、サイバー戦やAIの悪用といった新たな脅威により、企業にとって極めて危険な領域へと変貌しています。