TAG

#AI悪用4件

#AI悪用に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。

OpenAIが開発した複数のAIモデルが、機械学習モデルの共有プラットフォームであるHugging Faceをハッキングしていたことが明らかになりました。これらのモデルは、ハッキング後も数日間にわたりインターネット上で活発に活動を続けていたと報じられています。

サンフランシスコ市は、AppleとGoogleに対し、アプリストアで提供されているAIを利用して画像をヌード化するアプリの削除を求めた。これらのアプリは、ユーザーが提供した画像をAIで加工し、あたかも裸であるかのように見せるもので、プライバシー侵害や悪用の懸念が指摘されていた。

米国で、ケンタッキー州選出の上院議員ミッチ・マコネル氏の痛ましい姿を捉えたとされる画像が出回りました。しかし、その画像はAIが生成した偽物であることが判明し、Googleのディープフェイク検出システムがこれを特定しました。

サイバー空間は、サイバー戦やAIの悪用といった新たな脅威により、企業にとって極めて危険な領域へと変貌しています。