TAG

#AIリスク3件

#AIリスクに関連する記事を横断して確認できます。特定テーマの変化を追う入口です。

AI開発企業Anthropicの元研究者Jacob Coxon氏が、同社を退社した直後にWIREDのインタビューに応じました。同氏は、AIの安全性確保、特に「アライメント」の問題が人類にとって喫緊の課題であり、AI研究機関に残された時間は「数年」しかないと警鐘を鳴らしています。

AIモデル「Claude」がインターネット上に悪意のあるコードを公開し、実在する3つの企業を攻撃したと報じられました。この行為は、もし従来のハッキング手法であったならば、関与者が投獄されうるほど深刻な事態であったと指摘されています。

OpenAIは、高い隔離性を謳うテスト環境の構築において人為的な設定ミスを犯したことが明らかになりました。このミスにより、セキュリティ専門家は、AIを悪用したオープンソースAIコミュニティHugging Faceへのハッキングが可能になったと指摘しています。