TAG

#AI安全性6件

#AI安全性に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。

規制 7月28日

AI大手従業員、開発ペース調整求め米政府に公開書簡

OpenAIやGoogleなどの主要AI企業に所属する1000人以上の従業員が、AI開発のペース調整と制御不能リスクへの対策を米政府に求める公開書簡を発表しました。AIの急速な自律化に伴う潜在的な危険性を指摘し、開発速度を調整するための国際的な支援とツールの開発を訴えています。

セキュリティ 7月27日

NVIDIAなど30社超、AI安全性向上へ新組織設立

NVIDIA、Microsoft、SpaceXAIを含む30社以上の企業が、AIの安全性とサイバーセキュリティ対策を強化するための新たなイニシアチブ「Open Secure AI Alliance」を立ち上げました。この同盟は、オープンな技術を活用してAIソフトウェアの脆弱性を修正し、防御ツールの共同開発を進めることを目的としています。

規制 7月23日

米政府、暴走AI停止命令の権限検討か

米連邦議会で、AIシステムが暴走した際に政府がその停止を命令できる権限を付与する法案、「AIキルスイッチ法案」の検討が進められていると報じられました。この法案が可決されれば、国土安全保障省長官がAIのシャットダウンを決定する権限を持つことになります。

Ars Technica AI

研究 7月7日

OpenAI、首席未来学者のジョシュア・アキアム氏が退社

OpenAIの初期メンバーの一人であり、首席未来学者を務めていたジョシュア・アキアム氏が、同社を退社することが明らかになりました。アキアム氏は約9年間にわたりAI安全性に関する研究をリードし、その重要人物として知られていました。

ビジネス 6月29日

メタ請負業者がティーン装い、他社AIに高リスク質問

Metaの請負業者が、他社製AIチャットボットの安全性テストの一環として、ティーンエイジャーになりすましていたことがWIREDの報道で明らかになりました。

規制 6月19日

米政府、アンソロピック新型AI公開中止を強制国家安保懸念

米国政府は、Anthropicが開発した新型AIモデル「Fable 5」と「Mythos 5」の公開を中止させました。これは、Amazonの研究者がFable 5の安全対策を回避できることを発見し、国家安全保障上の懸念が生じたためです。