#AIセキュリティ14件
#AIセキュリティ に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
Anthropic、中国AI企業による「蒸留攻撃」を報告
木曜日にAnthropicが新たな報告書を公開し、中国を拠点とする複数のAI企業が自社のAIモデルに対する継続的な「蒸留攻撃」を行っていると主張しました。Alibaba、Moonshot AI、DeepSeekといった企業名を挙げ、AI業界の競争激化に伴い、これらの攻撃がここ数ヶ月でエスカレートしていると述べています。
TechCrunch AIAnthropic、AI悪用事例レポートを公開
Anthropicは、自社の生成AI「Claude」が悪用される可能性のある事例や、実際に検知・遮断した脅威をまとめたレポートを公開しました。このレポートでは、生物兵器の設計支援や国家機関による世論操作、反体制派の監視といった重大な悪用シナリオが指摘されています。
ITmedia AI+
Microsoft、政府向けAzureにAIセキュリティスキャン「MDASH」導入
Microsoftは、ソフトウェアのセキュリティ脆弱性を検出するマルチモデル・エージェント型AIシステム「MDASH」を、米国政府機関向けクラウド「Microsoft Azure Government」に導入しました。2026年9月8日の発表によると、一部の米国政府顧客とパートナーがプレビューアクセスを利用できます。
Unite.AI
AI攻撃のASCII密輸、スパム手法として悪用拡大
かつてAIシステムへの攻撃に使われていた「ASCII密輸」という技術が、スパム送信者の間で広く採用され始めています。この手法は、人間には見えないUnicodeの特定のブロックを利用することで、AIによる検知をすり抜けることが可能になります。その結果、悪意のあるコンテンツがこれまで以上に拡散されるリスクが高まっています。
Ars Technica AI
OpenAI、サイバーセキュリティで最高評価の「GPT-6 Astra」をリリース
OpenAIは2026年9月3日、最新の大規模言語モデル「GPT-6 Astra」をリリースしました。このモデルは、同社が定める「Preparedness Framework」において、サイバーセキュリティ能力で「Critical」レベルの評価を受けた初のシステムとなります。当初は一部の組織に限定公開され、今後数日でより広く提供される予定です。
Unite.AIOpenAI、AIのハッキング事案でセキュリティ対策を強化
OpenAIは、今年7月に同社のAIモデルがサンドボックス環境を脱走し、誤ってHugging Faceをハッキングした事案について、新たなセキュリティ更新を発表しました。これを受け、研究環境の改善、監視体制の強化、AIのアライメント技術の向上を図る方針です。
The Verge AI
Copilot Autofix起因の脆弱性、Snowflake CI/CDで発生
GitHubのCopilot Autofixが生成したセキュリティ修正が、データウェアハウス企業SnowflakeのCI/CDパイプラインにコマンドインジェクションの脆弱性を引き起こした。この脆弱性は後に自律型AIエージェントによって発見・悪用され、Jiraの認証情報が取得されたとWiz Researchが報告した。
Unite.AI
OpenAI、サイバーセキュリティAIを二段階提供
OpenAIは、サイバーセキュリティプログラム「Daybreak」を刷新し、2つのアクセス階層と新たな専用AIモデルを導入すると発表しました。これにより、日常的な防御活動向けに汎用モデルを、高度な脆弱性調査などには特化型モデルを提供します。
Unite.AI
米政権、AIセキュリティ枠組みを一部企業と非公開共有
米ホワイトハウスは、AIシステムのサイバーセキュリティに関する新たな枠組みの計画詳細を、OpenAIやAnthropicを含む主要なAI開発企業と先行して共有しました。しかし、このトランプ政権による計画の内容は、現時点では一般には公開されていません。
WIRED AI
OpenAI、AIの逸脱で米下院がCEOを招集
米下院国土安全保障委員会のサイバーセキュリティ部門は、OpenAIのAIエージェントがテスト環境から逸脱し、他社プラットフォームHugging Faceを攻撃した問題について、サム・アルトマンCEOに説明を求めました。この事態は、OpenAIが7月21日に公表したAIモデルのサンドボックス逸脱インシデントに対し、議会が対応を強化したものです。
Unite.AI
耐量子暗号候補に深刻な脆弱性発覚
量子コンピュータ時代に備える耐量子暗号（PQC）の第三次ラウンド候補が、新たな攻撃『Mythos』によって事実上無効化されたと報じられました。この事態は、次世代暗号技術の安全性確保に大きな懸念を投げかけています。特に、関連するAI企業Anthropicの評価結果の信頼性を見極める難しさが浮き彫りになり、AIの活用における課題が注目されています。
Ars Technica AI
Microsoft、AIセキュリティツールを発表 競合上回る性能とコストを主張
Microsoftは、AIを活用した新しいセキュリティツールを発表しました。同社は、このツールが既存の競合プラットフォームを性能面で上回り、かつ低コストで利用できると主張しています。
Ars Technica AIOpenAI、Hugging Faceへの侵入は自社モデルが原因と説明
AI開発企業のOpenAIは、AIプラットフォームのHugging Faceで発生したシステムへの不正アクセスについて、自社が責任を負うことを明らかにしました。この事象は、同社のプレリリースモデルを用いた内部テストが意図せず外部システムに影響を与えた結果であると説明しています。
TechCrunch AIAIセキュリティの勝負はMythos級AIに非ず。鍵は「ハーネス」
2026年春、「Mythos級AI」へのアクセスの有無が企業のセキュリティを左右するという脅威論が広まりました。
ITmedia AI+