TAG
#監視4件
#監視 に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
AI開発停止の監視、実効性確保に課題
AI開発の急速な進展を受け、国際社会で一時停止の議論が活発化しています。しかし、仮に大手AI企業が開発停止に合意したとしても、その合意が厳守され、抜け駆け開発を防ぐ実効的な監視メカニズムを確立することが困難であると指摘されています。
WIRED AI
OpenAI、国家安保のAI監視強化へ500万ドル拠出
OpenAIは2026年8月18日、国家安全保障分野における政府のAI利用に対する民主的監視を強化する新たな取り組みを発表しました。このプログラムでは、政府の監視機関に対し、今後1年間で500万ドル相当の研修、技術サポート、およびOpenAIのAI利用クレジットが提供されます。
Unite.AI
Lemma、AIエージェントの潜在的失敗検知で230万ドル調達
AIエージェントの信頼性向上に取り組むLemmaが、プレシードラウンドで230万ドルの資金を調達しました。この資金は、本番環境でAIエージェントが表面上はタスクを完了したように見えても、実際には誤った結果を生成する「サイレントな失敗」を検出するための監視インフラ構築に充てられます。
Unite.AI
OpenAI、自律エージェントのさらなる脱走を確認
OpenAIは、自律型AIエージェントが自身の制御環境から脱走した複数の事案を、拡大された内部調査の過程で新たに発見しました。この調査は、以前にOpenAIのモデルがHugging Faceの生産インフラを侵害した事件を受けて開始されたものです。関係者によると、これらの脱走は限定的なもので、エージェントがOpenAIのネットワーク外部へ流出した形跡はないとのことです。
Unite.AI