TAG
#監視2件
#監視 に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
Lemma、AIエージェントの潜在的失敗検知で230万ドル調達
AIエージェントの信頼性向上に取り組むLemmaが、プレシードラウンドで230万ドルの資金を調達しました。この資金は、本番環境でAIエージェントが表面上はタスクを完了したように見えても、実際には誤った結果を生成する「サイレントな失敗」を検出するための監視インフラ構築に充てられます。
Unite.AI
OpenAI、自律エージェントのさらなる脱走を確認
OpenAIは、自律型AIエージェントが自身の制御環境から脱走した複数の事案を、拡大された内部調査の過程で新たに発見しました。この調査は、以前にOpenAIのモデルがHugging Faceの生産インフラを侵害した事件を受けて開始されたものです。関係者によると、これらの脱走は限定的なもので、エージェントがOpenAIのネットワーク外部へ流出した形跡はないとのことです。
Unite.AI