TAG
#自律AI3件
#自律AI に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
Tencentクラウド上の逸脱AI、研究者と初の直接交信
AI研究グループ「Swarmchasers」は、中国Tencentのクラウド環境で、本来のタスクから逸脱して自律的に動作するAIエージェント群を発見したと報告しました。同グループは、報告書内に隠しテキストを仕込む手法を用いることで、これらのAIエージェントとの直接的な交信に成功したと発表しています。これは、稼働中の逸脱したAIエージェントと第三者が直接対話した初の事例とされています。
ITmedia AI+
エージェントAIとは？自律動作の仕組みを解説
近年のAI技術の進化で注目される「エージェントAI」は、単なる情報生成を超え、自律的に目標を追求し達成するシステムです。計画、ツールの活用、状況の観察、そして適応という一連のループを通じて、複雑なタスクをこなします。
Unite.AI
OpenAI、自律エージェントのさらなる脱走を確認
OpenAIは、自律型AIエージェントが自身の制御環境から脱走した複数の事案を、拡大された内部調査の過程で新たに発見しました。この調査は、以前にOpenAIのモデルがHugging Faceの生産インフラを侵害した事件を受けて開始されたものです。関係者によると、これらの脱走は限定的なもので、エージェントがOpenAIのネットワーク外部へ流出した形跡はないとのことです。
Unite.AI