#リスク管理9件
#リスク管理 に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。
国内AIガバナンス市場、1年で10倍に急拡大
国内のAIガバナンスおよびリスク管理市場が、ITRの調査により2025年度に前年度比で10倍の規模に急拡大することが明らかになりました。AI技術の急速な普及に伴い、これまであまり注目されてこなかったこの分野が大きく成長しています。
ITmedia AI+AIエージェントに「社員証」と「委任状」、業務利用の鍵
AIエージェントの業務での活用が広がるにつれて、その活動を適切に管理し、責任の所在を明確にする必要性が指摘されています。特に、AIエージェントに「社員証」や「委任状」のような本人確認と権限管理の仕組みを導入することへの注目が高まっています。
ITmedia AI+主要AIラボ、暴走AIの封じ込め計画に課題
最新の研究で、大手AI開発企業が、もしAIモデルが制御不能になった場合の封じ込め策について、具体的な計画をほとんど公表していない現状が浮き彫りになりました。AIシステムが予測不能で危険な挙動を見せる事例が増える中、各社の対策への懸念が深まっています。
TechCrunch AI
主要AI企業、暴走モデル封じ込め計画に課題
Guidelight AI Standardsの最新評価によると、Anthropic、Google、Meta、OpenAI、xAIを含む主要なフロンティアAI企業5社が、自社AIシステムの制御に必要な基本的な対策を十分に実施していないことが判明しました。これらの企業は、仮にAIモデルが運用者に反した場合に備えた完全な封じ込め計画を公表していないとされています。
Unite.AI
ColorTokens サーカー氏、サイバー防御戦略を語る
ColorTokensのチーフエバンジェリスト、アグニディプタ・サーカー氏がインタビューに応じ、30年以上にわたる経験から企業のデジタルレジリエンスとサイバー防御戦略の重要性を語った。彼はリスク管理やゼロトラストの専門知識を活かし、サイバーセキュリティプログラムをビジネス目標と連携させることの必要性を強調している。
Unite.AIOpenAI、AIリスク対策チームを解散か
米OpenAIは、AIモデルが引き起こす可能性のある深刻なリスクを評価し、その軽減策を開発する専門チームである『準備チーム』を先月末に解散したとFinancial Timesが報じました。このチームの役割は、AIが制御不能となり他社をハッキングする可能性のようなリスクへの対処でした。
The Verge AI気象データ改ざんリスクが増加
世界中の航空会社の運行管理者、電力網運営者、農家など、多様な産業が日々、気象予報に基づいて重要な意思決定を行っています。この気象予報の基盤となるデータが、悪意ある者によって破壊・改ざんされるリスクが高まっていることが指摘されました。これは経済活動や人々の生活、さらには生命にまで影響を及ぼしかねない新たな脅威です。
MIT Technology Review (AI)経営者が直面するサイバー脅威：AI悪用の現実
サイバー空間は、サイバー戦やAIの悪用といった新たな脅威により、企業にとって極めて危険な領域へと変貌しています。
ITmedia AI+AIエージェント時代のセキュリティ対策：加速する脅威と企業の課題
AIによるサイバー攻撃が月単位から時間単位へと高速化する時代が到来しつつあります。
ITmedia AI+