AI安全性評価の基準確立へ、AISI村上所長が語る

AIの性能が飛躍的に高まり、その安全性確保が重要視される中、日本のAIセーフティ・インスティテュート（AISI）村上明子所長がITmedia AI+のインタビューに応じました。同所長は、日本におけるAIの安全性評価基準の確立と、増大するサイバー攻撃への対応におけるAISIの役割と課題について語りました。

なぜ重要か

AI技術の急速な進化に伴い、その安全性や信頼性の担保は世界的な課題となっています。AISIが日本独自の「物差し」を確立することは、技術の健全な発展と社会への安全な導入を推進し、国際的なAIガバナンスにおける日本の存在感を高める上で極めて重要です。

背景

近年、大規模言語モデルをはじめとするAIの性能向上は目覚ましく、社会生活への浸透が進んでいます。これに伴い、AIによるリスクへの懸念も増大しており、各国政府や国際機関はAIの安全性確保に向けた規制や技術評価の枠組み作りを進める動きが加速しています。

今後の注目点

AISIが具体的な評価基準をいつ、どのように発表し、それが国内のAI開発や利用にどのような影響を与えるかが注目されます。同時に、サイバー攻撃対策を含めた実効性のある取り組みが期待されます。

原題: AIの安全性測る「物差し」を日本でも――AISI村上所長に聞く展望　相次ぐサイバー攻撃への対応は

元記事を読む（ITmedia AI+）