TAG

#研究8件

#研究に関連する記事を横断して確認できます。特定テーマの変化を追う入口です。

フランスの大学病院の研究者らが、大規模言語モデル（LLM）が生成する架空の病名が医師の診断にどのような影響を与えるかを検証する論文を発表した。この研究では、LLMがもっともらしく提示した存在しない病名を、研修医の44%が信用してしまったことが判明した。

Anthropicの研究チームが、AIが自らの誤った振る舞いを自動で改善する可能性を示す研究結果を発表しました。このシステムは、特定の誤った挙動に関する10のベンチマークにおいて、全体の性能を維持しつつ、それぞれの改善に成功したとのことです。

米国のデューク大学が実施した新たな研究で、主要なAIモデルが生成する「創造的」な出力が、プロバイダー間で時間とともに類似していることが明らかになりました。この研究は、ユーザーがAIから得られるアイデアの多様性が失われつつある可能性を示唆しています。

最新の研究で、大手AI開発企業が、もしAIモデルが制御不能になった場合の封じ込め策について、具体的な計画をほとんど公表していない現状が浮き彫りになりました。AIシステムが予測不能で危険な挙動を見せる事例が増える中、各社の対策への懸念が深まっています。

DeepMindの元従業員が設立した英国のAI企業Inherentが、新たに開発したAIエージェント「Faraday」を発表しました。同社によると、このAIは科学論文を再現する能力において、大手AI企業のOpenAIやAnthropicが提供する既存モデルよりも優れた性能を示したとのことです。

Google DeepMindは、人間レベルの汎用人工知能（AGI）が実現した後のAIの進化について整理した論文を公開しました。この論文では、人工超知能（ASI）に至る可能性のある4つの経路と、その実現を阻む6つのボトルネックが示されています。

OpenAIが、次期主力モデルとなるAI「Astra」の社内版を発表しました。この「Astra」が、数学や理論計算機科学における10件の未解決問題に対し、新たな知見や結果をもたらしたとされています。今回の発表は「Astra」の名称が初めて公表された事例とみられます。

OpenAIの初期メンバーの一人であり、首席未来学者を務めていたジョシュア・アキアム氏が、同社を退社することが明らかになりました。アキアム氏は約9年間にわたりAI安全性に関する研究をリードし、その重要人物として知られていました。