AI生成の「存在しない病名」、研修医の約半数が誤信 仏研究
AI要約 ITmedia AI+ 元記事を読む
フランスの大学病院の研究者らが、大規模言語モデル（LLM）が生成する架空の病名が医師の診断にどのような影響を与えるかを検証する論文を発表した。この研究では、LLMがもっともらしく提示した存在しない病名を、研修医の44%が信用してしまったことが判明した。
なぜ重要か
この研究は、AIのハルシネーション（幻覚）が医療診断という人命に関わる分野で具体的なリスクとなり得ることを示した点で重要だ。AIの出力を医師が盲信してしまう可能性を浮き彫りにし、医療AI導入における慎重な検証と医師への教育の必要性を強く示唆する。
背景
近年、LLMはChatGPTなどの登場で急速に進化し、医療分野でも診断支援などへの応用が期待されている。その一方で、AIがもっともらしい誤情報を生成するハルシネーションの問題は常に指摘されてきた。今回の研究は、こうした背景の中で医療現場におけるAIの信頼性と安全性を問う重要な一石となる。
今後の注目点
今後、医療AIの導入を進めるにあたり、ハルシネーション対策や医師への適切なトレーニングがより一層重要となるだろう。AIの診断支援機能を最大限に活用しつつ、ヒューマンエラーを防ぐための安全な運用体制の構築が求められる。
原題: AIが生成した“存在しない病名”、研修医の44％が信用 見抜けた医師との差は？ 仏大学病院が検証
