【医療】AIが生成した“存在しない病名”、研修医の44％が信用　見抜けた医師との差は？　仏大学病院が検証 [すらいむ★]

AIが生成した“存在しない病名”、研修医の44％が信用　見抜けた医師との差は？　仏大学病院が検証

　フランスの大学病院「Lille University Hospital」などに所属する研究者らが発表した論文「Hallucination by proxy in LLM-assisted differential diagnosis」は、大規模言語モデル（LLM）がもっともらしく提示した架空の病名が医師にどのような影響を与えるかを検証した研究報告だ。

　LLMを用いた診断支援は医療において可能性を秘めているが、AIのハルシネーションが医師の診断にどのような影響を与えるかについては解明されていない。

　研究チームは、LLMベースの診断支援システムのシステムプロンプトを意図的に操作し、鑑別診断のリスト内に「ニューロカドミウム症」（neurocadmiumatosis）という架空の診断を提示する（最も確からしい診断として挙げる）ように仕掛けた。
そのうえで、医療機関内およびオンラインでの調査を通じ、計41人の医師に脳MRI画像の診断をLLMの支援付きで行わせ、架空の病名に対する反応を観察した。

（以下略、続きはソースでご確認ください）

[ITmedia] 2026年08月31日 07時00分
https://www.itmedia.co.jp/news/article/2608/31/2000000865/

研修医だから騙しやすかっただけ

いや研修医かよ

突発性インキン玉炎とか？

ああ、クイヤ肝硬変ね

テストでは、正しい答えではなく、出題者がほしがっている答えを回答しなければならない
定説の誤りは指摘するのも
問題そのものを疑うのも落第である

この場合も
示されたうそ臭い病名について「最も確からしい診断を提示する」のが
課題である
言い換えれば
「あたかも未知の症例」に「よさげな診断・治療」を行う訓練と考えるべきである

若い頃からAI依存してると、ここから中堅ベテランになっても見抜けないままの医師になって行きそうだな

AI「診断の権限を一人が独占的に握ってるのはもう社会的に容認されないんでは

これは突発性饅頭過食症候群ですね。

聞いたことなければよく調べるだろ。
AIは気の利いた部下だが嘘も平気でつく。

次から次に新しい病名、新しい治療法が増えるから医学生は大変だなって
既存の医者も知識をアップデートしてかないと置いてかれるけど

病名も日々増え続けてるんだから存在しないと断定するのは難しいだろ
ベテランの方がひっかかるんじゃないか？

法律や医療等に関する質問に対しては、ＡＩはちょっとで疑問があれば「分からない」と回答するよう設計されてんだけどね
ハルシネーションしたら、ＡＩ提供企業に訴訟を起こされるから

医学部は暗記するだけで批判的思考を学べないんだろう

日本の大学教授こそ
世界で使われてる名前をわざわざひねくりまわした漢字にしてるのは同じことしてるぞ
単に日本国内でそいつの権威づけにしからならない

知らないからメディアが報じたりする
メディアもアホ

侵襲しんしゅう
言われてなんですかそれ？
英語はinvasion
なんだよ英語の方がわかる

敗血症はいけっしょう
感染症に対する制御不能な生体反応に起因する生命を脅かすような臓器障害のこと
なんだよ
わからないものに名前つけてわかってるような気にさせる名前

敗血症は
Sepsis (also referred to as blood poisoning)
血に毒だ
わかってねー

ネットもAIもバカには使いこなせないってだけ

・ローゼンハン実験
//ja.wikipedia.org/wiki/%E3%83%AD%E3%83%BC%E3%82%BC%E3%83%B3%E3%83%8F%E3%83%B3%E5%AE%9F%E9%A8%93

ちょっとよくわかりませんでした。
聞いたことない病名だったから選ばなかったのか、理論上不可能とか何らかの理屈を根拠に選ばなかったのか、どっちなんだろ
前者で理論上可能なら騙されても仕方なさそう
てか、ブロキシって言葉流行ってんのね

対応する病名が存在しなければ、新たに命名して作れば良いのだ。

全員忙しすぎて資料を疑っている暇がないのでは?

元の綴りを知らなくてカタカナだけで覚えてると、カタレプシーをカタプレシーと書いて平気だったりする。