診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★]

診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も

　カナダ・オンタリオ州の監査総長事務所が州政府で使われているAIシステムを調べたところ、医療機関向けのAI医療記録作成システムで重大な誤りが相次いでいたことが分かりました。

　Office of the Auditor General of Ontario
　https://www.auditor.on.ca/en/content/specialreports/specialaudits/en2026/AR_2026_AI_EN.html

（以下略、続きはソースでご確認ください）

Gigazine 2026年05月18日 07時00分
https://gigazine.net/news/20260518-doctor-ai-blow-basic-fact/

>>15
AIは人間ではなく人間の真似をする別の生き物だと考えれば当然か

> 「患者に不安症状がある」といった、録音には存在しない情報を記録した例

患者の音声から心理状態を推測してたらゴイスーｗ

何でもAIってもてはやし過ぎだろ
まだまだ途上の技術なんだからAIに丸投げすんのまだ早いだろ

そもそも音声認識がポンコツなんじゃん

これは素直に怖い

危険なだけじゃん

承認済みというのが怖い。一体誰が承認したんだ。

ＡＩには使う場面によって人間によるチェックが必要なのはしばらく続く
いずれＡＩに置き換わるだろうが、いまのＡＩブームに踊らされるのは愚かなユーザー

利益が出るのはあたかも経理不要、チェック不要、ＡＩにお任せをとか言ってるような業者、早い者勝ち

しかしながらいずれＡＩに取って代わられるのは明白な未来

>>6
6割で確認された、今後残りの4割も別症状の診断でミスをするかもしれない。
じゃないのかな？

これをフィードバックして、また間違いを集めて、を繰り返していけば正確になっていく
しかし最新のモデルを使って同じことをするだけでも大幅に改善するだろう

AIが薬剤名を間違えるということは、学習データに間違えたデータが入っている
シュミレーションとシミュレーションみたいに
ふたを開けてみれば、特定のひとつの薬剤名が間違えられているのかもしれない

>>26
なコトねえよ
ニューラルネットワークは
ルールベースの知識推論エンジンとは違うんだ

ここまでハルシネーションに悩まされるとはな
架空の情報を作らないってそんな防げない事なのか