診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★]

診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も

　カナダ・オンタリオ州の監査総長事務所が州政府で使われているAIシステムを調べたところ、医療機関向けのAI医療記録作成システムで重大な誤りが相次いでいたことが分かりました。

　Office of the Auditor General of Ontario
　https://www.auditor.on.ca/en/content/specialreports/specialaudits/en2026/AR_2026_AI_EN.html

（以下略、続きはソースでご確認ください）

Gigazine 2026年05月18日 07時00分
https://gigazine.net/news/20260518-doctor-ai-blow-basic-fact/

はい
日本では？

AIって危険だろ
未來のわらわす未来のAI
NGワード
不正選挙
八百長選挙
パソナ不正選挙
なんてーのは
ちょいとま
東横キッズ
ヤクザ
竹中パソナコマシはあったかな

怖すぎる
確認してないの？

普通の人間との比較統計ではどうなん？

逆に4割は全く間違えないってことだなすごいじゃないか

存在しないものをでっち上げるのはいつまで経っても直らんなw

AIはいくら間違えても堂々としていて人間も少し見習った方がいいと思う
と思ったけどそういう人間もたまにいてすげえ不快だからやっぱいなくていいわ

>>1
「電子カルテは人間には防ぎきれない医療ミスを頻繁に起こしている」
「IMの変換ミスのレベルが半世紀の間悪化し続けているように、電子システムは想像を絶する幼稚な間違いを日常的に犯している」
「作ったやつは杜撰で不誠実で無責任だ」
俺がこう主張すると、だれもがなぜかIT業界を擁護し始めるんだよね
信者かよ・・・・・・
けれどみんなが気がつく時が来る、多分でかい事故が起こってから

>>1
今の日本のIT業界のレベルで「自動車」や「医療」に参入すれば危険に決まっている
自動車業界や医療機器・薬剤業界は「自分の製品で人が死ぬ」ことに強い責任を持っているけど
IT業界は「長文の同意書にサインさせたら自分は免責」だからな
「正確で迅速な医療」どころか医療者の足を引っ張ってばかり
「会社員はパソコン入力がメインの仕事」というパソコン中心の設計も医療の世界には全く合わない
試しに受診してみるといい、患者入室時に「患者の方を向いている」医者は激減しているぞ

６割も間違えていたのなら６割修正したら制度がかなり上がる良いことに成る

AIに仕事をとられて宅内から間違えたプログラムを作成したのかな？

一部の業種でも１００％仕事を任せられるのならAIに仕事を取られる速度が一気に上がるからな

ホワイトカラー全滅のお知らせかな？

人間が行ってミスをする確率よりAIが行ってミスをする確率の方がはるかに低かった場合

人間がしたら１００％ミスをするけれどAIがミスをするのなら人間は９９％ミスをするのなら全員仕方ないミスと思うからな

AIがミスをする事を未然に人間が見つけたら鬼の首を取ったように騒ぐ人間が出てくる

偶然人間が発見しただけですけれど！

間違えず、爆速でデータ処理できるのは
バグの無いレガシーシステムだけ。

ただし、頭がガチガチの専門バカ。

視野狭い。　融通は利かない。
再教育が大変。

滑舌が悪かったのかな

AIは人間と比べてミスが多いわけではないが人間は絶対にしないミスをするという印象

>>15
AIは人間ではなく人間の真似をする別の生き物だと考えれば当然か

> 「患者に不安症状がある」といった、録音には存在しない情報を記録した例

患者の音声から心理状態を推測してたらゴイスーｗ

何でもAIってもてはやし過ぎだろ
まだまだ途上の技術なんだからAIに丸投げすんのまだ早いだろ

そもそも音声認識がポンコツなんじゃん

これは素直に怖い

危険なだけじゃん

承認済みというのが怖い。一体誰が承認したんだ。

ＡＩには使う場面によって人間によるチェックが必要なのはしばらく続く
いずれＡＩに置き換わるだろうが、いまのＡＩブームに踊らされるのは愚かなユーザー

利益が出るのはあたかも経理不要、チェック不要、ＡＩにお任せをとか言ってるような業者、早い者勝ち

しかしながらいずれＡＩに取って代わられるのは明白な未来

>>6
6割で確認された、今後残りの4割も別症状の診断でミスをするかもしれない。
じゃないのかな？

これをフィードバックして、また間違いを集めて、を繰り返していけば正確になっていく
しかし最新のモデルを使って同じことをするだけでも大幅に改善するだろう

AIが薬剤名を間違えるということは、学習データに間違えたデータが入っている
シュミレーションとシミュレーションみたいに
ふたを開けてみれば、特定のひとつの薬剤名が間違えられているのかもしれない

>>26
なコトねえよ
ニューラルネットワークは
ルールベースの知識推論エンジンとは違うんだ

ここまでハルシネーションに悩まされるとはな
架空の情報を作らないってそんな防げない事なのか