【AI】AIのハルシネーション、ウェルニッケ失語症患者の脳と類似　東大が数理解析で確認 [すらいむ★]

AIのハルシネーション、流暢に話せても意味や一貫性の欠如があるウェルニッケ失語症患者の脳と類似　東大が数理解析で確認

　2025年5月15日、東京大学の研究チームは、大規模言語モデル（LLM）の情報処理パターンが、感覚性失語症の患者の脳活動と数理的に類似していることを明らかにしたと発表した。
　研究成果は科学誌「Advanced Science」に掲載された。

　LLMは、文法的に整った自然な文章を生成する一方で、事実とは異なる内容をあたかも正確であるかのように出力する「ハルシネーション」と呼ばれる現象を示す。
　研究チームは、この現象が「ウェルニッケ失語症」に代表される感覚性失語症における言語障害と似ている点に着目した。

（以下略、続きはソースでご確認ください）

ledge　2025/5/31
https://ledge.ai/articles/llm_brain_activity_similarity_tokyo_university

chatgptはこれだね

うーん、研究成果はお見事であるし、わかりみが深いが、何か違う
健常者でも失語症患者でもそれこそ統合失調症患者でも、その書字発話からは「声」が聞こえてくる
つまり、言葉の背後で動いている純粋なイメージが見えるしその認識主体も見える
（それらを魂と呼んでも「赤肉弾上一無位真人」とよんでもなんでもいい）
しかしchatGPT でもその他でも、生成AIの書字発話からは「声」は聞こえないのだ

このままいけば

外部の音を着てもらってそれを考えてもらう

この時外から聞こえる声が聞こえることを再現できれば

統合失調症の脳波になるのか

>>4
知的障碍者の脳波も再現できることになるので

脳波だけでどのくらいの重症度化の障害判定ができることになるのか

生成AIで、例えば音楽を作曲させる時、AIは音楽を理解しているわけではない
音や音の連なりや旋律や、そこに込められた感情を、人間と同種のまたはそれに匹敵するような感性によって感受して、再構成し、作曲しているのではない

生成AIがやってるのは、音源ファイルの電子情報の1と0の羅列を直接見て、学習データを提供した人間からより高い評価を得られるよう、羅列をより最適化された分布に配置するような作業である

AIは音楽を作らない　絵を描かない
AIが見て作っているのは、あくまで情報であり、その背景に透けて通っている音楽や絵そのもののは見えていない　認識していない

むしろハルシネーションから意識が生まれるのではないか

ウェルニッケ失語症は耳が遠い感じのお年寄りっぽいアレなんだね

面白い

面白い、AIの思考の健全度チェックに使えそう

この病気の治療法？をAIに施せばハルシネーションを起こさないようにできるのか

>>6
人間とAIの差異として人間の以下部分を挙げているが、

音や音の連なりや旋律や、そこに込められた感情を、人間と同種のまたはそれに匹敵するような感性によって感受して、再構成し、作曲

この「感性」「感受」が果たして人間固有であるかどうか。
人間も大脳、あるいは各種細胞から音声周波数をデジタル化して0と1にデコードしてから「感受」しているとしたら。

チンパンジーやゴリラの絵画センスや音楽センスは人間には最適化されていないように見えるが、これも「感性」に含まれるのかどうか。

ハルシネを起こしてるLLMのなかでは、外部から新たに取り入れた情報と、既に学習した情報、内部的に創造された情報の区別がなくて、曖昧模糊としている
単一の情報の海が広がってるイメージかな

これは統合失調症の人の脳内に似てるんだよね
これは前から気付いてた

>>11
意図的に他社のAIにハルシネーションさせる攻撃に使うんだろ

生成AIが世間にありがちな文章を作った結果として虚偽の文章を生み出すのは、
サイコパスの嘘のつき方の特徴だと思う

世間の人が言っている言葉を真似ているだけで、状況にそぐわないため、虚偽になっている
（世間の人が空は青いと言っているから
自分も真似をして空は青いというので、
夕焼けの赤い空を指して青いと言い、
なぜ空が青くないと批判されるのか理解できない。）
本人は嘘をついている自覚がないので、ものすごく堂々とした態度で話す
言葉自体は世間でよくある話なので、聞いた人はうっかり信じてしまう
（空が青くないなんて言う奴がいるの？それはけしからんなぁと思ってしまう）

>>15
世間で大勢の人が言っているからと言ってしまうと

統合失調症は電波攻撃や音波攻撃をされている

大人数が犯罪を隠蔽すればその人は統合失調症になるのですけれど



このことを言っているのと同じですけれど