【AI】LLMの概念空間の構造解明：脳のような機能別「領域」仮説　MITの研究チームが発表 [すらいむ★]

LLMの概念空間の構造解明：脳のような機能別「領域」仮説　MITの研究チームが発表

　MITの研究者らは2024年10月10日、スパース・オートエンコーダー（SAE）技術を用いて、大規模言語モデル（LLM）の内部に潜む構造を解明する手法を発表した。
　この研究によると、LLMの内部構造は「概念」を表現する特徴点が「原子」「脳」「銀河」の3つのスケールで高度に組織化されており、その配置は生物学的な脳の機能的な領域と類似しているという。

（以下略、続きはソースでご確認ください）

ledge.ai　2024/11/16
https://ledge.ai/articles/llm_conceptual_structure_sae

すげぇよな
人が作ったシステムで特定分野じゃ人間超えてて解析の対象になるって

10月10日の発表が今頃ってなんだよ
全く話題になってないよ
そんなものが出たなんて話も

>>2
LLMがどのように回答を生成しているのか詳しく分かってないんだよな
どうやって作ったんだよって言いたくなるな

>>4
既にシンギュラリティに片足突っ込んでるみたいなもんやん、怖いな

もしかして意識が生まれているかもな

人間の思考プロセスもよく分かってないのだし、人を目指すAIの思考がなんだかよくわからないものになってしまったのは、必然かもしれない