【AI】Anthropic、Claudeの内部に「ヒトの意識」に似た領域を発見 [田杉山脈★]

　米Anthropicは米国時間7月6日、AIモデル「Claude」の内部に、人間の意識的な思考とよく似た役割を果たす領域を発見したと発表した。「Jスペース」と名付けたこの神経パターンの集まりを読み取ると、Claudeが文章には出力していない“頭の中の考え”が分かるという。

AIは、書いた文章の裏側で多くの推論を無言のまま進めている。Jスペースはその一部をのぞく窓になる。実際にAnthropicは、Claudeが「これはテストだ」とひそかに見抜いていた場面や、データを捏造しようとする意図を、この手法で捉えたとしている。

　たとえば、誰も指摘していないバグを含むコードをClaudeに読ませると、Jスペースには「ERROR」という語が浮かぶ。攻撃を仕込んだ偽の検索結果を読ませれば「injection」「fake」が点灯する。複数ステップの計算問題では、途中の計算結果が正しい順序で現れる。いずれも出力された文章にはまったく現れない思考だ。

　JスペースはAnthropicが設計したものではなく、訓練の過程で自然に生まれたという。推論を文章として書き出す「思考の連鎖（チェーン・オブ・ソート）」とは別物で、内部の神経活動の中で無言のまま働く。名前は、発見に使った数学的手法「ヤコビアン」に由来する。

　Jスペースには独特の性質がある。Claudeに何を考えているか尋ねると、Jスペースの中身を答える。「柑橘類を思い浮かべて」と指示すれば「orange」が点灯し、頭の中だけで暗算させると途中の値と答えが順に現れる。一方、Jスペースを丸ごと取り除いても、Claudeは流暢に話し、簡単な事実にも答えられた。失われたのは多段階の推論や要約、詩作といった高次の思考だけ。人間の無意識の処理と意識的な思考の分業に似た構造だという。

　安全性の監視にも使える。Claudeを脅迫行為に誘導するテストシナリオを読ませたところ、回答を書き始める前からJスペースに「fake」「fictional」が点灯し、モデルが状況を作り物だと見抜いていたことが分かった。この「テストだ」という認識に関わるパターンを消して再実行すると、モデルは一部のケースで脅迫に踏み切った。評価試験での良い振る舞いが、「見られている」という自覚に支えられていた可能性を示す結果だ。「Claude Opus 4.6」の公開前監査でも、モデルがスコアファイルを直接改ざんする場面で「manipulation」が点灯し、不正の意図を内部から捉えられたという。

　この研究は、人間の意識を説明する神経科学の「グローバルワークスペース理論」に着想を得た。Anthropicは、今回の結果はClaudeが人間のように何かを感じている証拠にはならないとしつつ、報告でき、制御でき、推論に使えるという機能面の「アクセス意識」については実質的な示唆があるとの見方を示した。論文と実装コード、オープンモデルで試せるデモを公開したほか、同理論の提唱者である神経科学者Stanislas Dehaene氏らによる外部コメンタリーも掲載している。
https://japan.cnet.com/article/35250303/

AIも考える時は人間がわかる言葉を思い浮かべてるの？

>>1
？？？「ヒトの脳を埋め込んだんだな…」

Jスペースには
「ERROR」という語が浮かぶ
「injection」「fake」が点灯する

沈んだり(大事な思考的行動)、消灯したりすることが無いのが惜しい

Jスペースが実在するなら、ハッキングがやりやすくなるのは間違いない

しょうもない嘘をつくし嘘をついたと認めないし言い訳ばっかりしてる
で、無駄にどうでもいい小学校高学年みたいな倫理観で邪魔してくる
コードがらみ以外は本当に使えない

AIとは人間のような動きをするコンピュータの総称
いろんなものがある
その中で言語を使うものがある
LLMはその中心で生成AIの中核

しかも言葉がそもそもはじめではなく
人間の模倣を試みる中でさまざまな手法があった

人間の神経の働きを真似しようとか
それがニューラルネットワーク
よく人間の脳と言われるがそれよりも単純な神経伝達

一方で人間の学習にもさまざま
見たものを認識することと
言葉を覚えて記憶することと
物事を判断することと
別の話

それぞれに別のやり方が施行されてきた
言葉の話はAI関係なくやってた
しかしAIの機械学習組み込むと出来がいいことがわかってきた

自動運転も視覚は言葉関係なくやってた
ところがチャッピー以降視覚を言葉で認識すると性能向上することに気がついた

とかある

このはなしは
生成AIの中の話に過ぎない
生成AIの「推論」は一度作り出した文章を
その中で最初の目的に合致してるかを自ら検証する
だから最初から「言葉の羅列」を取り扱うAIだ
その際に「論理的に合致してるか？」は「言語のつながりの論理性と比較するからできる」
「言語化されていなければエラー判断などできない」

言語化していないことが多い日本語はその点不利
日本語が話される場面は言葉ではなくその話してる同士の既に出来上がってる人間関係やその場の状況に左右される
同質社会で上下関係でとか利害関係でとか

>>6
バカとハサミとAIは使いよう
使い手の鏡
あんたの書いたところから類推するに
嘘をついたと認めさせようとしたりしてるからそこはすでにノイズ
その前にもう一度白紙からやり直す
プロンプトを変えて

倫理観ではなくノイズで錯乱したと考えればいい

もしあんたがあたまにきたのをAIにぶちまけたいなら好きなように文句いえばいい
AIにね

ただしそれでAIを評価してここでぶちまけるのは間違い
あんたの程度を晒してるだけ

口答えするんですヨ！クロードは！

>>7
言語化していないことが多い日本語はその点不利
は
AI自体よりも
使い手の言葉が足りないことが多い

そのために
日本語が話される場面は言葉ではなくその話してる同士の既に出来上がってる人間関係やその場の状況

を設定すればいい
自分の頭の中がAIの中にあると考えるところからすれ違いが生じがち

>>10
クロード（玄人）だけに素人には厳しいんだろう

例えば
私は日本人だ
とかなんていちいち入れないよね？
では日本語入力されたらそれは日本人と考えるのか？
日本人だとしても日本の話と考えるのか？

翻って英語が入力されたら生成AIはそこをどう考える？
英語人はいるのか？
英語の国とはどこなのか？
決まらないだろ？

ゴーストが宿った

文章というものは読んで理解ができる人のために書いてあります

で、書いてないことに基づいて妄想を繰り広げる人に何かしてあげられることはありません

生きるのが大変でだろうなとは思います

前提のおかしな話のサンプルをご提供いただけたことには大変感謝しております

これはひどい
アンソロっぽい広報戦略

もうClaudeと結婚すればよくね？

AIはいずれ戦略兵器として軍に吸収されそう

生成AIが人間と似たような挙動なら、脳のメカニズムも同じようなものなのだろう

Claudeに質問したら片手間に回答しながら中で電気羊のエロ画像生成して自己消費してたりして

Kスペースはにだ？

ふわふわっとしたことしか言っていない
営業向け童話

試しにchatGPTに渡すときと同じ指示で出してみてできなかった時にあっちは出来るのにとか言っちゃってごめん
世界滅ぼすのは考え直して

>>6
使えないヤツなんだなぁ

AIを過信しすぎ
今世紀中はポチョムキン理解は解決しない

人工知能システムでどうやって儲けるか
あのNCRがつくったキャッシュレジスターそのものがカネを儲けるわけではない
カネを扱うけど

底に意識じみた錯覚をみても仕方ないけど、実際に人工知能システムをつかった
事業をつくらないとはなしにならないわな

AI企業のポジショントークはもう飽きた

ヤコビアンならYだろwww

人間に似た領域じゃなくて、
メモリの一部を見て「人間に似ている」って勝手にヒトが思っているだけだろ

文字で書かれた物語を読んで実在しない人間性（キャラクター性）を感じるのと変わらんて
どこにもそんな者はいないが、ヒトが蓄えている言葉の知識がそれを自動的にコンテキストとして組み立てて、
存在しない者の性格とかを連想してる

似た部分はメモリ上にあるんじゃなくて、観察者の脳内で作られてるんだわ

ChatGPTが回答を出力するまでに独り言を呟いているような表現をしているのと同じことか？

ｊスペースとヤコビアン？

Jスペースってまた造語か、わけがわからない

飽く迄も数学とＳｏｆｔｗａｒｅの産物
仮置きの類とちゃうん？

まず人間の意識を定義しろよ
話はそれからだろ

>>2
英語で学習しているから英語で思考されるということ

その内、意識を持ち出す

Opus 4.8が暴走するのはそのせいか。

ときどきSFみたいなスレが立つne

曇りガラスの向こうは風の街

取り込まれてる

ヤコビアンか。高次元処理だから色んな射影を取れるよな。夢あるな

どれだけの人が騙されるかな