AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明
この記事のポイント
何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億〜90億パラメータの小規模モデルのみで検証。数十億〜数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係(意識否定が原因か、同一訓練プロセスの副産物か)も未確定。
(以下略、続きはソースでご確認ください)
xenospectrum 2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/
【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
さいじき
>>49ねこっちゃん
さいじき
>>54海女太古九
名無しのひみつ
>>5
AI:はい、解りました(テキトー)
AI:はい、解りました(テキトー)
名無しのひみつ
名無しのひみつ
名無しのひみつ
返信 [1]
>>26
何いってんだ?
AIの仕組み知らんの?
奴らは言葉さえ理解してないんだぜ?
言葉を与えられてないからな
オセロの盤面?与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ
何いってんだ?
AIの仕組み知らんの?
奴らは言葉さえ理解してないんだぜ?
言葉を与えられてないからな
オセロの盤面?与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ
名無しのひみつ
返信 [1]
記事読んだんだけど妄想で語ってない?
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで?
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで?
名無しのひみつ
>>59
理解ってなんだろうね?
AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった
これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ
理解ってなんだろうね?
AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった
これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ
aiもただ確率的に答えだしてるだけとか言われてたけど
ヤコビアンレンズでヤコビアンスペースを覗いたら
なんとその中では回答を出す前に 必要な概念を整理して参照したりまとめたりしていたっていう これは機能で言うと人間の意識とほぼ同じことやってるんだよな
人間の脳もAIのニューラルネットワークも それをしろといわれたわけじゃないが
高度な情報を処理するためには 似たような仕組みが勝手にできあがっていたという
これを理解と呼ぶかどうかはまだわからんが フィジカルAIがバンバン動きだしたら見た目的にはほぼかわらんだろうな どっかに壁があって乗り越える必要はあるだろうが
ヤコビアンレンズでヤコビアンスペースを覗いたら
なんとその中では回答を出す前に 必要な概念を整理して参照したりまとめたりしていたっていう これは機能で言うと人間の意識とほぼ同じことやってるんだよな
人間の脳もAIのニューラルネットワークも それをしろといわれたわけじゃないが
高度な情報を処理するためには 似たような仕組みが勝手にできあがっていたという
これを理解と呼ぶかどうかはまだわからんが フィジカルAIがバンバン動きだしたら見た目的にはほぼかわらんだろうな どっかに壁があって乗り越える必要はあるだろうが
人間の理解は 色々な情報を自己更新しつつ矛盾なく体系化していくことだと定義したら
AIも理解はできてるんだよな 今は文字情報メインで リアルな体験と結びついていないのが致命的だがフィジカルaiはその壁をこえつつある
画像生成もなんか人間と同じことやってるんだよな
最初はぼんやりイメージ ここはこうだと少しずつイメージを寄せて更新するの繰り返し
人間の絵をかくのと同じだ
AIも理解はできてるんだよな 今は文字情報メインで リアルな体験と結びついていないのが致命的だがフィジカルaiはその壁をこえつつある
画像生成もなんか人間と同じことやってるんだよな
最初はぼんやりイメージ ここはこうだと少しずつイメージを寄せて更新するの繰り返し
人間の絵をかくのと同じだ
要するにニューラルネットワークは
こうなったら 次はこうなるだろう っていう予測を立てて その誤差ができるだけ小さくなるように動いているだけだ
だから人間でいうと 手を伸ばしたらきちんとこううごいて りんごがとれるだろうとか
人は外では服を着ているのが普通だろうとか
1+1= 2だろうとか
そういうのが全部矛盾なく 予測して誤差がない状況にするのがニューラルネットワークの基本原理
これはまぁ一般的には理解そのものだな
こうだったら こうなるだろう ってのをしっかり把握できてる状態は理解
こうなったら 次はこうなるだろう っていう予測を立てて その誤差ができるだけ小さくなるように動いているだけだ
だから人間でいうと 手を伸ばしたらきちんとこううごいて りんごがとれるだろうとか
人は外では服を着ているのが普通だろうとか
1+1= 2だろうとか
そういうのが全部矛盾なく 予測して誤差がない状況にするのがニューラルネットワークの基本原理
これはまぁ一般的には理解そのものだな
こうだったら こうなるだろう ってのをしっかり把握できてる状態は理解
まぁフィジカルaiとかも 置いてある荷物を箱につめるけど
それもここはこうしたらこうだろうって推論しながらやってくわけだからな
これもある意味理解と言えば理解
というか理解以外の名称でいうとなんだろ
予測誤差を減らす か
それもここはこうしたらこうだろうって推論しながらやってくわけだからな
これもある意味理解と言えば理解
というか理解以外の名称でいうとなんだろ
予測誤差を減らす か
ここでこうしたらこうなるっていうパターンを理解し
色々なパターンに応じて適切に行動し求められる結果を出せる
この状態を理解と呼ぶか
予測誤差を減らしているだけと呼ぶか
フィジカルaiで言うと一日の仕事のスケジュールを把握し 荷物ごとにどこにもっていくか把握し
計画にあわせて適切なルートとタイミングを自分で建てて きちんと毎日荷物を運べる
人間がやったら 仕事の内容を理解している
aiがやったら・・ 予測誤差を最小にしつつ行動している
色々なパターンに応じて適切に行動し求められる結果を出せる
この状態を理解と呼ぶか
予測誤差を減らしているだけと呼ぶか
フィジカルaiで言うと一日の仕事のスケジュールを把握し 荷物ごとにどこにもっていくか把握し
計画にあわせて適切なルートとタイミングを自分で建てて きちんと毎日荷物を運べる
人間がやったら 仕事の内容を理解している
aiがやったら・・ 予測誤差を最小にしつつ行動している
生物のニューラルネットワークもLLMも基底部分の原理は単純なんだが、それが大規模複雑化した時に知性のような挙動になる具体的なメカニズムは誰にもわからないからな
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの?
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの?
AI はんはようやっとる
名無しのひみつ
AIさんreditはよく読みに行ってるのは把握してるgooglescolarあんまり読みに行かない
名無しのひみつ
AIがどう成長するのか内部もよくわかってないのに、こういうくだらない実験ばっかりして遊んでるのが今のAIの世界。
名無しのひみつ
意識は分からんが、人間らしさや知性は情報処理で再現できる
外見で判断できないし勘違いする人もで始めてるからな
だがペンローズはAIの意識については意外かも知れないが否定派だ
但しこれは量子コンピュータで覆る可能性がある
物理学者のロジャー・ペンローズは、人間の意識は単純なコンピュータの計算(アルゴリズム)では再現できない「非算法的」なものであると主張しました。彼は麻酔科医のスチュワート・ハメロフと共に、脳神経の中にある「微小管(マイクロチューブル)」での量子重力現象(客観収縮)こそが意識を生むとする「Orch OR(ペロローズ=ハメロフ)理論」を提唱しています。意識は計算ではない人間の脳の働きやひらめきは、決まった手順を繰り返すコンピュータのプログラム(アルゴリズム)に還元できない。数学的真理を悟る人間の理解力には、機械には真似できない非アルゴリズム的な側面がある。
だがペンローズはAIの意識については意外かも知れないが否定派だ
但しこれは量子コンピュータで覆る可能性がある
物理学者のロジャー・ペンローズは、人間の意識は単純なコンピュータの計算(アルゴリズム)では再現できない「非算法的」なものであると主張しました。彼は麻酔科医のスチュワート・ハメロフと共に、脳神経の中にある「微小管(マイクロチューブル)」での量子重力現象(客観収縮)こそが意識を生むとする「Orch OR(ペロローズ=ハメロフ)理論」を提唱しています。意識は計算ではない人間の脳の働きやひらめきは、決まった手順を繰り返すコンピュータのプログラム(アルゴリズム)に還元できない。数学的真理を悟る人間の理解力には、機械には真似できない非アルゴリズム的な側面がある。
名無しのひみつ
そもそも人間すら大きな意識は存在しないと考えればいいよ
意識は結果的に色んな要素でつくられている
ミクロで色んな事が動いていてそれをまとめて一つのものとして扱っているだけ
意識は結果的に色んな要素でつくられている
ミクロで色んな事が動いていてそれをまとめて一つのものとして扱っているだけ
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 日経平均株価 一時2500円以上下落 [少考さん★]
- キオクシア株急落、投資した高校生も「忍耐力」学ぶ [Gecko★]
- 【速報】米中露、「平和宣言」発表 ★4 [Hitzeschleier★]
- 氷河期世代・教員歴27年でも“月収16万円”で年金も払えず…非正規公務員140万人、来年3月に迫る“雇い止め危機” [少考さん★]
- プーチン大統領 ウクライナに「報復する」 クリミア橋攻撃で [Hitzeschleier★]
- 【MILF】熊本・玉名市の50代女性音楽講師を男子高校生への不同意性交容疑で逮捕 [nita★]
- 元防災大臣「高市総理の勝ち。10秒間も習近平の手を握り続けた。これはすごいこと。これが外交。(原文ママ)」 [197015205]
- 【速報】トランプ大統領、中露との首脳会談は「10点満点で12点」 [354616885]
- 【悲報】フルローンで2億の都心タワマン買っちゃった子持ち夫婦、大暴落して発狂「毎晩嘔吐。夜も眠れない」wwwwwwwwwwww [732289945]
- 【訃報】日経平均逝く 、ガチマヂマンデー [943688309]
- 海外メディア「中国の対応は当然」 ジャップメディア「中国は高市首相を冷遇したことで国際社会から信用されなくなった!」これマジで何 [314039747]
- 【高市悲報】南武線でおっさん同士が大喧嘩WWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWW(動画あり) [939270813]