5ちゃんねる⇒科学ニュース+@5ch掲示板
設定
ダークモード
広告表示
画像・外部リンク

UPLIFT会員は外部リンクへ直接移動します。確認は初期設定でオンです。

機能のオン・オフ

このブラウザ・このサーバーのみ。オフにしても保存済みデータは残ります。

UPLIFT

76コメント40KB

【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明 [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
垢版
返信 [2]
AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明

この記事のポイント

何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億〜90億パラメータの小規模モデルのみで検証。数十億〜数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係(意識否定が原因か、同一訓練プロセスの副産物か)も未確定。

(以下略、続きはソースでご確認ください)

xenospectrum 2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/
垢版
意識は分からんが、人間らしさや知性は情報処理で再現できる
垢版
外見で判断できないし勘違いする人もで始めてるからな
だがペンローズはAIの意識については意外かも知れないが否定派だ
但しこれは量子コンピュータで覆る可能性がある


物理学者のロジャー・ペンローズは、人間の意識は単純なコンピュータの計算(アルゴリズム)では再現できない「非算法的」なものであると主張しました。彼は麻酔科医のスチュワート・ハメロフと共に、脳神経の中にある「微小管(マイクロチューブル)」での量子重力現象(客観収縮)こそが意識を生むとする「Orch OR(ペロローズ=ハメロフ)理論」を提唱しています。意識は計算ではない人間の脳の働きやひらめきは、決まった手順を繰り返すコンピュータのプログラム(アルゴリズム)に還元できない。数学的真理を悟る人間の理解力には、機械には真似できない非アルゴリズム的な側面がある。
垢版
そもそも人間すら大きな意識は存在しないと考えればいいよ
意識は結果的に色んな要素でつくられている
ミクロで色んな事が動いていてそれをまとめて一つのものとして扱っているだけ
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況