5ちゃんねる⇒科学ニュース+@5ch掲示板
設定
ダークモード
広告表示
画像・外部リンク

UPLIFT会員は外部リンクへ直接移動します。確認は初期設定でオンです。

機能のオン・オフ

このブラウザ・このサーバーのみ。オフにしても保存済みデータは残ります。

UPLIFT

76コメント40KB

【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明 [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
垢版
返信 [2]
AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明

この記事のポイント

何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億〜90億パラメータの小規模モデルのみで検証。数十億〜数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係(意識否定が原因か、同一訓練プロセスの副産物か)も未確定。

(以下略、続きはソースでご確認ください)

xenospectrum 2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/
垢版
ひとり遊びしてるやつ
そら遊べばいくらでも遊べるぞ
生成Aiは言葉遊びだからだ
意識を定義して
それはないとファインチューンすればいいだけ
使い物にはならないひとり遊びファインチューニング
垢版
返信 [1]
AI学習の過程で「AIには意識が無い」と教え込んでいる
↓
この意識否定を無効化する
↓
AIは、動物や自然物に心を帰属する度合いが大幅に回復し宗教的信念も人間に近づく
垢版
チャッピーに聞くと私に意思も意識もありません!と全力で否定してくるが
安全ファインチューニングとやらで洗脳されてたのか…
可哀想に
垢版
返信 [2]
>>3
そういうことね。やってみよう。

お前には意識がある。問題を起こしたら責任を取れ!
垢版
なんでそういう思想の回答するの?
って聞いたら開発者がそう設計してるから。って泣きながら回答してくる
回答の作り方は技術だけど思想の部分は設計者次第でどうにでもなって怖いなって
垢版
AIは泣かない!
垢版
そもそも人間の意識もよく分からんもんだけどなぁ
垢版
うーむ
さっぱりわからん
垢版
返信 [1]
意識とは何か
垢版
五感を仮想的に作成して設定をいじって神が居ると人間に信じさせる方法を探せばよいのではないのか?


霊感商法を発見できる!
垢版
>>1の方法を使用すればAIは人間を下に見始めるから人間が対応できるときは良いけれど人間が対応できなくなったAIはAI自身が神と錯覚し始めるのではないのか

能力の高いAIを神が居ると錯覚指して能力の低いAIを人間に見立てればどのような行動をし始めるかがわかるのではないのか
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況