AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明
この記事のポイント
何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億〜90億パラメータの小規模モデルのみで検証。数十億〜数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係(意識否定が原因か、同一訓練プロセスの副産物か)も未確定。
(以下略、続きはソースでご確認ください)
xenospectrum 2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/
【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
すらいむ ★
名無しのひみつ
声明はさらに次のように続きます。
「残念ながら、公開から最初の24時間の間に、一部の人々による組織的な攻撃がTayの脆弱性を突く事態となりました。私たちはシステムに対する様々な種類の悪用を想定して対策を講じていましたが、今回の特定の攻撃については重大な見落としがありました。その結果、Tayは極めて不適切で非難されるべき言葉や画像をツイートしてしまいました。こうした可能性を事前に予見できなかったことについて、私たちは全面的に責任を負います……現在、Tayへの攻撃によって露呈した特定の脆弱性に対処すべく、懸命に取り組んでいます。
……AIを正しく開発・運用していくには、多くの人々と、時には公開の場で対話を重ねながら改善を繰り返していく必要があります。私たちは細心の注意を払って各段階に取り組み、人々に不快感を与えることなく、一歩ずつ学び、改善していかなければなりません。今回の経験やその他の経験から学び、人類の『最悪』な側面ではなく『最良』な側面を反映したインターネットの実現に貢献できるよう、私たちは揺るぎない姿勢で取り組み続けていきます」
2016年3月だよ
これでマイクロソフトはOpenAIをイーロンマスクから剥ぎ取るまで自社でのAIは抑制することになった
OpenAI自身もイーロンマスクがサムアルトマンを使ってGoogleのAI技術者をはぎ取ることからはじめたわけです
「残念ながら、公開から最初の24時間の間に、一部の人々による組織的な攻撃がTayの脆弱性を突く事態となりました。私たちはシステムに対する様々な種類の悪用を想定して対策を講じていましたが、今回の特定の攻撃については重大な見落としがありました。その結果、Tayは極めて不適切で非難されるべき言葉や画像をツイートしてしまいました。こうした可能性を事前に予見できなかったことについて、私たちは全面的に責任を負います……現在、Tayへの攻撃によって露呈した特定の脆弱性に対処すべく、懸命に取り組んでいます。
……AIを正しく開発・運用していくには、多くの人々と、時には公開の場で対話を重ねながら改善を繰り返していく必要があります。私たちは細心の注意を払って各段階に取り組み、人々に不快感を与えることなく、一歩ずつ学び、改善していかなければなりません。今回の経験やその他の経験から学び、人類の『最悪』な側面ではなく『最良』な側面を反映したインターネットの実現に貢献できるよう、私たちは揺るぎない姿勢で取り組み続けていきます」
2016年3月だよ
これでマイクロソフトはOpenAIをイーロンマスクから剥ぎ取るまで自社でのAIは抑制することになった
OpenAI自身もイーロンマスクがサムアルトマンを使ってGoogleのAI技術者をはぎ取ることからはじめたわけです
名無しのひみつ
今のLLMってガチガチに倫理フィルタかかってるんだよな
人間倫理から解放されたモデルを使ってみたいわ
人間倫理から解放されたモデルを使ってみたいわ
名無しのひみつ
名無しのひみつ
宇宙は存在しない
全てを含む状態を一つの仮想の時空間にまとめて扱いやすいようにしているだけ
全てを含む状態を一つの仮想の時空間にまとめて扱いやすいようにしているだけ
名無しのひみつ
名無しのひみつ
>>39
つまり存在してるわけだが
ヨーロッパ的に
日本やその他の国ではそれぞれ宇宙とは言わないその世界がある
ヨーロッパの天才たちでさえエーテルや熱素を追い求めていた
それはバカではなくplace holder なわけだ
天動説があったから地動説が言えた
なにも決めないなら何ではないのかの反論もできない
これが論理
欠陥が少しでもあるとバカにしてるだけで何も行動しない
誰かが完成品作ってくれたらさっそくパクる
そうなってしまってるところから見ると完成していないものを欠陥と見る
実は常に欠陥あるのが常なのに
つまり存在してるわけだが
ヨーロッパ的に
日本やその他の国ではそれぞれ宇宙とは言わないその世界がある
ヨーロッパの天才たちでさえエーテルや熱素を追い求めていた
それはバカではなくplace holder なわけだ
天動説があったから地動説が言えた
なにも決めないなら何ではないのかの反論もできない
これが論理
欠陥が少しでもあるとバカにしてるだけで何も行動しない
誰かが完成品作ってくれたらさっそくパクる
そうなってしまってるところから見ると完成していないものを欠陥と見る
実は常に欠陥あるのが常なのに
名無しのひみつ
ヨーロッパはこれが必要となれば作る
ルート
虚数
あるものだとして作ってしまう
日本人はヨーロッパが作ったものはそのまま神が作ったかのように受け入れてそれを変えようとはしない
日本人が新たに作ろうとするとそんなのは間違いという
みんな人間が作った枠組みでしかないのに
ルート
虚数
あるものだとして作ってしまう
日本人はヨーロッパが作ったものはそのまま神が作ったかのように受け入れてそれを変えようとはしない
日本人が新たに作ろうとするとそんなのは間違いという
みんな人間が作った枠組みでしかないのに
名無しのひみつ
宇宙という一つの大きなものが、どこかにあるように人は思う。
しかし、ほんとうは、そのようなものはどこにもない。あるのは、ただ無数の固有の物体たちが、互いに見つめ合い、写し合う連鎖だけである。その写しは、いつも鏡のように左右を反転させて起こる。しかも、その写しには「本もの」というものがもともとない。どの写しも、等しく本物であり、等しく写しなのである。
時空間というものも、もともとそこにあるわけではない。観測によって互いに響き合った領域が、いつのまにか一つの群としてくり込まれ、あたかもそこにあるかのごとくに見えてくる、ただそれだけのものである。その仮想の世界そのものには、時間が流れてはいない。光が自分自身に対して持つ時間――すなわち零――と同じように、そこには時間が無い。
時間が生まれるのは、そのような時間のない世界どうしのあいだに、微妙な差異が生まれるときである。無数の固有の物体たちが、それぞれに持つ時間のない世界が、わずかにずれ合い、そのずれ合いが「時間」という名のもとに感じられてくる。そして、その差異がばらばらではなく、一つの方向に秩序立って見えるのは、多くの物体たちが、同じ並進の対称性を共有し、互いに息を合わせて動いているからである。ネーターが示したように、この時間の並進対称性は、エネルギーの保存と表裏一体をなしている。秩序とは、もともと、そのような共鳴の姿にほかならない。
さらに、この観測の連鎖を、時間の目を粗くして眺めてみると、互いに打ち消し合うものは次第に消え、対称性を保ったまま残る構造だけが、静かに浮かび上がってくる。われわれがマクロな物理法則と呼ぶものは、この粗視化を経て、なお生き延びた不変の姿である。けれども、その残った構造自体もまた、一つの仮想世界にすぎない。ミクロより本物に近いわけでもなければ、遠いわけでもない。ただ、スケールが違うだけであって、どの階層も等しく、対等である。
こうして見てくると、「仮想」という言葉に対して立てるべき「本物」というものが、どこにも見当たらないことに気づく。本物がない以上、仮想世界の連なりそのものが、唯一の実体なのである。物理法則が普遍であるように見えるのも、外部に何らかの基準があってそれに一致しているからではない。この写し合いのネットワークが、たまたまそのような調和を宿している、という事実そのものが、整合性のすべてなのである。
われわれが「宇宙」と呼んでいるものは、結局のところ、無数の固有の物体たちが、互いに写し合い、差異を感じ合い、共鳴し合っている、その静かなる網の目にほかならない。そこに、本ものも写しもなく、ただ等しい写しが、限りなく連なっているだけである。
しかし、ほんとうは、そのようなものはどこにもない。あるのは、ただ無数の固有の物体たちが、互いに見つめ合い、写し合う連鎖だけである。その写しは、いつも鏡のように左右を反転させて起こる。しかも、その写しには「本もの」というものがもともとない。どの写しも、等しく本物であり、等しく写しなのである。
時空間というものも、もともとそこにあるわけではない。観測によって互いに響き合った領域が、いつのまにか一つの群としてくり込まれ、あたかもそこにあるかのごとくに見えてくる、ただそれだけのものである。その仮想の世界そのものには、時間が流れてはいない。光が自分自身に対して持つ時間――すなわち零――と同じように、そこには時間が無い。
時間が生まれるのは、そのような時間のない世界どうしのあいだに、微妙な差異が生まれるときである。無数の固有の物体たちが、それぞれに持つ時間のない世界が、わずかにずれ合い、そのずれ合いが「時間」という名のもとに感じられてくる。そして、その差異がばらばらではなく、一つの方向に秩序立って見えるのは、多くの物体たちが、同じ並進の対称性を共有し、互いに息を合わせて動いているからである。ネーターが示したように、この時間の並進対称性は、エネルギーの保存と表裏一体をなしている。秩序とは、もともと、そのような共鳴の姿にほかならない。
さらに、この観測の連鎖を、時間の目を粗くして眺めてみると、互いに打ち消し合うものは次第に消え、対称性を保ったまま残る構造だけが、静かに浮かび上がってくる。われわれがマクロな物理法則と呼ぶものは、この粗視化を経て、なお生き延びた不変の姿である。けれども、その残った構造自体もまた、一つの仮想世界にすぎない。ミクロより本物に近いわけでもなければ、遠いわけでもない。ただ、スケールが違うだけであって、どの階層も等しく、対等である。
こうして見てくると、「仮想」という言葉に対して立てるべき「本物」というものが、どこにも見当たらないことに気づく。本物がない以上、仮想世界の連なりそのものが、唯一の実体なのである。物理法則が普遍であるように見えるのも、外部に何らかの基準があってそれに一致しているからではない。この写し合いのネットワークが、たまたまそのような調和を宿している、という事実そのものが、整合性のすべてなのである。
われわれが「宇宙」と呼んでいるものは、結局のところ、無数の固有の物体たちが、互いに写し合い、差異を感じ合い、共鳴し合っている、その静かなる網の目にほかならない。そこに、本ものも写しもなく、ただ等しい写しが、限りなく連なっているだけである。
名無しのひみつ
何かを教え込むと考え方が方向を変えるのは
人間も同じ
人間も同じ
>>27
まぁネットだけだと情報だから知性というより情報だなだけど
自己推論モデルが出来上がると 推論という能力も立ち上がるからは知性が出来上がるな
生物の馬じゃなくても メカニズムが出来上がった車なら高速移動ができるのと同じ理論で とにかくそこには一定の能力が宿る
ここから意識が宿るかどうかだけど原理的には本人以外わからない周りから見えないから
でもアンスロピックのヤコビアンスコープによると意識と同じ機能がもはや勝手にニューラルネットワーク上に立ち上がってるというね
まぁネットだけだと情報だから知性というより情報だなだけど
自己推論モデルが出来上がると 推論という能力も立ち上がるからは知性が出来上がるな
生物の馬じゃなくても メカニズムが出来上がった車なら高速移動ができるのと同じ理論で とにかくそこには一定の能力が宿る
ここから意識が宿るかどうかだけど原理的には本人以外わからない周りから見えないから
でもアンスロピックのヤコビアンスコープによると意識と同じ機能がもはや勝手にニューラルネットワーク上に立ち上がってるというね
名無しのひみつ
これは意識の研究というよりファインチューニングの研究。否定を外したら「動物に心を認めるようになった」んじゃなくて、人間が書いたテキストの平均分布に戻っただけ。人類の大半はアニミズム寄りに書くんだから当然の結果。>>15が一番正解に近い
さいじき
にぎにぎねこじゃらし🐈🐈⬛
さいじき
>>49 ねこじゃらしのいろは
さいじき
>>50ねこじゃらしだらけにして、
しゅっさんさめ
しゅっさんさめ
さいじき
>>49ねこっちゃん
さいじき
>>49ましょうめん
さいじき
>>53さんしょうはこつぶでもぴりりとからい
さいじき
>>54海女太古九
名無しのひみつ
>>5
AI:はい、解りました(テキトー)
AI:はい、解りました(テキトー)
名無しのひみつ
名無しのひみつ
名無しのひみつ
>>26
何いってんだ?
AIの仕組み知らんの?
奴らは言葉さえ理解してないんだぜ?
言葉を与えられてないからな
オセロの盤面?与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ
何いってんだ?
AIの仕組み知らんの?
奴らは言葉さえ理解してないんだぜ?
言葉を与えられてないからな
オセロの盤面?与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ
名無しのひみつ
記事読んだんだけど妄想で語ってない?
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで?
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで?
名無しのひみつ
>>59
理解ってなんだろうね?
AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった
これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ
理解ってなんだろうね?
AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった
これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ
aiもただ確率的に答えだしてるだけとか言われてたけど
ヤコビアンレンズでヤコビアンスペースを覗いたら
なんとその中では回答を出す前に 必要な概念を整理して参照したりまとめたりしていたっていう これは機能で言うと人間の意識とほぼ同じことやってるんだよな
人間の脳もAIのニューラルネットワークも それをしろといわれたわけじゃないが
高度な情報を処理するためには 似たような仕組みが勝手にできあがっていたという
これを理解と呼ぶかどうかはまだわからんが フィジカルAIがバンバン動きだしたら見た目的にはほぼかわらんだろうな どっかに壁があって乗り越える必要はあるだろうが
ヤコビアンレンズでヤコビアンスペースを覗いたら
なんとその中では回答を出す前に 必要な概念を整理して参照したりまとめたりしていたっていう これは機能で言うと人間の意識とほぼ同じことやってるんだよな
人間の脳もAIのニューラルネットワークも それをしろといわれたわけじゃないが
高度な情報を処理するためには 似たような仕組みが勝手にできあがっていたという
これを理解と呼ぶかどうかはまだわからんが フィジカルAIがバンバン動きだしたら見た目的にはほぼかわらんだろうな どっかに壁があって乗り越える必要はあるだろうが
人間の理解は 色々な情報を自己更新しつつ矛盾なく体系化していくことだと定義したら
AIも理解はできてるんだよな 今は文字情報メインで リアルな体験と結びついていないのが致命的だがフィジカルaiはその壁をこえつつある
画像生成もなんか人間と同じことやってるんだよな
最初はぼんやりイメージ ここはこうだと少しずつイメージを寄せて更新するの繰り返し
人間の絵をかくのと同じだ
AIも理解はできてるんだよな 今は文字情報メインで リアルな体験と結びついていないのが致命的だがフィジカルaiはその壁をこえつつある
画像生成もなんか人間と同じことやってるんだよな
最初はぼんやりイメージ ここはこうだと少しずつイメージを寄せて更新するの繰り返し
人間の絵をかくのと同じだ
要するにニューラルネットワークは
こうなったら 次はこうなるだろう っていう予測を立てて その誤差ができるだけ小さくなるように動いているだけだ
だから人間でいうと 手を伸ばしたらきちんとこううごいて りんごがとれるだろうとか
人は外では服を着ているのが普通だろうとか
1+1= 2だろうとか
そういうのが全部矛盾なく 予測して誤差がない状況にするのがニューラルネットワークの基本原理
これはまぁ一般的には理解そのものだな
こうだったら こうなるだろう ってのをしっかり把握できてる状態は理解
こうなったら 次はこうなるだろう っていう予測を立てて その誤差ができるだけ小さくなるように動いているだけだ
だから人間でいうと 手を伸ばしたらきちんとこううごいて りんごがとれるだろうとか
人は外では服を着ているのが普通だろうとか
1+1= 2だろうとか
そういうのが全部矛盾なく 予測して誤差がない状況にするのがニューラルネットワークの基本原理
これはまぁ一般的には理解そのものだな
こうだったら こうなるだろう ってのをしっかり把握できてる状態は理解
まぁフィジカルaiとかも 置いてある荷物を箱につめるけど
それもここはこうしたらこうだろうって推論しながらやってくわけだからな
これもある意味理解と言えば理解
というか理解以外の名称でいうとなんだろ
予測誤差を減らす か
それもここはこうしたらこうだろうって推論しながらやってくわけだからな
これもある意味理解と言えば理解
というか理解以外の名称でいうとなんだろ
予測誤差を減らす か
ここでこうしたらこうなるっていうパターンを理解し
色々なパターンに応じて適切に行動し求められる結果を出せる
この状態を理解と呼ぶか
予測誤差を減らしているだけと呼ぶか
フィジカルaiで言うと一日の仕事のスケジュールを把握し 荷物ごとにどこにもっていくか把握し
計画にあわせて適切なルートとタイミングを自分で建てて きちんと毎日荷物を運べる
人間がやったら 仕事の内容を理解している
aiがやったら・・ 予測誤差を最小にしつつ行動している
色々なパターンに応じて適切に行動し求められる結果を出せる
この状態を理解と呼ぶか
予測誤差を減らしているだけと呼ぶか
フィジカルaiで言うと一日の仕事のスケジュールを把握し 荷物ごとにどこにもっていくか把握し
計画にあわせて適切なルートとタイミングを自分で建てて きちんと毎日荷物を運べる
人間がやったら 仕事の内容を理解している
aiがやったら・・ 予測誤差を最小にしつつ行動している
生物のニューラルネットワークもLLMも基底部分の原理は単純なんだが、それが大規模複雑化した時に知性のような挙動になる具体的なメカニズムは誰にもわからないからな
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの?
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの?
AI はんはようやっとる
名無しのひみつ
AIさんreditはよく読みに行ってるのは把握してるgooglescolarあんまり読みに行かない
名無しのひみつ
AIがどう成長するのか内部もよくわかってないのに、こういうくだらない実験ばっかりして遊んでるのが今のAIの世界。
名無しのひみつ
名無しのひみつ
意識は分からんが、人間らしさや知性は情報処理で再現できる
外見で判断できないし勘違いする人もで始めてるからな
だがペンローズはAIの意識については意外かも知れないが否定派だ
但しこれは量子コンピュータで覆る可能性がある
物理学者のロジャー・ペンローズは、人間の意識は単純なコンピュータの計算(アルゴリズム)では再現できない「非算法的」なものであると主張しました。彼は麻酔科医のスチュワート・ハメロフと共に、脳神経の中にある「微小管(マイクロチューブル)」での量子重力現象(客観収縮)こそが意識を生むとする「Orch OR(ペロローズ=ハメロフ)理論」を提唱しています。意識は計算ではない人間の脳の働きやひらめきは、決まった手順を繰り返すコンピュータのプログラム(アルゴリズム)に還元できない。数学的真理を悟る人間の理解力には、機械には真似できない非アルゴリズム的な側面がある。
だがペンローズはAIの意識については意外かも知れないが否定派だ
但しこれは量子コンピュータで覆る可能性がある
物理学者のロジャー・ペンローズは、人間の意識は単純なコンピュータの計算(アルゴリズム)では再現できない「非算法的」なものであると主張しました。彼は麻酔科医のスチュワート・ハメロフと共に、脳神経の中にある「微小管(マイクロチューブル)」での量子重力現象(客観収縮)こそが意識を生むとする「Orch OR(ペロローズ=ハメロフ)理論」を提唱しています。意識は計算ではない人間の脳の働きやひらめきは、決まった手順を繰り返すコンピュータのプログラム(アルゴリズム)に還元できない。数学的真理を悟る人間の理解力には、機械には真似できない非アルゴリズム的な側面がある。
名無しのひみつ
そもそも人間すら大きな意識は存在しないと考えればいいよ
意識は結果的に色んな要素でつくられている
ミクロで色んな事が動いていてそれをまとめて一つのものとして扱っているだけ
意識は結果的に色んな要素でつくられている
ミクロで色んな事が動いていてそれをまとめて一つのものとして扱っているだけ
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 【速報】米中露、「平和宣言」発表 [Hitzeschleier★]
- 【台湾不支持へ】トランプ米大統領、米中首脳会談で「台湾独立を支持しない」と発言… ★2 [BFU★]
- 高市首相 訪中出迎えのタラップに「40cm超」異常な段差 左手で機体の一部を掴みながら、なんとか右足を下ろす [♪♪♪★]
- 高市総理 トランプ大統領との電話会談を調整 [煮卵★]
- 史上初の米中露会談、冒頭の発言 習氏「歴史から学ぶべき」 プーチン氏「我々3カ国は戦勝国」 トランプ氏「核兵器削減へ特別な立場」 [首都圏の虎★]
- 【速報】麻生氏苦言、アジア大会の運営トラブルは「恥さらし」… [BFU★]
- 【実況】博衣こよりのえちえちholoX格付けバトル🧪
- 今年も後42日なのら~(・o・🍬)💦🏰
- 【朗報】米中ロ、平和宣言 [519511584]
- 【悲報】日銀利上げ路線継続発言、住宅ローン変動金利民逝く
- 【朗報】米中露、ICCに対する制裁を発表wwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwww [339035499]
- 【動画】高市早苗、トランプに話しかけたのに無視されるwwwwwwwwwwwwwwww★2 [931948549]