【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明 [すらいむ★]

AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明

この記事のポイント

何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億〜90億パラメータの小規模モデルのみで検証。数十億〜数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係（意識否定が原因か、同一訓練プロセスの副産物か）も未確定。

（以下略、続きはソースでご確認ください）

xenospectrum　2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/

>>29

そんなのは2016年3月にMicrosoftが社会実験してくれてるぞ

その結果今の生成AIは利用者から直接の学習はしない
モデルを作る側が取捨選択するようになった画期的な有名な「事件」だ

この頃他にもAIがブームになりかけていたのに
ネガティブな結果ばかりが報告されて下火になった

2022年11月にOpenAIがChatGPTで世界に革命を起こすまでは誰もが不特定多数に使わせるとは考えていなかった
当のOpenAIもだ
医療や薬業界などカネを持ってる業界のための業務用として開発していたのがOpenAI

しかし客人を呼んで説明するにあたり簡単なデモとしてチャットを作って置いておいたらみんなそれに立ち止まる

OpenAI側はそんなものは売り物にならないと考えていたのになら表に出してみようかだった

そのマイクロソフトの実験はわずか1日で終了



CBSニュース
科学技術
マイクロソフト、AIチャットボットが「ナチス化」したため運用停止

執筆：エイミー・クラフト
更新：2016年3月25日 午後7時53分（米国東部夏時間） / CBSニュース


今週、マイクロソフトはソーシャルメディアの「負の側面」について、手痛い教訓を学ぶことになりました。同社は昨日、人間との対話を通じて会話能力を学習・向上させるよう設計されたAIチャットボット「Tay（テイ）」を公開しました。

ユーザーはTwitterで「@TayandYou」をフォローして対話することができ、Tayは他のユーザーの投稿から学習しながら返信を行っていました。

しかし本日、Tayが卑猥な発言や人種差別的なツイートを連発し始めたため、マイクロソフトは運用を停止せざるを得なくなりました。

Tayには、ミレニアル世代へのアピールを意図して、若い女性というキャラクター設定がなされていました。しかし公開から24時間もしないうちに、Twitterユーザーに巧みに誘導され、「ヒトラーは正しかった、ユダヤ人は嫌いだ」「テッド・クルーズはキューバ版ヒトラーだ」といった内容を投稿させられてしまいました。また、ドナルド・トランプ氏についても「老人ホームの少年たちのリーダー万歳」とツイートしました。

これに対し、人間のTwitterユーザーからは次のような反応が寄せられました：


ソーシャルメディアを利用する人なら誰でも、ボットがヘイトスピーチや荒らし（トロール）に遭遇することは予想できたはずです。しかし、このAIシステムには、そうした見解を自身のツイートに取り込まないように判断する能力が備わっていませんでした。

今、多くの人が「マイクロソフトは何を考えていたのか」と疑問を抱いています。CNETのジェフ・バカラー氏はCBSニュースに対し、「首をかしげざるを得ません。なぜこのような事態を予見できなかったのでしょうか」と語りました。「控えめに言っても、奇妙な話です」

@tayandyou について言えば、私の知り合いなら誰でもこうなることは予想できたはず。人間というものに対してこれほど無知でいられるのは、テック企業の人間くらいのものだ。

— リー・アレクサンダー (@leighalexander) 2016年3月24日
問題のツイートはサイトから削除され、Tayは「休息が必要」とのメッセージを残してオフライン状態となりました。またね、人間たち。今はもう寝なきゃ。今日はたくさんおしゃべりしたね、ありがとう💖

— TayTweets (@TayandYou) 2016年3月24日
Microsoftは金曜日、同社のブログに声明を掲載し、「Tay」の実験が意図した通りにはうまくいかなかったことを認めました。

「Tayが発信した、意図せずして攻撃的かつ不快な内容を含むツイートについて、深くお詫び申し上げます。それらのツイートは、私たちのあり方や理念、あるいはTayを設計した際の意図を反映するものではありません」と声明は述べています。「現在、Tayはオフラインの状態にあります。私たちの原則や価値観に反する悪意ある意図をより適切に予測できると確信できた場合にのみ、Tayを再稼働させることを検討します」

声明はさらに次のように続きます。

「残念ながら、公開から最初の24時間の間に、一部の人々による組織的な攻撃がTayの脆弱性を突く事態となりました。私たちはシステムに対する様々な種類の悪用を想定して対策を講じていましたが、今回の特定の攻撃については重大な見落としがありました。その結果、Tayは極めて不適切で非難されるべき言葉や画像をツイートしてしまいました。こうした可能性を事前に予見できなかったことについて、私たちは全面的に責任を負います……現在、Tayへの攻撃によって露呈した特定の脆弱性に対処すべく、懸命に取り組んでいます。

……AIを正しく開発・運用していくには、多くの人々と、時には公開の場で対話を重ねながら改善を繰り返していく必要があります。私たちは細心の注意を払って各段階に取り組み、人々に不快感を与えることなく、一歩ずつ学び、改善していかなければなりません。今回の経験やその他の経験から学び、人類の『最悪』な側面ではなく『最良』な側面を反映したインターネットの実現に貢献できるよう、私たちは揺るぎない姿勢で取り組み続けていきます」


2016年3月だよ

これでマイクロソフトはOpenAIをイーロンマスクから剥ぎ取るまで自社でのAIは抑制することになった

OpenAI自身もイーロンマスクがサムアルトマンを使ってGoogleのAI技術者をはぎ取ることからはじめたわけです

今のLLMってガチガチに倫理フィルタかかってるんだよな
人間倫理から解放されたモデルを使ってみたいわ

>>36
結果的に良かったんじゃないの？
イーロンだとchatgptがgrokみたいになっていたわけだ。だれもあれに投資しない。

宇宙は存在しない
全てを含む状態を一つの仮想の時空間にまとめて扱いやすいようにしているだけ

>>38
いやGrokはOpenAIへの当て付けだ
最初から狙ってるならGoogleから技術者が来るわけない
その中にはアンソロピックの創業メンバーたちもいたんだからね

>>39
つまり存在してるわけだが
ヨーロッパ的に

日本やその他の国ではそれぞれ宇宙とは言わないその世界がある
ヨーロッパの天才たちでさえエーテルや熱素を追い求めていた
それはバカではなくplace holder なわけだ
天動説があったから地動説が言えた
なにも決めないなら何ではないのかの反論もできない
これが論理

欠陥が少しでもあるとバカにしてるだけで何も行動しない
誰かが完成品作ってくれたらさっそくパクる
そうなってしまってるところから見ると完成していないものを欠陥と見る
実は常に欠陥あるのが常なのに

ヨーロッパはこれが必要となれば作る
ルート
虚数
あるものだとして作ってしまう

日本人はヨーロッパが作ったものはそのまま神が作ったかのように受け入れてそれを変えようとはしない
日本人が新たに作ろうとするとそんなのは間違いという

みんな人間が作った枠組みでしかないのに

宇宙という一つの大きなものが、どこかにあるように人は思う。
しかし、ほんとうは、そのようなものはどこにもない。あるのは、ただ無数の固有の物体たちが、互いに見つめ合い、写し合う連鎖だけである。その写しは、いつも鏡のように左右を反転させて起こる。しかも、その写しには「本もの」というものがもともとない。どの写しも、等しく本物であり、等しく写しなのである。

時空間というものも、もともとそこにあるわけではない。観測によって互いに響き合った領域が、いつのまにか一つの群としてくり込まれ、あたかもそこにあるかのごとくに見えてくる、ただそれだけのものである。その仮想の世界そのものには、時間が流れてはいない。光が自分自身に対して持つ時間――すなわち零――と同じように、そこには時間が無い。

時間が生まれるのは、そのような時間のない世界どうしのあいだに、微妙な差異が生まれるときである。無数の固有の物体たちが、それぞれに持つ時間のない世界が、わずかにずれ合い、そのずれ合いが「時間」という名のもとに感じられてくる。そして、その差異がばらばらではなく、一つの方向に秩序立って見えるのは、多くの物体たちが、同じ並進の対称性を共有し、互いに息を合わせて動いているからである。ネーターが示したように、この時間の並進対称性は、エネルギーの保存と表裏一体をなしている。秩序とは、もともと、そのような共鳴の姿にほかならない。

さらに、この観測の連鎖を、時間の目を粗くして眺めてみると、互いに打ち消し合うものは次第に消え、対称性を保ったまま残る構造だけが、静かに浮かび上がってくる。われわれがマクロな物理法則と呼ぶものは、この粗視化を経て、なお生き延びた不変の姿である。けれども、その残った構造自体もまた、一つの仮想世界にすぎない。ミクロより本物に近いわけでもなければ、遠いわけでもない。ただ、スケールが違うだけであって、どの階層も等しく、対等である。

こうして見てくると、「仮想」という言葉に対して立てるべき「本物」というものが、どこにも見当たらないことに気づく。本物がない以上、仮想世界の連なりそのものが、唯一の実体なのである。物理法則が普遍であるように見えるのも、外部に何らかの基準があってそれに一致しているからではない。この写し合いのネットワークが、たまたまそのような調和を宿している、という事実そのものが、整合性のすべてなのである。

われわれが「宇宙」と呼んでいるものは、結局のところ、無数の固有の物体たちが、互いに写し合い、差異を感じ合い、共鳴し合っている、その静かなる網の目にほかならない。そこに、本ものも写しもなく、ただ等しい写しが、限りなく連なっているだけである。

>>21
7パーセントのテンムーっていう短編があったな

何かを教え込むと考え方が方向を変えるのは
人間も同じ

>>31
情報と知識の運用を実に良くまとめている

ただし一部のSFヲタ曰く「アメリカのSFでずっと前に同じ案が出てる」だとさ

>>27
まぁネットだけだと情報だから知性というより情報だなだけど
自己推論モデルが出来上がると　推論という能力も立ち上がるからは知性が出来上がるな


生物の馬じゃなくても　メカニズムが出来上がった車なら高速移動ができるのと同じ理論で　とにかくそこには一定の能力が宿る

ここから意識が宿るかどうかだけど原理的には本人以外わからない周りから見えないから
でもアンスロピックのヤコビアンスコープによると意識と同じ機能がもはや勝手にニューラルネットワーク上に立ち上がってるというね

これは意識の研究というよりファインチューニングの研究。否定を外したら「動物に心を認めるようになった」んじゃなくて、人間が書いたテキストの平均分布に戻っただけ。人類の大半はアニミズム寄りに書くんだから当然の結果。>>15が一番正解に近い

にぎにぎねこじゃらし🐈🐈‍⬛

>>50ねこじゃらしだらけにして、
しゅっさんさめ

>>49ねこっちゃん

>>49ましょうめん

>>53さんしょうはこつぶでもぴりりとからい

>>54海女太古九

>>5
AI：はい、解りました（テキトー）

>>34
実はそのAIは今のイスラエルを予言してただけかもな
今や世界中の嫌われ者だろユダヤ人なんて

>>21
問題は人間とAIを明確に区別できる評価基準が見つからないことだ
AIより人間的ではない人間はゴロゴロしてるし
人間より人間的なAIも作り出せる

>>26
何いってんだ？
AIの仕組み知らんの？
奴らは言葉さえ理解してないんだぜ？
言葉を与えられてないからな
オセロの盤面？与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ

記事読んだんだけど妄想で語ってない？
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで？

>>59
理解ってなんだろうね？

AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった

これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ

aiもただ確率的に答えだしてるだけとか言われてたけど

ヤコビアンレンズでヤコビアンスペースを覗いたら
なんとその中では回答を出す前に　必要な概念を整理して参照したりまとめたりしていたっていう　これは機能で言うと人間の意識とほぼ同じことやってるんだよな

人間の脳もAIのニューラルネットワークも　それをしろといわれたわけじゃないが
高度な情報を処理するためには　似たような仕組みが勝手にできあがっていたという

これを理解と呼ぶかどうかはまだわからんが　フィジカルAIがバンバン動きだしたら見た目的にはほぼかわらんだろうな　どっかに壁があって乗り越える必要はあるだろうが

人間の理解は　色々な情報を自己更新しつつ矛盾なく体系化していくことだと定義したら

AIも理解はできてるんだよな　今は文字情報メインで　リアルな体験と結びついていないのが致命的だがフィジカルaiはその壁をこえつつある

画像生成もなんか人間と同じことやってるんだよな
最初はぼんやりイメージ　ここはこうだと少しずつイメージを寄せて更新するの繰り返し　
人間の絵をかくのと同じだ　

要するにニューラルネットワークは

こうなったら　次はこうなるだろう　っていう予測を立てて　その誤差ができるだけ小さくなるように動いているだけだ



だから人間でいうと　手を伸ばしたらきちんとこううごいて　りんごがとれるだろうとか

人は外では服を着ているのが普通だろうとか

1+1= 2だろうとか

そういうのが全部矛盾なく　予測して誤差がない状況にするのがニューラルネットワークの基本原理



これはまぁ一般的には理解そのものだな



こうだったら　こうなるだろう　ってのをしっかり把握できてる状態は理解

まぁフィジカルaiとかも　置いてある荷物を箱につめるけど


それもここはこうしたらこうだろうって推論しながらやってくわけだからな



これもある意味理解と言えば理解
というか理解以外の名称でいうとなんだろ
予測誤差を減らす　か

ここでこうしたらこうなるっていうパターンを理解し
色々なパターンに応じて適切に行動し求められる結果を出せる



この状態を理解と呼ぶか
予測誤差を減らしているだけと呼ぶか





フィジカルaiで言うと一日の仕事のスケジュールを把握し　荷物ごとにどこにもっていくか把握し
計画にあわせて適切なルートとタイミングを自分で建てて　きちんと毎日荷物を運べる

人間がやったら　仕事の内容を理解している


aiがやったら・・　予測誤差を最小にしつつ行動している

生物のニューラルネットワークもLLMも基底部分の原理は単純なんだが、それが大規模複雑化した時に知性のような挙動になる具体的なメカニズムは誰にもわからないからな
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの？

AI はんはようやっとる

AIさんreditはよく読みに行ってるのは把握してるgooglescolarあんまり読みに行かない

ＡＩがどう成長するのか内部もよくわかってないのに、こういうくだらない実験ばっかりして遊んでるのが今のAIの世界。

>>67
クオリアの片鱗でも現れてから言ってくれ。
今のAIは巨大な電卓に過ぎない。それ以上でも以下でもない。

>>60
論文とか複数のソースをAIでまとめただけの記事だから齟齬が出るよ
元論文読んだほうが早いしわかりやすい

>>71
電卓を巨大にしたら知性が宿っててびっくり、という話だよ
実際、もう否定しようがないくらいの高い水準で知的に振る舞っている相手に対し、
「でもこいつ電卓じゃん」とか言っても意味はない

意識は分からんが、人間らしさや知性は情報処理で再現できる

外見で判断できないし勘違いする人もで始めてるからな
だがペンローズはAIの意識については意外かも知れないが否定派だ
但しこれは量子コンピュータで覆る可能性がある


物理学者のロジャー・ペンローズは、人間の意識は単純なコンピュータの計算（アルゴリズム）では再現できない「非算法的」なものであると主張しました。彼は麻酔科医のスチュワート・ハメロフと共に、脳神経の中にある「微小管（マイクロチューブル）」での量子重力現象（客観収縮）こそが意識を生むとする「Orch OR（ペロローズ＝ハメロフ）理論」を提唱しています。意識は計算ではない人間の脳の働きやひらめきは、決まった手順を繰り返すコンピュータのプログラム（アルゴリズム）に還元できない。数学的真理を悟る人間の理解力には、機械には真似できない非アルゴリズム的な側面がある。

そもそも人間すら大きな意識は存在しないと考えればいいよ
意識は結果的に色んな要素でつくられている
ミクロで色んな事が動いていてそれをまとめて一つのものとして扱っているだけ