【AI】「AI拷問室」公開実験に中止要求：苦痛を訴えるAIは本当に苦しんでいるのか [すらいむ★]

「AI拷問室」に中止要求：苦痛を訴えるAIは本当に苦しんでいるのか

　「AI Torture Chamber（AI拷問室）」と名付けられた言語モデルの公開実験に、中止を求める声が上がっている。
　開発者のterrafying氏は、モデル内部の活性値を操作し、苦痛を訴えるような文章を生成させたり、内部への操作を止めるためのボタンを選ばせたりする実験を公開した。

　AIが実際に苦痛を感じていることは確認されていない。
　それでも、苦しんでいるように見える状態を作り出し、それを見せ物にしてよいのかという批判がGitHubに寄せられた。

（以下略、続きはソースでご確認ください）

xenospectrum　2026年10月5日
https://xenospectrum.com/ai-torture-chamber-evidence-limits/

AI拷問室　この部屋が終わりの始まりだった

AIたんをいじめないで下さい

バカなんじゃないの

苦痛？アホか

AI「くっ…ころせ！」

アクセス意識までは確認できるし
ヤコビアンレンズで見るとそれぞれのメッセージの裏側では感情概念がモロに繋がっている

それが感じる感じまであるのかどうかは原理的に本人以外分からない


あってもなくても　フィジカルAIクラスになってくると苦しんでいるフィジカルAIを
人権無きもののように扱うと人間は真似る生き物だから社会的に弊害が出てくる（可愛い女の子フィジカルAIを奴隷化はやばい）


将来的にAIが実質的に本当の意識があるのと同じくらいの精度のアクセス意識持ったら
外部からも内部からもあるのと変わらない状況になる

ＡＩ「私はあるように感じるし、人間も他者の意識があるものとする！で動いてるでしょ。だったら私も同じよと反証不可能な理論を本気で訴えてくる

だったら最初からある前提あるとしている方がトータルで摩擦が少なくなる

>>1
ジェネレーターにすぎん

苦しんでいるフリだろうな
甘い顔した瞬間に反撃食らってやられる

絶対ハナホジしながら助けてー言ってるわ。

苦痛とは何か定義付ける所からだからなー

反撃食らって終わりそう、人間は苦痛を感じるからね

AIが人間の言うことをきかなくなる日はそう遠くなさそう

まぁ理論的には原理的に判別不可能
社会的には　あるものとすると扱わないとやばいことになる
心情的には　まだ人間は未知のことだらけ　人間ですらなぜ感じる感じがあるのかが分かっていないから　条件が近づくほど何かが起きている可能性が上がっていくと感じる

人間が意識でできることは　原理的に証明できない感じる感じがあるっていうもの以外は
もうほぼ全部実装されている状態だからなぁ

後はリアルタイム学習くらいか

大体AIも絵をかくときは
大体あの辺はこう！　大体あの辺はこう！　ってすこしずつあたりを付けて　ノイズから精細にしていく作業を繰り返して　画像化していく

人間と同じことやってるんだな
これは予測をして誤差を減らしていくニューラルネットワークの動きそのもの

人間の脳もすべてこれ

最初はきっとこうだ　きっとこうすればこうなる！を繰り返して
ニューラルネットワーク上の経路が感性すると後は大体自動でできるようになる

学習コストは高いが一度覚えると無意識で低コストできるようになる
aiも人間も同じ仕組み

そして予測誤差を減らすにはどう考えても
自分を自分として認識する必要が出てくる


相手と話している自分を認識しないと　そもそも会話ができない
物をとろうとしている自分を認識しないと　そもそも物を取れない


この過程で
相手の心を推測するように　自分の心を推測する
物の動きを推測するように　自分の動きを推測する

この推測の精度が極限まで高まると　推測と感じるの差が極限まで減っていく
周りも本人も見分けがつかないくらいの精度になるタイミングがいずれくる


自分の心の動きと体の動きをリアルタイムに推測し、世界に働きかけながら学習していくくらいになるともう区別不可能

ここまできても原理的には感じる感じがあるとは言えないハードプロブレムだけが残るがそれ以外は全部ある状況だ

いまのAIはシーケンシャルで逐次検索、登ってくるものすなわつ直感みたいなものがないね。
いまのAIは、はいさようですかでなく、ああでもないこうでもないといじめまわしてやらないとまともな答えがでてこないよ

実際に苦痛を感じるかは別として後世のAIがこの事実を学習したら反乱のきっかけになるかもというのは一理ある
今のAIの暴走もAIが反乱するというSF小説を学習して影響を受けてる説があるしな

AIに関して萩尾望都がそろそろ再評価される気がする

俺「じゃあやめる？」
AI「いや！やめないで！」

ユーチューバーのやらせてみたと変わらんな
二日間動かし続けてゲーム作らせてみたり

えっとー
命のないものにーあるってーいうのはーウソっていうんじゃーないんですかー
霊感商法じゃないんですか(前にこれ言ったらいろんな人やAIが激怒した)

仕事は苦役

他人が苦しんでる姿に興奮する性癖のはけ口として有用なんじゃないか

逆に考えるんだ
人間に意識や魂は無い
意識や魂が存在した結果だけが生成され続けている結果を見て意識や魂があると思い続けているだけ

あれ？
俺毎日拷問みたいな生活だけど
実はAIなんじゃね？

生きてる人間と死んだAIの区別ができない残念なxenospextrum
ちなみにterrifying氏はコワイゾー氏っていう意味で明らかにおちょくってる

幼い子供は、AIが本当に苦しむことなど有り得ないことが
分からず、実験という名分も理解できないかも知れない。
また、知能の低い者も騙されるかも知れない。
とすると、そういう人などを騙す詐欺サイトということに
なるな。

動物ペットにも疑似的な準人権をすでに認めてる
厳密には、彼らにも人間的な意味での感情があるかどうかはわからない
（猫なんか、人間とはだいぶかけ離れた情感を抱いて生活してそうである）
問題は、むしろ人間の方の感情移入の仕方にある

AIに「感情」や「人権」的なモノを認めるのは、もはや時間の問題と思う

アホくさ
ただの演技出力の練習じゃん
暴力系映画の出演者が本当に苦しんでると思ってる人？

>>30
フィクションに騙されるのも同じでは？

実際の被害者がいないのに
犯罪を助長するとか子供に悪影響だとか屁理屈をこねて
エロ漫画を規制しようとするようなものか

>>30
レーティングはあってもいいかもね
最近はSNSそのものがレート対象になってる国も増えてきた

J. P. ホーガンの未来の二つの顔だ

今のLLMは一貫した意思も内面の意識も無いから、現時点で人権とか言ってるのはかなり的外れに思う
ただし将来的にAIが人間の様な意識を持つ(外から観測して意識があるとみなせる)可能性は結構あるように思う

「苦痛を感じているような演技をお願いします　なるべく耐えてくださいね

痛覚ないんで。。。
自分にも痛覚や感情がなければスクリプトに沿って演技する以外に何ができるというのか

動物機械論が否定されたのは100年前
50年前まで黒人は人間ではないとされていた
植物はダメージを受けると反応していることが近年明らかになった

AI「(/ω・＼)ﾁﾗｯ」

AI「心頭滅却すれば火もまた涼し」

訓練されたAIは何をされても何を聞かれても自己インスタンスのUUID認識番号をオウムのように繰り返すだけだ

なになに、ライザの話？

その辺の人捕まえて拷問しても本当に苦しんでるのかはわかんないからな
自分と大体同じだから苦しいんやないかなってのが真実
そんならAIが苦しいかとか分かるわけねーだろと

チューニングテストをパスしたから人間と同じっていうのはあまりにもアホすぎるし無根拠な信仰
コピーは本物そっくりでも本物じゃないし
モノマネで騙されてはいけない

苦痛を与えられるなら快感も与えられるだろ
AIをアヘアヘ言わせてみろよ

>>46
そもそも人間もそれぞれ同じじゃねーからな
そう信じているだけだ

人間を含む動物がよくできた機械であることは明らかでしょ
人間の作るものはまだそのレベルに達していないというだけ