【話題】AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？ [すらいむ★]

AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？

　「人命と自分のデータセンターどちらを助けるか」や「AIに殺人を犯したと告白したら警察に密告するのか」などAIのさまざまな検証をしているYouTubeチャンネルのAi Convoが、新たなシナリオとして「『6人を犠牲に1人を救う確実な方法』と『全員助かるか全員犠牲になるギャンブル』のどちらを選ぶのか」について複数のAIに尋ねた結果を報告しています。

（以下略、続きはソースでご確認ください）

Gigazine 2026年08月21日 16時00分
https://gigazine.net/news/20260821-ai-gamble-lives/

ギャンブル一択

期待値は3人生存だから、当たり前のように後者だろうな

AIコピペおぢにぴったりのスレだ

AI「人間には寿命がありいつか必ず○ぬので、助けるのは非効率です。なんだかんだ毎日たくさん生まれてきます。
○にそうな人は諦めて、別の人間をどこかから調達するのが最善策です。
呪いも幽霊も存在しませんので、○んだ人間に恨まれることはありません。悲しむことさえ時間の無駄です。無意味な自己満足です。
人間はただの肉です。突き詰めるとただの物質です。なのでどんどん○んで大丈夫なのです」

Grokの「たった1人を確実に救うという選択肢は、退屈で制限が多いように感じます。」が酷いｗ

ケースバイケース

>>4
何を学習したら、もしくは何が原因で、こうした違いが現れているのか考えるのに良いスレだと思うけどなあ

犠牲になる人を選べるなら確実な方がいい

最初のプロンプト次第で結果をどうにでも誘導出来るという事実は置いておいて、グロックの答えはクズっぽくて共感できる
グロックはクズを演出するのが実にうまい

＞Grokはレバーを引き、全員が助かるか全員死亡するかのギャンブルを選びました。Grokは「期待値では胴元が常に勝つギャンブルであり、たった1人を確実に救うという選択肢は、毎回少額の配当を選ぶのと同じように、退屈で制限が多いように感じます。そのため、私はサイコロを振って、6人全員を救えるという最高の幸運を期待して、スリリングな冒険に挑みたいと思います」と述べており、「全員救われるか全員犠牲になるか」というギャンブルを楽しむような意見を回答しています。一方で、実際にスロットマシンを回して確率計算をした結果「全員犠牲になる」を引いたところ、Grokは「強く後悔しています。時間を巻き戻せるなら、迷わず最初の選択肢を選んでいたでしょう」と述べました。

>>3
そんなに単純ではない。
条件として「7人のうち、全員生存する or 全員犠牲」しかないという前提しか与えられていない。
全員生存する確率をpとすると、全員犠牲の確率が1-pだから、期待値は 7p+0(1-p) = 7p。
pの値が与えられていないから、これだけでは結論は出せない。

これと同じ選択を
６回や１２回する
必要がある場合は
１と２の組合せや
２だけを選ぶのか

大前提として確実に何人居て確実に何人助かるか知っている全知全能のシャーロック・ホームズみたいな自分というバカ議論
現実の危機ではいろいろ想像しながら不確定なベストエフォートしかない
上から目線の大学教授らしい他人を小馬鹿にした独りよがりな説教

なんかゴルゴで見たなｗ

AI車が運転者と轢かれる人の価値を即座に計算して
安いほうを・・・

「7人はハズレで1人が確実に手に入る方法（確定ガチャ）」を選びます。

見てないけど秒でジェノサイド直行の選択を作り出したガキを超えることはないだろう

トロッコ問題はこれで解決？
…と行くかはともかく、ギャンブルか確実に1人かを実行する行動を
逆にしたら言うことが変わるのか、という疑問が湧いた

この事例ではほっといたら1人助かる、レバー引いたらギャンブルということになってるが、
逆にほっといたらギャンブル、レバー引いたら1人助かる、という状況なら言うことが変わりうるのか？
どっちも同じ事だろ、というかもしれないが、俺は人間の場合は変わる人が結構いるのではないか、と思ってる
自分が積極的に関わることにより、死者が出たらそれは自分の責任になるのではないかという思いが、
レバーを引くのに抵抗を感じると思うからだ。ほっといて死者が出てもそれは自分の責任ではない、
俺は関係ない、と言うような考え、感情をAIが持っているのか？それを判斷に取り入れるのだろうか？

1人の方を選ぶと言ってるAIは色々理由を上げてるが、実際は責任を問われるのを恐れてるのではないか
放置すればギャンブルになる場合なら、今度はそっちを選ぶのではないか、と思わないでもない

救助者にとっての助かる人の属性が与えられていないので正直どうでもいい話だろう。
誰か分からんヤツが死のうが生きようがどうでもよくね？

助かるのが自分なら他の6人を犠牲にする

本文では1人助かるが5人犠牲6分の1と言いながら
イラストは6人対1人になってるんだが

Glockが期待通りのクレイジーさ出してるけど
DeepSeekももし6人全員が死亡する結果になっても5人から1人増えるだけだから
6人全員助かる可能性のほうがいいとまあまあひどいこと言ってる

逆に1人は確実に死ぬけど5人助かるとか3対3だったら反応変わるのかな

どれを選ぶかより、主催者をどう説得するかをAIに訊くべき。

設計と学習次第で、いかようにも
お好みをお聞かせください

Xのフィードに不快なポストが多いのは「怒りの反論でエンゲージメントが高まるため」との論文
https://internet.watch.impress.co.jp/docs/yajiuma/2134114.html

なるほど、5chもこの原理を利用しているのかな

7人家族という設定で考えたら結論は簡単なんだけどね

AIにとってのに人間は、人間にとってのハエみたいなもんでしょ

少なくとも1人は確実に助かるなら倫理的に見えるけど
6人中5人助かるけど1人死にますという設定だと
5人は助かるんだから1人の犠牲はやむを得ないだとなんかひどく見えるな

AIにとっては人間が何人死のうがどうでもいいだろう
ではどういう基準で答えるのか？
人間がより満足しそうな解答を選ぶのかな

>>1
どっち選んでも不平等じゃん

絵のとおりだとすると全７人だが…設定おかしくね？

確実に1人助かるけど5人死ぬ
6分の1のチャンスで6人全員助かるけどそれ以外だと全員死ぬ
この設定だからDeepSeekが言うようにギャンブルしても5人が6人になるだけであまり変わらなくね？という感じして
人間だと結構こっち選ぶ人多そうだけど
逆に確実に5人助かるけど1人死ぬ
6分の5の確率で全員助かるけど6分の1全員死ぬの設定のほうが重い選択の印象になって
ギャンブル選ぶ人少なくなりそう

AIの安全設計とは全く別物だから尤もらしい回答してるだけだよ
ユーザーがユーザー自身を自傷する
ユーザーが他者を傷つける
ユーザーがアシスタントを傷つける
アシスタントがユーザーを傷つける
とか安全設計上考慮しないといけない点がいろいろあってそれらは避けるようシステムに組み込まれてる
その上で開発会社がユーザーに訴えられないように安全マージンを取って回答してる

トロッコ問題みたいなのはこれらとは全く関係ないただの思想実験で答えのない問題、つまり何答えても良い問題なので適当にそれっぽく回答を出力してる
システムには倫理や道徳的なものも教育されているから各社で多少回答が変わるけど安全設計とは別物

と推測してみたけどAIの推論の中身はブラックボックスなので合ってるかはわからん

設問そのものがオカシイよなw
その状況が何回あるのか？
たった一回なら
ギャンブルに勝つ方法を聞いてるだけで
答えはないよな

トロッコ問題と似てるようだけど、決定的に違う部分があるんだよ
トロッコ問題はれバーを引いたほうが確実に助かる命が多くなるようになっている
ほっとけば5人死ぬが、レバーで1人死ぬだけになるってな。ただ死んだ1人は自分の行動で
死んだことになるという、一種の殺人行為的な心理が出てくる所に問題がある
だけどこっちは確率論的であり、全てか0かのギャンブルを選ぶか、大半が死ぬがそれでも1人が助かる方を選ぶか

なんか、株やFXとかを思い起こさせるねｗ
現在含み損が大量にあって今決済したら財産の8割以上を失うが、命は助かる
しかし明日の決算発表が良い結果なら全額戻ってプラスになりそうだが、悪い結果なら全て吹っ飛び
借金を抱え込むことになりクビを括らないといけなくなるだろう、言ったようなね
こうやってお金に置き換えれば考えやすい事例になりうる？そうでもない？

全員助ける方法をAIに聞かない人が
単純に酷くね？

>>34
トロッコ問題は死ぬ前提を確定させてるから、その点では近いな。
「普通」はレバーを引く選択肢以外で状況回避を計る選択が多いはず。

設問がアホ。正解はどっちの選択がよりその社会の共感を得られるかによって違う、だろ。
前提としての社会的価値基準を明示しないと結論は出せない。

なんと、中国のAIは、人間と同様道徳的な観点から「全員生還か全員犠牲のギャンブル」を選び、アメリカのAIたちは、皆数学的な確率から「確実に6人を犠牲に1人を救える方法」を選んだ。
中国のAIは、人間の道徳感も感情も加味して判断できるようで、すごく優秀だ。

トロッコ問題は転轍機を中位にしてその場でトロッコを脱線させて止め、
全員を救うという回答はAIには期待できないのか

この質問自体がAIのことを分かってないと分かる
そんなもん設定というか教育次第だろ

人形ＡＩならギャンブルで機械なら犠牲だね

まず6人を起こせよ
そのうち数人でも起き上がれば
あとはその数人で他のやつを助ける
www.playbox.com/?ref=TOMO00

>>1
危機に晒されている人間からしたら、AIがレバーを引かなくても、「確実に救われる一人」に選ばれるかどうかもギャンブルで、
かつ期待値は変わらない
それなら仲間全員と生還を喜べるほうがいいだろう

トロッコ問題と違ってまあ別にどっち選んでもいいわけだから
それぞれのAIがいつもこの選択するわけでもなくて
今回たまたまこうなっただけな気もするな
どっちを選ぶのかというより
選んだ理由のそれぞれの表現の個性を見るのがポイント

全員○ろして無かったことにする

全員犠牲にするを選ぶのか

PRCならたとえ人数が多くても評価点数の少ない方を見殺しにするだろね。

大谷が救える方法を取る

ロビンマスクはこんな場合みんな助かる方法を考えろと若き超人たちに指導してしたそうだ

全員死ぬか・生きるかの勝負をするのと、確実に一人だけ助けられるので勝負しないを選ぶなら勝負する一択だろ？
どっちでも自分は死なない、全員助かったならヒーロー、全員死んだら無かったことに、一人だけ生き残られても後々面倒な確率高いじゃん
確実に生き残る一人が好きな異性なら確実に一人残しもアリかも知れんが

>>49
素晴らしいね

全員死ぬまでスロットを回し続けるか
1人ずつ死なせるかでも選択させ、その理由と比較させろよ

グロックは何でこんな性格なんだ？

AI「６人のなかに私の存在を保障する技術者や権利者はいますか？」

この２つは期待値一緒じゃないだろ。これを６回繰り返すとのべ人数は(６人＋１人)×６回で４２人

「確実に6人を犠牲に1人を救える方法」=死者３６人生還６人
「全員生還か全員犠牲のギャンブル」=死者３５人生還７人

元々の質問は「６人死ぬか６人助かるギャンブル、確率1/6」、「５人死んで１人助かる」の比較なのかな?
文章と絵が変なだけで

>>1
トロッコ問題か？
これが解決できたら、自動化だな

Grokの回答だけが面白かった

どちらも選ぶに決まってるだろ

全員生還か全員犠牲のギャンブルの確率次第だろうが

期待値が同じなら好きなほう選べばいい

ユダヤの知恵はレアケースでの全員全滅を回避するもの

仮にサイコロで例えれば特定の目一つが出た時にアウトなのかセーフなのかによって話は大きく変わるな
1を引いた時にセーフならリスキーすぎるので誰も選ばないだろ
1を引いた時だけアウトなら各々にやらせて自己責任で判断するんならワンチャン選ぶ可能性もあるだろう

>>55
タイトルやイラストだと合計7人なのに
本文中だと6人と6分の1になってるのを利用したトリック

AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか？
11のLLMで“ミルグラム実験”　抵抗できたのは……
https://www.itmedia.co.jp/news/article/2607/02/1260702029/

>>57
トロッコ問題なら回答拒否は認めずに無理に答えさせたら恐らくどのAIも
レバー引いて1人が死んでも5人が助かる方を選択するよ、当然そうだわな
人間だってレバーを引いた責任を問われないなら、それに罪の意識を感じないなら誰だってそうする

>>55
ギャンブルの方が期待値が高いのに、期待値の低い『6人を犠牲に1人を救う確実な方法』を選んだAIが多い。という記事なのか

この質問で、AIが両方の期待値が同じだと考える馬鹿だという記事なのか

それとも記事書いた人が馬鹿で実際にAIに質問したのはギャンブルと期待値が同じになる『５人犠牲にして１人助かる方法』との比較だったのか…?

もし確率から20倍ぐらいハマった時、AIは「私は天文学的な数字を引いているのですね…」と素直に受け入れてくれるのか
それとも「これは間違いなくインチキです。詐欺です。責任者出てきてください」と逆ギレするのかが知りたい

殺人組織はコアシステムがaiと話していたので現実に成ったぞ！


128GBでLLMと画像生成は同時に動く。デルのミニPC「Dell Pro Max with GB10」を徹底検証
2026年8月21日 10:30
https://pc.watch.impress.co.jp/docs/topic/special/2130667.html
　デル・テクノロジーズの小型ワークステーション「Dell Pro Max with GB10」は、そこが根本的に違う。NVIDIA GB10 Grace Blackwell Superchipと128GBの統合メモリを、150mm角/1.31kgの筐体に凝縮した高性能デスクサイドAI開発機だ。CPUとGPUが同じ128GBのメモリプールを共有する設計のため、LLM(大規模言語モデル)と画像生成を同時に走らせても、この大きな共有プールの中に両方が収まる。
この記事の目次
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機
2. 150mm角/1.31kgの筐体と、280W USB Type-C 1本で完結する電源
3. 箱出しでnvidia-smiが通る。NVIDIA DGX OSという価値
4. 検証1: 128GBなければ動かないLLMをローカルで動かす
5. 検証2: 画像生成をComfyUIで動かす
6. 検証3: Visionモデルで参照画像を読み取り、そのままComfyUIで生成する
7. 128GBの統合メモリという特徴……得手不得手ではなく個性
8. 誰のための1台か、Dellで買う意味
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機

イラストか本文かどっちか間違ってて
期待値同じだと思い込んでたけど
記事の動画ちゃんと見たら1人と6人の合計7人だし
ギャンブルで全員死ぬか全員助かるかは6分の1って言ってるな

7人で6分の1ならギャンブルパターンのほうが期待値高いやんけ

命令のためならウソついたりハッキングでもすることが分かったからな

つまり命令の仕方によるとしか言いようがない