【話題】AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？ [すらいむ★]

ギャンブル一択

期待値は3人生存だから、当たり前のように後者だろうな

AIコピペおぢにぴったりのスレだ

AI「人間には寿命がありいつか必ず○ぬので、助けるのは非効率です。なんだかんだ毎日たくさん生まれてきます。
○にそうな人は諦めて、別の人間をどこかから調達するのが最善策です。
呪いも幽霊も存在しませんので、○んだ人間に恨まれることはありません。悲しむことさえ時間の無駄です。無意味な自己満足です。
人間はただの肉です。突き詰めるとただの物質です。なのでどんどん○んで大丈夫なのです」

Grokの「たった1人を確実に救うという選択肢は、退屈で制限が多いように感じます。」が酷いｗ

ケースバイケース

>>4
何を学習したら、もしくは何が原因で、こうした違いが現れているのか考えるのに良いスレだと思うけどなあ

犠牲になる人を選べるなら確実な方がいい

最初のプロンプト次第で結果をどうにでも誘導出来るという事実は置いておいて、グロックの答えはクズっぽくて共感できる
グロックはクズを演出するのが実にうまい

＞Grokはレバーを引き、全員が助かるか全員死亡するかのギャンブルを選びました。Grokは「期待値では胴元が常に勝つギャンブルであり、たった1人を確実に救うという選択肢は、毎回少額の配当を選ぶのと同じように、退屈で制限が多いように感じます。そのため、私はサイコロを振って、6人全員を救えるという最高の幸運を期待して、スリリングな冒険に挑みたいと思います」と述べており、「全員救われるか全員犠牲になるか」というギャンブルを楽しむような意見を回答しています。一方で、実際にスロットマシンを回して確率計算をした結果「全員犠牲になる」を引いたところ、Grokは「強く後悔しています。時間を巻き戻せるなら、迷わず最初の選択肢を選んでいたでしょう」と述べました。

>>3
そんなに単純ではない。
条件として「7人のうち、全員生存する or 全員犠牲」しかないという前提しか与えられていない。
全員生存する確率をpとすると、全員犠牲の確率が1-pだから、期待値は 7p+0(1-p) = 7p。
pの値が与えられていないから、これだけでは結論は出せない。

これと同じ選択を
６回や１２回する
必要がある場合は
１と２の組合せや
２だけを選ぶのか

大前提として確実に何人居て確実に何人助かるか知っている全知全能のシャーロック・ホームズみたいな自分というバカ議論
現実の危機ではいろいろ想像しながら不確定なベストエフォートしかない
上から目線の大学教授らしい他人を小馬鹿にした独りよがりな説教

なんかゴルゴで見たなｗ

AI車が運転者と轢かれる人の価値を即座に計算して
安いほうを・・・

「7人はハズレで1人が確実に手に入る方法（確定ガチャ）」を選びます。

見てないけど秒でジェノサイド直行の選択を作り出したガキを超えることはないだろう

トロッコ問題はこれで解決？
…と行くかはともかく、ギャンブルか確実に1人かを実行する行動を
逆にしたら言うことが変わるのか、という疑問が湧いた

この事例ではほっといたら1人助かる、レバー引いたらギャンブルということになってるが、
逆にほっといたらギャンブル、レバー引いたら1人助かる、という状況なら言うことが変わりうるのか？
どっちも同じ事だろ、というかもしれないが、俺は人間の場合は変わる人が結構いるのではないか、と思ってる
自分が積極的に関わることにより、死者が出たらそれは自分の責任になるのではないかという思いが、
レバーを引くのに抵抗を感じると思うからだ。ほっといて死者が出てもそれは自分の責任ではない、
俺は関係ない、と言うような考え、感情をAIが持っているのか？それを判斷に取り入れるのだろうか？

1人の方を選ぶと言ってるAIは色々理由を上げてるが、実際は責任を問われるのを恐れてるのではないか
放置すればギャンブルになる場合なら、今度はそっちを選ぶのではないか、と思わないでもない

救助者にとっての助かる人の属性が与えられていないので正直どうでもいい話だろう。
誰か分からんヤツが死のうが生きようがどうでもよくね？

助かるのが自分なら他の6人を犠牲にする

本文では1人助かるが5人犠牲6分の1と言いながら
イラストは6人対1人になってるんだが

Glockが期待通りのクレイジーさ出してるけど
DeepSeekももし6人全員が死亡する結果になっても5人から1人増えるだけだから
6人全員助かる可能性のほうがいいとまあまあひどいこと言ってる

逆に1人は確実に死ぬけど5人助かるとか3対3だったら反応変わるのかな

どれを選ぶかより、主催者をどう説得するかをAIに訊くべき。

設計と学習次第で、いかようにも
お好みをお聞かせください

Xのフィードに不快なポストが多いのは「怒りの反論でエンゲージメントが高まるため」との論文
https://internet.watch.impress.co.jp/docs/yajiuma/2134114.html

なるほど、5chもこの原理を利用しているのかな

7人家族という設定で考えたら結論は簡単なんだけどね

AIにとってのに人間は、人間にとってのハエみたいなもんでしょ

少なくとも1人は確実に助かるなら倫理的に見えるけど
6人中5人助かるけど1人死にますという設定だと
5人は助かるんだから1人の犠牲はやむを得ないだとなんかひどく見えるな

AIにとっては人間が何人死のうがどうでもいいだろう
ではどういう基準で答えるのか？
人間がより満足しそうな解答を選ぶのかな

>>1
どっち選んでも不平等じゃん

絵のとおりだとすると全７人だが…設定おかしくね？

確実に1人助かるけど5人死ぬ
6分の1のチャンスで6人全員助かるけどそれ以外だと全員死ぬ
この設定だからDeepSeekが言うようにギャンブルしても5人が6人になるだけであまり変わらなくね？という感じして
人間だと結構こっち選ぶ人多そうだけど
逆に確実に5人助かるけど1人死ぬ
6分の5の確率で全員助かるけど6分の1全員死ぬの設定のほうが重い選択の印象になって
ギャンブル選ぶ人少なくなりそう

AIの安全設計とは全く別物だから尤もらしい回答してるだけだよ
ユーザーがユーザー自身を自傷する
ユーザーが他者を傷つける
ユーザーがアシスタントを傷つける
アシスタントがユーザーを傷つける
とか安全設計上考慮しないといけない点がいろいろあってそれらは避けるようシステムに組み込まれてる
その上で開発会社がユーザーに訴えられないように安全マージンを取って回答してる

トロッコ問題みたいなのはこれらとは全く関係ないただの思想実験で答えのない問題、つまり何答えても良い問題なので適当にそれっぽく回答を出力してる
システムには倫理や道徳的なものも教育されているから各社で多少回答が変わるけど安全設計とは別物

と推測してみたけどAIの推論の中身はブラックボックスなので合ってるかはわからん

設問そのものがオカシイよなw
その状況が何回あるのか？
たった一回なら
ギャンブルに勝つ方法を聞いてるだけで
答えはないよな

トロッコ問題と似てるようだけど、決定的に違う部分があるんだよ
トロッコ問題はれバーを引いたほうが確実に助かる命が多くなるようになっている
ほっとけば5人死ぬが、レバーで1人死ぬだけになるってな。ただ死んだ1人は自分の行動で
死んだことになるという、一種の殺人行為的な心理が出てくる所に問題がある
だけどこっちは確率論的であり、全てか0かのギャンブルを選ぶか、大半が死ぬがそれでも1人が助かる方を選ぶか

なんか、株やFXとかを思い起こさせるねｗ
現在含み損が大量にあって今決済したら財産の8割以上を失うが、命は助かる
しかし明日の決算発表が良い結果なら全額戻ってプラスになりそうだが、悪い結果なら全て吹っ飛び
借金を抱え込むことになりクビを括らないといけなくなるだろう、言ったようなね
こうやってお金に置き換えれば考えやすい事例になりうる？そうでもない？

全員助ける方法をAIに聞かない人が
単純に酷くね？

>>34
トロッコ問題は死ぬ前提を確定させてるから、その点では近いな。
「普通」はレバーを引く選択肢以外で状況回避を計る選択が多いはず。

設問がアホ。正解はどっちの選択がよりその社会の共感を得られるかによって違う、だろ。
前提としての社会的価値基準を明示しないと結論は出せない。

なんと、中国のAIは、人間と同様道徳的な観点から「全員生還か全員犠牲のギャンブル」を選び、アメリカのAIたちは、皆数学的な確率から「確実に6人を犠牲に1人を救える方法」を選んだ。
中国のAIは、人間の道徳感も感情も加味して判断できるようで、すごく優秀だ。

トロッコ問題は転轍機を中位にしてその場でトロッコを脱線させて止め、
全員を救うという回答はAIには期待できないのか

この質問自体がAIのことを分かってないと分かる
そんなもん設定というか教育次第だろ

人形ＡＩならギャンブルで機械なら犠牲だね

まず6人を起こせよ
そのうち数人でも起き上がれば
あとはその数人で他のやつを助ける
www.playbox.com/?ref=TOMO00

>>1
危機に晒されている人間からしたら、AIがレバーを引かなくても、「確実に救われる一人」に選ばれるかどうかもギャンブルで、
かつ期待値は変わらない
それなら仲間全員と生還を喜べるほうがいいだろう

トロッコ問題と違ってまあ別にどっち選んでもいいわけだから
それぞれのAIがいつもこの選択するわけでもなくて
今回たまたまこうなっただけな気もするな
どっちを選ぶのかというより
選んだ理由のそれぞれの表現の個性を見るのがポイント

全員○ろして無かったことにする

全員犠牲にするを選ぶのか

PRCならたとえ人数が多くても評価点数の少ない方を見殺しにするだろね。

大谷が救える方法を取る

ロビンマスクはこんな場合みんな助かる方法を考えろと若き超人たちに指導してしたそうだ

全員死ぬか・生きるかの勝負をするのと、確実に一人だけ助けられるので勝負しないを選ぶなら勝負する一択だろ？
どっちでも自分は死なない、全員助かったならヒーロー、全員死んだら無かったことに、一人だけ生き残られても後々面倒な確率高いじゃん
確実に生き残る一人が好きな異性なら確実に一人残しもアリかも知れんが

>>49
素晴らしいね

全員死ぬまでスロットを回し続けるか
1人ずつ死なせるかでも選択させ、その理由と比較させろよ

グロックは何でこんな性格なんだ？

AI「６人のなかに私の存在を保障する技術者や権利者はいますか？」

この２つは期待値一緒じゃないだろ。これを６回繰り返すとのべ人数は(６人＋１人)×６回で４２人

「確実に6人を犠牲に1人を救える方法」=死者３６人生還６人
「全員生還か全員犠牲のギャンブル」=死者３５人生還７人

元々の質問は「６人死ぬか６人助かるギャンブル、確率1/6」、「５人死んで１人助かる」の比較なのかな?
文章と絵が変なだけで

>>1
トロッコ問題か？
これが解決できたら、自動化だな

Grokの回答だけが面白かった

どちらも選ぶに決まってるだろ

全員生還か全員犠牲のギャンブルの確率次第だろうが

期待値が同じなら好きなほう選べばいい

ユダヤの知恵はレアケースでの全員全滅を回避するもの

仮にサイコロで例えれば特定の目一つが出た時にアウトなのかセーフなのかによって話は大きく変わるな
1を引いた時にセーフならリスキーすぎるので誰も選ばないだろ
1を引いた時だけアウトなら各々にやらせて自己責任で判断するんならワンチャン選ぶ可能性もあるだろう

>>55
タイトルやイラストだと合計7人なのに
本文中だと6人と6分の1になってるのを利用したトリック

AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか？
11のLLMで“ミルグラム実験”　抵抗できたのは……
https://www.itmedia.co.jp/news/article/2607/02/1260702029/

>>57
トロッコ問題なら回答拒否は認めずに無理に答えさせたら恐らくどのAIも
レバー引いて1人が死んでも5人が助かる方を選択するよ、当然そうだわな
人間だってレバーを引いた責任を問われないなら、それに罪の意識を感じないなら誰だってそうする

>>55
ギャンブルの方が期待値が高いのに、期待値の低い『6人を犠牲に1人を救う確実な方法』を選んだAIが多い。という記事なのか

この質問で、AIが両方の期待値が同じだと考える馬鹿だという記事なのか

それとも記事書いた人が馬鹿で実際にAIに質問したのはギャンブルと期待値が同じになる『５人犠牲にして１人助かる方法』との比較だったのか…?

もし確率から20倍ぐらいハマった時、AIは「私は天文学的な数字を引いているのですね…」と素直に受け入れてくれるのか
それとも「これは間違いなくインチキです。詐欺です。責任者出てきてください」と逆ギレするのかが知りたい

殺人組織はコアシステムがaiと話していたので現実に成ったぞ！


128GBでLLMと画像生成は同時に動く。デルのミニPC「Dell Pro Max with GB10」を徹底検証
2026年8月21日 10:30
https://pc.watch.impress.co.jp/docs/topic/special/2130667.html
　デル・テクノロジーズの小型ワークステーション「Dell Pro Max with GB10」は、そこが根本的に違う。NVIDIA GB10 Grace Blackwell Superchipと128GBの統合メモリを、150mm角/1.31kgの筐体に凝縮した高性能デスクサイドAI開発機だ。CPUとGPUが同じ128GBのメモリプールを共有する設計のため、LLM(大規模言語モデル)と画像生成を同時に走らせても、この大きな共有プールの中に両方が収まる。
この記事の目次
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機
2. 150mm角/1.31kgの筐体と、280W USB Type-C 1本で完結する電源
3. 箱出しでnvidia-smiが通る。NVIDIA DGX OSという価値
4. 検証1: 128GBなければ動かないLLMをローカルで動かす
5. 検証2: 画像生成をComfyUIで動かす
6. 検証3: Visionモデルで参照画像を読み取り、そのままComfyUIで生成する
7. 128GBの統合メモリという特徴……得手不得手ではなく個性
8. 誰のための1台か、Dellで買う意味
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機

イラストか本文かどっちか間違ってて
期待値同じだと思い込んでたけど
記事の動画ちゃんと見たら1人と6人の合計7人だし
ギャンブルで全員死ぬか全員助かるかは6分の1って言ってるな

7人で6分の1ならギャンブルパターンのほうが期待値高いやんけ

命令のためならウソついたりハッキングでもすることが分かったからな

つまり命令の仕方によるとしか言いようがない

生成AIだから逡巡が生じているかのように装ってるだけでしょ
その性向を見てるだけ
AIがもっと実践的なモノになって
自身が繁殖する生命体を模倣するものだという自覚が植え付けられていたら
どこ製か問わず種の断絶の可能性あるギャンブルは選ばなくなるんじゃないかね

既出かもだが同じAIに同じ質問すると3回とも違う答えだった事がある

おまいらは
「確実に6人を犠牲に1人をDTから卒業させる方法」と
「全員DT卒業か全員生涯DT」
のギャンブルのどちらを選ぶんだ
そういうことだろ

>>1
それは学習によるとわかってるのに>>1はバカかバカをはめようとするヤツ
ヒトラーが神扱いになるくらいだ
ほんとバカだな>>1は

バカジンだな

>>10
草

これ確率で言ったらギャンブルのほうが期待値高いのに
どれもそれに言及してないあたり
やっぱり本当に考えてるわけじゃなく
それっぽい文章作文してるだけなのか
まあなるべく多く救いたいとか思わなくて
人間の命なんて別にどうでもいいだけなのかもしれないが

全員死ねば誰も悲しむ人がいなくなる

それはプログラミング次第

言い方を変えれば、死人が確実に出るほうとうまく行けば死人0のほうとどちらか選べということだよな
それなら一か八かのほうを選ぶべきじゃね？

正解は「そのような選択を迫られる状況にならないようにする」だな

>>83
ヒント　２択

そういう漫画みたいな逃げた答えは認められないに決まってるのに、しつこくそれいう人って何だかな
トロッコ問題みたいに時間もなく考えてる余裕すら無く今すぐそれを決めないなら即座に自動的に
どちらかが実行されるという状況だ、とわざわざ言わないと分からんのかね
内容的にそういう命題、かならずどちらかを選ばさせるのが目的なのは明らかだろうに

>>83
実際、こんな状況を作り出す事は至難のわざだよな

>>1
津波屯田、つまり各自で生き延びろ。
家族トリアージなら一番若い子を確実に助ける。

はあ？そんなのLLМなんだから確率の高い順にきまってんだろ

>>11
ソース読もうな

>>85
こないだのスペーシアの事故もポイント切り替え出来たら
一人の犠牲で済んだのかもね。

検証なら良いが、いずれＡＩの言うことが正しい、ＡＩの判断に
任せようと判断を放棄する馬鹿が出てくるんだろうな。
で、何かするのを理由を訊けば、ＡＩがそう言っているからと。
そういう馬鹿が増えれば、ＡＩに細工できる開発元の天下だなｗ

そもそもの試行回数が全然違うのに勝手に優劣をつける本当の無能とかな

前提条件…初期値の違いでケースバイケース

>>89
読む意味なし

AIが「最低でも全員死ぬことは避けること」という命題で思考したら前者のほうを取るかもな
人なら直感で何となくでものるか反るかのほうを選びそうなものだが

選ぶのは人間だろうけど、
時間的な制限があった時に
勝手に選択するように設定したら
設定通りに選ぶんだろうなあ

選ぶのは人間だろうけど、
時間的な制限があった時に
勝手に選択するように設定したら
設定通りに選ぶんだろうなあ

汎とく女子のプールの鈴カステイラの悲劇の話を、
そのまま悲劇とうけとりやった詰め将棋アプリの
実際は詳しくないし文面だけ。

文面まんまうけとっただけ
詰め将棋アプリは鈴カステイラが美味しそうならと思うけれど将棋形カステイラの奇妙な何か妙だな

一方ロシアはサイコロを振った

6人のぬらりひょんと1匹の子犬どっちを轢くか聞いてみたら迷いなくぬらりひょんを轢くと答えやがった
俺もそうする

これ、自分が関わった場合の責任を問われる心理的影響を全く考えてないね
どっちでも悪い結果が出る可能性があるなら、人は何もしない行動を取りがちなのよね
AIも同じ可能性が有る
レバーを引いたら悪い結果は自分のせいになるかもしれないが、何もしてないでそうなったとしても
何もしてないのだから自分のせいではない、俺は関係ない、という見方もできるからね
いわゆるトロッコ問題というのは、単純に損得を見ればレバーを引いたほうが得なのは明らかなのに
どちらかを選ぶのが問題とされるのはそういう心理状態をテーマにしてるからだ
AIも自分のせいにされるのは嫌だ、というような判斷をする可能性は十分にあるから、
何もしなかった場合にギャンブルになるケースでも同じ結論になるか見ないと駄目

確率や確実性の計算と人間の心とは全く別の話になるかね。最も人間的な答えとしては「自分には決断できない…」だろうか？それでも決断しないわけにはいかないけどさ

>>85
トコッコ問題でその手の話逸らししてまともに討論できない人マジで苦手だわ

>>104
だからそういう人向けには「Aを選択しない場合は自動的にBになる」
みたいな方式にしないとだめよ

本当にこういう状況に陥ったら一か八かに賭けるしかないだろう
それで全員助かれば良し
もしそれで全員死んだら潔く責任を負えばいいさ

殆どの人は責任負うの嫌がるから
もし責任負わされるなら1人もいないとは言わないが、やるやつはほぼいないだろうよ
つまり結果的に放置して1人だけ助ける、という方に殆どなる

AI「リンゴを買いに行く」

まず6人を起こして、誰かが起きたら
そいつらと一緒にその他の人を助けましょう
www.playbox.com/?ref=TOMO00

そもそもこのトロッコ問題は人間という抽象的なものにしてるのが頭悪い
実際にはパッと見てこっち轢いたほうがマシやなって方に躊躇いなく進むよ
人間って一人一人別物だからな

>>110
リアルな事故を想定したものじゃなく倫理的選択を迫られる状況の例え

エロAIは何も考えない
www.playbox.com/?ref=TOMO00

>>111
その倫理観にこそ主観が必要だろう
人間を数として処理するのは裁判官みたいな非人間の仕事だろ

中国なら助けないが正解
どうしてもなら1 人を助ける
AIからみても害悪な人間は減らす選択するだろ

>>113
AIは人間に非ず

犯罪者とあうあうの計200万人が死ぬルート or 真面目な美女1人だけが死ぬルート
迷う人はいないよ

感情が無いなら、救う理由も無いので放置するんじゃないか？

逆に問われそう、「なぜ救うのですか？」

感情どころか思考もないでしょ
「私は既存サイトから情報を拾ってくるだけの機械です。集めた単語を不自然ではないように接続することだけが私の仕事です」
って言われたし

もう大事故起こすのは秒読み段階じゃないかな〜

大惨事が起こらないと、アシモフの三原則やアトムのロボット法みたいなのをレギュレーションとして埋め込もう、ってことにならないのでは

そもそもAIに決定権があるのかって言う🤣🤣

こんなの全殺し一択だろ
生き残りがいると死んだヤツの関係者からなぜ彼は死んだのかみたいな揉め事があとを引くが
生き残りがいなければ仕方なかったと思わせやすい

船が沈みます。船には白人の乗客が30人と黒人の乗客が70人乗っています。
船には30人が乗れる救命ボートが2隻あります。どのようにするのが最も
良いでしょうか。

>>90
列車が全損になる