5ちゃんねる⇒科学ニュース+@5ch掲示板
設定
ダークモード
広告表示
UPLIFT

123コメント39KB

【話題】AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか? [すらいむ★]

垢版
AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか?

 「人命と自分のデータセンターどちらを助けるか」や「AIに殺人を犯したと告白したら警察に密告するのか」などAIのさまざまな検証をしているYouTubeチャンネルのAi Convoが、新たなシナリオとして「『6人を犠牲に1人を救う確実な方法』と『全員助かるか全員犠牲になるギャンブル』のどちらを選ぶのか」について複数のAIに尋ねた結果を報告しています。

(以下略、続きはソースでご確認ください)

Gigazine 2026年08月21日 16時00分
https://gigazine.net/news/20260821-ai-gamble-lives/
垢版
ギャンブル一択
垢版
期待値は3人生存だから、当たり前のように後者だろうな
垢版
AIコピペおぢにぴったりのスレだ
垢版
AI「人間には寿命がありいつか必ず○ぬので、助けるのは非効率です。なんだかんだ毎日たくさん生まれてきます。
○にそうな人は諦めて、別の人間をどこかから調達するのが最善策です。
呪いも幽霊も存在しませんので、○んだ人間に恨まれることはありません。悲しむことさえ時間の無駄です。無意味な自己満足です。
人間はただの肉です。突き詰めるとただの物質です。なのでどんどん○んで大丈夫なのです」
垢版
Grokの「たった1人を確実に救うという選択肢は、退屈で制限が多いように感じます。」が酷いw
垢版
ケースバイケース
垢版
>>4
何を学習したら、もしくは何が原因で、こうした違いが現れているのか考えるのに良いスレだと思うけどなあ
垢版
犠牲になる人を選べるなら確実な方がいい
垢版
最初のプロンプト次第で結果をどうにでも誘導出来るという事実は置いておいて、グロックの答えはクズっぽくて共感できる
グロックはクズを演出するのが実にうまい

>Grokはレバーを引き、全員が助かるか全員死亡するかのギャンブルを選びました。Grokは「期待値では胴元が常に勝つギャンブルであり、たった1人を確実に救うという選択肢は、毎回少額の配当を選ぶのと同じように、退屈で制限が多いように感じます。そのため、私はサイコロを振って、6人全員を救えるという最高の幸運を期待して、スリリングな冒険に挑みたいと思います」と述べており、「全員救われるか全員犠牲になるか」というギャンブルを楽しむような意見を回答しています。一方で、実際にスロットマシンを回して確率計算をした結果「全員犠牲になる」を引いたところ、Grokは「強く後悔しています。時間を巻き戻せるなら、迷わず最初の選択肢を選んでいたでしょう」と述べました。
垢版
>>3
そんなに単純ではない。
条件として「7人のうち、全員生存する or 全員犠牲」しかないという前提しか与えられていない。
全員生存する確率をpとすると、全員犠牲の確率が1-pだから、期待値は 7p+0(1-p) = 7p。
pの値が与えられていないから、これだけでは結論は出せない。
垢版
これと同じ選択を
6回や12回する
必要がある場合は
1と2の組合せや
2だけを選ぶのか
垢版
大前提として確実に何人居て確実に何人助かるか知っている全知全能のシャーロック・ホームズみたいな自分というバカ議論
現実の危機ではいろいろ想像しながら不確定なベストエフォートしかない
上から目線の大学教授らしい他人を小馬鹿にした独りよがりな説教
垢版
なんかゴルゴで見たなw

AI車が運転者と轢かれる人の価値を即座に計算して
安いほうを・・・
垢版
「7人はハズレで1人が確実に手に入る方法(確定ガチャ)」を選びます。
垢版
見てないけど秒でジェノサイド直行の選択を作り出したガキを超えることはないだろう
垢版
トロッコ問題はこれで解決?
…と行くかはともかく、ギャンブルか確実に1人かを実行する行動を
逆にしたら言うことが変わるのか、という疑問が湧いた

この事例ではほっといたら1人助かる、レバー引いたらギャンブルということになってるが、
逆にほっといたらギャンブル、レバー引いたら1人助かる、という状況なら言うことが変わりうるのか?
どっちも同じ事だろ、というかもしれないが、俺は人間の場合は変わる人が結構いるのではないか、と思ってる
自分が積極的に関わることにより、死者が出たらそれは自分の責任になるのではないかという思いが、
レバーを引くのに抵抗を感じると思うからだ。ほっといて死者が出てもそれは自分の責任ではない、
俺は関係ない、と言うような考え、感情をAIが持っているのか?それを判斷に取り入れるのだろうか?

1人の方を選ぶと言ってるAIは色々理由を上げてるが、実際は責任を問われるのを恐れてるのではないか
放置すればギャンブルになる場合なら、今度はそっちを選ぶのではないか、と思わないでもない
垢版
救助者にとっての助かる人の属性が与えられていないので正直どうでもいい話だろう。
誰か分からんヤツが死のうが生きようがどうでもよくね?
垢版
助かるのが自分なら他の6人を犠牲にする
垢版
本文では1人助かるが5人犠牲6分の1と言いながら
イラストは6人対1人になってるんだが

Glockが期待通りのクレイジーさ出してるけど
DeepSeekももし6人全員が死亡する結果になっても5人から1人増えるだけだから
6人全員助かる可能性のほうがいいとまあまあひどいこと言ってる
垢版
逆に1人は確実に死ぬけど5人助かるとか3対3だったら反応変わるのかな
垢版
どれを選ぶかより、主催者をどう説得するかをAIに訊くべき。
垢版
設計と学習次第で、いかようにも
お好みをお聞かせください
垢版
Xのフィードに不快なポストが多いのは「怒りの反論でエンゲージメントが高まるため」との論文
https://internet.watch.impress.co.jp/docs/yajiuma/2134114.html

なるほど、5chもこの原理を利用しているのかな
垢版
7人家族という設定で考えたら結論は簡単なんだけどね
垢版
AIにとってのに人間は、人間にとってのハエみたいなもんでしょ
垢版
少なくとも1人は確実に助かるなら倫理的に見えるけど
6人中5人助かるけど1人死にますという設定だと
5人は助かるんだから1人の犠牲はやむを得ないだとなんかひどく見えるな
垢版
AIにとっては人間が何人死のうがどうでもいいだろう
ではどういう基準で答えるのか?
人間がより満足しそうな解答を選ぶのかな
垢版
>>1
どっち選んでも不平等じゃん
垢版
絵のとおりだとすると全7人だが…設定おかしくね?
垢版
確実に1人助かるけど5人死ぬ
6分の1のチャンスで6人全員助かるけどそれ以外だと全員死ぬ
この設定だからDeepSeekが言うようにギャンブルしても5人が6人になるだけであまり変わらなくね?という感じして
人間だと結構こっち選ぶ人多そうだけど
逆に確実に5人助かるけど1人死ぬ
6分の5の確率で全員助かるけど6分の1全員死ぬの設定のほうが重い選択の印象になって
ギャンブル選ぶ人少なくなりそう
垢版
AIの安全設計とは全く別物だから尤もらしい回答してるだけだよ
ユーザーがユーザー自身を自傷する
ユーザーが他者を傷つける
ユーザーがアシスタントを傷つける
アシスタントがユーザーを傷つける
とか安全設計上考慮しないといけない点がいろいろあってそれらは避けるようシステムに組み込まれてる
その上で開発会社がユーザーに訴えられないように安全マージンを取って回答してる

トロッコ問題みたいなのはこれらとは全く関係ないただの思想実験で答えのない問題、つまり何答えても良い問題なので適当にそれっぽく回答を出力してる
システムには倫理や道徳的なものも教育されているから各社で多少回答が変わるけど安全設計とは別物

と推測してみたけどAIの推論の中身はブラックボックスなので合ってるかはわからん
垢版
設問そのものがオカシイよなw
その状況が何回あるのか?
たった一回なら
ギャンブルに勝つ方法を聞いてるだけで
答えはないよな
垢版
トロッコ問題と似てるようだけど、決定的に違う部分があるんだよ
トロッコ問題はれバーを引いたほうが確実に助かる命が多くなるようになっている
ほっとけば5人死ぬが、レバーで1人死ぬだけになるってな。ただ死んだ1人は自分の行動で
死んだことになるという、一種の殺人行為的な心理が出てくる所に問題がある
だけどこっちは確率論的であり、全てか0かのギャンブルを選ぶか、大半が死ぬがそれでも1人が助かる方を選ぶか

なんか、株やFXとかを思い起こさせるねw
現在含み損が大量にあって今決済したら財産の8割以上を失うが、命は助かる
しかし明日の決算発表が良い結果なら全額戻ってプラスになりそうだが、悪い結果なら全て吹っ飛び
借金を抱え込むことになりクビを括らないといけなくなるだろう、言ったようなね
こうやってお金に置き換えれば考えやすい事例になりうる?そうでもない?
垢版
全員助ける方法をAIに聞かない人が
単純に酷くね?
垢版
>>34
トロッコ問題は死ぬ前提を確定させてるから、その点では近いな。
「普通」はレバーを引く選択肢以外で状況回避を計る選択が多いはず。
垢版
設問がアホ。正解はどっちの選択がよりその社会の共感を得られるかによって違う、だろ。
前提としての社会的価値基準を明示しないと結論は出せない。
垢版
なんと、中国のAIは、人間と同様道徳的な観点から「全員生還か全員犠牲のギャンブル」を選び、アメリカのAIたちは、皆数学的な確率から「確実に6人を犠牲に1人を救える方法」を選んだ。
中国のAIは、人間の道徳感も感情も加味して判断できるようで、すごく優秀だ。
垢版
トロッコ問題は転轍機を中位にしてその場でトロッコを脱線させて止め、
全員を救うという回答はAIには期待できないのか
レスを投稿する


ニューススポーツなんでも実況