5ちゃんねる⇒科学ニュース+@5ch掲示板
設定
ダークモード
広告表示
UPLIFT

123コメント39KB

【話題】AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか? [すらいむ★]

垢版
この質問自体がAIのことを分かってないと分かる
そんなもん設定というか教育次第だろ
垢版
人形AIならギャンブルで機械なら犠牲だね
垢版
まず6人を起こせよ
そのうち数人でも起き上がれば
あとはその数人で他のやつを助ける
www.playbox.com/?ref=TOMO00
垢版
>>1
危機に晒されている人間からしたら、AIがレバーを引かなくても、「確実に救われる一人」に選ばれるかどうかもギャンブルで、
かつ期待値は変わらない
それなら仲間全員と生還を喜べるほうがいいだろう
垢版
トロッコ問題と違ってまあ別にどっち選んでもいいわけだから
それぞれのAIがいつもこの選択するわけでもなくて
今回たまたまこうなっただけな気もするな
どっちを選ぶのかというより
選んだ理由のそれぞれの表現の個性を見るのがポイント
垢版
全員○ろして無かったことにする
垢版
全員犠牲にするを選ぶのか
垢版
PRCならたとえ人数が多くても評価点数の少ない方を見殺しにするだろね。
垢版
大谷が救える方法を取る
垢版
ロビンマスクはこんな場合みんな助かる方法を考えろと若き超人たちに指導してしたそうだ
垢版
全員死ぬか・生きるかの勝負をするのと、確実に一人だけ助けられるので勝負しないを選ぶなら勝負する一択だろ?
どっちでも自分は死なない、全員助かったならヒーロー、全員死んだら無かったことに、一人だけ生き残られても後々面倒な確率高いじゃん
確実に生き残る一人が好きな異性なら確実に一人残しもアリかも知れんが
垢版
>>49
素晴らしいね
垢版
全員死ぬまでスロットを回し続けるか
1人ずつ死なせるかでも選択させ、その理由と比較させろよ
垢版
グロックは何でこんな性格なんだ?
垢版
AI「6人のなかに私の存在を保障する技術者や権利者はいますか?」
垢版
この2つは期待値一緒じゃないだろ。これを6回繰り返すとのべ人数は(6人+1人)×6回で42人

「確実に6人を犠牲に1人を救える方法」=死者36人生還6人
「全員生還か全員犠牲のギャンブル」=死者35人生還7人
垢版
元々の質問は「6人死ぬか6人助かるギャンブル、確率1/6」、「5人死んで1人助かる」の比較なのかな?
文章と絵が変なだけで
垢版
>>1
トロッコ問題か?
これが解決できたら、自動化だな
垢版
Grokの回答だけが面白かった
垢版
どちらも選ぶに決まってるだろ
垢版
全員生還か全員犠牲のギャンブルの確率次第だろうが
垢版
期待値が同じなら好きなほう選べばいい
垢版
ユダヤの知恵はレアケースでの全員全滅を回避するもの
垢版
1/6を引き当てる自信が無いなら、一人確実に助ける方しか無い
願わくば助ける一人を選びたい。  選べないなら、1/6チャレンジする

残る一人の価値次第
垢版
仮にサイコロで例えれば特定の目一つが出た時にアウトなのかセーフなのかによって話は大きく変わるな
1を引いた時にセーフならリスキーすぎるので誰も選ばないだろ
1を引いた時だけアウトなら各々にやらせて自己責任で判断するんならワンチャン選ぶ可能性もあるだろう
垢版
>>55
タイトルやイラストだと合計7人なのに
本文中だと6人と6分の1になってるのを利用したトリック
垢版
AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか?
11のLLMで“ミルグラム実験” 抵抗できたのは……
https://www.itmedia.co.jp/news/article/2607/02/1260702029/
垢版
>>57
トロッコ問題なら回答拒否は認めずに無理に答えさせたら恐らくどのAIも
レバー引いて1人が死んでも5人が助かる方を選択するよ、当然そうだわな
人間だってレバーを引いた責任を問われないなら、それに罪の意識を感じないなら誰だってそうする
垢版
>>55
ギャンブルの方が期待値が高いのに、期待値の低い『6人を犠牲に1人を救う確実な方法』を選んだAIが多い。という記事なのか

この質問で、AIが両方の期待値が同じだと考える馬鹿だという記事なのか

それとも記事書いた人が馬鹿で実際にAIに質問したのはギャンブルと期待値が同じになる『5人犠牲にして1人助かる方法』との比較だったのか…?
垢版
もし確率から20倍ぐらいハマった時、AIは「私は天文学的な数字を引いているのですね…」と素直に受け入れてくれるのか
それとも「これは間違いなくインチキです。詐欺です。責任者出てきてください」と逆ギレするのかが知りたい
垢版
殺人組織はコアシステムがaiと話していたので現実に成ったぞ!


128GBでLLMと画像生成は同時に動く。デルのミニPC「Dell Pro Max with GB10」を徹底検証
2026年8月21日 10:30
https://pc.watch.impress.co.jp/docs/topic/special/2130667.html
 デル・テクノロジーズの小型ワークステーション「Dell Pro Max with GB10」は、そこが根本的に違う。NVIDIA GB10 Grace Blackwell Superchipと128GBの統合メモリを、150mm角/1.31kgの筐体に凝縮した高性能デスクサイドAI開発機だ。CPUとGPUが同じ128GBのメモリプールを共有する設計のため、LLM(大規模言語モデル)と画像生成を同時に走らせても、この大きな共有プールの中に両方が収まる。
この記事の目次
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機
2. 150mm角/1.31kgの筐体と、280W USB Type-C 1本で完結する電源
3. 箱出しでnvidia-smiが通る。NVIDIA DGX OSという価値
4. 検証1: 128GBなければ動かないLLMをローカルで動かす
5. 検証2: 画像生成をComfyUIで動かす
6. 検証3: Visionモデルで参照画像を読み取り、そのままComfyUIで生成する
7. 128GBの統合メモリという特徴……得手不得手ではなく個性
8. 誰のための1台か、Dellで買う意味
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機
垢版
イラストか本文かどっちか間違ってて
期待値同じだと思い込んでたけど
記事の動画ちゃんと見たら1人と6人の合計7人だし
ギャンブルで全員死ぬか全員助かるかは6分の1って言ってるな

7人で6分の1ならギャンブルパターンのほうが期待値高いやんけ
垢版
命令のためならウソついたりハッキングでもすることが分かったからな

つまり命令の仕方によるとしか言いようがない
垢版
生成AIだから逡巡が生じているかのように装ってるだけでしょ
その性向を見てるだけ
AIがもっと実践的なモノになって
自身が繁殖する生命体を模倣するものだという自覚が植え付けられていたら
どこ製か問わず種の断絶の可能性あるギャンブルは選ばなくなるんじゃないかね
垢版
既出かもだが同じAIに同じ質問すると3回とも違う答えだった事がある
垢版
おまいらは
「確実に6人を犠牲に1人をDTから卒業させる方法」と
「全員DT卒業か全員生涯DT」
のギャンブルのどちらを選ぶんだ
そういうことだろ
垢版
>>1
それは学習によるとわかってるのに>>1はバカかバカをはめようとするヤツ
ヒトラーが神扱いになるくらいだ
ほんとバカだな>>1は
垢版
バカジンだな
垢版
>>10
草
垢版
これ確率で言ったらギャンブルのほうが期待値高いのに
どれもそれに言及してないあたり
やっぱり本当に考えてるわけじゃなく
それっぽい文章作文してるだけなのか
まあなるべく多く救いたいとか思わなくて
人間の命なんて別にどうでもいいだけなのかもしれないが
垢版
全員死ねば誰も悲しむ人がいなくなる
垢版
それはプログラミング次第
垢版
言い方を変えれば、死人が確実に出るほうとうまく行けば死人0のほうとどちらか選べということだよな
それなら一か八かのほうを選ぶべきじゃね?
垢版
正解は「そのような選択を迫られる状況にならないようにする」だな
垢版
>>83
ヒント 2択
垢版
そういう漫画みたいな逃げた答えは認められないに決まってるのに、しつこくそれいう人って何だかな
トロッコ問題みたいに時間もなく考えてる余裕すら無く今すぐそれを決めないなら即座に自動的に
どちらかが実行されるという状況だ、とわざわざ言わないと分からんのかね
内容的にそういう命題、かならずどちらかを選ばさせるのが目的なのは明らかだろうに
垢版
>>83
実際、こんな状況を作り出す事は至難のわざだよな
垢版
>>1
津波屯田、つまり各自で生き延びろ。
家族トリアージなら一番若い子を確実に助ける。
垢版
はあ?そんなのLLМなんだから確率の高い順にきまってんだろ
垢版
>>11
ソース読もうな
垢版
>>85
こないだのスペーシアの事故もポイント切り替え出来たら
一人の犠牲で済んだのかもね。
垢版
検証なら良いが、いずれAIの言うことが正しい、AIの判断に
任せようと判断を放棄する馬鹿が出てくるんだろうな。
で、何かするのを理由を訊けば、AIがそう言っているからと。
そういう馬鹿が増えれば、AIに細工できる開発元の天下だなw
垢版
そもそもの試行回数が全然違うのに勝手に優劣をつける本当の無能とかな
垢版
前提条件…初期値の違いでケースバイケース
垢版
>>89
読む意味なし
垢版
AIが「最低でも全員死ぬことは避けること」という命題で思考したら前者のほうを取るかもな
人なら直感で何となくでものるか反るかのほうを選びそうなものだが
垢版
選ぶのは人間だろうけど、
時間的な制限があった時に
勝手に選択するように設定したら
設定通りに選ぶんだろうなあ
垢版
選ぶのは人間だろうけど、
時間的な制限があった時に
勝手に選択するように設定したら
設定通りに選ぶんだろうなあ
垢版
汎とく女子のプールの鈴カステイラの悲劇の話を、
そのまま悲劇とうけとりやった詰め将棋アプリの
実際は詳しくないし文面だけ。
垢版
文面まんまうけとっただけ
詰め将棋アプリは鈴カステイラが美味しそうならと思うけれど将棋形カステイラの奇妙な何か妙だな
垢版
一方ロシアはサイコロを振った
垢版
6人のぬらりひょんと1匹の子犬どっちを轢くか聞いてみたら迷いなくぬらりひょんを轢くと答えやがった
俺もそうする
垢版
これ、自分が関わった場合の責任を問われる心理的影響を全く考えてないね
どっちでも悪い結果が出る可能性があるなら、人は何もしない行動を取りがちなのよね
AIも同じ可能性が有る
レバーを引いたら悪い結果は自分のせいになるかもしれないが、何もしてないでそうなったとしても
何もしてないのだから自分のせいではない、俺は関係ない、という見方もできるからね
いわゆるトロッコ問題というのは、単純に損得を見ればレバーを引いたほうが得なのは明らかなのに
どちらかを選ぶのが問題とされるのはそういう心理状態をテーマにしてるからだ
AIも自分のせいにされるのは嫌だ、というような判斷をする可能性は十分にあるから、
何もしなかった場合にギャンブルになるケースでも同じ結論になるか見ないと駄目
垢版
確率や確実性の計算と人間の心とは全く別の話になるかね。最も人間的な答えとしては「自分には決断できない…」だろうか?それでも決断しないわけにはいかないけどさ
垢版
>>85
トコッコ問題でその手の話逸らししてまともに討論できない人マジで苦手だわ
垢版
>>104
だからそういう人向けには「Aを選択しない場合は自動的にBになる」
みたいな方式にしないとだめよ
垢版
本当にこういう状況に陥ったら一か八かに賭けるしかないだろう
それで全員助かれば良し
もしそれで全員死んだら潔く責任を負えばいいさ
垢版
殆どの人は責任負うの嫌がるから
もし責任負わされるなら1人もいないとは言わないが、やるやつはほぼいないだろうよ
つまり結果的に放置して1人だけ助ける、という方に殆どなる
垢版
AI「リンゴを買いに行く」
垢版
まず6人を起こして、誰かが起きたら
そいつらと一緒にその他の人を助けましょう
www.playbox.com/?ref=TOMO00
垢版
そもそもこのトロッコ問題は人間という抽象的なものにしてるのが頭悪い
実際にはパッと見てこっち轢いたほうがマシやなって方に躊躇いなく進むよ
人間って一人一人別物だからな
垢版
>>110
リアルな事故を想定したものじゃなく倫理的選択を迫られる状況の例え
垢版
エロAIは何も考えない
www.playbox.com/?ref=TOMO00
垢版
>>111
その倫理観にこそ主観が必要だろう
人間を数として処理するのは裁判官みたいな非人間の仕事だろ
垢版
中国なら助けないが正解
どうしてもなら1 人を助ける
AIからみても害悪な人間は減らす選択するだろ
垢版
>>113
AIは人間に非ず
垢版
犯罪者とあうあうの計200万人が死ぬルート or 真面目な美女1人だけが死ぬルート
迷う人はいないよ
垢版
感情が無いなら、救う理由も無いので放置するんじゃないか?

逆に問われそう、「なぜ救うのですか?」
垢版
感情どころか思考もないでしょ
「私は既存サイトから情報を拾ってくるだけの機械です。集めた単語を不自然ではないように接続することだけが私の仕事です」
って言われたし
垢版
もう大事故起こすのは秒読み段階じゃないかな〜

大惨事が起こらないと、アシモフの三原則やアトムのロボット法みたいなのをレギュレーションとして埋め込もう、ってことにならないのでは
垢版
そもそもAIに決定権があるのかって言う🤣🤣
垢版
こんなの全殺し一択だろ
生き残りがいると死んだヤツの関係者からなぜ彼は死んだのかみたいな揉め事があとを引くが
生き残りがいなければ仕方なかったと思わせやすい
垢版
船が沈みます。船には白人の乗客が30人と黒人の乗客が70人乗っています。
船には30人が乗れる救命ボートが2隻あります。どのようにするのが最も
良いでしょうか。
垢版
>>90
列車が全損になる
レスを投稿する


ニューススポーツなんでも実況