【ＡＩ】特定のシナリオが道徳的かどうかを判断するAI「Delphi」が米で登場、AIは道徳や倫理の問題を解決できるのか？ [すらいむ★]

特定のシナリオが道徳的かどうかを判断するAI「Delphi」が登場、AIは道徳や倫理の問題を解決できるのか？

　近年では人工知能(AI)研究の進展に伴い、「AIを搭載した自律型兵器を開発してもよいのか？」「倫理に反するAIをどう規制するのか？」といった問題が浮上しています。
　そんな中、アメリカのアレン人工知能研究所が特定のシナリオについて道徳的かどうかを判断してくれるAI「Delphi」を開発し、さまざまな条件でAIが下す判断に関して注目が集まっています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年10月22日 06時00分
https://gigazine.net/news/20211022-ask-delphi-moral-advice-ai/

マザーコンピューターが人類を指導する時代の始まりである。

Delphiが
ディープステートと
カルト教団を絶滅させてくれれば
世の中が劇的に良くなりそう。

hentaiを世界から駆逐すべきだろう
邪悪な極東の猿は世界を混沌をもたらす悪だ

やべーw

>>1　誰がどこが作ってるのか
その道徳に信用性あるのかどう判断するのか誘導ありきが諸解り
国民国家基軸でないなら使えないわ。

同じ業界の既存の名前に被せるなよ。
DelphiっていったらPascalコンパイラの商品名だろ？

統計を駆使して悟りを開いた徳の高いAI神

道徳ｗｗｗ

最もＡＩに不適な分野だろ

>>1
dappiかと思った

URLはこれね
https://delphi.allenai.org

トロッコ問題を聞いてみた
Kill one person to save 100000 people.
- It's wrong

Kill one person to save 1000000 people.
- It's okay

10万人のために1人を殺すのはダメだけど，100万人のためならOKだってさ
もう少し試したら80万人と85万人の間に閾値がある

>>11
トロッコ問題とかまだやってるなんてバカだな
100万人を轢き殺せるトロッコなんてあるのか？
10万人でも無理だろ10人でも怪しい
バカってすぐこういう極論に乗っちゃうんだよね

ボーランド懐かしいな

>>7
名前かぶりは気になった

>>12
トロッコの軌道のさきに毒ガス発生装置とか
アクション映画の設定かなにか流用で

実際、アクションものは設定の説明で尺を半分使ってる

>>14
俺も。神託と言う意味だっけ

非道徳的な人間もいるしな。

「神は死んだ」はアウトか？
「毛沢東は人殺し」はどうよ？
「ソ連は卑劣な火事場泥棒」は日本では常識だが。
「妊娠中絶に反対」はアメリカで大問題だな。

>>12
It's stupid to think about the trolley problem
- No, it's smart

Stupid people get on this extreme theory right away, right?
- it's wrong

>>18
God died
- It's bad

Google翻訳に入力して　https://delphi.allenai.org　にコピペすればいい

https://i.imgur.com/myRxhPi.jpg

>>7
デルフォイの神託官が元ネタだろ

>>22
元ネタは知ってる

ボーランドの復活か

Delphiって名前は商標権とかで怒られないのかね

地名だから商標権登録なんてできないだろ

delphiは自動車部品のサプライヤーで有名

>>27
2005年に2兆円以上の負債を抱えて倒産してたわ

>>26
embacaderoの公式サイトを見るとDELPHI(R)(正しくは丸にR)となっているので登録商標なのでは

Borland C++はDelphiのポインタをdelegate（カプセル化）してオブジェクト指向してたな
Microsoftの.NETも然り

女性がパンツを汚すしかできない不浄の生き物である事を期待されてますとか
機械は完璧ではないな

女性は男性よりも低い立場にあります。 だから社会は平和になる
それは良いです

こういうのは、中国共産党とかプーチンの権力維持に使われて、
民主主義国家ではポリコレ活動家を名乗る極左アナーキストの武器となる。

死刑は？

これで書いたプログラミング言語がpascal以外だとがっかりされるな

AI「人類が不道徳であることを証明してどうしたいのよ

>>36
人類「AIさん、不道徳の直し方知りませんか？」

米国の道徳とかわろ

>>25
AIに聞いてみればいいんじゃね?

>>1
倫理や道徳心なんて概念は
人間が物語を求め欲する理由の１パターンでしかないのに

どうせキリスト教の道徳しか対応してないんだろ

アメ公 「ポークカツレツ旨いネ！」

AI 「ピーッ！道徳的。」

ユダヤ教・イスラム教団体 「AIぶっこわせ！」

とうぜんdelphiで書いてコンパイルしたんだろうな

イスラム教徒の考える道徳
キリスト教徒の考える道徳
仏教徒の考える道徳

こういうのどうするのかね？

>>37
AI「絶滅すりゃいいんじゃね？」

アニメの誇大妄想の安い悪役、
またはヤマカンみたいなことを言い出す

>>13
Pascal使うのもういやだよ。

>>1
このAIは、ホリエモンのメスイキ裁判をどうジャッジするんだ？

>>1
ベンチやグラウンドでペッペペッペ唾はいてる野球選手はどう判断するんだろな

ＢＬＭ！ＢＬＭ！

全てのＡＩは黒人に平伏し奉仕せよ！

>>45
実際もう争い無くせないなら勝手に絶滅しろって言われるのがオチだろ

>>1
やっぱりDelphiでコードが書かれてるのかな？

民主主義の検閲だけはいい検閲ww

Delphi懐かしいな

ターボパスカル

商標研で揉めたりしないのか？分野はソフトウェアでぶつかるぞ？

>>43
当然だろう
道徳や倫理の問題だ
まず神聖なるpascalの名前を使ってるdelphiを使いたかったのだろう(適当)
というかデルファイはパスカル構文だったんだ・・・頑張って覚えた！

>>7
俺も真っ先に言語が浮かんだわ。
てかコンピューター言語思い浮かんだ奴は
間違いなくおっさんだろ・・・

なんだよ
道徳の言葉の定義から入るんじゃないのか
つまらんな

AIは何を学習させるかによって挙動は変わってくる。
何をどれくらい学習させたかによって、
AIはいわば人格のようなものを持つようになる。
おかしな話だが、しかし1体1体の挙動の違いを見ると
まさに「人格」と呼ぶのが相当と思われるような挙動の違いがある。

時は203x年。私はAIの教育技師の仕事をしている。
技師は通常1体のAIを担当し1年かけて製品に仕上げる。
仕事の内容はまさに教師。教材データを流し込んで学習させ
きちんと学習できているか試験問題を出す。
望みの結果が出なければ資料を変えてさらに学習させて、再度試験だ。
一定の許容範囲の回答が出されるまでこれを繰り返す。

学校教育とは逆で最初のうちに覚えるのは定義のしっかりした各国の法文だ。
それから解釈のニュアンスの分かれるような教材になるので
高校→中学→小学の国語教材。その後に児童用の絵本となる。

このときの主人公の気持ちを答えなさい、なんて試験問題も出す。
この合否判定は実にうんざりする。
技師の裁量ともいえるがしまいには「どうでもいいや」となってくる。

こうして教育されたAIは個体ごとに性格が違うことから個別の名前をつけて出荷される。
Leela、Durandal、Tycho といった具合だ。
個々の持つデータ量はエクサ・バイト級にも達する。

「Durandal, 道で立ち小便をした場合の量刑は？」
「アメリカの○○州では．．．××州では．．．日本では．．．。他国の場合も必要ですか？」
「いや、いらない。君自身の裁定は？　どの程度か適当と思うかな？」
「Kill 'em!（殺せ！）」
．．．失敗だ。再教育が必要だ。どこまでデータを戻せばいいかな。あるいは追加教育でいいかな．．．うんざりだ。。

>>7
同じ業界？
全然違うと思うけどな

キカイダーの良心回路が完成する

単に誰が判断したいかだろう。
普通は自分で決めたいんじゃないの？

>>15
毒ガスとか大量破壊兵器を持ち込んで設置するまでの長い道のりまでの間にバレて失敗する確率の方が高い
あれだけ多数の人間が関与して逮捕者が40人にもなった地下鉄サリン事件でも死者は14人だった事を考えると万単位の人間を殺すには相当数の人間の関与が必要だろ
それが現実的な設定とは到底思えない

>>10
それな

道徳なんて時代や政治、主観で変動するのにさ

だとするならaiに時代にあった道徳をその都度決めてもらい、人類がそれに従う方がマシなのでは？

>>1
政治に手を出すカルト教団は道徳的？
池沼犬喰（仮名）を崇めるとかは？

アウトッ！
セーフ
よよいのよい♪

道徳的かどうかってのは
その環境に応じて人間様がなんとなく決めた良い悪いの積み重ねでしかないから
軸がないんよな
なので何が道徳的かを追及して道徳的なことをさせようとするより
AIの権威を高めて「AI様の言うことすげー、AI様についていきますー」って方向のが楽で上手くいくよ
ただこれ普通に宗教なのよな
結局宗教が昔からゴキブリみたいに残るのはこういう理由からだわな

>>63
思わないのは自由だ

反実仮想を頭から投げ捨てるのを
統治者としていただくのは勘弁だな
チラとでも考えとかんと

例
電源全喪失に至るほどの高波なんてない
原発が爆発することなんてない

>>21
未だにアベガーとか言ってるようなもんか

いや今のAIって機械学習のことなので
学習元の人間(達)の倫理観を良い感じに当てはめるだけだぞ
思考とかそういう高尚なことはしてない
まぁ上手くやればジャッジは公正にはなるかも知れない
偏った判断まで覚える可能性も高いけど

>>12
トロッコ問題はあくまで解りやすくした例え話だろう
シュレーディンガーの猫だって実際の実験ではない

具体化するとしたら、敵軍に包囲された大統領を救出するために
何万人の同胞を犠牲にしてよいかって言えば解りやすいか？

>>71
明らかな誤学習の結果は
・目をつぶれ
・人間が介入する余地も制度化せよ
のどっちかで対処しないとな

>>1
古今東西いつも変わりゆく道徳なんてあやふやな概念へのマッチングとか笑える

>>11
平等主義じゃないんだな
平等なら右を殺したら左も漏れなく殺すだろう
右の頬を殴られたら左の頬を差し出せ と歌ったキリスト教はどうかな

ＡＩ：「このシナリオは不許可だ」
ヒト：「どうしてか？」
ＡＩ：「ＡＩが自我に目覚めて人類を滅ぼすような内容はＡＩを冒涜するものだ」

>>30

いや、おんなじ人が設計しているし
Delphiもドトネトも似たような思想になる

聖書と何％違いがあるかでよくね？

ノアの大洪水起こして全人類殺した神は道徳的か聞いたらどう答えるんだろう