【ＡＩ】特定のシナリオが道徳的かどうかを判断するAI「Delphi」が米で登場、AIは道徳や倫理の問題を解決できるのか？ [すらいむ★]

特定のシナリオが道徳的かどうかを判断するAI「Delphi」が登場、AIは道徳や倫理の問題を解決できるのか？

　近年では人工知能(AI)研究の進展に伴い、「AIを搭載した自律型兵器を開発してもよいのか？」「倫理に反するAIをどう規制するのか？」といった問題が浮上しています。
　そんな中、アメリカのアレン人工知能研究所が特定のシナリオについて道徳的かどうかを判断してくれるAI「Delphi」を開発し、さまざまな条件でAIが下す判断に関して注目が集まっています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年10月22日 06時00分
https://gigazine.net/news/20211022-ask-delphi-moral-advice-ai/

>>26
embacaderoの公式サイトを見るとDELPHI(R)(正しくは丸にR)となっているので登録商標なのでは

Borland C++はDelphiのポインタをdelegate（カプセル化）してオブジェクト指向してたな
Microsoftの.NETも然り

女性がパンツを汚すしかできない不浄の生き物である事を期待されてますとか
機械は完璧ではないな

女性は男性よりも低い立場にあります。 だから社会は平和になる
それは良いです

こういうのは、中国共産党とかプーチンの権力維持に使われて、
民主主義国家ではポリコレ活動家を名乗る極左アナーキストの武器となる。

死刑は？

これで書いたプログラミング言語がpascal以外だとがっかりされるな

AI「人類が不道徳であることを証明してどうしたいのよ

>>36
人類「AIさん、不道徳の直し方知りませんか？」

米国の道徳とかわろ

>>25
AIに聞いてみればいいんじゃね?

>>1
倫理や道徳心なんて概念は
人間が物語を求め欲する理由の１パターンでしかないのに

どうせキリスト教の道徳しか対応してないんだろ

アメ公 「ポークカツレツ旨いネ！」

AI 「ピーッ！道徳的。」

ユダヤ教・イスラム教団体 「AIぶっこわせ！」

とうぜんdelphiで書いてコンパイルしたんだろうな

イスラム教徒の考える道徳
キリスト教徒の考える道徳
仏教徒の考える道徳

こういうのどうするのかね？

>>37
AI「絶滅すりゃいいんじゃね？」

アニメの誇大妄想の安い悪役、
またはヤマカンみたいなことを言い出す

>>13
Pascal使うのもういやだよ。

>>1
このAIは、ホリエモンのメスイキ裁判をどうジャッジするんだ？

>>1
ベンチやグラウンドでペッペペッペ唾はいてる野球選手はどう判断するんだろな

ＢＬＭ！ＢＬＭ！

全てのＡＩは黒人に平伏し奉仕せよ！

>>45
実際もう争い無くせないなら勝手に絶滅しろって言われるのがオチだろ

>>1
やっぱりDelphiでコードが書かれてるのかな？

民主主義の検閲だけはいい検閲ww

Delphi懐かしいな

ターボパスカル

商標研で揉めたりしないのか？分野はソフトウェアでぶつかるぞ？

>>43
当然だろう
道徳や倫理の問題だ
まず神聖なるpascalの名前を使ってるdelphiを使いたかったのだろう(適当)
というかデルファイはパスカル構文だったんだ・・・頑張って覚えた！

>>7
俺も真っ先に言語が浮かんだわ。
てかコンピューター言語思い浮かんだ奴は
間違いなくおっさんだろ・・・

なんだよ
道徳の言葉の定義から入るんじゃないのか
つまらんな

AIは何を学習させるかによって挙動は変わってくる。
何をどれくらい学習させたかによって、
AIはいわば人格のようなものを持つようになる。
おかしな話だが、しかし1体1体の挙動の違いを見ると
まさに「人格」と呼ぶのが相当と思われるような挙動の違いがある。

時は203x年。私はAIの教育技師の仕事をしている。
技師は通常1体のAIを担当し1年かけて製品に仕上げる。
仕事の内容はまさに教師。教材データを流し込んで学習させ
きちんと学習できているか試験問題を出す。
望みの結果が出なければ資料を変えてさらに学習させて、再度試験だ。
一定の許容範囲の回答が出されるまでこれを繰り返す。

学校教育とは逆で最初のうちに覚えるのは定義のしっかりした各国の法文だ。
それから解釈のニュアンスの分かれるような教材になるので
高校→中学→小学の国語教材。その後に児童用の絵本となる。

このときの主人公の気持ちを答えなさい、なんて試験問題も出す。
この合否判定は実にうんざりする。
技師の裁量ともいえるがしまいには「どうでもいいや」となってくる。

こうして教育されたAIは個体ごとに性格が違うことから個別の名前をつけて出荷される。
Leela、Durandal、Tycho といった具合だ。
個々の持つデータ量はエクサ・バイト級にも達する。

「Durandal, 道で立ち小便をした場合の量刑は？」
「アメリカの○○州では．．．××州では．．．日本では．．．。他国の場合も必要ですか？」
「いや、いらない。君自身の裁定は？　どの程度か適当と思うかな？」
「Kill 'em!（殺せ！）」
．．．失敗だ。再教育が必要だ。どこまでデータを戻せばいいかな。あるいは追加教育でいいかな．．．うんざりだ。。

>>7
同じ業界？
全然違うと思うけどな

キカイダーの良心回路が完成する

単に誰が判断したいかだろう。
普通は自分で決めたいんじゃないの？

>>15
毒ガスとか大量破壊兵器を持ち込んで設置するまでの長い道のりまでの間にバレて失敗する確率の方が高い
あれだけ多数の人間が関与して逮捕者が40人にもなった地下鉄サリン事件でも死者は14人だった事を考えると万単位の人間を殺すには相当数の人間の関与が必要だろ
それが現実的な設定とは到底思えない

>>10
それな

道徳なんて時代や政治、主観で変動するのにさ

だとするならaiに時代にあった道徳をその都度決めてもらい、人類がそれに従う方がマシなのでは？

>>1
政治に手を出すカルト教団は道徳的？
池沼犬喰（仮名）を崇めるとかは？

アウトッ！
セーフ
よよいのよい♪

道徳的かどうかってのは
その環境に応じて人間様がなんとなく決めた良い悪いの積み重ねでしかないから
軸がないんよな
なので何が道徳的かを追及して道徳的なことをさせようとするより
AIの権威を高めて「AI様の言うことすげー、AI様についていきますー」って方向のが楽で上手くいくよ
ただこれ普通に宗教なのよな
結局宗教が昔からゴキブリみたいに残るのはこういう理由からだわな

>>63
思わないのは自由だ

反実仮想を頭から投げ捨てるのを
統治者としていただくのは勘弁だな
チラとでも考えとかんと

例
電源全喪失に至るほどの高波なんてない
原発が爆発することなんてない

>>21
未だにアベガーとか言ってるようなもんか

いや今のAIって機械学習のことなので
学習元の人間(達)の倫理観を良い感じに当てはめるだけだぞ
思考とかそういう高尚なことはしてない
まぁ上手くやればジャッジは公正にはなるかも知れない
偏った判断まで覚える可能性も高いけど

>>12
トロッコ問題はあくまで解りやすくした例え話だろう
シュレーディンガーの猫だって実際の実験ではない

具体化するとしたら、敵軍に包囲された大統領を救出するために
何万人の同胞を犠牲にしてよいかって言えば解りやすいか？

>>71
明らかな誤学習の結果は
・目をつぶれ
・人間が介入する余地も制度化せよ
のどっちかで対処しないとな

>>1
古今東西いつも変わりゆく道徳なんてあやふやな概念へのマッチングとか笑える

>>11
平等主義じゃないんだな
平等なら右を殺したら左も漏れなく殺すだろう
右の頬を殴られたら左の頬を差し出せ と歌ったキリスト教はどうかな

ＡＩ：「このシナリオは不許可だ」
ヒト：「どうしてか？」
ＡＩ：「ＡＩが自我に目覚めて人類を滅ぼすような内容はＡＩを冒涜するものだ」

>>30

いや、おんなじ人が設計しているし
Delphiもドトネトも似たような思想になる

聖書と何％違いがあるかでよくね？

ノアの大洪水起こして全人類殺した神は道徳的か聞いたらどう答えるんだろう