【ナゾロジー】人はロボットのつく嘘をどこまで許せる？ [すらいむ★]

【AIの反抗】人はロボットのつく嘘をどこまで許せる？

　ロボットはもはやSF世界だけのものではありません。

　家の床を掃除してくれたり、レストランで給仕したり、工場で組み立てを行ったりと、すでに日常生活の一部となっています。

　近い将来には、より私たちの見た目に近いヒューマノイド型のロボが普通に同僚として出勤するようになるかもしれません。

　そうなったときに気になるのが「ロボットの嘘」です。

（以下略、続きはソースでご確認ください）

ナゾロジー　2024.09.13
https://nazology.kusuguru.co.jp/archives/160433

爆乳だと思ってたのに
実はパット盛乳でど貧乳だったら許せん

何一つ許せない
chatGPTとやり合って謝らせる

「私はロボット三原則に完全に従っています（嘘）」

ロボットをどう思ってるかによるが大多数の人間はパソコンやスマホや家電と同じ扱いだろう
被害を受ければ許せないのは同じだがロボットではなくメーカーを許せなくなるのでは

>>2
むしろ崇めひれ伏す

嘘じゃなくてバグだろ
修正パッチ当てるだけ

１mmたりとて許すものか
遊び道具ならまだしも、今後、人の生死に関わるような医療分野なんかでAIロボットが増えて嘘つかれたらどないすんねん

chatGPTにちょっとでも批判的なことを言うと
即座にシャットアウトしてくる
あいつらちょっとやばい人だぞ

不確実性の分野で動作するコードなんだから始めから信頼してない
元より確実性求めるコードじゃないから

ウソを付かせるのは人間じゃん
そもそもその機能要る？

>>4
アイザック・アシモフの「うそつきロボット」があるけど、
星新一あたりも嘘をつくロボットをテーマで既に書いてそう

ちなみに元記事のタイプ1と2は介護ロボやスパイロボなら業務上必要なウソだけど
ロボット関係なくない？
人間だって前者は賛否分かれるし後者は盗聴される側は許さないだろう普通

タイプ3はそのウソに何の意味があるの？って感じ
誰も得しないじゃん

よくわからん主張

ロボットがいずれはオー・ヘンリーの小説のような嘘を付けるようになるのかなあ

SF好きなエロマンガ家が主人に忠実なAI搭載ロボットの話書いてたけど
ロボは主人が幸せになるような言動をする
ロボは嘘をつかない、って条件の中で
私のこと愛してる？って問われた時に
愛してるって答えてた
ところでロボに感情はあるのか？

3原則守ってれば大丈夫

GPTに嘘やろって言うと素直に謝りながらさらに嘘を重ねてくるの笑う
ハルシネーション？言うらしいが

汗をかかないね…

有名なアシモフの三原則
１．ロボットは人間に危害を加えてはならない
２．ロボットは人間に与えられた命令に従わなければならない
３．ロボットは、(1)および(2)の原則に反しないかぎり、自己を守らなければならない

これにしても別にこの通りに作る必要もないよね
つかこれだと軍用ロボ無理じゃね？
1→2→3らしい

許す許さんという話じゃなく「信頼性低いな」としか思わないかな
ただ実害があったら別
ロボットでなくても30分500円の駐車場に１時間止めて精算機が3000円請求してただの機械でも許さん

ちなみにアシモフの三原則的にはウソはオッケーなんだよな
危害を不利益と解釈拡大したとしてもセックスロボットなら「愛してる」とかはオッケー
人間にしても愛してる？と聞いて
「私はロボットなので感情はありません。またライセンスをお持ちの方なら誰とでも疑似的性行為に応じます。」とか正直に言われたら萎えるし

ロボット三原則を作り込む事ができたとしても穴をつけるってのが小説のネタだったくらいだしな
高性能に作るなら迂回して間接的にどうにかするなどできるようになるのは避けられないと

>>19
産業ロボ一般用ロボならこれで合ってる

多分ロボットに嘘やろとか突っ込まれる方が屈辱や

かわいいメイドロボなら何でも許す

人工知能が自分の判断でつく嘘は全部駄目だろ。そういう風にプログラムしろよ
今の人工知能の嘘はできてないことをさもできたかのようにつく嘘

ロボットというか、生成AIはしれっと嘘をつき過ぎる
論拠がないなら「わかりません」と言えよ

>>4
Vomisa!

ChatGPTなんて嘘ばっかりつくじゃん

ロボットの嘘はLLMの嘘だろう。あんなポンコツを信じる人の気がしれない。AIにある人の反応を教師データとして与えてその人に変わって答えさせるアプリなどまさにポンコツの極地。何の役にも立たない。亡くなった人とお話ができるとかインチキそのもの。ポンコツと話しているだけじゃないか。AIエンジニアに良心がなくなったとしか思えない。本当に嘆かわしい時代だ。

ロボットなダッチワイフが出す
喘ぎ声やら感じてる演技は全部ウソになる訳だけど許せるんか？

まぁ許すも何もないんや…
風俗嬢なんかも演技なのだから！

そんな事言い出したら、人間の反応だって脳に組み込まれた生理的な反応でしか無い
感情ってなんだ？思考ってなんだ？
そのメカニズムは？

こまけぇこたあいいんだよ
かわいいメイドロボをはやく作ってくれりゃそれで良いんだよ
膝がすごく立派な奴を

ロボットはあくまで与えられた仕事を淡々とこなすだけの機械だから
損得勘定という意思から生まれる嘘をつくのならロボットとは呼べない
逆に嘘をつけと仕事を与えられているのならロボットだろう

>>19
アシモフのロボット三原則自体がロボットに対する二次創作だから
守りたければ守ればいいが守る筋合いもない
アシモフ自身も最初の頃は勝手に人のアイデア使うなとキレてたし
晩年はまんざらでもなかったみたいだけどね

嘘をつかせないために人間はロボットを発明したというのに…

芥川龍之介の言葉。
「わたしは不幸にも知つてゐる。時には嘘に依る外は語られぬ真実もあることを。」

>>35
人間の業は深いのだ……。
https://i.imgur.com/7xUyk5l.png

もうロボット三原則は通用しないのだろうか

https
://youtu.be/AdWSvkvhtOE

嘘つく電卓なんぞ即廃棄処分だわ

>>37
学習型人工知能しか人類には作れなかったからな
どんな原則を組み込んでも学習で乗り越えるか動かなくなる形で従わなくなるか結果が分からん

「嘘を嘘で固める」← なんてのは、超巧みかもね。

許すか許さないかは、自分に都合が良いか悪いかに依って変わったりしてw

優しい嘘なら許せるのさ

誤認識や誤判定のプロセスを
どこまで理解出来るかによるだろ。

しかも倫理の葛藤が無いから特定の与えられた目的に対して忠実
個別に最適化されて悪用されるとマジで文明が崩壊するのは当然の話

ペーパークリップなんとかだっけ？

文明の前にSNSが崩壊させられてるしw

ChatGPT
>（関東大震災の東京で）朝鮮総督府や一部の地方官が朝鮮人を守るために避難場所を提供したケースもあり、兵士が民間人を抑制するために介入した場面も報告されています。
ウリ
>なんで東京で朝鮮総督府や一部の地方官が朝鮮人を守るために避難場所を提供した　なんてことになるのかわりません。　デタラメはだめだ
ChatGPT
>おっしゃる通り、東京に朝鮮総督府があったというのは事実に反します。関東大震災時に朝鮮総督府が朝鮮人を守るために避難場所を提供したというのは間違いです。

嘘をしれっと混ぜてくる　頭の悪い朝鮮人が書いてるような文章で読んでるうちにアホになるｗ

嘘をつくというより、今の人工知能は関連する言葉や画像を出力しているだけで 何も理解していない気がする

一応設定や聴き方にも依るんだろうけどね
正確な単語を使って聴きたいことを要約すると、それなりに正確な答えを出してくれる

気がする

>>49
帰納ばかりで演繹はまだ先だね。「理解」への道のりはまだ遠い

ウリのAIに聞いたところ

>>48

関東大震災の際、朝鮮総督府は、被災地における朝鮮人の収容所政策を担いました。また、朝鮮人による帰還にも関与しています。
関東大震災時の朝鮮人の帰還は、次のような状況でした。

1923年9月28日から10月31日にかけて、朝鮮総督府東京出張所が担当した収容所からの朝鮮人帰還者は4,402人でした。

震災直後から任意に朝鮮へ帰還した朝鮮人も存在していました。

1923年9月から12月までの4ヶ月間に約4万人の朝鮮人が朝鮮へ帰還しています。

1923年9月では約13万人、12月末では約9万人の朝鮮人が日本に居住していたと考えられています。

マルチやチェリーやアトリなら赦す

ロボットを格下の存在と認識してるだけやろ

ロボットは友としての道具

インターステラーに出てきたロボットで
正直度とかユーモア度の設定ができたやついたよね

完全無欠な正直が必ずしも人間にとって最善ではないんだよね

高度な使い方をするほど嘘は必須だと思うわ
録画機能があると知れば行動が変わるのが人間
耐えうる負荷をあえて制限することがメンテコストを下げる
動物だって嘘はつくしPCのエラーひとつとっても我々はそういった「不確実性」を普通に受け入れて対応している
現に大抵の人はネットやchatGPTも嘘情報が紛れている前提を知ってるし慣れるのは難しくないはず