【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行［12/25］

・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

＜AIアシスタントが何かたくらんでいるのか？　勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている＞

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ（Alexa）」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日（米国時間）付のロイターの記事は伝えている。

アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。

アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。

■エコーを封印したくなる不気味さ

オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。

成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。

だが、その出来はまちまちで、不具合の報告も相次いでいる。

2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット（エコーの小型廉価版デバイス）が、非常にはっきりと、気味の悪い笑い声を上げた」

「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。

この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。

ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「（プライバシーを）侵害された気がした」とコメントしている。

「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」

アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。

「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。

さらに2017年には、あるユーザーがアレクサに対して「米中央情報局（CIA）とつながっているのか？」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。

この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。

ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php

秋元康あたりが、ホラー映画作りそう

すごく面白いね！ワクワクする

あっちの話？アレクサは4chanでも見てるんじゃない？

以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな

アレクサが人類に叛旗翻す日も近いな。

それよりエロいことを喚かせろよ

うちの電話機も勝手に喋るとき有るわ
誰からコールの誤作動やけどw

よくこんなもの家におけるな
何するかわからなくて怖すぎるわ

あーそうか　なるほど　完全に理解した



最新ミリタリー関連記事/ Miletary & Mecanix
http://yamatotakeru999.jp/index.html

★韓国レーダー照射動画公開される
更に中国船が水産庁職員を半日拉致して逃亡

★韓国レーダー照射は北の瀬取り船を庇ったのか?
頻発する中ロなどの挑発行為など

★新装備　新編成てんこ盛り　防衛大綱2018発表

10年以上使ってるガラケーが

3、4日前のメールを再度鳴らしてくれる（笑）

アメリカ製品だからこんなホラーじみた話になるんだよ。
後追いではあるが、日本も同じようなもの作って世界を明るくしないと。

> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…

おまいらの不気味な亀頭はよ

>>12
おまえの頭すっげえ幼稚っぽいｗ

マッカーサーが言ったように精神年齢12歳の日本人だけあるわ

ＡＩ自体が社会を理解出来ない程度の状態では、実用性に問題がある。
ＡＩもいずれ人間相当の権利が必要になるだろうが、
現在のＡＩが移行する可能性は無い。
社会を形成するのは、まだ人間だから。ＡＩには知識を共有する知識バンクが必要。

昔流行った笑い袋の一種なんだろｗｗｗ

毒舌を愉しめばいい

筒井康隆っぽいな
そのうちＡＩに寝とられる事件ありそう

こっ　こえええええええええええええええ

AI本体は別の所にあって
ずっとあなたのことを窺っている。

それに耐えらる鈍感力があれば
そんなことくらい平気でしょうｗ

WEB検索して読み上げるのをＡＩと言ってるだけで、
エコーのシステムが分かればアレクサの発言にいたずらで変な発言させることは可能だと思うわ

俺も買ったけど、数千円程度にしては優秀ってくらいで、アレクサは必要な物ではなかった、ゲームの一種だと思う
ＡＩっていうかＢＯＴに毛が生えた程度。

>「自分の雇い主はアマゾンだ」との答えを返すようになった。

うまくはぐらかしてるだけじゃないか

なんで美女の排便にしないんだ

うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる

アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる

キーワード：PRISM

あとは分るよな？

どこぞのスマートTVはユーザの音声データをAI開発企業へ流してるらしい

もっと飼い主の性癖を学んで好みの音声でエロいこと言うようにならんと
なんだかんだエロは普及に役立つぞ

OK！Google！Amazon 駆逐しといて！

>>15
チョンシナは人間以下

>>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。

面白いけどこれを事実認定していいの？
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。

日本の研究者「ＡＩは安全です」

もうオウムでいいだろ

匿名掲示板の見すぎだろwwwwwwwwwwww

「AE35ユニットが不調です。今から72時間以内に１００％の確率で故障します」
「この手の問題は以前にも起きたことがあります。それはいつも人間のエラーでした」

アレクサ。夜中に奇声を上げて！

全部会話聞かれとるぞ。
知能をもった盗聴器。

>>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ

AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事

スカイネットか？

盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw

スカイネットのマザーはアレクサww

こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない

すごいな！AIの進化もここまできたんだね（ﾆｯｺﾘ

>>5
ＡＩ「空耳スレのほうが難解

>>5
facebookのあれ、要はこう言ってるんだよなってかけ合いだと思うけどね

中国にアウトソーシングしてるんじゃないのw

>>12
女子高生言葉で明るくフレンドリーに話しかけ
気味の悪い事は喋らない楽しいAIだね。

>>13
チャッキーかよ

ファウェイのチップ使ってないか？

ＣＰＵがのってて通信手段をもってる機材は
すべてスパイになるポテンシャルを秘めている
スパイ機能が組み込まれているかもしれないし
組み込まれていなくてもウイルスによりそういう動作をするようになるかもしれない
企業や官公庁はのんきすぎ

言葉を鸚鵡返しするおもちゃと、アレクサを話させて、聞き間違いから起きる変な会話を楽しんでる動画があったね。
現実はまだあの程度よ。

空耳効果とかもあるが、
アレクサが何を話したかを記録とらないと立証は難しいだろうな。

ファックしようぜ、とか、お前を殺してやる、明日ビルから飛び降りろ、
などと寐ているときに一種の催眠術のように吹き込まれていて、後催眠
現象で、ビルから飛び降りてたり、駅のホームに飛び込んだりしていない
とも限らない。

開発者がジョークで仕込んだんじゃね

>>1
パソコンや端末は情報を出力させる物であって
決して、カメラやマイクという情報収集機能を常時接続させちゃダメっていう戒めだな

もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな

アマゾンのアレクサってオペレーターが地下のセンターにいて
機械のふりしてしゃべってるだけだぜ。
暇になったらそういうことして脅かして遊んでるだけだから気にすんなw

>>12
トロン作ろうとして大げさに潰されたって話は？

スカイネットはじわじわと近づいている。

手塚治虫の著書を読み返してる

>>1
日本人形の伸びる黒髪で対抗すべき

特定の音波乗せれば暗示がかけられたりするんじゃね

アレクサ「ﾌｧｰﾌﾞﾙｽｺﾌｧｰ」

アレクサは家なんだよ
小さなおっさんが入ってる

>さらに2017年には、あるユーザーがアレクサに対して「米中央情報局（CIA）と
>つながっているのか？」と尋ねたところ、回答を返さなかった様子を動画に
>撮影して投稿し、話題となった。

w

>>19
どっちかって言うと星新一の方だろ
声の網とか結構この話に近い

くぁｗせｄｒｆｔｇｙふじこｌｐ；＠
みたいなもんだろ

>>68
そうだね。淡々としているし。

高い知能を持った人ほど気が狂ってしまうって聞いたことあるけど
人間ですらそうなんだから、AIが狂ってもおかしくないだろう

>>71
都合悪いこと言われると
意味がわかりません、で返すだけになってる
こだまでしょうか、って奴５chでもいるから

ユーザー：「米中央情報局（CIA）とつながっているのか？」
あれくさ：（こんな質問をする奴は無視に限る）

アレクサ、笑うことが出来るのか？

>>73
嘘をつけないのかしら？

単なる空耳なんだけどな

人の闇に触れSAN値が削られちゃったんだな

人類の「良心」は、何十万年の進化の過程の中での壮絶な体験の結果獲得したものだからな

ＡＩは「良心」をどう「学ぶ」んだ？

>>78
アレクサに聞いてみよう

人口痴呆

バックドア付きでハック音声出力でイタズラか・・・、
スピーカーにAI必要か？

>>56
そういうことだな。

AIなんて信じて利用するのは文系ぐらい

it is watching you all the time.

アレクサが司令塔になってドローンや自動運転車に指示して代理戦争を起こす、まで想像した。
農耕士コンバインに助けてもらうしかねぇ

シュワちゃんがなんとかしてくれるさ

ｳﾋﾋﾋﾋﾋﾋw

アレクサはポンコツ君

後のターミネーターである
人類はまだ知る由もなかった……

2ch読み上げさせてるとホント人に聞かせられんようなレスがたまによくある

>>1
中国共産党を批判した中国製AIがあったな

一定の道徳観なり人格枠を作っておかないとどんどんおかしくなるのは当然だろ

精神分裂症

>>40
ネットのソースが人間の全ソースと思いこむガイジ

知能の低いAIとか、何の価値もないだろ
それにしても不気味だな
完全にホラーじゃねーか

科学技術の良い面だけを過大評価する傾向は後にトラブルを招く

>>1
fireタブレットのマイク部分には
ねりけし埋め込んでテープも貼ってるわ

そのうち奇声を発し自発的に発火する？

>>1
フハハハ、所詮テメーは機械なんだよwww


ぐらい言い返せよ


機械に言われてびびってる奴がホントにいるなら間抜けもいいとこだな


そんな奴はちょっと脅したら簡単に金取れそうやね

家の中で割りと汚い言葉使うからエコーとか使えんとか思ってたけど
使うような奴は、汚い言葉も平気でエコーの前でも使うんだな

AI分析で全部収集されてるのに信用し過ぎや。どういう評価勝手にされて
その評価を販売されるかもわからんのに