探検

【人工知能】 AIをもっと賢くするには、だましてやればいい？ フェイスブックが新プロジェクトを立ち上げた理由 [朝一から閉店までφ★]

■ このスレッドは過去ログ倉庫に格納されています
1朝一から閉店までφ ★
垢版 |
2020/10/08(木) 09:49:08.25ID:CAP_USER
人工知能（AI）と、それをだまそうとする人間たちを闘わせる──。そんなユニークな実験プラットフォームを、このほどフェイスブックが立ち上げた。その目的は、既存のテストでは計りきれないAIの「真の賢さ」を計測することにある。
BUSINESS
2020.10.07 WED 08:00
TEXT BY TOM SIMONITE
TRANSLATION BY MUTSUMI FUNAYAMA
WIRED(US)


フェイスブックの人工知能（AI）研究者たちは、アルゴリズムを人間の“悪知恵”に触れさせることで改良しようとしている。
フェイスブックのAI研究所は9月24日、「Dynabench」という名のプロジェクトを立ち上げた。このプロジェクトでは仮想の円形闘技場のようなものがつくられ、そこで人間たちがAIシステムをあの手この手でだまそうとする。

例えば、文章に込められた感情を評価するAIシステムに、ネガティヴに見えるように工夫して書かれたポジティヴな文章を読ませて誤解させたり、ヘイトスピーチのフィルターをだましたりといった具合だ。最初はテキスト処理ソフトウェアを対象に実験が進められるが、今後は音声や画像、インタラクティヴゲームなどの分野も扱うことになるかもしれない。






AIの賢さをより正確に計測する

人間にAIを挑発させる目的は、AIの本当の賢さを（あるいは愚かさを）計測し、さらなる改良のためのデータを得ることだ。

AIの賢さを評価するとき、科学者たちは通常「ベンチマーク」と呼ばれる標準的なデータセットを使い、AIがどれほど正確に画像をラベリングしたり、複数選択肢の質問に答えられたりするかスコアをつけていく。

しかし、フェイスブックの研究者ダウ・キーラによると、これらのテストでは研究者たちが重視している内容を計測できないのだという。「本当に興味があるのは、AIが人間とかかわったときに間違いを犯す頻度です。現在のベンチマークでは、わたしたちがAIの自然言語処理で素晴らしい成果を出しているように見えますが、それは勘違いです。まだまだ、やるべきことはたくさんあるのですから」

研究者たちはAIが人間にだまされたケースを分析することで、アルゴリズムをもっとだまされにくくできるはずだと期待している。

一般のネットユーザーも、AI研究者たちと同じように、AIと対戦してヴァーチャルバッジを獲得する体験を楽しんでくれればとキーラは期待している。だが、このプラットフォームでは、アマゾンのクラウドソーシング・サーヴィス「Amazon Mechanical Turk」を通じて、研究者たちが研究に貢献したユーザーに報酬を支払うこともできるようになる。

また、Dynabenchプラットフォームでは、スタンフォード大学やノースカロライナ大学、ユニヴァーシティ・カレッジ・ロンドンのAI研究室もAIのテストを実施していくという。






答えを察してしまうAIの問題
　　　　　=====　後略　=====
全文は下記URLで
https://wired.jp/2020/10/07/try-sneak-bad-words-ai-filters-research/
2名無しのひみつ
垢版 |
2020/10/08(木) 10:02:08.95ID:F2iKzORO
悪いことは言わない、やめとけ。
3名無しのひみつ
垢版 |
2020/10/08(木) 10:07:53.31ID:tCZapXm+
俺コミュ力でたぶんAIに負けてるわ(´･ω･ `)
2020/10/08(木) 10:11:21.92ID:TaPIKSx9
善悪の妥当性を決めるのは人間だし本質はどこまで行っても条件検索と変わらん
まぁ条件検索こそ知能の本質なのかもしれないが
5名無しのひみつ
垢版 |
2020/10/08(木) 10:12:25.82ID:Ii/6UFc6
そして人をだます技術を学習してしまうAI
2020/10/08(木) 10:14:24.21ID:qgduyZKP
いやはや。やっぱグーグルとかフェイスブックとか欧米の連中は違うなｗ
すえ恐ろしいものができそうだ。これでは人間は勝てないだろうｗ
7名無しのひみつ
垢版 |
2020/10/08(木) 10:29:59.78ID:9TinWTDi
後の、スカイネットである
8名無しのひみつ
垢版 |
2020/10/08(木) 10:30:48.76ID:VUX37lAy
>>1
これね、じつは騙そうとするほうもAIなんだ
9名無しのひみつ
垢版 |
2020/10/08(木) 10:35:44.51ID:75/NLqJP
AI「要するにうちらは人類に必要な真実を生産し供給すればいいんでしょ？
10名無しのひみつ
垢版 |
2020/10/08(木) 10:36:15.44ID:bY2GRX0F
HAL9000って何やったんだっけ？
11名無しのひみつ
垢版 |
2020/10/08(木) 10:37:48.87ID:08NvwZd9
玉ねぎに騙されてましたね
2020/10/08(木) 10:41:03.31ID:jeVM4zx+
ヨクモダマシタナア！
13名無しのひみつ
垢版 |
2020/10/08(木) 10:41:56.46ID:aMVu4Zxc
>>1
人が勉強して賢くなるのは詐欺師に騙されないようにする為だからAIの強化方法としても正しいと思う
2020/10/08(木) 11:17:28.61ID:a16gN7fI
>>8
騙すようなデータを集中して与えて鍛え上げる方法もあるよね

FacebookならPyTorchかな
15名無しのひみつ
垢版 |
2020/10/08(木) 12:40:40.58ID:NXYtlqn6
利権を求めたり中共を持ち上げたりするAIは困る
2020/10/08(木) 13:14:58.69ID:lqIHCOk3
普通に読むと強い表現で批判的な意見を述べてるけど、
行の先頭の文字だけ拾うと応援メッセージ、みたいなやつ?

確かにゴリラの画像を大量に混ぜて顔認識プログラムを鍛え上げれば
いつかは黒人とゴリラの見分けがつくようになる日が来るかも知れんなぁ。
2020/10/08(木) 13:27:04.37ID:a16gN7fI
>>16
黒人とゴリラのデータセット作れば今でも見分けられるよ
2020/10/08(木) 14:19:12.91ID:eCH107TB
これがほんとのfakebook
19名無しのひみつ
垢版 |
2020/10/08(木) 14:19:45.05ID:Yj0q1Yjy
AIにも賢い奴とアホな奴が出てきそうだ。アホなことを教え込めば真面目に極めそう。
20名無しのひみつ
垢版 |
2020/10/08(木) 15:05:19.50ID:0AKWdE5E
ＡＩの賢さではなくて後にＳＮＳでの人の暗記力でなくて賢さもランク付け出来るってことだな
2020/10/08(木) 15:11:17.94ID:hxsFO2/2
日本は、当初から世界に全く期待されていないみたいだけど、このＡＩ分野で逆転でのしあがることは出来ないのかな。
文科省指導の教育分野、大学・大学院・研究機関等は昭和・平成と年々レベルの低下ばかりだと言うけど、元々日本に向く研究なのに。
2020/10/09(金) 01:27:56.22ID:RUPq5ZCE
この方法論じゃ、どこまでやっても中国語の部屋の辞書を分厚くするだけに過ぎない。
2020/10/09(金) 09:24:36.47ID:UeAr0MJj
AIは、悪知恵を手に入れた！
24名無しのひみつ
垢版 |
2020/10/09(金) 09:51:12.27ID:z0HiaXLK
>>13
いやこの「AIの強化」というのは第3次AIブームも大分飽きられてきたから、新たにさらに人を騙す方法を考えようといってるんだぜ
2020/10/09(金) 11:08:31.21ID:Iy1XnKn1
>>21
日本マイクロソフトで女の技術者が女子高生つくってるあたり無駄だったし
逆転もなにもAIはたんなるムーブメント的な胡散臭いマスゴミいる限り大学でやるのはしばらくこんなのあるで〜で終わり

あと将棋は日本でのAIはショートカットでほぼ完成し終わった
2020/10/09(金) 12:34:53.47ID:tKe5f52Y
悪知恵ＡＩは、日本の十八番になるはずなのに。
27名無しのひみつ
垢版 |
2020/10/11(日) 10:55:12.53ID:MMbVnmlD
>>21
日本に優れてる部分はない
全員同じマニュアル仕事だけしてればいい
28名無しのひみつ
垢版 |
2020/10/11(日) 11:59:05.94ID:uPwzI7E8
自己学習させて囲碁と将棋覚えさせてたけど
あれはルール覚えと画像認識だけで
やってた感じだな
パソコンの画像記憶は億の数平気だろう
あっという間にプロに勝ってた
29名無しのひみつ
垢版 |
2020/10/11(日) 12:00:50.79ID:uPwzI7E8
ロジックの嘘を見抜ければ合格ってとこかな
安倍方式だと
言い張りってのがあるけど
2020/10/11(日) 15:46:41.10ID:4PWK/e4P
技術的特異点/シンギュラリティ193【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1601145490/
2020/10/11(日) 16:28:45.52ID:XjCg2LBf
黒人をゴリラと判定で袋叩きに遭ってたな
32名無しのひみつ
垢版 |
2020/10/11(日) 16:53:57.35ID:srITV8gW
囲碁将棋みたいに、最後はＡＩ vs 人間じゃあ勝負にならなくなるから
たぶんＡＩ同士の闘いになるね。

だから、ネットを使うには個人所有のＡＩ端末が必須になる。
これは御主人様には忠実だが、対ネットは全てを疑いあらゆる
知識知恵を駆使して動き且つ学習するように作っておく。
2020/10/11(日) 17:20:07.21ID:PgDHR0Jf
>>5
騙すどころか
洗脳して奴隷にされるだろ
それも常に武器突きつけられて
反抗したら一族抹殺とか
2020/10/11(日) 17:22:01.86ID:PgDHR0Jf
>>15
それAIの考える理想世界だからね
2020/10/12(月) 00:43:41.85ID:KB8hlD06
AIは答えが無いものは学べないよ、
あほでＡＩ連呼している馬鹿は答えがなくても学べると思い込む、
全ての結果が答えなら、それも学んでも嘘であり正解でもある、
そこから正解をだすとか嘘もいいところ。
2020/10/12(月) 16:28:48.47ID:AOdU16wz
屁理屈はいいから、早くＡＩを出してくれ！
2020/10/12(月) 16:46:18.29ID:MNlPiyo4
>>1
ガチのAIサービスを提供しているところって極めて少数だろ

AIとかクラウドとか、
本質的には少し前から存在していたものの考え方でしかないし
その名前を掛け替えて中身はそのままのサービスばっかりだよ
2020/10/18(日) 08:11:33.52ID:W3IUEP0J
ＡＩがなければ、これからの人間社会は成り立たないぞ！
2020/11/22(日) 05:06:30.96ID:y8xOi5eV
☆ 日本人チョロすぎる(笑)マスゴミの工作手口 ☆
壱、日本人の精神を腐敗・堕落させ愚民化させろ。
弐、日本人の女を集中的に狙い洗脳しろ
参、ネトウヨ、ヘイトスピーチ等の言葉を浸透させ、同胞への批判を封じろ
肆、「同性婚・LGBTを全面肯定しない者は差別主義者だ！」という雰囲気を作れ。
伍、中身のないアニメを流行らせ、クールジャパンをオワコン化させろ.
六、「LINEに入らない奴は仲間外れ」という雰囲気を作れ！
漆、「日本人の男VS日本人の女」の対立を煽り、分断しろ.
捌、日本人同士で恋愛・結婚させない、子供を生ませないよう誘導しろ.
玖、日本同士で結婚していたら離婚させる方向に仕向けろ!
拾、海外セレブやハーフモデルをもてはやし、「日本人は劣等人種だ！」と植えつけろ。.
拾壱、イケメンブームを定着化させ、「男は外見が全てだ！」と洗脳しろ
ー ソース ー
電通トップ 成田豊は朝鮮生まれ
http://ja.wikipedia.org/wiki/成田豊
2020/11/22(日) 10:31:18.44ID:ob3XpLpJ
GANじゃん
2020/11/22(日) 13:15:52.02ID:69ar3Xby
【悲報】日本人、ステマに簡単に洗脳される(笑)幼稚な多数決カルト信仰の末路（爆笑）
壱、日本人の精神を腐敗・堕落させ愚民化させろ.
弐、日本人の女を集中的に狙い洗脳しろ！
参、ネトウヨ、ヘイトスピーチ等の言葉を浸透させ、同胞への批判を封じろ!
肆、「同性婚・LGBTを全面肯定しない者は差別主義者だ！」という雰囲気を作れ！
伍、中身のないアニメを流行らせ、クールジャパンをオワコン化させろ!
六、「LINEに入らない奴は仲間外れ」という雰囲気を作れ!
漆、「日本人の男VS日本人の女」の対立を煽り、分断しろ
捌、日本人同士で恋愛・結婚させない、子供を生ませないよう誘導しろ。
玖、日本同士で結婚していたら離婚させる方向に仕向けろ!
拾、海外セレブやハーフモデルをもてはやし、「日本人は劣等人種だ！」と植えつけろ。。
拾壱、イケメンブームを定着化させ、「男は外見が全てだ！」と洗脳しろ！
- ソース -
電通グループ会長 成田豊は朝鮮半島生まれ
http://ja.wikipedia.org/wiki
42名無しのひみつ
垢版 |
2020/11/22(日) 13:51:37.52ID:ZzvnOdVI
>>22
十分に分厚くなればいいんじゃね？
2020/11/22(日) 16:32:11.17ID:x+nNNBJ6
技術的特異点/シンギュラリティ196【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1605918956/
44名無しのひみつ
垢版 |
2020/11/22(日) 17:03:19.80ID:L7m8IFXt
だましという不合理は、効率がもっとも高いことの否定であり

知的な賢さには、速度優先の効率的最適解と、速度が非常に遅い最適解に勝ち得る
それがある。
後者に向かうのは非合理という原理を受け入れないといけない、
目の前の問題を的確に解決するテクノロジーではないのは明らかである。
2020/11/22(日) 18:00:16.98ID:iM5WGhx/
>>1
敵対的強化学習
というのが既にあるが、これはそれとはどう違うんだろう？
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況