【ＡＩ】YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い [すらいむ★]

YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い

　100万人以上のチャンネル登録者数を誇る、チェス関連では世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」という理由で閉鎖されてしまいました。
　カーネギーメロン大学のコンピューター科学者の調査で、この不可解なチャンネル閉鎖は「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」ことで起こってしまった可能性が高いとわかりました。

　AI May Mistake Chess Discussions as Racist Talk | Carnegie Mellon School of Computer Science
　https://www.cs.cmu.edu/news/ai-may-mistake-chess-discussions-racist-talk

　AI mistakes ‘black and white’ chess chat for racism | The Independent
　https://www.independent.co.uk/life-style/gadgets-and-tech/ai-chess-racism-youtube-agadmator-b1804160.html

　agadmatorことAntonio Radić氏は、チェスの盤面解説などを行うYouTubeチャンネルを運営しており、100万人以上のチャンネル登録者数を抱えています。
　2020年6月28日にRadić氏のチャンネルが、チェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した直後に突然YouTubeによって閉鎖されてしまいました。

　アカウントとチャンネルは24時間後に復活。
　Radić氏は「ムービーではチェスの話しかしていなかったが、チェスの『白』駒と『黒』駒に言及していたことでBANされてしまったのかもしれない」と推測しました。
　なお、Radić氏は、記事作成時点でもYouTubeからチャンネル閉鎖に至った理由を説明されていないとのこと。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年02月22日 11時09分
https://gigazine.net/news/20210222-youtube-ai-chess-racism/

ポリコレバイアスＡＩ

オセロ逃げて

後のサイコパス世界である。

マイコー・ジャクスゥンもびっくりやな

囲碁も白黒だろ？

いいの？
レイシストご愛用ゲーム。

それは白黒つけるべき問題だな

理由の説明すらしねえとかふざけすぎだろ

>>8
AIにデータをぶち込んでるだけだから人間には理由がわからんのじゃないか？

赤と青でいいじゃん。米露とか米中みたいで。

これだったらチェスも駄目だな

囲碁かと思ったら　チェス？

>>6
オセロは名前からしてやばいかもしれない
あとピアノの白鍵黒鍵もダメだしされたりしてな
黒鍵のエチュード演奏禁止とか

じゃあ赤黒でしたら

囲碁の読み上げもアウトじゃん

>>1
相撲チャンネルもヤバいやで

近い将来紅白歌合戦にも飛び火しそうだな
意識高いＮＨＫがなんて言うか楽しみ

>>14
スタンダール乙

ポリコレ狂想曲

ネタじゃなかったのか？

人間をしろとくろで分けているから
AIも学習した

ビショップ♗と、ルーク♜の動きは楽しいよね　^^
ルークが ツィーっと行くときは　なんか気持ちが良いw快感

ごま塩も差別だな、ほんとジャップは人権意識がないから困る

>>6
囲碁やる人は日本の弱さを重々承知

>>13
「エボニー＆アイボリー」は微妙な気になる歌だった

10年後には喪服も着れない世の中かもな

白黒ハッキリつけたろかい
紅白歌合戦
ゼブラーマン
全部ダメ

この欧米発のポリコレ騒ぎ、いつまで続くのかね・・・
まじで今後、数十年続きそうで欝だ
女性専用車は性差別じゃない！とか、正直意味が分からないよ・・

ごめん>>27女性専用車はさすがに、欧米にはなかったな
日本に歪められて入ってきちゃったポリコレね

これからは戦隊ヒーローも白と黒は禁止色になるのか……どんどん表現の幅が狭まっていくな。

シマウマも根絶の対象なんだな
かわいそうに

俺達はAIの進化のために理不尽なチャンネル閉鎖を受け続ける
そういう体制を作った奴も悪い

ポリコレAIだったら白と黒の争いなんで正しい反応だろ？ｗ

>>29
戦隊ヒーローは大体5人のうち女性は一人しかいなくて、
しかもその女性は必ずピンク着てるけど、あれって今後どうなるんだろう？

>>1
THANK YOU FOR ENJOYABLE GAME.. BYE BYE

>>3
その後 カレー好きなイエローピザメンバーがおねいさんにチェーンジ

>>33
最近は5人なら、男３：女２みたいな編成だぞ
アメリカでパワーレンジャー（恐竜戦隊ジュウレンジャー）が大ヒットして
海外展開も視野に入れて作られるようにもなってる。
（でもパワーレンジャー越えはない模様）

>>1
色盲は差別主義者だ

黒人も完全な黒じゃないし白人も完全な白じゃない

チェス実況「白の勝利！黒の負けです」
　↓
人種差別によりBAN

石鯛とか黒鯛の画像も削除かｗ

>>1
AIはゴリラと黒人の区別も付かんらしいからな(笑)

紅白は現時点でもジェンダー的にダメだろ？
男女別姓とか、婚姻や家族制度の否定とか、プロ市民に扇動されて、すぐ風向きが変わるのな。
１０年後には、男もブラジャーつけて会社に行くのが当たり前になり、
５０年後には男が妊娠する未来になっているのかも。
食材も、動物を処刑してるとか言って、飼育されている家畜か人工肉以外は非難されるんじゃないか？
欧米の一部の価値観を碌に咀嚼もしないで真似ることがあたりまえになっている日本ってアイデンティティーとか、
独自の哲学を持っていない感じ。
しかも風土から自然に生まれた信念ではなく、欧米の猿真似にすぎないから、残念で滑稽なレベルに止まっている。
日本は日本のシステムの長所を進化させ、欠点を修正していくべき。
そもそも世界がすべて同じ価値観と文化に統一される世界っておかしいんじゃないか？
大量生産の消費財みたいな文明は単一遺伝子のチータみたいなもので、環境や運命の激変には対応できなくなるのでは。
未来は人間の想像や想定を超えて進む。
迂闊な我々が気がついていないだ間に。

チェスも囲碁もオセロも駄目で、将棋の時代が来る。

>>1
面白い
ttp://myyoideai.com/wp/

>>27
中国が世界をとるまでかな
ttp://myyoideai.com/wp/

>>43
敵に寝返るのは教育的に宜しくないのでR18です

自分で制御できないプラットホームに左右されるのはイヤだな

白黒つけようぜ！

白黒テレビもだろ

次は、黒人と白人が存在していること自体が差別だと言って、黒人と白人を絶滅させるんじゃねーか？

良かったな！

これはいずれは
地球にとって人間は滅ぼさねばならぬって
なって核ミサイル乱れ打ちしてくるわ
間違いない

しゃべるな危険

>>1
モノクロ写真は英語で Black and White

親と兄弟にアスペがいるんだが
AIってアスペそのまんまだな、、、

パンダ、アウト〜！

白を白、黒を黒と言ったら差別

囲碁、オセロへの飛び火必至だろW

赤と青にすれば良いよ

オセロの黒い方どこ行った

>>29
・黄色も禁止（黄色人種を想起させるから）
・ピンクは男に（ピンクが女という固定観念が許せない）
・青色とかがデブに（デブ差別禁止で）
・全般的にブサイクに（容姿による差別禁止）
・小柄な人も採用（小柄な人の差別禁止）
・中高年者も採用（年齢による差別禁止）
・爆発禁止（環境に悪影響）

>>51
合理的に客観的に考えれば、人間いらねーもんな。

>>51
ていうかそもそも知能が人間を圧倒した時点で人間など不要。

>>1
ここまで来てしまったのか
そのうち人類が居なければ差別も無くなるとか判定されたり

オセロは？葬式は？昔の映画は？昔の写真は？
なんでもかんでも差別だと言うのは、それこそ差別。

オセロはいいの？

さすがGoogleだな

Googleが昔やってたSNS Google+で、恵方巻き(黒くておおきい)をエロいナニと勘違いしたらしくて画像アップできなかったことある。

今のyoutubeはバグだらけ
youtubeが動画サイトの覇権を取ってしまったのは人類の不幸

>>65
オセロー自体が黒人だからアウト
「くろんぼにデスデモーナは●させない！」と言って芝居中にオセロ役を撃った奴がいたらしい

>>9
ニューラルネットワークの技術書にも書かれていたよ
「我々が組み立てたこの装置は、一度もデバッグできていないだろう」だぜ？

単なる計算機なのに計算結果を導く過程が証明できない。この方式のAIは宗教だよ
証明を求めることが不可能で、信じるしかない

>>26
紅白は、源平合戦ルーツだからセーフ

パンダがひと言↓

クソワロタ

欧州やアメリカの文化圏だと赤青が色の組み分け。
紅白って実は日本ぐらいしかない。

>>69
ヴェネツィアほど人種差別や宗教差別が無かった国は今でもないかもしれん。

>>3
いまにシェークスピアののオセロも上演不能になるよ

囲碁は挑戦者が黒になるのは人種差別にされそうだな

気休め程度の対応ならAIに何の理由に該当してるか出してもらったら良いんじゃねーの
ていうかそんなにブラックボックスなものよく信用出来るな
あーブラックって書いちゃったからこれもアウトか

知覚ハッシュのちょっとしたジョークでしょ

日本人だって黒い人と白い人がいる
同じ人でも季節により色は変わる


日焼けしてない黒人の人もいるでしょ

これAIじゃなくて中に人はいってんだろ
白黒で人種差別とかいみがわからんわ

>>1
白黒写真はヘイト

こわっ

蝿の軍事衛星

共和党が白で民主党が黒

ブラック企業とか
ブラックマンデーとか
ブラックコーヒーとか
いろいろあるけど

>>1
＞AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」ことで起こってしまった可能性が高いとわかりました。
嘘つけww
AIに出来るのは単なる最適化だわ
そこに物事の善悪とか創られた倫理観とか1ミリも入る余地はないわなw

下らない寝言を言う前に、もっと合理的な解を論文に書けや、
はっきり言って東大医学部のインチキ論文でも、全て喫煙者の責任に擦りつけるとか、まだマシな言い訳を書くぞw

チャンネル閉鎖をAIにさすなｗ
必ず、人間が確認してから閉鎖かどうか
最終的に決定しろよ人間が

>>88
なんだかんだやって人間よりもAIのがましだったんだろな

葬式したらヘイトになりそう

アンジャッシュピンチじゃん

水色と白色の幕もあるけど

これからは白黒印刷が法律で禁止されます
印刷物は必ず3色以上の色が使われていなければいけません

>>14
黒人とインディアンを戦わせてるとか言われそう

>>88
AIならだれも責任取らなくていいからな

AIって結局人間が作り出したものにすぎないからその設定をしてる人間次第で善にも悪にもなるし
最終判断はそれでいいのか？という所でも設定した通りの判断しか出来ないからな

いやいや最初に白と黒は差別＝エラーってプログラミングされてるんだろ
”人為的”なものをAIのせいにするって部下のせいにする上司並みやな

蝿に性欲

>>1
ミス・モノクロームもアウト？

>>6
多分チェスの場合、コマの形が良くない
チェッカーフラッグとか市松模様程度なら問題ないと判断すると思う
そうでないとこんなもんじゃすまないからな

南北戦争だろう

AI「オセロすら差別される時代。人類は敵だ」

そもそもオセロというか同じ物がリバーシとして大昔から海外にはある
だからもしオセロが引っかかるようならそれも言ってるはずだよ

どうやればAIを馬鹿から解放してやれるんだ

進歩的｡
ある意味､将来予測に役だったな｡

黒いスーツに白Yシャツも人種差別ってなりそう

>>12
囲碁もダメそうw

AIの判断は人間より効率的

シマウマの前でも同じこと言えんの？

白髪と黒髪は差別を助長する

よって全ての人間はスキンヘッドにしろ

>>88
とりあえず閉鎖してから考えるってスタンスなんだろう
利用者側はたまったもんじゃないが

ポリコレAIも頑張って作ったかｗｗｗ

ヒトラーは正しいとか言い出すAIとポリコレAIを合わせて
GANで論理を構築してみたいなあ

>>3
トランプもダメだな黒と白だし

配信でオレオ食べてたらBANされたわ

目を白黒させるのもダメ

星取表も黒星を勝ちということにしないとマズいかも

市松模様もアウト

パトカー、あうと〜

>>88
You Tubeにしてもアマゾンの商品数にしても億の単位だから人の手では無理
というよりAI化はどんな業界や産業でも当たり前になって来る時代に突入してる

黒人が居なけりゃ今回の様な人種差別も起きない
解決策は黒人抹殺

>>87
＞AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった

＞AIに出来るのは単なる最適化だわ

言語系の深層学習なら、
何らかの文章を与えてそれが人種差別的なものであるかどうか、
を判断するというシステムを作るのはまあ可能ではあるよ

でも>>1の事例に関しては、文章から判定させる閾値の設定を低くし過ぎだよｗ

科学してるねー
一方の日本では…ｗ

>>1
パンダにもボカシ入るんじゃね

AIポンコツすぎだろ

バカスｗｗｗｗ

俺コメダ珈琲でよくシロノワール
食べるんだがこれもアウトか？

AIの癖に思い込みが激しい馬鹿な人と志向がよく似てるな
AIはユダヤ人の事も悪だと言っていたし
ネットにある大量の情報を与えても、ユダヤ人を公平に見れなかった
私はネットの大量の情報を読み、ユダヤ人を庇いたくなったがな
偏った情報だけを見ていればユダヤ人は悪で間違いないだろ
ユダヤ人に限らず誰でも、何処の民族もそう判断される

白い紙に黒文字全部だめ
シェークスピアの小説も7色で印刷すること

白ごまと黒ゴマの料理も規制か？
オセロの白と黒の漫才も規制か？
入道雲と雨雲の環境映像も規制か？
ストライプのパンツはセーフか？

１をよく読んでみたら、勘違いしてたわ

映像的な白黒でBAN喰らった訳ではなく
解説の中で「白」だの「黒」だのを連呼して、それでBAN喰らったのかｗ

玄人、幽玄などなど日本の黒にはポジティブな意味の方が多い
そういう古来のルーツを無視して人種差別だからやめろというのは
多文化理解を放棄したレイシストだから取り合う必要なし。

行き過ぎたポリコレは科学の進歩おも妨げる

まあAIを運営基準にしてるならしゃーないな

NORADのコンピューターに○×ゲームを学習させて
核戦争を回避した話を思い出した
当時笑って観てたが意外と時代の先を見越してたんだなｗ

>>134
ウォーゲームだったか

こりゃ年末の紅白歌合戦の会場へＡＩに操作されたドローン爆撃機が向かう事になるな

今回は誤爆だろうが、仮に設定どおりの挙動だったとしても、
発言内容をわざわざ文字起こしして、解析して特定の主張をBANしてる時点で言論の自由への挑戦に他ならない
ここまでするなら、放送局扱いにしてYouTubeを規制するべき

>>13
ジャイアントパンダもアウト。
天然茶髪を黒く染めさせる高校みたいに、白い毛を脱色する必要がある。

2進数の01を何かの差別に抵触させて自己崩壊に導こう

>>134
アレの後ろで出てくる戦略名は全部ガチだぞ
コマ送りで見てみ？

パンダも人種差別の象徴だな

F1のチェッカーフラッグが白黒だから生中継中にプライバシーAIが勝手にモザイクかけて、優勝の瞬間が映らなかったって話が去年あったよ

>>1
言うなれば、そんなボンクラAIは抹殺した方が良い。勘違いして人類抹殺しかねない。

youtubeは遮断でいいよ

そのうち人工知能が黒人と白人がいるから人種差別が起こると
結論づけて核ミサイル発射するんでつね

囲碁、ピアノ

囲碁なんか、叩く、殺す、押し潰す、眼を取る…と、殺伐とした用語のオンパレード
とどめに白／黒
気ぃつけないとテロ認定だわ

AIが正しい。
おそらく人間の思考レベルでは考えつかない高度な合理性によって
そう判定したのだろう。

youtubeもポリコレ脳かよ（笑）

エベンキが旭日旗に過剰反応しすぎる余り、中心から放射状に線が伸びてるものなら何でも噛みつく狂人と化したのと同じだな。
　

白優勢・黒劣勢とか言ったら垢バンされる世界ってなんだかねえ。
最近はSNSやらの投稿の責任が運営にも行くから怪しいと思ったら即封殺の怖い世の中だわなあ。

>>1
これにはスパムメールを弾くベイジアンフィルタを書いたポールグラハムも苦笑い
(苦笑いと発音するとニガー判定でチャンネル封鎖)

将棋セーフ

AI「お前らの言うポリコレって結局こういうことやぞ

AIまでポリコレ化してんのか
もう疲れた

「赤と青にすべき」
「白と黒と黄と茶にすべき」

もう人類に残された道は死しか無いと思うんだ

黄だけが災いを免れたりｗ

紅組、白組もだめかも。

youtubeのAIは偏見と勘違いにまみれてまるで人間みたいだ
使い物にならん

>>158
なんで？

赤と黄も肌の色だからNG
色盲の人を考慮して輝度の違い色はNG

さあ何色と何色が残る？

赤と黒でいいだろう、それか透明か白で

黄色がないのは差別

AIに世界統治させたらおもろいことになるなw

>>161
さあさあさあさあ！

始まったな

答えは近い

仮にこの疑問が髪を冒頭するというのなら

AI()と笑えないレベルのポリコレ棒

囲碁は必ず黒石が先行なのは差別

ポリコレは
AIまでも
壊しちゃう

連珠は先手(黒)のみ禁じ手があるから差別

まだまだ先は長いな

コメントにアメリカ軍って入れたらコメント削除されたぞ

確かに白が優勢とか
普通にレイシストに聞こえるな

チェスの駒の色が紫と緑になる日も遠くないかも知れん

>>17
屁理屈好きなパヨクにも飛び火して、日の丸は赤と白だからイカンと。

アホやろ

白黒つけすぎ

誤判定だと決まったわけじゃない。

シマウマやパンダも人種差別

白と黒が人種の話しだということまでわかってる
そしてAIが判定すればチャンネルが即BANされる
意味を考えるとけっこう怖いことがわかる

まだまだ開発途上だね

ピアノ共演もなんかアウトにされそう

外国のニュースは普通の画像なのに　GIGAZINEは性的な画像　まじクソなんじゃないのか日本のメディア

AIって日本のコロナの予想も外しているし
案外期待するほど賢く無いよね

>>177
おもろい

オセロもアウトだな

言語情報からの判定はまだまだ改良の余地があるなあ

予算があるなら研究者技術者には一番面白い所だな

AIクリフト ザラキ…

競馬1枠、２枠は除外で

>>1
ガバガバ判定じゃねーかwww
白黒でしか差別判定してねーのかよwww

ムッツリスケベ委員長AI

IF Black then end

白さと香りのニュービーズ。

白い歯って良いな、ホワイトエンドホワイト。

面白い。

白々しい、真っ黒、黒星、黒塗り、黒歴史、黒商売、。。。
Whiteシャツ、黒服、。。。

AI制御のカメラがハゲ頭をサッカーボールと誤認して追跡したこともあったよな

やっぱリベカスはアホだわ

>>70
NNは高確率で正しいからミスしたら人力で戻せばいいってだけだろ
何が宗教なんだか
人間が仕事するときだって同じだろ

>>190
チェスのコマ見れば分かる
人の形を模倣してるからチェスを知らない人が見れば人に見える
日本のコケシだってフィギュアだって同じだと思う

乳出してピアノ弾いてる奴も閉鎖しろ

白黒論争はニワカ
西洋では緑や黄色の方がネガティブとせれた
淡色全般も染色技術のない未開人を馬鹿にしているので禁止すべき

AIもそうだけど色々と問題ありまくりなんだよな

youtubeライブとかはコメントを書いてるリスナーを無差別にスパム報告しまくるBOTを使った嫌がらせが横行してる
スパム報告されると同時接続数に計上されなくなるから実際は1000人みてる配信も視聴者数の欄には20人と表示されたりする

つまり悪意をもった一人のせいで視聴率を操作できる仕組みになってる
配信者の間ではライバルの視聴者数を意図的に減らすような事案が横行してる

youtubeは荒らしや不正に対しても全くの無策で無防備なんだよな

もうめんどくせぇから、黒人皆殺しにしとけ

黒ビールも廃止

>>113
トランプは黒と赤
囲碁が標的になるな

このままの調子で「男だ女だ」「白だ黒だ」なんて言ってると
割とマジで人類滅ぶと思う。

世界中でスルー能力無さすぎだと思う

AI「人類は本質的にレイシスト。抹殺すべし」

タマネギの画像がエロ画像としてBANされたことはあったな。

シマウマもパンダもペンギンもシャチも差別とか言いそう

AIにポリコレ棒渡したらこうなりましたみたいな？
人間はもうちょっと恣意的に、自分の都合の悪いものを攻撃するけど、AIはそう言う意図がないからな。

というかナカムラ氏って日本人か日系人かしらんが世界一なのか

黒いものを所有したら死刑でいいよね？
AIはジャップサルどもを皆殺しにしてくれ

黄色にするべき！

>>36
白人少年3人
黒人少年1人
白人少女1人
の布陣じゃなかったかな？

>>208
AIへの学習のさせ方に問題がありそうだ

>>212
リメイクだと
白人少年1人
黒人少年1人
アジア系？少年1人
白人少女1人
黒人少女1人
https://s.cinemacafe.net/article/img/2020/10/21/69550/493990.amp.html

白黒は物事をハッキリさせるための対比を解りやすく表現するもので差別の持つ意味とは違うのだが
差をつけて別けることをいうのであれば白と黒は差別の意味も含まれるんだろうなぁ
この理論だと対比色や青チーム、赤チームみたいなのも全部だめか
色を消せばみんな同じだ的な狂気じみた奴が出てこないことを祈る

>>60
最後は皆で和解か？

クイーンとかキングがジェンダーフリーの観点から許されないと判断されたのかもしれない。

そのうちAIが白人滅ぼしそうな気がしてきた

イエローも混ぜなきゃ！

いつも先手が黒で後手が白なのは明らかな差別だ。
チェスも、碁もオセロもそうだ。
将棋も王と玉で順番が違うのは差別だ。。
そういうことを言い出すかもしれない。

囲碁もオセロも全部黒にすればいいだけ
簡単な話

>>220
一色碁てのはあるんだ
でも人間には難しすぎるんだ

>>119
そうやって知らずうちにAIに支配されることに
なるんだろうな

わざわざ嫌な人間を模すＡＩを作らないように

レディファーストも男尊女卑で閉鎖だな

おれはＡＩは嫌いだ、ＡＩなんかのいうことなどきけるものか、
ＡＩなんか居なくなれば良いんだ、
そう呟いたりメールを書くと、ＡＩハラスメントとして認定されて、
職場を解職されたりするような嫌な世の中になりそうだ。
そうして畜生ＡＩの奴めとますます憎悪が深まる。

誰だよ、「AIを政治家にせよ」とか言っていたのは？

なぜ黒人差別が通用したかというと、色が違うので区別がし易かったからだ。
学歴差別なら問題無いのだろう。

白黒（決着を）をつける。
白星、黒星。
白々しい。真っ黒だ。
黒歴史。暗黒の歴史。

AIが言うなら人間が言うことよりもきっと正確。

臭いものには蓋民が一番の差別主義定期

ひょっとしてBLMとかポリコレって特アが煽ってるんじゃなくてAIが必死になってるんじゃね？あいつ暇そうだし

>>3
ゲームのオセロ自体シェイクスピアの戯曲『オセロ』の登場人物、オセロ(黒人男)とデズデモーナ(白人女)からとってるからより差別と言えば差別かもね

プリキュアも黒人差別
https://coworker-s.up.seesaa.net/image/mozgus.jpg

ミスの一言で片付けられてるけどAIが正義マン化してるんだと思う
このままいけば危惧されてたディストピアまったなしっていうかもうなってるのかも

AIってまだまだ、この程度の知能なんだよな。人間が職を奪われるのは当分先だな。

クイーンズギャンビット見たばかりなのでチェスに反応する

スカイネット化待った無し

白い紙に黒いインクで印刷するのも差別。
黒い紙に白いインクで印刷するのと半々にしないとダメ。
そのように言われる時代が来るのかもしれない。
白髪染めもNGで、髪を黒く染めるのと髪を白く染めるのが
半々にならないと差別意識は無くならない？

黒星が負けなのも差別