【テクノロジー】〈黒人女性をゴリラと認識〉波紋を呼んだGoogleフォト「ゴリラ」誤認識、 機械学習ではいまだ解決せず

2015年、グーグルは大きな非難を受けた。
グーグル・フォトの画像認識システムが黒人女性をゴリラと認識してしまったからだ。
しかし、2年経った今でも、問題は適切に修正されていない。
その代わり、グーグルは多くの霊長類に関連する画像タグを検閲して削除している。

ワイアード（Wired）は多くの動物の写真を使ってグーグル・フォトを再度テストした
。確かに、パンダからプードルといった動物については簡単に認識できることは分かった。
しかし、ゴリラやチンパンジー、それにヒト科に分類されるチンパンジー属の画像については、
ラベル付けされていなかった。ワイアードがグーグルに確認したところ、
それらの画像のタグは検閲して削除されていることがわかった。

その反面、たとえば、グーグルのクラウド・ビジョン（Cloud Vision）などの他のコンピューター・ビジョン・システムは、
ゴリラの写真に正しくタグ付けしてユーザーに答えを提供できる。
要するにグーグル・フォトでのタグの削除は、ばつが悪いPRなのだ。

検閲よりも大きな問題は、機械学習用のデータ・セットに潜む偏見である。機械が学ぶ必要のない、
人間の一面を反映しているのではないだろうか。

しかし、偏見を減らし無くしていくのは、単にラベルのブラックリストを作るより、もっと大変な仕事なのだ。

関連ソース画像
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2018/01/12041914/rob-schreckhise-40905-1400x787.jpg

technologyreview
https://www.technologyreview.jp/nl/google-photos-still-has-a-problem-with-gorillas/

あれは仕方ない

機械は正直だから。

テニスのウィリアムズ姉妹だったらしょうがない

機械から見たら、ゴリラもチンパンジーもヒトもみんなそっくりなんだろう
同じ類人猿だし

やっぱり機械は正確だ

サル！ゴリラ！チンパンジー！

これはさすがにひどいｗ

色が黒いだけで、骨格がぜんぜん違うじゃん、グーグルさんよｗ

ガキ使の浜ちゃんの黒塗りより重大なｗ

>>5
そういうことだろうな
それで色も似ているから黒人とゴリラが同一のものだと認識されたってことだ
そこには差別意識も何もないしショックを受けることでもない

ぎゃははははーーーんｗ

事実だから仕方ない
それでも地球はまわっている。

高速でゴリラと黒塗りハマタの画像を見せられたら正直判らん

>1
これはゴリラに間違われても仕方がないレベル

差別意識の無い物がそう判定したんだから事実でしょ
変にシャベツシャベツ言う方が欺瞞だってことが証明されただけのことじゃん

人間でも間違えるレベル

これは酷い！
ゴリラ激おこだろうな

こういうのって本当はゴリラだったとかあるの？

浜ちゃんをゴリラと認識するなんて、差別だ、ゴラ！

なて

昔、「オリバー君」っていう見世物があってだな・・・・

>>1
日本人でもゴリラ認識される奴はいるだろうけど、そういうのは問題にされない
黒人女性が同じようにゴリラ認識されたら大騒ぎになる
なんだかなー

ケロイド

>>1
これってむしろ「ゴリラは色が黒い人間だ」って認識ってことじゃね？
「黒人は猿である」ではなくてさ。

黒塗り浜ちゃんがひと言↓

機械に人科の区別をしろって無茶言うな。
人間だって犬と狼の区別は何となくでしかできないのに。

そんなこと言われたって区別できないものは仕方ないでしょ
怒られたって困るよ

いまだにゴキブリと朝鮮人の区別が出来ないけどな

体毛で判断させたら駄目なのか？
顔は区別つかなくても首から下が僅かでも見えてれば
区別付きそうな気がする

AI「せやかて、ゴリラやろ。かなわんなー」

Googleの技術力を思い知ったか？

Nigga is Nigga

イギリスの警察の人工知能は砂漠を児童ポルノと誤認するらしい

樽美酒のメイクだと何に分類されるんだろうな

【911】　NHKアナウンサー長谷川浩、自殺　＜目玉のマーク＞　テロや災害に偽装した破壊工作　【311】
https://rosie.5ch.net/test/read.cgi/liveplus/1516006917/l50

機械は純粋過ぎる

ゴリラを黒人と認識するのはともかく、黒人をゴリラって認識したら目も当てられないもんな
訴訟起こされてサクッと名誉毀損で数十億円くらい飛びそうだ

一、二世紀くらい前の白人「黒人って実際ゴリラだろ？」
現代の最新型ＡＩ「黒人って実際ゴリラだろ？」

順調に追いつきつつあるじゃんｗ

むしろゴリラ差別だろ
クジラは賢いからうんたらかんたら言ってるくせに

霊長類の骨格推定と、皮膚の色しか判別できてないのか？肌の質感や額と髪の割合、髭の濃さとかをゴリラ推定したのから機械判断させれば良いのにと素人でも考えるぞ。

人も見間違いするだろ
機械が見間違えないって方が
可笑しいね、間違える人間が認識アプリ創るのに完璧を使用者が求めるのか？
いかりや長介が登場した瞬間に
猿が
騒ぎたて

ボードゲームはクソ強く出来てもこういう問題をさくっと修正できないようでは
やってみるテストの域をでていない
信頼性を求められるシステムを構築できない

人間は顔の判断に脳で特殊な処理やってるからな
穴が三つあれば何でも顔に見えるのもデフォルメされた二次元キャラが不自然に見えないのもそのため
機械学習のアルゴリズムがまだ脳に追いついてないんだろう

黒人にゴリラのコスプレさせてみろ。マンマやぞｗ

>>1
無邪気な目で見た結果なのかそれとも黒人の顔の差異の認識力に秀でているであろう黒人エンジニアが開発すれば改善されるものなのか興味深い

>>4
ゴリラ「勘弁してくださいよ」

ゴリラから進化した人間とサルから進化した人間がいるってことでFA?

ゴリラゴリラゴリラ

囲碁で世界チャンピオンに勝つより難しいことなのか

また写真のゴリラが可愛い。
人間みたいな表情してて草。

しょせんAIなんて、まだこの程度の技術でしかない

ネットの罵倒雑言を集めただけなのにかわいそう

もう知恵使う勝負では全く勝てんのに
それをその程度なんて言ったらその程度にすら勝てないのが悲しくならんか？

>>47
スラングル

学習過程で黒人の特徴量を抽出できなかったんだな。

頑張ってるけどまだ技術が未熟です、ごめんなさい、って言っても良いと思えるけどなあ。

>>37
五輪を見る限りあっちの新種だったんじゃね？人類が勘違いしたんじゃね？

ゴリラを差別すんな！

AI「あきらめちゃだめだ！

もろゴリラじゃん
http://thehansindia.com/assets/Black%20couple.jpg

>>14
ネットが影響してるなら差別だよ
イエローモンキーよりいいか？

この手の記事の説明で毎回"黒人女性"がゴリラと認識されたってなってるけど
実際は、"黒人女性"と後ろに映ってる"黒人男性"がセットで"Gorillas"って認識されてんだよなぁ・・・
なんか女性だけを切り取った方が同情を買えるとかそういう意図があるのかと思っちゃうわ

ゴリラは温厚やぞ、黒人と全く違う。

>>44
それはどうかな？
実際には人種間差異より
一つの人種内でのばらつきの方が大きいのが人間の骨相
日本人でも白人みたいに濃厚な顔つきの人や
黒人みたいに筋肉質の顔つきが居る

しかし突き出た顎や高い鼻梁の存在など
人間の顔にはゴリラには無い特徴が明確に有るのだから
これは認識ソフトがまだ未成熟なだけだな

自動運転車や、FACEidなんて言ってる時代にこのニュースかよw

おわびにバナナでもやれよ

アフリカは人類発祥の地らしいしねぇ

類人猿から人類に参加したのなら
アフリカの人はどうしても類人猿寄りに
なるのは仕方ないのでは？

　
　『メス』を接頭語にしないとダメだよな　ｗｗｗ
　

ゴリラ差別が凄いのな

犬の糞でも間違えるんじゃねーのｗ

>>13
失礼な奴だな

似てるから仕方ない
これも差別か？人工知能訴えてろ

>>8

グーグルさん「おまえさんはどっちかつーとマントヒヒだなー」

レスリング吉田「えっ？　なんだってー！」

>>43

外国の動物園で、おわらいの人がやってるよ。

宇宙人「地球には白人、黄色人、それとゴリラが居る」

東山動物園のジバーニってなんであんな
他のゴリラと違ってイケメンなの？
ゴリラの世界にも容姿格差
※ただし、イケメンに限る
があるのだなぁ

木曜日の人間ゴリラ

もっとも人間の原種に近いのが黒人で、
白人以降はネアンデルタールとの雑種。
だから、まあ、いいんじゃねえの。

わい解決人
白いゴリラを大量にupする

結果
ゴリラも類人猿なんやからAIが人と間違えることもあり得るね＾＾

このAIの開発者は黒人ということにすれば解決

こういうのは、実は機械にとっては非常に難しい問題なんだよな、
人間の脳のすごさが改めてわかるね

AIの画像認識基本部分に鼻の形状と耳の形状で判別するソフトを組み込んでおけ

ウホッ？

ビーナス姉妹やったけ

【株ＦＸ】　日経平均どんどん上がる　＜世界教師 マイトLーヤ＞　生活保護ますます増える　【ナマポ】
http://rosie.5ch.net/test/read.cgi/liveplus/1516152328/l50

顔認識ができるなら領域内で黒い楕円部があるならゴリラ、それ以外が人間って簡単に弾けそうだがな
やってないならその程度やってられるかってだけでわ

****はゴリラだからしゃーない

意外とアルゴリズムが単純なのかな

こういう結果になるのは
やるまえから学習という特徴を知っていれば予想できている
学習は万能ではない、万能という思い込みが先走る無能なやつの願望にすぎない

>>63
幼児のゴリラと判断した可能性もある
言い切ることはできないね

https://imgur.com/a/toHzw

>>82 >>88 みたいな人がいるって信じられないｗｗｗ

http://thehansindia.com/assets/Black%20couple.jpg

これなら、ゴリラと認識してもしょうがないと思う。
という妥当なんじゃない？

AIを変に矯正しようとしたらHAL9000見たいに人類抹殺されるぞ。

白人の女の子達は内心、手を叩いて笑ってるよ

ゴリラに近いのは黒人の責任。
AIが
データーを平等な物として受け取ったから。
違うなら
前処理で偏見を強制指示すれば片付く。

>>1
ゴリラそのものやないかw

>>89
いや、これはかなり意外な展開だろう
ゴリラと人間を見分けるなんて、我々のような一般人ですら簡単にやってる事
AIだって十分なサンプルを与えられれば簡単に見分けるようになる、と予想するのが普通だよ

「グーグルAIはまだゴリラと人間を見分けられない」というこの記事時自体が、何か解釈を間違ってるんじゃないかな？

こんなんアワビの画像見せたら絶対、誤認識するやん。

白人にだって
ベッカム嫁みたいにゴリラウーマンいるやん
いちいち差別差別とポリコレ暴力ふるうのカッコワルイ

ゴリラを全部黒人って認識するようにすればいいじゃん

タブーだが、黒人はIQも他人種と比べ低いし、アフリカ地域の現状を鑑みるにやはり一線を画しているのは一目瞭然。
彼らは人語を理解できるゴリラと見る方が合理的である。

ゴリラの子や雌はヒトに似ている。

我々は、いとも簡単に見分けられるけど
これはAIにとっては、非常に難易度高いでしょ

似たようなもんだ

　


黒人女性をゴリラと認識しないように改良すると、
ゴリラを黒人女性と認識するようになる。


　

AIはいいね下らないしがらみを捨てた結論を出す人間のなんて低俗なことか

>>93
たぶんアウトラインと顔面の領域が問題なんじゃないかと
ポニーテールにしてたら間違わなかったかもしれない

あるいは明度と彩度の高い服を着て胸の辺りまでカメラを引いて撮れば
人間と認識された可能性があると思う

>>21
これだね。
本当はゴリラもサルもチンパンジーも
人類も同じDNAの進化の延長線上にいて
AIごときに写真ぐらいじゃ区別ができん
のだよ。もし白ゴリラがいたら白人は
みんな白ゴリラ認定だろうな。
類人猿と猿人類の境目なんか本当はないのだ。
そもそも、人類とそれ以外を区別しようなんて
思うのが間違い。
人類が特別だなんてAIに教えようというのが
おこがましい。そんなことをしていると、
アンドロイドボスに人類は邪悪だと認識されて
滅ぼされるのだよ。
　われわれは蟻んこと大して変わらんのだよ。
本当は。

同じイヌ科のキツネと犬の見分けが付くか・・と言う事だろうね

人の形してて同じ色だから単純にそう判断しただけだろ
毛深さとか色々判断できるまで待たないと

うーん、>>1のはどうみてもゴリラ

>>109
> もし白ゴリラがいたら白人は
> みんな白ゴリラ認定だろうな。

これだな。
骨格に加えて色で判断するとどうしてもそうなってしまう。
日本人でも日焼け程度ならばともかくガングロにしてたらゴリラと判定されるだろう。
これは仕方ない。

うーん、>>1のはどうみてもゴリラ

判別するのに肌の光沢を利用しても、残念ながら黒人の中には本当にゴリラれべるの色と光沢の人もいる。
日本人も形ではゴリラやチンパンジーと認識される可能性があるが、日本人の肌の配色は類人猿にはない。

黒人をゴリラと区別できないって、30年後ぐらいに当時のAIの未熟さを象徴する笑い話として
語り継がれていそうだわ。

断片的な特徴は一致してるからなぁ。

白人でアルゴリズム計算をするからだろ

黒人、ゴリラ、チンパン、ボノボ
はなからこれらの識別を
目標に計算すれば可能なはず

似てるんだからしょーがねぇだろ。

ゴリラゴリラゴリラが正式名称です

スラングルかよｗ