【話題】アルゴリズムに含まれるバイアスをなくすための「バイアス報奨金プログラム」の考え [すらいむ★]

アルゴリズムに含まれるバイアスをなくすための「バイアス報奨金プログラム」の考え

　人種に関するデータが存在しないはずの医療システムで黒人が不平等な扱いを受ける人種差別が存在したり、超高精度な文章生成AI「GPT-3」に反イスラム教的なバイアスが存在したりと、時として、アルゴリズムにはバイアスがかかっていることがあり、その影響で傷つく人が出ることがあります。
　この問題を解決するために、AI研究などを行う専門家が、バイアスの発見に対して報奨金を支払うプログラムを考えています。

　Algorithmic Vulnerability Bounty Project (AVBP)
　https://www.ajl.org/avbp

　Using bug bounties to spot bias in AI algorithms
　https://www.computing.co.uk/news/4028677/bug-bounties-bias-algorithms

　「報奨金を出すことでアルゴリズムに含まれるバイアスを見つけてもらう」という発想は、ネットサービスやソフトウェアなどで行われている、バグ報奨金プログラムの考えを採用したものです。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年03月19日 07時00分
https://gigazine.net/news/20210319-crash-project/

いろいろな商売考えるものだな

それはバイアスではなくて、単にデータ分析の結果から得られた、合理的な結論だろ。

AIだと累積したデータから判断してるから
黒人やイスラム批判はサイレントマジョリティなんだろ

GPT-2にドナルド・トランプと入れると大抵批判的な文章が出てくる

>>3
そこまで賢くない
元文章を切り貼りしてるような挙動

認知バイアスは大抵悪影響が根本にある
誤認識が結果に出てるなら誤認識そのものを倫理的に見付け出せば良くねと思うのは素人考えの範疇なんだろうか

AI「全人類がバイアスの概念を理解不能になるまで知能を低下させよう

ポリコレバイアスを定義してそれとの相関を測ればいいかなとは思ったけど、ポリコレバイアスはいつだってゴールが動き続けるから難易度は高いな。

結婚や婚約など、概念を商品にする虚業ビジネスか

>>3
基礎プログラムデータを入力してる人間の問題

バイアスなのか統計なのか

バイアスを発見する人間のバイアスは良いのか

活動家のマネタイズの手段が増えるのか。

GPT-3の人間版、西村博之（44歳）

>>13
その危惧もバイアスだったりしないか？

真の値からのズレと解釈するか
理想の値からのズレと解釈するかで
意味が変わるよね

>>3
必ずしもそうでないにしろ可能性はあるわな
純粋なAIの計算結果と人為的なバイアスの区別はできるのかな？

本音と建前の差が