【AI】フェイクニュースで乱用も？リアルすぎるAI製の「架空の人物の顔」　NYタイムズが「見分けるポイント」を公開　 [すらいむ★]

あまりにもリアルなAI製の「架空の人物の顔」はどこで見分ければいいのか？

　実在していない人間の顔写真を生成するAIの精度はいまやすさまじいものになっており、ぱっと見ただけでは実在する人間なのか、それとも架空の人間なのかの判別が難しくなっています。
　これにより、フェイクニュースがより真実味を増してしまうという問題が懸念されているところ、ニューヨーク・タイムズが「AI生成画像を見分けるポイント」を公開しています。

　Do These A.I.-Created Fake People Look Real to You? - The New York Times
　https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

　AIが存在しない人の顔を生成する技術は、近年急成長している分野です。
　以前であれば作れなかったレベルの顔が比較的容易に作れるようになり、存在しない人の画像を1枚あたり2.99ドル(約310円)、あるいは1000枚あたり1000ドル(約10万5000円)で生成・販売するというウェブサイト「Generated.Photos」が登場するまでになりました。
　あまりの精度に本物の人間の写真なのか、それともAIが作り出したフェイクなのかの判別が難しくなり、フェイクニュースで乱用されるという問題も懸念されています。


　このようなフェイクの顔を作成するためには、敵対的生成ネットワーク(GANs)が利用されます。
　GANsは生成ネットワークと識別ネットワークの2つから構成され、人が与えた「実在する人物の顔画像データ」をもとに「生成ネットワークが画像を出力して識別ネットワークがその成否を判断する」という行動を続けることで、生成側は識別側に見分けられないように、識別側はより正確に識別できるように学習していくというもの。

　GANsソフトウェアはさまざまな「値」によって顔を調整できるようになっています。以下から年齢という値を変更してみます。少年の顔が……

（以下略、続きと画像はソースでご確認下さい）

Gigazine 2020年11月24日 16時00分
https://gigazine.net/news/20201124-ai-created-fake-people/

>>1
元空き巣が防犯のポイント教えるみたいな

敵対的強化学習GANはいいものだ

北の動く将軍様もAIだから

まあ、今までは文章でフェイクが流れてたわけだし、、、

>>1
つまりNYタイムズのノリミツ・オオニシも韓国AI製のディープフェイクの存在だったと告解してるの？


ノリミツ・オオニシ - Wikipedia
https://ja.wikipedia.org/wiki/%E3%83%8E%E3%83%AA%E3%83%9F%E3%83%84%E3%83%BB%E3%82%AA%E3%82%AA%E3%83%8B%E3%82%B7

フェイクニュースの真偽は、
「ファクトチェックイニシアティブ」のサイトを参照すること

＞ニューヨーク・タイムズが「AI生成画像を見分けるポイント」を
＞公開しています。

ココが笑い処ですか？ｗ

自分の声質で英語を話させるソフトが欲しい。
速度を局所局所で調整ができて、
抑揚や感情を込めた話し方を指定できるようなものを。
動画に合わせて声を充てることができるように。

AI「うちらにだけわかる”指紋”がつけてある

>>8
そいつらもわりとろくなもんじゃない
まあいなきゃいないでさらに面倒だから頑張ってやと思うが
科学のエビデンスも聞きかじりになりかねんしプロパガンダは中国や韓国にはずいぶん甘い

自分も>>8「ファクトチェックイニシアティブ」こいつら碌なもんじゃないと思うわ。
余りにも見方が偏りすぎてて。
フェイクニュース流してる側のやつらが、自分たちのことを棚に上げて偉そうに他人の批判してるだけにしか見えない。

マスコミが一番悪質なフェイクニュース流してるんだから、まずそっちのファクトチェックしろよ、って普通思うけど、
やってる本人はネタじゃなく、本気でやってるつもりらしいから、尚更ふしぎな気分になる。

あと、GANでAI生成画像を見分けるってのは、原理的に無理だと思うな。
理由は簡単で、AI生成画像を作る側も同じくGANでAIを進化させられるから。

AI同士で戦わせて、人間を上回る判別能力をつけさせることは原理的には可能だし、現にいろんな分野でされつつある。

今に、本物のヒトの声を聞かせると、それと区別できないような質を持った声を
AIが自動生成するようになるだろう。
たとえば、桜田淳子の声を聞かせていると、桜田淳子の声そっくりの声を出す
ようになる。

そうして、次の段階として、話し方、話しぶりを真似して、常人には区別
できないような真似をすることを自動で学習できるようになるだろう。
たとえば田中角栄の演説を参考にして、同じような調子で話をするAIだ。

さらに、次の段階として、ある人物が書いたり話したり考えたりする内容を
参考にして、同じように物事を書いたり離したり考えたりするAIを作る。
そうして、声を聞き文章を読んだ限りでは、本人と区別が付かない振る舞いを
するAIを作る。

そうやってしだいに知らぬ間に本人は乗っ取られて行くことになる。

>>1
まとめ
しょせん統計学の範疇を出ていないガラクタ
正規化の作業が出力に影響を与えたりする等粗も多い

フェイクニュースや噂あるいは奇跡や伝説などの類は、
たいていその出処を辿って確認できれば真相が知れる
その意味ではこういったサイトは十分に機能している
そのような団体やサイトが正しいとは言わない（だから「参照」という表現を用いた）

そもそも個人においても集団においても社会においても、
まったくの客観性や意図の介入しない公平というものはありえない
少なからず偏りの生じることが自然であり当たり前であり、
であるならばそれに自覚的であることが賢明な態度になるだろう

過失割合に0：100というものがめったにないように、
世の中の出来事に絶対正義と絶対悪というような構図はありえない
悪の手法に対抗するための手段も少なからず悪を必要とする
有能な政治家ほど叩けば悪のほこりがみつかるものだ
その上で何が望ましくあるかを相対的に判断するべきであろう
もちろんに過小を過大に誇張するような偽証は是正されるべきである

付け加えると、
個人はたいていの場合に自分の利益になるようなことを支持する
そして、自分の価値観とそぐわないものを攻撃する
しかしその攻撃対象は、実のところ自身の暗部やコンプレックスだったりする
心理学的な考察をすればほとんどの反応がそれに当てはまる
自分と似するものを賛美し擁護し、そうでないものを排除したがる
できた人間ってやつはその弱みの克服に経験することで益することを多くしている
故にそれであればあるほど上段から公平な視点を得ることになる

一人ひとりが賢明にありたくその集団の社会を望むのであれば、
その個人個人がそれに自覚的であることが求められるであろう
そのことで少なくとも、
彼または彼女たちは受動的生物的反応の囚われから、能動的理性的な自由に開かれているだろう

>>16
統計学といえるかどうかわからないが、
「ベンフォードの法則」は判断基準として信用していい

思い出したんだが、大友克洋の気分はもう戦争で、
ソビエトの衛星画像をハックして、
陽動のためにアラブ兵一団のフェイク映像を割り込ませる、
歩き方も現地兵に似せて、ディズニーに外注、
みたいなシーンあったよな。
あれ1982年頃だろ。すごいな。

軍事技術が一般に下りてくるのに40年、てことか。

軍事や情報操作、揺動技術としてそのうち一般人には
使用禁止になりそうだな。技術はあっても一般人は法律で禁止
そうなるともうできない
技術自体は軍事や政府独占とかで残るのだろう
工学迷彩とかもそうよ。盗聴とか盗撮技術はかなりの所まで
言ってると思われる。たまにちらっとそういうニュースを聞くが

>>22
一般人は禁止とかいうけど、>>1で言っている敵対的生成ネットワークくらい、
正直言って俺でも少し勉強すれば簡単にできる。それくらい世の中進んでいるのよ。
原子力技術みたいな大掛かりなものは話は別だが、AIの技術なんてこれからもう特別なものじゃなくなるし、
一部の人が独占とかできる時代じゃない

トランプはスケープゴートになった
それだけのこと

マックスヘッドルームを今の技術で作ったらどうなるんだろ