探検

【敵対的機械学習】カラープリントした紙で「AIの監視」から逃れる方法［04/29］

■ このスレッドは過去ログ倉庫に格納されています
2019/04/29(月) 20:08:50.63ID:CAP_USER
人工知能（AI）を利用した映像技術が、店舗やオフィス、公共スペースなど、あらゆる場所で利用されるようになり、私たちの顔や行動を追跡している。中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。

だが幸いなことに、ベルギーのルーベン・カトリック大学の研究チームが先日、発表した研究のように、単純なカラー印刷物を使ってAI映像システムから逃れられることも多い。

研究チームは、独自に設計した画像を使って、AIベースのコンピューター・ビジョン・システムから人間全体を隠す方法を考案。著名なオープンソースの物体認識システムである「YoLo（v2）」でその効果を実証した。

このトリックによって、犯罪者が防犯カメラから隠れたり、反政府活動家が政府の監視を逃れたりできる可能性がある。著者の1人であるウィーブ・ファン・ランスト（博士課程生）は、「私たちの研究は、敵対的パッチを使うことでカメラ監視システムを回避できることを証明するものです」と述べている。

ファン・ランストによると、市販の映像監視システムにこの手法を適用するのは、それほど難しいことではないという。MITテクノロジーレビューの取材に対し、次のように説明する。「現時点では、使われている検知器が何かを知る必要があります。今後、私たちが目指しているのは、複数の検知器で同時に機能するパッチを生成することです。このパッチが機能すれば、監視システムで使われている検知器にも対応できる可能性が高くなります」。

ベルギーの研究チームによって実証されたこのトリックは、敵対的機械学習として知られている技術を活用している。ほとんどのコンピューター・ビジョンは、（畳み込み）ニューラル・ネットワークが物体を正しく分類できるようになるまで、教師データを与え、パラメーターを調整して、異なる物体を分類できるように学習させる必要がある。訓練済みの深層ニューラル・ネットワークにデータを与えた結果をモニタリングすることで、どのようなタイプの画像がシステムを混乱させたり、欺いたりできるか、推測は可能だ。

日常的に使われている監視カメラやソフトウェアにAI技術が利用されることが増えてきている現在、意義のある研究だと言える。こうしたAI技術は、アマゾンが運営している店舗など、いくつかの実験的店舗においてレジ待ちをなくすためにも使われている。中国では犯罪者を捕まえたり、さらに厄介なことに特定の民族を追跡したりするための新たな強力な手段としても利用され始めている。

https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2019/04/25000712/acr13282673947520124191772-cropped-1400x787.jpg
https://www.technologyreview.jp/nl/how-to-hide-from-the-ai-surveillance-state-with-a-color-printout/
2ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:12:49.61ID:7dTNgI//
スレタイ、太字のとそうじゃないのあるけど何なの？
3ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:15:37.05ID:eQIxfZma
ＡＩ「この偽装を看破するには課金アイテムが必要です　ショップへどうぞ
4ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:18:21.25ID:vsfFogYp
立体を画像処理で認識できるかって話ね、レンズデータと連動したらいけるんじゃないの
焦点距離データ全部と組み合わせて
5ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:34:38.84ID:0LFU+KRf
つまり、他人の顔をモザイク印刷すれば回避できるのか
2019/04/29(月) 20:34:46.13ID:yHCwlomX
笑い男マークを出すようなもんか
現状のAIを欺けてもその先のAIはさらに賢くなるからなあ
いたちごっこだわな
7ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:37:38.24ID:Prgngd0H
つまりこのTシャツ着てれば良いのか？

https://auctions.afimg.jp/item_data/image/20140511/yahoo/m/m120389650.1.jpg
8ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:38:47.21ID:TQe0duRd
こんなプリントされた紙を腰に装着してたら
逆に目立っちゃうだろ・・・
2019/04/29(月) 20:43:18.19ID:yHCwlomX
>>8
怪しすぎて職務質問の嵐だなw
10ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 20:47:47.37ID:StjVq83A
中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。
2019/04/29(月) 20:51:38.61ID:KmymGPau
家から出ないのが最大の防衛になる時代が来そう
12ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 21:20:38.77ID:SNa0at7T
AIから姿を消すお札
2019/04/29(月) 22:00:22.10ID:0zWVSiT6
こんな特殊な印刷物じゃなくても頭に紙袋かぶればＯＫだろ
14ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 22:37:22.59ID:mjDfDLft
映画だとシリコンのお面を被ってる
15ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 22:40:14.19ID:qSpiusJo
オクトカムみたいな物ってそろそろ実現できないのかね？

電子ペーパーのカラー版があればいけそう
16ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 22:59:15.97ID:7djXAI/7
ＮＧＴの荻野なら何もしなくてＯＫ。
トカゲと認識するから。
17ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 23:43:37.01ID:mjDfDLft
用がなければ出掛けない
人が集まる場所はリスク
2019/04/29(月) 23:49:40.87ID:4hKb3xBG
たしかグーグルだったかのＡＩは、黒人とゴリラの区別ができなくて、その後再教育しても改善しなかったよな。
もしかしてＡＩは黒人犯罪者の個体識別も難しかったりするんじゃないのか。
19ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/29(月) 23:52:31.42ID:YpeN54o1
虚無僧でOK
2019/04/30(火) 00:11:05.80ID:xU+IdVtz
FAX最強伝説、まだまだ続くね
21ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/30(火) 00:12:11.93ID:Sa8+EhKc
KKKぽく
22ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/30(火) 01:17:29.07ID:ah5FGSYN
Tシャツでおk
2019/04/30(火) 01:33:59.54ID:blmWr4eZ
昔からある忍者の隠れ蓑の術じゃん
2019/04/30(火) 01:41:05.90ID:blmWr4eZ
https://i.imgur.com/EmaNJMG.jpg
25ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/30(火) 02:25:22.03ID:rl8iTgbF
>>24
白く長いレンガ、これはレンガだから触ってもＯＫですね。
26ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/30(火) 02:39:48.76ID:L9wZ0Yqx
あー、これな
戦時中の空母の迷彩とかがまさにそれだわ
欺瞞工作・錯誤を起こさせる技術が全力で発達した。
死にたくなかったので必死になってたんだな
速力や進行方向を上空の戦闘機パイロットや潜水艦から錯覚させる塗装しまくってた。

これは戦時中じゃないと分からないやつ。
それのAI版ってことね。
27ニュースソース検討中＠自治議論スレ
垢版 |
2019/04/30(火) 02:58:18.77ID:TjW0GWPY
ダズル迷彩ぽさはあるね
2019/04/30(火) 10:52:59.20ID:P4wWjOmq
ガチでガイフォークスの仮面かぶらないといけない時代だな(´･ω･｀)
29ニュースソース検討中＠自治議論スレ
垢版 |
2019/05/01(水) 07:13:50.32ID:9hWpJBPp
着てる服の所為でモノが買えないとかの時代は来るんだろうな
2019/05/02(木) 22:27:21.71ID:0H8yJ8sC
遠くに人がいる風景のようなプリントの服を着ておけば
景色と勘違いするのか
GANで生成したのなら、その画像を見破る認識技術も同時に出来てきてるはずだけど

>>18
問題ないよ
現実では人がいるところにゴリラいねーから
黒人とゴリラが区別できなくても問題が起きないんだよね
まあゴリラがいたら黒人の一人としてデータ登録されるだろうけど
31ニュースソース検討中＠自治議論スレ
垢版 |
2019/05/03(金) 11:31:48.61ID:8PyrBK4o
>>7
これならいけそうw
2019/05/03(金) 11:53:33.17ID:l3H0mzZT
独裁国家の支那が最先端なんだろ(笑)？
画像認識AIは
33ニュースソース検討中＠自治議論スレ
垢版 |
2019/05/03(金) 12:35:02.72ID:M0eg2uNC
【スマートフォン】　種類が無駄に多すぎる、規制しろ
http://krsw.5ch.net/test/read.cgi/steam/1556854132/l50
2019/05/03(金) 13:52:40.77ID:6YJkoZnZ
いや、これ、動いたら駄目だろ。
景色は移動しないから。
35ニュースソース検討中＠自治議論スレ
垢版 |
2019/05/06(月) 14:38:46.05ID:7uax6AKX
>>1
パナのデジカメの顔認識AFで試したら、がっつりロックオンしてたぞ
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況