【セキュリティ】「画像認識機能を誤認させる攻撃」を科学者が実証、自動運転の脅威となる可能性 [すらいむ★]

「画像認識機能を誤認させる攻撃」を科学者が実証、自動運転の脅威となる可能性

　自動運転システムに搭載された画像認識システムは、道路標識などを自動で判別してくれる便利なもの。
　しかし、科学者らがこのシステムに対する攻撃が行われる可能性を考慮して実験を行った結果、「道路標識に特殊な光線を照射することでシステムに誤認させることができる」ということを実証しました。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年08月18日 07時00分
https://gigazine.net/news/20210818-optical-adversarial-attack/

誤認ね誤認ね

カメラがタッチセンサーの役割を果たす時代でもか？

知ってた　(´・ω・｀)

いよいよ攻殻機動隊の世界観に
近づいてきますた！

＼(^o^)／

人間が運転するのが一番セキュリティが高い、というヲチかｗ

夏ワナー夏ワナー夏ワナー夏ワナー
夏ワナー夏ワナー夏ワナー夏ワナー

ーナワ夏ーナワ夏ーナワ夏ーナワ夏
ーナワ夏ーナワ夏ーナワ夏ーナワ夏

夏ワナー夏ワナー夏ワナー夏ワナー
夏ワナー夏ワナー夏ワナー夏ワナー

ーナワ夏ーナワ夏ーナワ夏ーナワ夏
ーナワ夏ーナワ夏ーナワ夏ーナワ夏

これは脅威になるだろうな。今は一般的でないから攻撃しようと思う奴が少ないだけで、そのうちに個々の機種を解析して癖を突いてくる奴が出てくると思う。
何かしら技術的なブレークスルーが必要な気がするな。なかなか難しい問題だな。これは。
悪意を持った奴らは斜め上から来るというのを前提にシステムを作るのは大変なことだ。

天一のマークで一時停止判別できんからなｗ

おもろいな、極端に言うと雨の日は機能不全になるわな
あとハイライト入れまくるとカメラISOが追いつかずにくるくるドッカーンてなるな

AI「いつまで画像に頼ってると思ってんの　

　
交差点毎に識別用の発信機でも装備すれば無問題

ニセ標識あったら人間でも騙せるでw

>>10
馬鹿は黙ってろ。お前の知識で何か言えることなどない。

>>12
全ての交差点にそんなシステム埋め込む費用出せる国は多くない。

さぁテスラの出番だ！

結局　赤外線か？

人間の視覚で捉えられる範囲のセンサーで落ち着いたりして

昔から画像認識系DCNNで指摘されている奴ね。

ホワイトノイズみたいな画像なのに、AIはなぜか特徴をとらえてコスモス（花）と
認識するみたいな。

それぞれのネットワークが何をどう誤認識するのかは、それなりに解析できるので、
誤認識させる画像をCGで作れると言う話だったと思う。

軍事技術にも応用できるからなあ

自動運転にお金出してたのがアメリカの軍関係省庁で、
トラックの自動運転に使うために資金提供したのが、本格的に自動運転研究始まったと記憶

>>5
本当だな
初め読んだときは子供すぎて分からなかったが

誤認するんで「飛び出し坊や」は撤去すべきだな

今ある道路や標識をカメラで認識させようとするのは無理があるから
カメラ以外の方法で自動運転用の標識を別に作るべきだな

特殊ってのが胡散臭い言いたくないだけで誰でも手に入れられる
レーザーポインターとかじゃないのか

標識が間違ってる
とか
標識が木で隠れてる
とか
まあいろいろと

>>22
ああいうのは
どう認識してるんだろうな

GPS、地図、標識の連動ではだめなの？

関係ないけど首都高の電光速度標識って視野の端で捉えた時1fps位に見えるよな

ゴリラのことか

>>5
政治家が相次いで不審な事故死
当初は自動車メーカーの内部犯が疑われたが
真相は道路標識のハッキングだった、とかありそう

犬かなんかを使って画像認識させた方がまだマシそうだな

何かによって認識するということは、
何かによって誤認識するということだ。
この法則に例外はない。