【自動車】テスラの自動運転技術は子どもをはね飛ばしてしまう危険性があることがテストにより判明、「禁止すべき」と調査チーム [すらいむ★]

テスラの自動運転技術は子どもをはね飛ばしてしまうことがテストにより判明、「禁止すべき」と調査チーム

　運転支援機能「Full Self-Driving(FSD)」を使用して自動運転を実現しているテスラのシステムに、路上に立っている子どもを認識できずに衝突してしまう危険性があることが明らかになりました。
　調査チームは結果をもとに「子どもに衝突しない事を証明するまで自動運転車を禁止するべきだ」と主張しました。

　In Scientific Test, Tesla “Full Self-Driving” Technology Consistently Strikes Child-Sized Mannequins
　(PDFファイル)https://dawnproject.com/wp-content/uploads/2022/08/The_Dawn_Project___Tesla_FSD_Test__8_.pdf

（以下略、続きはソースでご確認ください）

Gigazine 2022年08月10日 19時00分
https://gigazine.net/news/20220810-tesla-self-driving-fails-detect-children/

テスラに乗ってる奴は笑われる

レベル２

よくテストされてるな
ユニットテストに追加 乙
🐬TOTUGEKI🐬

テスラだめだね
アップルに期待するわ

取り敢えず人の運転手以上できないと駄目だろう。
人の運転手でできないことなら、できなくても仕方ないで済ませれるけど。

こういうのってセンサー次第なんだろうね

俺は、杖を使ってソロソロ歩いているオジジです。
近所の遊歩道公園で、スマホ女*1 が、オレに気付かずに
ズンズン歩いて来るように見えたので、少し道端に避けて
立ち止まっていた。
そうしたら、2m くらいまで接近したところで、ようやく
オレが立ち止まっていることに気付いたようだった。

注*1　その後、"スマホ男" も、似たような行動をすることに
　気付いた。だから、その件について、男と女の区別は、
　しないようになった。

自動運転システムの、人物・障害物検知機能も、その程度なのかも。

子供を確実に制御できるシステムの構築はよ

子供が道端に立ってるだけで
徐行させるしかない

子供が予想不可能な動きをしたときでも対応しろってこと？？

この記事はエジソンの陰謀だ

老人が後ろも見ないで歩道から右に
飛び出してきて渡り始めたことあるで

高速だけ自動運転できたら十分だよ

センサーが汚れていたらそれで終わる

動画を観ると、子供にぶつかる直前に自動モードから手動に一方的に
切り替わってね？

事故を自動車の責任にできるまで自動運転と言うなよ

テスラは自動運転ではなくレベル2の運転支援装置
当初から一貫してそうなのに
オートパイロットとかフルセルフドライビングとか、あたかも自動運転と誤認させるような名前をシステムに付けてるが

再三当局から自動運転と誤認させるような広告はするなと警告されてきた
手放し運転が許されてるのも日本のレベル2と同様、高速道路上の限られた範囲のみw
テスラよりGMの方がよっぽど進んでる

まあ一般道は駄目かもしれんが高速道路だけでも手放し脇見運転できれば長距離移動も楽で良いよな
オートクルーズで楽になったけど完全に目を離せるレベル3自動運転は憧れるよなあ

>>1
IT機器やAIは、安全性がほとんど進化してないないにも関わらず
大衆が信頼しすぎている
AIの判断だといえばみんな納得しちゃう
事故・エラーの頻度の問題ではなく
IT機器の「システムエラー」は予測不能・検証不能・再発予防不能・責任所在不明である点など
「ヒューマンエラー」に比べて様々な危険を孕んでいる
今の安全性のレベルでは自動車や医療に組み込むのは危険
AIが組み込まれるとますますブラックボックス化して
「人間」にはどうしようもないような事故が頻発するぞ

そうなったら、テスラが賠償するからOK。

路上に立っているばあさんは認識できるのか？

つまり、子供をはね飛ばす危険性のある我々、一般ドライバーも運転禁止では？

テスラは客を使って実験してるよな。
いずれ大規模な訴訟を起こされそう。

>>22
墓場までシェアライド

>>1
因みにこの動画作成者はLidarの株式投資している
アンチテスラの偽情報をいつも流Taylor Oganって奴
まあ騙されるのは情弱の日本人だけだろうけどねｗｗｗ

テスラSのマイナーチェンジから始まったテスラのU字形ステアリング
未来感を出したつもりだったのか知らんけど

ステアリング機構がただの電動パワステなんでロックトゥロックが以前と同じ約3回転のままw
車庫入れや曲がりくねった道で不便だと不評でしたが
ようやくオプションで前と同じ円形ステアリングが付けられるように成ったとさww
めでたしめでたし、だけど
テスラの先進性なんてこんなもんなんだぜ

テスラの修理費が高いのは修理は想定されておらず買い替えを推奨しているから

イーロン・マスクは集金ビジネスの天才
これ以上でもこれ以下でもないイメージ

正直こいつが主導した企業の商品は買いたくないｗ

>>16
あ、こりゃ助からんな　と判断した瞬間に
責任回避の目的で制御をコンピュータから運転者に
渡す　w

>>29
すでにトヨタは営業利益抜かれちゃったけど集金ビジネスとは…

EVはバッテリーが極度に重いから
すぐには停まれんわ｡市内は徐行
なら可能かも｡

>>1
×「禁止すべき」
○「改善すべき」
じゃないんですか？言ってる事が老害すぎません？

再現性あるの？

テスラは基本ハッタリから入るから。だから株価も無駄に高い

トヨタは全個体電池とか水素自動車とかハッタリかましたのに株価も低いし失敗しちゃったね

世の中には色んな団体あるけど、最終的に「信じるか信じないかは、あなた次第です！」🏺

>>30
それな
そうしないと、保険会社が保険を引き受けないだろう

今まで手動で何人も跳ね飛ばしてるんだから自動は
手動より危険であるとのデータが無いとな
絶対を求めるなら車自体廃止しないと理屈に合わない

>>39
記事すら見ていない駄文

実験で轢かれた子供なむ～

>>33
テスラの自動運転ってさ、画像をたーくさん集めて最新のディープラーニングでつくるんだけどさ

たとえばさ、晴れの安全な場合と危険な場合でそれぞれ写真を集めるわけじゃん
次に、雨の日も欲しいから、それぞれの安全、危険な写真を集める訳じゃん

こんな感じで、今度は朝、昼、夜、街中、郊外、インター、高速道路、スーパーの前、ローソン、ファミマの駐車場と言った感じでそれぞれ項目別にデータを集める必要があるんだけど、仮にこの項目が333個あれば完全に安全な自動運転が可能になる仮定したらさ、必要な写真は2^333≒10^100枚ほど必要なのね

で、この大宇宙にヒッグス粒子やクォークみたいな素粒子はだいたい10^92個くらい存在するらしいから、この宇宙をあと1億個ほど用意して素粒子ひとつひとつに写真データを保存できれば絶対に間違いの無い自動運転車が出来るんだろうけど、やっぱりテスラのやり方で改善するのは不可能だと思うから考え直した方が良いよー

>>27
バカを騙して売る為だから仕方ないだろ

といってもテスラは広告宣伝費ゼロであっという間にレクサスの倍の販売台数

自動運転は何かあったら一瞬で止まれるくらいのスピードでないと
恐ろしくてたまらない
予測不能なことなんて道走ってたらいくらでも起きるんだから
それを全部AIに任すなんて信じられない

車道に高い壁とか作ろう
子供が入ると危ない

>>42
後半、頭おかしい

>>47
正しいよ、何より命を預かる安全システムに相関関係しか利用できず、Googleや NSAのデータセンターを根こそぎフル稼働しても必要なストレージを1ppbにも満たせない次元の呪いを放置したままの欠陥技術にフルセフル・ドライビングだなんて名前を付けて金をとるやつが1番頭がおかしい

でもトヨタ

タミヤは電気自動車出さないのかな？
512BBの1/1モデル出たら絶対かうで！

今更。ここの車って自動運転で事故る１秒前に「この車は手動運転に切り替わります」
って音声が流れて次の瞬間ドカンなんだろ？勝手に事故ってぶつかる時は運転手の
責任になるなんて冗談じゃないわ。

AI「まだ人間じゃない」

自動運転のおもちゃは簡単にできるんだよ。
様々な条件の実用化は難しいけどね。

自動と手動を切り替える条件も難しい。
古くはエアバスの自動優先主義と
ボーイングの手動優先主義もあった。

事故を起こしたら、ハンズフリー運転を許可しているテスラを
訴えたらいい。
トヨタは片手を一定時間離したら、警告音が鳴る。

>>33
改善されるまで禁止すべき

別に車のオーナーは損害賠償請求されようが、刑務所送りなろうが個人の自由だけど

被害者が生まれてしまう以上、安全が「確認」されるまで禁止で当たり前。
頑張って改善しろよ。

>>42
人間よりちょっとだけ性能が良くなればいい

子どもを跳ね飛ばすのなら、大人だって跳ね飛ばすだろう

>>58
それなら喜んで晒すはずw

Teslaの自動運転は光学カメラの映像を３Dデータ化し、仮想空間のオブジェクトの
挙動を機械学習で自己学習させたもの。この方式の場合、この検証例のように、
道路の真ん中で子供らしき物体が動かずに静止状態にある事例を過去データから
学習していない限り、その物体は子供だとは認識できない。
おそらく、この検証例だとGoogleの自動運転車でも認識できないじゃないかと思う
ただ、Googleの場合は完全自動運転のため、認識不可能な物体を認識した場合は、
走行を停止する。Teslaの場合は運転手がいることが大前提のため、同様な状況が
発生した場合は、自動運転モードから手動運転モードに切り替わる。動画を見た範囲
では手動運転モードへの切り替えは機能しているようなので、この検証例だと
実際に事故が起きても責任主体は運転手の側となるだろう。

身長170センチ以下に人権なし

>>61
女性は厳しいな

>>60
気になったのは、機械学習ベースで制御するのに、どうやって認識不能と判断できるんだろうな？
AIは学習してない物体の信号を受け付けた時、それが未学習だと理解できないじゃん

センサーが受け取った情報はデータベースに入ってる既知のデータとの類似性を評価して物体を認識するが、結局分かるのは類似性が高いか低いかに過ぎず、入力された物体が認識不能と判断するには異常検知みたいにどこかで人間が閾値を設けて設定するくらいしか無いだろうけれど、問題なのは、学習に使ったデータセットの組み合わせでその閾値はいくらでも変わるので、だからこそハイウェイで横転したトレーラーを空と勘違いしてアクセルは踏むし、そもそも設定のしようがないんだよな

とことんフルセルフドライビングは欠陥技術だな

事故の確率が人間と比べてどれくらい減ったら自動運転を認めるようになるんだろうか？
完全にゼロになるわけはないんだからどこかで線を引くことになるんだろうが。。

>>64
人間と同等になって事故の責任を誰が取るかが法的に確定すればいいんじゃね？

>>31
安全や品質を疎かにして利益率を上げる経営方針。

韓国製品かと思ったｗ

大手テスラでＡＩ（人工知能）や運転支援技術の開発に重要
な役割を果たしたアンドレイ・カルパシー氏が１３日、退任
を発表した。理由は明らかにしていない。

ちょっと前に退任するて記事あったけど無関係でないやろなw

>>60
良かった、テスラには瑕疵がなくてテスラオーナーが子供を殺しただけなんですね！

猫が飛び出して硬直した時は？

まぁそんなもんだろ

人が運転する車が人をはねる率より低ければ合格じゃね？

シミュレーションじゃなくてマネキン使って現実世界でテストしたのか

いくらなんでも子供を犬猫と間違えるようなずさんなプログラムじゃないだろ　いちゃもんだよ　金が欲しいんだよ

そう言えば、高速道路を横切ろうとしたトラックを空と見間違えて運転手ごとカミカゼアタックしたEVがあったよな

ドロップアウトレイヤーなんか過学習を抑制させる為に深層学習のネットワークへ挟み込むけど、子供や犬猫の情報も適度に忘れた方が精度が向上して汎化性能は上がるのかもなぁ？
やっぱり自動運転にAIベースは怖いわ。

AIって十分な確率でそれらしい結果が出るまで
学習させるというだけだから、
多く実行すれば一定の確率で
認識を失敗するものだ。

だから、レーダーとか超音波とかカメラを併用し
AIを使いパターン認識を使い
画像処理を使って複合的に色々やるもんだ。

AIがあればいいとかそういう話ではない。
皆さんの頭自体がAIだが使い物になるように出来てるか?

ツイッタにもっと酷い動画あがってたなw
ボンて吹っ飛ばして、それ見てOMG言ってたよ

>>77
> レーダーとか超音波とかカメラを併用し AIを使いパターン認識を使い 画像処理を使って複合的に色々やるもんだ。
そのセリフ、とっても大事だからイーロン・マスクにも言ってやれ
◯テスラの自動運転は、バックアップですらレーダーを使わない、とイーロン・マスクが断言。開発競争の勝者になったのか。2021年04月17日

> テスラのイーロン・マスクCEOは、上記ツイートが投稿された翌日10日に返信。
>「大幅に改良されたFSD Beta Version 9.0のリリースが既に準備段階に入っている。とりわけ曲がりにくい角や悪天候における運転が改善されているが、そのうえレーダーを廃止してカメラからの情報だけで運用することにした」とリツイートし、これが大きな注目を集めている。

https://energy-shift.com/news/4b82068d-0ac1-445b-b121-a516b8941a20

>>79
これは見たよ。
イーロン・マスクはアホかと思った。

人間でさえ、運転するときは視覚だけではなくて
振動やキックバック、加減速度、音など
様々な情報を感じているのにねえ。

事故ったら製造物責任法でメーカーに賠償金出させればいい

>>45
オートパイロットにはレベルがあって、テスラはレベル2としか言っていない。
これは車間距離と車線を認識すれば足りるので、当然ながら運転の全てをAIに託しているわけではない。

>>56
絶対に事故が起こらない車があると思ってんのかこの無能はwwww

どうろを赤ちゃんがハイハイしていたら、犬猫と思ってはね殺して進むのだろうな。
赤子は、我が死体を踏み越えていけ！とはいわないけれども。

そもそも自動運転は犬猫を撥ね殺さない

>>85
っ
んなーこたーない

>>1
この調査ってそもそも反テスラ活動家の捏造だった事が判明してる↓
道の線が青くなってないだろ
簡単に騙されんなよ

https://lowcarb.style/2022/08/12/tesla-fsd-beta-testers/
今回この捏造を実施したザ・ドーン・プロジェクトの創設者であるダン・オダウド氏は、テスラのFSDは「すべてのアメリカ人にとって致命的な脅威である」と述べています。 今年初め、オダウド氏はニューヨーク・タイムズに全面広告を掲載し、テスラのFSDを禁止するようキャンペーンを展開することまでしました。さらに彼は、カリフォルニア州の上院議員にも立候補し、テスラのFSDを禁止することが彼の選挙公約だったのです。

ただ、この映像を詳しく分析してみると、本来FSDベータが機能している時に表示する進路を表示する「青い線」がなく通常の「灰色」である点や、FSDが機能している場合に表示されるホイールアイコンが非表示のままなので、FSDが作動していないのは明白です。

>>48
お前の理屈だと普通の人間も運転したらダメになるだろ

そうだ、自動運転車が人を殺さなければ良いのだ。
轢きそうになったら、統合集中砲火システムが横断者や道路に寝ているものを
砲撃して十分に死んでからそれを踏み越えて行くのであれば、自動運転車は
単に死体を轢いたのにすぎないことになる。自動車が人を轢いて殺すのではない、
死んだ人を自動車が轢いているだけなのだ。

>>88
え〜〜ッ！？
普通の人は因果関係を利用して安全運転してるでしょッ！！！

君はいつも相関関係に頼って運転してるの？AIみたいに？？
相当危なっかしいな、正直、あんまり家の近くでそんな車に走って貰いたく無いよね。

>>88
そもそもなぜか量子論に飛ぶアッパラパーなのだから触らない

>>89-90
あのさ、普通につまらんよ

車に腕が付いていて轢く前に抱き抱えてしまう。
人工知能ならできるはず。
いや、その技術はいちばん難しい？

>>90
日本語が不自由だから煽りにもなってない

いやそんな事よりイマドキ高校の情報や一般教養の統計で学ぶだろう因果関係と相関関係の違いも理解せず科学板にやって来て、イーロンマスクのＡＩに誤謬がある訳ないと固く信じる>>92と>>94の時代遅れなテスラ・キッズぶりは余りに不憫

幻覚を語りだしたぞ大丈夫かこの人

>>95
お前は主語述語修飾語目的語が滅茶苦茶なんだよ。
意味不明。
ネットですら隠せない低学歴。

>>90
＞普通の人は因果関係を利用して安全運転してるでしょッ！！！
AIがそうすりゃいいだけじゃん。

それより岡山でおきたトヨタライズの事故が気になる
横断歩道を青信号で渡ってた児童、保護者がひかれた
あれは全車自動ブレーキがついてるはず

判り切ってたこと
そんなときはお金で解決するから推進してきたんだろ

Windowsだってフリーズするし、アップデートをかけたらかけたで、
トラブルが起きたりする。自動運転の車を一斉にソフトウェアのバージョンアップや
アップデートをかけたら、それが原因となって沢山の事故が起きて、それから
さらに再修正のアップデートが出たりすることが頻発するのではないか？
Windowsだって毎月OSを丸々差し替えるような巨大なアップデートがあるし。
学習に基づいて行動するということは、学習していない状況が発生したら、
何が起きるかは予測不能だろう。基本はブレーキをかけて停まるぐらいか。
しかしソフトが、学習していない状況であると判断しなければ、機能しない。
画面の1ピクセルを変えるだけで、別物の映像だと判断したりするような
ニューラルネットなど、とても安全に信用できるとは思えない。