自動ニュース作成G
AI時代の到来で「トロッコ問題」が再燃!
https://gendai.ismedia.jp/articles/-/65769
2019-07-16 19:18:56
>向こうから子供が30人乗ったスクールバスが来て、なんらかの理由でこちら側の車線に飛び出してきました。
>このとき、こちら側を走っている自動運転車が取りうる選択肢は2つです。1つは、そのまま直進し、スクールバスに突っ込んで30人の子どもが死んでしまうこと。もう1つは、自動運転車が曲がって橋から落ちること。
自動運転車の設計者はどちらの行動をさせるべきか
・スクールバスに突っ込んだらこちらも無事には思えないが。説明がおかいいんじゃないの?それに何で全て突っ込む前提なんだ?フルブレーキングでいいだろ。フェイルセーフとはそんなもの。・上級国民と生保の老人どっちに突っ込むか みたいな。・#1 フルブレーキしか答えはないだろうけど、それでもスクールバスに突っ込まれて両者共々橋から落ちることになるだろうね。・こっちの車線に飛び込んできたなら相手の車線に逃げればいいだろ・よくわからんのだが、スクールバスに突っ込んだら30人死ぬけど自分は生きるっていう設定?自分は何に乗ってるんだろう。・あと橋から飛び出すのが正解だった場合、自分から後ろの自動車全部どんどん橋から飛び出していく光景は笑える。・そして飛び出す後続車の乗員が合計30人超えた時点でスクールバスに突っ込むモードに切り替わる・#7 合計60人の大惨事だよ!・AIはバスが人為的問題で暴走しないように、予めバスをAIコントロール下に置くべきと判断するだろう。・なんらかの原因の一つにコントロール下から外れるっていうのもある。・スクールバスはそんな致命的な事故が起きるスピードは出さないだろ。こういう例え話はホントいつもひどすぎる・この手のものは三流の哲学者が売名で言ってるだけ。#4 こっちの橋問題はその時に同乗者が死ぬ事になっていて、同乗者を守るであろう作り手を問題にしているが、批判の様に選ぶとは思えない。http://www.soumu.go.jp/main_content/000450513.pdf [PDF]・正解は「橋から落ちる」。バスにぶつければ全員死ぬが、橋から落ちれば一人ですむ。・#5 もっと極端な話、バスに突っ込んでもドライバーが死ぬという状況だとしても、ガケから落として「AIがドライバーを殺す」という選択をしていいものか、ってのがあるんじゃなかろうか。32人の事故死 vs 1人の殺人。AIにそれをさせるべきか?・そもそもそこまで極端な状況を考慮する必要あるか? ステアリング操作でよけられるならステアリング操作で回避 回避不能ならフルブレーキで少しでも被害を減らす事だけに集中する設定にするだけだろ こんなの目の前に大量殺人犯がいるので超法規的にひき殺しますか?とかと同じで無意味すぎる・サイコロを振れば良い。TRPGは人生に必要な全てを教えてくれる。・#15 今までは最悪運転手個人の責にしておけばとりあえず片付けられるけど、今後AIによる自動運転となれば交通インフラのシステム崩壊にもつながりかねない事だ。考え得る可能性は全て規定しておかねばならんだろ。・運転手たるAIは、自身が運転手している車の乗員と、その次に自身の保全を優先でいいんじゃないのかなあ。状況によって自分より他者を優先するかも知れないAIが運転してる車に乗るのはしんどくないか?・昔のエアバス機みたいに「うーん状況よう分からん!操縦士に返すわ!」って突然ハンドル手放すAI。・避けても死、避けなくても避けないべき。 その方が遺族が貰える補償金が多いだろう。・#18 そうするとバスのAIも乗員の命を守る為にお前を殺しに掛かってくる訳だろ。その発想は全体最適化からは明らかに間違っている。・全体最適化をする必要はない。各々が自分の生命を最優先に考えればいいだけ。自家用車だとして自分がお金払って買った物なのに社会的にはって言うことで自滅する車は買うかね。出来るだけ事故おこしても生き残れる車欲しいわ。・#22 自分で運転しろ。意図をもって人を殺しても構わないなんてプログラムしてたらディストピアにしかならない。・#23 自動運転モード解除っていうのも一つの解だよ。・#24 だからそう言っている。他人を殺したく無い人は解除して自爆しろと言ってるの?そっちの方がおかしいだろう。・#24 自動運転レベル5で走行中で乗員が寝ている時にトラブル発生、で 自動運転モード解除ってやられても困るよね。どうするの。・http://gnews.x0.com/20190103_153512/ AIが関連を貼ってくれる時代はまだですか。・#25 自動モード解除だったら今の運転と同じ状況じゃん。なんで怒ってるの?・スクールバスがAIで回避する。・#26 選択肢の一つだねって言っただけなのにそうつっかかれてもね。自動運転中は寝てもいい法律があって、AIのモードは固定で選べない世界の話なんだよね。寝てもいい法律があるような世界なら運転手が寝てるかどうかぐらいチェックしてなんかするんでね。知らんけど。・そもそもバスに30人乗ってるてどうやって判断するんだ。・正確に言うと、「急ブレーキを踏む」か「それ以外の可能性を演算するために急ブレーキを保留」になるのだが・#28 誤読した。AIが勝手に解除すると言ったのか。人が解除出来るようにするとの事かと。俺が先に言ったのに逆の主張されたかと。#30 フェールセーフ的に誰もコントロールしていない状態はマズイよ。判断出来なきゃ警報でも鳴らして制御は続けろよ。勝手に解除するとか考えもしなかった。・まぁ議論のための議論だわな。実際にはAIは道路上以外を安全とはみなさないだろうからこのケースだとスピンしない範囲でフルブレーキング以外の選択肢はない。・逆に荒野の中の道だったら(つまり道路を逸れれば明らかに衝突を避けられる状況)って感じで議論を膨らませるのもAI 研究としては面白いか。まぁこれも実用上は「今は緊急の場合は道路を逸れてもいいよボタンOn/Off」を運転者の責任で操作する、で終わりか。・自動車のAIだと自身のドライバー優先でいいような気がするけど。跳ね橋の管理AIとか交通誘導AIとか立ち位置が変わると答えも変わってきそう。・何れAI同士が連携して最適解出す様になったりして。・死ぬ人数とか考慮しないで衝突エネルギーが最小になるように動かせばいいのでは?