【ゆっくり解説】AIはどちらを犠牲にするのか－トロッコ問題と人工知能

【視聴数　2251250】

【チャンネル名　るーいのゆっくり科学】

【タグ　ゆっくり解説,るーいのゆっくり科学,物理エンジン,科学,ゆっくり】

コメント（2,648件）

mimi MM より:

8月 18, 2021 2:10 pm

んーーーー
自分で選びたく無いから
5人はそう言う運命だったと思って
お命頂戴したす

返信
がんばってください!! より:

8月 18, 2021 3:03 pm

脱線させる

返信
なまものより:

8月 18, 2021 4:40 pm

五人の命と飯塚幸三の命のどちらを犠牲にするか？って質問なら誰も悩まなくて済むのにねぇ。
何だったらレバーで進路変更する際に、トロッコにドリル装着したいくらいやねぇ。

返信
水峰雪より:

8月 18, 2021 5:48 pm

自分を犠牲にするのはだめなのかな？

返信
Dame Nako より:

8月 18, 2021 11:21 pm

本題から逸れてしまいますが、何処ぞの小中学校向けの教科書に、この問題にどうにかしてオリジナリティを加えようとでもしたのか

主人公は歩道橋上にいて、その下を通り抜けるように電車が走っている
・電車の行き先に５人の人がいて、このままだと５人が轢かれる
・主人公の目の前にはデブが一人

そのままだと5人が轢かれて死ぬ
デブを歩道橋から突き落とせばデブは轢かれて死ぬが5人の前で電車は止まるので助かる

どうする？

というツッコミどころしか無いようなやべー議題が提示されて、ちょっとバズったりしてましたね。

返信
トシロー浅井より:

8月 19, 2021 12:27 am

知人の鉄オタ曰く、「トロッコが分岐点を通過する絶妙のタイミングで線路をうまく切り替えて脱線させて止める」だと。

返信
SHION より:

8月 19, 2021 1:11 am

サムネのやつ
俺は犯罪者5人と金持ち1人だと
レバー動かして金持ちを助けるかな

でもどちらも一般人だと動かさないかな
知人だと動かすかも

返信
フライクより:

8月 19, 2021 2:44 am

コイントスで決めよう

返信
Arleigh-Burke kio より:

8月 19, 2021 5:30 am

車体のあちこちからジェット噴射を出して根性で飛ぶ、On Your Mark

返信
ozvorn より:

8月 19, 2021 7:59 am

この議論の問題は「平等」って何かってことかな

返信
nagatomi yuto より:

8月 19, 2021 10:52 am

生物の本能として基本的に自らを危険に晒すことは避けるってのがあると思うんで、AIは運転者の安全を最大限守るという原則で動くべきだと思うのよ。
これに則れば、ヘルメットを被った人間に突っ込むか被ってない人間に突っ込むかという論点ではなく、「どちらに行った方がよりドライバーの安全は守られるのか」って論点になると思う。そうすれば、急ハンドル切ってノーヘル側に突っ込んで、中央分離帯から対向車線に突っ込むリスクをとるよりは真っ直ぐ進んで目の前の人間を牽いたあと停止する方が安全みたいな判断になるだろう（そこはスピードや周囲の状況などにより変わってくるはず）。
その上で、実際事故を起こすときに、目の前の人間がホームレスなのか公務員なのか金持ちなのかなんてのはわかんないわけで、属性を吟味して牽いていいとか悪いとか考えるのは現実的じゃないと思う（子供や大人、老人という見た目の判断がつくものもあるけど、『属性』として全て一律に捉えるものとし、牽く牽かないの判断材料に「属性」を用いることは避けるものとする）
で、もし区別する何かがあるとしたらそれは過失の度合いじゃないかと思うんだよね
例えば、いてはいけないところにいることで事故に遭うのはそこにいた側の過失。
過失のない者と過失のある者なら、過失のある方が犠牲になる…みたいな感じなら俺は納得出来るかな
牽かれたのが実は金持ちでみんなの人気者でしたとか、ノーベル賞候補者でしたとか、そういうのは結果論。実際の事故でだって惜しまれて亡くなる人は大勢いるわけで、この人は「惜しい人」でこの人は「惜しくない人」だから「惜しくない人」を殺しますみたいな選択は行うべきではないと思う。選択しちゃうと、事故後に変な禍根残りそうだし
過失の有無で判断されるなら、「まあ、あんなことやってたら亡くなってもしょうがないよね」って、まだ納得出来そうじゃん

返信
らをる CC XXX より:

8月 19, 2021 10:53 am

法に則って一番過失の低い様にするしかない。

返信
受天夢. より:

8月 19, 2021 11:39 am

判断に窮した時に、私は自然界に解を求める。たかだか一頭の人間が考える解、しかも人権などという時には採るべき判断を狂わせるキレイ事に縛られる《人間》という動物の解など頼りないことこの上ない。他の動物ならどうするか？それが『自然な答え』だろう。

返信
pLanX-ぷらんとより:

8月 19, 2021 2:33 pm

もし1人を殺したら残りの5人から人殺しと認識されるから5人を殺した方が得

返信
あっとより:

8月 19, 2021 2:46 pm

答えは簡単、自爆しろ。

返信
風来坊アスカより:

8月 19, 2021 4:33 pm

まあ結局完全AI自動運転なんて完全な危険予測か、歩行者と車等が別々の場所にいる前提の世界が出来ないならやめた方がいい。前者はそもそもそういう危険性のありそうなところは絶対に避けることが出来ないと不可能。後者は道路整備が大変だから漫画などである車が走る透明のパイプみたいな所とかが出来る技術が無きゃ不可能。結論から言うと今の科学力では完全AI自動運転なんて夢のまた夢。
トロッコ問題に関して言うなら自分がレバーを引くか否かは轢かれる側の人間が自分にとってどんな関係かによると思う。人は直面した時に考えたら多分「１人を犠牲にした方がいい。５人を助けた方が有益」とか「自分が引くことに寄って１人が轢かれたら自分が殺した気分になる
」とか考えられないと思う。結局関係性だろう。１人が友人や家族、恋人で５人が赤の他人なら５人の方を犠牲にするだろうし、逆なら１人を犠牲にするだろう。両方他人なら見て見ぬふりをするだろうし、両方ある程度の関係ならどちらに深い関係があるかで選ぶと思う。世界の裏側で人が死んだって他人事で怒ったり泣いたりしないのが証拠。
だから今問題出しても答えが出ないのは当然。考えるだけ無駄。これが俺の結論。

返信
希望ちゃんより:

8月 19, 2021 5:56 pm

ブ　レ　ー　キ　踏　め　よ

返信
Hawkeye Xenotics より:

8月 19, 2021 7:51 pm

目前の歩行者が犯罪者やホームレスだなんてすぐわかるものなのかな？

返信
サーモンより:

8月 19, 2021 11:52 pm

自動運転に乗ってて人轢いたら乗ってる人が罪に問われるのか？

返信
まーるより:

8月 20, 2021 2:01 am

犯罪者たちのした犯罪のレベルによるかな、殺人してんなら轢いてもいいと思う

返信