[AUTO]自动驾驶问题：撞向5个人还是1个人 [复制链接]

之前有个很有名的问题：列车即将撞上五个人，而如果驾驶员选择转向另外一个铁轨，则会撞到一个人，驾驶员应该怎么做。

问题不在于撞到几个人，如果是汽车驾驶员，撞谁都是他的错，如果汽车是自动驾驶的，并不是驾驶员在操作，是汽车制造厂商设置的自动驾驶软件，那么问题就会落到汽车制造者头上，汽车制造者就该为此负责，还需要界定如何负责。
（汽车制造商能不能在那一瞬间，将驾驶权交还给驾驶员？或者软件里设置碰撞发生后屏蔽某些信息等手段，规避责任呢？纯假设。。。）


以上，瞎猜的....哈哈，主要还是说，自动驾驶的时候，碰到各种各样的情况，软件功能安全是如何设置，评估并进行活动的，这可能是自动驾驶遇到的最大的问题。自动驾驶主要问题，不是技术问题，技术问题反复测试修改，逐渐完善只是时间问题。最大可能还是安全问题，吉利老李一直在呼吁立法，大概就是这方面的担忧吧。有些问题，人无法选择，那么执行人的意志的机器，更不可能选择。

是个问题

内容来自Android手机客户端

技术上来说或许这不是问题，能提前发现前方有障碍物，并识别障碍物种类应该就能避免这个问题！

还给驾驶员？那就厉害了 ，车会说不是我开的。撞上那下是驾驶员开的

内容来自iPhone手机客户端

提前刹车！
难道是近视眼的自动驾驶？

内容来自Android手机客户端

估计汽车厂商会判定撞向5个人，车主安全，还是撞向一个人车主安全
以保障车主的安全为首要任务。
治于人。。。

这只会是一个先发现的问题。不存在完美的同时。人眼存在同时。机器却不如此。发现第一个人，做出判断，之后发现另一个，这时候不论做出什么判断，发现第一个人时的第一次判断都已经是在执行中，这时候产生的问题就不是撞谁的选择，而是避开第一个人以后发现另外五个人，要如何避开这五个人，而不是到底避开五个人还是一个人，

内容来自Android手机客户端

这个应该刹车，不转向
假定自动驾驶时，左侧一人，自行通畅，右侧花坛，车头右前方1米突然5个小朋友玩游戏冲出来，自动程序捕捉的应该是障碍物信号，不应该去区分1个人和5个人的区别，如果区分了，那么若干年后电影里机器人干人类的画面就可以想象一下了

内容来自Android手机客户端

驾驶员迷迷糊糊滴接过控制权，背锅。

选择自爆，开车数据黑瞎子爆不了，后台分析后车商免责 ，因为现在只有辅助驾驶，没有自动驾驶，驾驶人不参与就自爆，免得害人

内容来自Android手机客户端

这种陷阱题没啥意义。

电脑觉得这个问题很纠结，然后想了想决定开进河里

azuretears:电脑觉得这个问题很纠结，然后想了想决定开进河里 (2018-06-05 09:11) 

开进河里 之前 打开天窗

命题错了，正常行驶中的列车撞上谁都不用负责

这明显不是安全问题，而是伦 理问题。

这涉及到 机器 情感的 问题
有部电影里面 汽车掉河里了 里面 一大人 一小孩
机器人 下去救 综合判断 救大人 几率最大
但是 大人非常想让 机器人 救小孩

excaliburfate:还给驾驶员？那就厉害了 ，车会说不是我开的。撞上那下是驾驶员开的
 (2018-06-04 22:50) 

这只是假设，更多的可能是，驾驶员发生车祸，为了躲避责任，说这是自动驾驶导致的，甩锅给车商，而此时车可能损毁，无从查证。

150448215:这只会是一个先发现的问题。不存在完美的同时。人眼存在同时。机器却不如此。发现第一个人，做出判断，之后发现另一个，这时候不论做出什么判断，发现第一个人时的第一次判断都已经是在执行中，这时候产生的问题就不是撞谁的选择，而是避开第一个人以后发现另外五个人，要如何避开 .. (2018-06-05 04:02) 

根本问题不在于这个问题本身，而在于发生事故后，驾驶员和制造商如何界定责任？当时当然机器判定的是规避障碍物，但事后呢，如何判定责任（驾驶员说的可能和机器记录的不一样）？我想说的是，自动驾驶会带来这方面的问题

为什么 不 刹车 呢

老夫还没睡醒呢，你们就聊这个

内容来自Android手机客户端

azuretears:电脑觉得这个问题很纠结，然后想了想决定开进河里 (2018-06-05 09:11) 

‘震惊！百万豪车自动驾驶开进河里，家属索赔天价XX亿’

一车世界:根本问题不在于这个问题本身，而在于发生事故后，驾驶员和制造商如何界定责任？当时当然机器判定的是规避障碍物，但事后呢，如何判定责任（驾驶员说的可能和机器记录的不一样）？我想说的是，自动驾驶会带来这方面的问题 (2018-06-05 10:28) 

我的意思，这个问题，压根不存在制造商责任问题，除非是车辆故障，系统故障造成的碰撞，如果是特殊情况必然碰撞，制造商在逻辑关系上首先就会避免产生责任，只要存在先后顺序就可以，而驾驶人更不会是责任主体，这应该是自动驾驶汽车在销售时就存在的合约问题，如果制造商不把责任主体承担，那驾驶人怎么可能去买车。

momololo:这种陷阱题没啥意义。 (2018-06-05 08:15) 

这是引出问题，而类似的问题必然存在，自动驾驶必然会遇到各种各种的实际情况，而这些必须被考虑到，否则出了事情，被召回，像高田气囊一样，分分钟破产的晓得不？

这个不是陷阱题，电车难题在道德上至今无解……
你不能让程序员去解一个无解的问题，这是不道德的……

150448215:我的意思，这个问题，压根不存在制造商责任问题，除非是车辆故障，系统故障造成的碰撞，如果是特殊情况必然碰撞，制造商在逻辑关系上首先就会避免产生责任，只要存在先后顺序就可以，而驾驶人更不会是责任主体，这应该是自动驾驶汽车在销售时就存在的合约问题，如果制造商不把责 .. (2018-06-05 10:50) 

对，我说的是这个意思。但是呢，就是这个逻辑关系，如何设定，不可能制造商设定了，其他人就接受了，不可能有绝对的正确做法，这时候可能需要法律或者法规提供一些指导和支持，免得出问题纠缠

以后保险会有相关分别的，自动驾驶和人工驾驶，保费不应该是不一样的，如果电脑程序出现选择撞几人问题的时候，就是反人类的问题了，电脑程序只能选择刹车和转向没有人的地方

内容来自Android手机客户端

一车世界:对，我说的是这个意思。但是呢，就是这个逻辑关系，如何设定，不可能制造商设定了，其他人就接受了，不可能有绝对的正确做法，这时候可能需要法律或者法规提供一些指导和支持，免得出问题纠缠 (2018-06-05 11:30) 

你想多了，逻辑关系就是如此简单，现行的各行业也应该都是这样的逻辑，最简单的免责设计。而无人能提出异议，且就是正确的做法，如果第一秒发现1个人，躲开了，第二秒发现5个人，因为躲开第一个人就必然撞5个人，而停止躲开第一个人，去避开5个人，就必然撞1个人，不会有任何设计会去纠正第一次的躲开行为然后撞回到第一个人上，如果纠正了，这问题就上升了，且是毫无意义的，因为你的计算是避开5人肯定撞1人，但这计算只是统计学数据，现实并不是百分百如你所愿，而同时你也等于故意伤害第一人，反之撞5人却不是故意伤害。

ilovedgq:这个应该刹车，不转向
假定自动驾驶时，左侧一人，自行通畅，右侧花坛，车头右前方1米突然5个小朋友玩游戏冲出来，自动程序捕捉的应该是障碍物信号，不应该去区分1个人和5个人的区别，如果区分了，那么若干年后电影里机器人干人类的画面就可以想象一下了
 (2018-06-05 06:50) 

自动驾驶是不具备思维能力的，它只是简单执行逻辑设定，而设定的人，能决定它怎么做，和机器人不一样

代入自动驾驶不改变电车难题的条件限定。
电车难题中选A或者选B只能说明你采用那一种道德理论……
然而目前为止，道德本身依然没有唯一恒定的内涵。

所以，此题无解。
所有企图找条件限定的空子，都是徒劳……