永远不要相信任何能够独立思考的东西，除非你看清了它把头脑藏在什么地方。

——J.K.罗琳，《哈利·波特与密室》

2016年5月一个美好的周六下午，北佛罗里达一段阳光明媚的公路上，约书亚·布朗(JoshuaBrown)，来自俄亥俄州东北部的40岁企业家和技术狂热爱好者，正坐在自己的特斯拉ModelS轿车的方向盘后。他刚和家人在迪士尼乐园欢度了一周。那天早晨他们道了再见，此时他正驱车赶往自己五年前建立的公司，那里有个提倡将互联网服务进农村的商务会议。

下午约4点40分时，布朗的车正沿着27A号高速公路疾驰，对面车道中一辆装载着蓝莓的半挂车变道进入左转道，在他之前进入了路口。报告显示卡车司机本应该等待布朗先过，不过那时布朗仍有充分的时间减速。

但布朗的特斯拉已开启了Autopilot自动驾驶模式，没有识别出明亮的天空背景下那辆白色的卡车。布朗自己也未能接管控制权进行刹车。轿车以每小时74英里的速度从侧面撞上了半挂车，穿过卡车车底，直至撞上电线杆旋转后才最终停下。事故调查者们认为特斯拉撞上卡车的那一瞬间布朗就已经死亡了。

布朗的死是自动驾驶汽车已知的第一例死亡事件，在技术和汽车领域都引起了广泛注意。一些媒体评论者和行业分析家将事故归咎于特斯拉在车上部署了还在beta测试中的自动驾驶技术。另一些人则批评特斯拉公司没有采取足够的措施保证司机在Autopilot功能启动时仍主动掌控自己的车辆。就在事故发生前一个月不到的时候，特斯拉的创办人伊隆·马斯克(ElonMusk)曾转发布朗制作的视频，视频里是布朗另一次使用特斯拉自动驾驶技术的经历，那一次车辆成功识别避开了一辆超车的卡车。在这次致死事故后，马斯克辩称Autopilot是能拯救生命的技术，使用得当的话，能够降低总体车祸死亡率。

大多数专家赞同这一说法。传统车辆碰撞事故中，超过90%的事故可归因为人类的失误。根据某些估算，将来50年中，自动驾驶车辆仅在美国就可以拯救多达150万条性命，在全球范围可以挽救接近5000万条性命。然而2018年4月一次民意调查显示，50%的受调查者表示他们相信自动驾驶汽车比人类驾驶员更危险。特斯拉的撞车事故激起了消费者的众怒。“这种危险的技术应该被禁止，滚出街道。公共道路不是用来测试尚未完成的自动驾驶系统的。”一位旧金山市民在论坛中如此评论。显然，人们不是将布朗的死亡看作一个特例，而是一种前兆。机器人要控制我们的道路，必须经过严格的检查。美国国家运输安全委员会(NationalTransportationSafetyBoard)，负责调查飞机和火车事故，为此特地启动了一次调查。

委员会于2017年6月发布了报告，其中一条结论是布朗在不合适的道路上开启了自动驾驶功能。特斯拉的操作手册上说明了这个功能只能用于“仅能通过上下匝道进出”的高速公路。在这种道路上，卡车是不可能左转穿越两条对向车道的。不仅如此，特斯拉还在手册中说明，即使是在自动驾驶模式，“驾驶员仍须全神贯注”监督车辆的动作，而布朗在车祸前至少分神了30秒。他也许真是分神了，因为他曾经多次顺利使用过Autopilot，对这项功能过于信任了。报告中也包含了给汽车制造商的建议：“在自动驾驶系统成熟之前，驾驶员的参与仍然是自动驾驶系统不可分割的部分。”他们说汽车制造商需要负责开发保证驾驶员参与驾驶的系统。

在运输安全委员会调查的同时，一家帮助人们进行积蓄投资的公司高管们则从机构和个人那里得到了完全不同的信息：让人类的双手远离方向盘(某种比喻)。