马斯克表示曾通过向汽车展示一件印有停车标志的T恤来欺骗司机驾驶辅助系统
据外媒报道,在电动汽车制造商特斯拉最新的“人工智能日”(AI Day)上,其首席执行官埃隆·马斯克(Elon Musk)大肆宣传该公司在AI方面取得的成功。
在这次活动之前,特斯拉的司机辅助驾驶系统Autopilot和“全自动驾驶”(FSD)套件正面临更严格的审查。美国国家公路交通安全管理局(NHTSA)宣布对11起与特斯拉自动驾驶相关的撞车事故展开调查。
在多位特斯拉工程师和经理带领下进行了详细的演示后,一位与会者问马斯克,他是否担心特斯拉汽车缺乏3D传感器,从而引发所谓的“对抗性攻击”。对此,马斯克回答:“我们还没见过太多这种情况。”
他还开玩笑地说,他曾通过向汽车展示一件印有停车标志的T恤来欺骗司机驾驶辅助系统。马斯克表示:“事实上,我有一件T恤,上面印有停车标志。如果你在车前展示,它就会停下来。我已经亲自进行了证明。”
马斯克补充说:“显然,如果我们看到这些对抗性攻击,那么我们可以重新训练汽车,让它们注意到穿着印有停车标志T恤的人,实际上可能不是真正的停车标志。”
今年7月份,有人在推特上发文显示,一辆特斯拉在高速公路上行驶时,多次将月亮误认为黄色交通灯。司机在推特上写道:“嗨,马斯克,你可能想让你的团队通过自动驾驶系统观察月亮。汽车认为月亮是黄色交通灯,总是想要减速。”
据报道,其他特斯拉车主也表示,他们的车有被广告牌、太阳、卡车和汉堡王的标志欺骗的经历。尽管马斯克的目标是最终让该系统比人类司机驾驶更安全,但它目前在模仿许多人类司机下意识中采取的行动都以失败告终。
特斯拉的“红灯和停车标志控制”功能于2020年初通过软件更新发布,目前仍处于测试阶段,车主必须手动打开。
马斯克在“AI日”活动中说:“就像路上有些人的驾驶能力各不相同一样,但我们仍然允许这些人开车。你不一定要成为世界上最好的司机才能上路。”