中文 英语
18lickc新利
的意见

我们对自动驾驶的人工智能太苛刻了吗?

了解许多汽车安全标准和要求。

受欢迎程度

我最近参加了底特律的“ISO 26262 & SOTIF实施”会议并发表了演讲。它的副标题是“采取综合方法实现汽车安全”。三天后,我的脑子里就满是ISO/SAE和其他标准的数字。在第二天结束时,在又一个欺骗自动驾驶原型机做出错误行为的例子之后,我叹了口气,问是否还有其他人会为这些人工智能感到难过。感觉我们要求人工智能做的事情比人类能做的多得多。我的问题引起了一些笑声,但也引发了一些关于如何量化自动驾驶能力的诚实讨论。

IQPC旗下的Automotive IQ组织了这次会议,吸引了大约70人参加。这是一个亲密的环境,为研究人员和行业参与者提供了良好的网络。

第一天是重点讨论的一天,我们讨论了iso21448正式出版,“预期功能的安全性。”它位于上方ISO 26262并指导实现和维护SOTIF所需的操作阶段的实际设计、验证、验证措施和活动。在与其他处理自动驾驶场景设计链的工具供应商讨论时,我听说客户认为SOTIF很重要,而场景建模领域的一些供应商也提供了可以提供帮助的产品。

第二天,由通用汽车系统安全技术研究员主持的小组讨论开始,Rami Debouk,马修Blazy-Winning恩智浦半导体公司功能安全总监菲利普•库普曼卡内基梅隆大学副教授。

Philip Koopman概述了基于标准的系统工程方法,FMVSS和NCAP解决了基本的车辆安全功能,SAE J3061和SAE 21434解决了安全性问题,ISO 26262功能安全机制解决了设备故障。对于动态驾驶功能的环境和边缘案例,需要应用ISO 21488和SaFAD/ISO TR4804, ANSI/UL 4600解决了动态驾驶以外高度自动化车辆安全案例的系统安全问题。让我们记住SAE J3018中提到的道路测试安全。

从OEM的角度来看,要涵盖的标准太多了。

恩智浦的Mathieu Blazy-Winning概述了他们作为二级供应商如何努力遵守四项标准,以实现汽车和工业应用的功能安全:

  • IATF 16949 -协调全球汽车行业供应链中不同的评估和认证体系。
  • ISO 26262:2018 -在标准中使用特定的危害分析和风险评估(HARA)。
  • IEC 6158:2010 -在危害和风险分析方面比ISO 26262更灵活,可以评估危害,包括ISO 12100标准中的常见技术。
  • 汽车SPICE -“汽车软件过程改进和能力确定”,用于评估汽车行业OEM供应商开发过程的性能。

除了遵守这些标准,Mathieu的团队还在监督ISO 21448 SOTIF、ISO TR 9839“预测性维护”、UL 4600“自主产品评估”、“J3131“自主术语定义”、“IEEE P2851“互操作性数据格式”以及Accellera自动化、互操作性和可追溯性功能安全工作组。

你头晕了吗?

在讨论中,我询问了供应商如何评估投资所有这些标准的投资回报率,以及其中一些标准是否比其他标准更重要。Koopman教授提出了上述并行安全需求的层次结构。走捷径是不可能的。安全方面是相互建立的。这就是为什么需求会一直通过设计链到IP供应商,而且它们需要被追踪。

安全需求在每个设计链级别上都是复杂和不同的。它们是相互依存的。

在第三天的演讲中,我作为设计链中的供应商,重点介绍了客户在片上网络(NoC)领域所期望的功能,即在汽车中使用时,需要将安全功能内置到互连功能中。我也重新强调了对愿景的看法可扩展性是安全分析中一个迫在眉睫的问题我们的研究员和安全负责人Stefano Lorenzini在今年早些时候绘制了图表。此外,我还谈到了需求跟踪

会议期间的很多讨论都集中在人工智能及其相关的安全方面。我们讨论了导致人工智能行为不端的例子。特定角度的阳光会改变交通灯的感觉,让它变成多个亮灯。大多数人,包括我在内,可能也会在这里失败。根据NCAP,欧洲2019年的死亡率是百万分之51仅在过去五年中,道路死亡人数就减少了6%。自动驾驶技术打算让这条曲线变得更陡峭。一个IDTech最近的研究发现系统性能不佳导致的自动驾驶汽车事故仅占1%,即83起事故中有2起。

那么,我们是否对人工智能过于苛刻,不得不遵守所有这些标准?可能。但考虑到事故的责任和责任已经从人类转移到机器及其创造者身上,这样做仍然是必要的。还有很多问题需要回答。

激动人心的时刻即将到来,让我们确保他们的安全!



1评论

汤姆·史密斯 说:

我有很多安全方面的问题。让我们以交通灯为例——人类会知道当时的情况,也许会看看十字路口的交通灯来了解哪个是亮的——人工智能会吗?

我所见过或听说过的大多数评估都是在相对良好的天气下进行测试的。谁曾在加拿大大雪覆盖的道路上测试过人工智能驾驶的汽车?我可以,我已经开过了,但人工智能可以吗?这方面的标准在哪里?做了哪些测试?这不是吹毛求疵——这是一年中有几个月的现实。

也许在这个领域已经做了一些工作,但我(安全工程师)还不相信自动驾驶汽车已经为黄金时段做好了准备……至少不是在所有地方。

留下回复


(注:此名称将公开显示)

Baidu