提高人工智能驱动机械的安全性需要与人类更密切的合作

坦佩雷大学正在进行的一个研究项目旨在为高度自动化的越野移动机械创建适应性强的安全系统,以满足行业需求。 研究表明,使用人工智能控制的移动工作机器时,在遵守公共安全相关立法方面存在严重差距。

随着高度自动化越野机械的采用不断增加,对强有力的安全措施的需求也随之增加。 传统的安全流程往往无法考虑人工智能 (AI) 控制的系统带来的健康和安全风险。

Marea de Koning 是坦佩雷大学自动化专业的博士研究员,她开展的研究旨在通过开发专为与人类协作操作的自主移动机器量身定制的安全框架,在不影响技术进步的情况下确保公共安全。 该框架旨在帮助原始设备制造商 (OEM)、安全和系统工程师以及行业利益相关者创建符合不断发展的法规的安全系统。

人类与自主机器之间的平衡

预测危险可能出现的所有可能方式并确保人工智能能够安全地管理危险场景实际上是不可能的。 我们需要调整我们的安全方法,更多地关注寻找成功管理不可预见事件的方法。

我们需要强大的风险管理系统,通常包含人在回路安全选项。 必要时,人类主管应该进行干预。 但在自主机器中,依靠人工干预是不切实际的。 德科宁认为,当使用自动化时,由于无聊、困惑、认知能力、情境意识丧失和自动化偏差等原因,人类表现可能会出现明显下跌。 这些因素极大地影响安全性,机器必须能够安全地管理其自身的行为。

“Myapproach 通过人工智能驱动的决策、风险评估和对不可预见场景的适应性来考虑危险。我认为积极与行业合作伙伴合作以确保现实世界的适用性非常重要。通过与制造商合作,可以弥合风险理论框架和实际实施之间的差距,”她说。

该框架旨在支持原始设备制造商设计和开发合规的安全系统,并确保其产品遵守不断发展的法规。

将框架集成到现有机械中

Marea de Koning 于 2020 年 11 月开始研究,将于 2024 年 11 月完成。该项目部分由工业创新博士学院资助,部分由芬兰系统供应商资助。

德科宁的下一个研究项目将于四月开始,重点是整合她的安全框架的一个子集并严格测试其有效性。 自 2027 年 1 月起,2023/1230 法规取代了 2006/42/ec 指令,这给 OEM 带来了巨大挑战。

“我正在尽一切努力确保安全始终处于技术进步的前沿,”她总结道。

该研究为政策制定者、工程师和安全专业人员提供了宝贵的见解。 这篇题为《根据 2023/1230 法规实现高度自动化越野机械安全的综合方法》的文章发表在著名的《安全科学杂志》上。

资讯来源:由a0资讯编译自THECOINREPUBLIC。版权归作者A0资讯所有,未经许可,不得转载

上一篇 2024年 5月 31日 上午9:32
下一篇 2024年 5月 31日

相关推荐