联系我们:
人工智能(AI)和基于机器学习(ML)的数据驱动决策正在对越来越多的行业产生影响。随着这些自主和自我学习系统越来越多地负责做出最终可能影响人员、资产或环境安全的决策,确保系统中人工智能的安全使用将成为安全管理和运营的关键。
用于高风险和安全关键应用的机器学习具有挑战性,因为由于潜在的灾难性后果,对错误预测的容忍度降低。与数据吻合良好的模型通常是不透明的,这使得它们的可证伪性较低,难以信任。此外,通常缺乏相关数据,对不确定性的适当处理是必不可少的,因为DNV不仅关心可能发生的事情,而且还关心可能发生的不太可能的事件。然而,也有一些积极的一面——即,通常有额外的因果和基于物理的知识可用。