联系我们:
人工智能系统的可信度与我们授权决策或提供建议以实现特定目标的领导者或专家或组织的可信度没有太大区别。人工智能系统应该遵循与其他技术相同的质量保证方法和原则。
我们评估专家建议的严格程度取决于她的建议及其背景的重要性。这意味着，在部署特定人工智能系统时建立信任所需的严格程度和努力，将取决于潜在后果的严重程度和概率。
人工智能系统在社会中的部署带来了复杂性，并带来了数字风险。虽然传统机械系统的复杂性自然受到物理约束和自然法则的限制，但集成的软件驱动系统的复杂性似乎很容易超出人类的理解范围，这些系统不一定遵循完善的工程原则。在数字化的推动下，这种日益增加的复杂性因人工智能技术的集成而加深，这些技术带来了新的风险，并造成了实质性的信任缺口。
作为对全球关于人工智能信任的辩论的贡献，我们提出了可信任的工业人工智能系统的描述，重点是将人工智能集成到现有的网络物理系统和其他数字资产中。此外，我们还讨论了人工智能支持的数字资产如何需要开发和部署流程的保证，以及数字资产本身的产品保证。
正如欧洲委员会，我们将人工智能定义为“通过分析环境并采取行动(具有一定程度的自主权)来实现特定目标，从而显示智能行为的系统。”
我们将可信赖的人工智能系统定义为具有以下特征的系统:
- 合法性
- 能够执行和验证委托的任务
- 适当的人机相互依赖
- 明确的目的
- 对相关利益相关者的影响是透明的
合法性:首先，人工智能系统应该是合法的。它的合法性取决于与算法和模型训练、数据治理、所选AI算法对要解决的问题的适用性以及该问题的背景相关的问题。建立AI系统的剩余风险对所有利益相关者都是可接受的是至关重要的，而不管系统的利益是什么，比如成本效率。最终，部署人工智能方法和工具的合法性将取决于系统是否适合目的，以及是否将风险管理置于核心位置。
执行和验证委托任务的能力:与领导者、专家或组织类似，并遵循既定的质量保证和性能原则，有必要确定人工智能系统是称职的，并有能力完成委托给它们的工作。这需要确保它们的设计、部署和操作性能具有足够的质量和健壮性。尽管许多人工智能算法都是黑箱性质的，但透明度可以通过可解释性来提高。最后，所有这些标准的组合需要产生适当的证据，以最终验证可信度。
适当的人机相互依赖:人与机器、机器与机器的交互和相互依赖值得仔细审查。在许多网络物理系统(从汽车、船舶和飞机到能源系统和管道等基础设施)中，越来越多的功能已经被提升到更高的自主水平。绘制和理解人工智能系统的开发、部署、使用和维护中涉及的代理和角色，以及在运行中受人工智能系统影响的外部利益相关者是至关重要的。所有这些类型的代理和利益相关者之间透明和可理解的沟通，包括机器对机器的交互，是确保人工智能可靠性的关键。
明确定义的目的:为了确保可信度，需要公开部署工业人工智能系统的动机和目的。这一披露包括揭示所有利益相关者的潜在利益和风险。人工智能系统的动机和目的也需要与企业问责程序进行评估。
对相关利益相关者的透明影响:人工智能系统的可信度还必须通过观察它们可能产生的影响来判断。很大一部分伦理考虑涉及人工智能系统对人们的隐私权、非歧视权、公正决策权等可能产生的影响。在工业安全关键应用环境中，人工智能系统的部署可能会受到与其他技术相同的影响评估方法的影响。建立特定人工智能系统的影响的前提是将责任归于不同的代理，并区分有意和无意的行为。最后，人工智能系统的影响必须在整个系统生命周期内持续监测。
我们提出可信赖工业人工智能系统的这些特征，作为我们在数字资产保障方面正在进行的工作中出现的最佳实践。
在DNV，我们正在采取措施为数字资产提供保障，包括那些包含人工智能系统的资产。我们与学术界和工业界建立了多种合作和伙伴关系，既建立了新知识，又从用例中学习。我们也已经在为市场提供专注于数据和机器学习保障的服务。
参考文献
AI Now Institute 2019年报告，纽约。AI Now研究所
布拉德肖，J. M.，霍夫曼，R. R.，伍兹，D. D.和约翰逊，M.(2013)。关于“自主系统”的七大致命神话。电子学报，28(3)，54-61。
博茨曼，R.(2017)。你能相信谁?《技术如何让我们走到一起，为什么它可能让我们分开》公共事务。
葛隆斯鲁德，谢俊杰(2019)。自主船舶的结构化STPA安全与保障协同分析框架。第29届欧洲安全与可靠性会议论文集。Doi: 10.3850/978-981-11-2724-3_ 0105-cd。
乔丹。m . 2018。人工智能——革命尚未发生。媒介。
O 'Neill, C.(2016)。数学毁灭武器:大数据如何加剧不平等并威胁民主。纽瓦约克，纽约州:皇冠出版集团。
韦伯，A.(2019)。大九巨头:科技巨头和他们的思维机器如何扭曲人类。桦榭英国。
朱博夫，S.(2019)。监督资本主义时代:在新的权力前沿为人类未来而战。资料书籍。