人工智能系统中的用户信任

培养和维持用户信任是实现值得信赖的人工智能和为社会释放人工智能潜力的关键。我们通过提供用户信任定义、用户信任影响因素以及测量人工智能系统中用户信任的方法的概述进行了这项研究。

研究发现，用户对人工智能系统的信任受到三个主要主题的影响，即社会伦理考虑、技术和设计特征以及用户特征。用户特征主导了调查结果，加强了用户参与从开发到监控支持人工智能的系统的重要性。用户和系统的不同环境和不同特征也会影响用户信任，突出了根据目标用户群体的特征选择和裁剪系统特征的重要性。重要的是，社会伦理考虑可以为确保用户与人工智能交互发生的环境充分有利于建立和维持信任关系铺平道路。

这项工作得到了AI-Mind该项目获得了欧盟地平线2020研究和创新计划的资助，资助协议编号为964220。