普华永道：2021年可解释人工智能报告（英文版）（27页）.pdf

1、人工智能已经进入商业主流，为提高生产力、创新和从根本上改变运营模式提供了机会。随着人工智能在复杂度、复杂性和自主性方面的发展，它为商业和社会带来了转型机遇。在2017年的一项研究中，超过70%的高管认为人工智能将影响业务的方方面面。估计，到2030年，人工智能将推动全球国内生产总值(GDP)增长15.7万亿美元。随着企业采用人工智能成为主流，利益相关者越来越问，人工智能对我意味着什么，我们如何利用潜力和风险是什么?跨越这些考虑的是信任问题，以及如何从不同的利益相关者群体(客户、员工、监管机构和更广泛的社会)中赢得信任。在过去的30年里，有许多人工智能的冬天，主要是由于技术无法抵御宣传造成的。然

2、而，随着科技现在兑现了承诺，问题可能是我们是否会面临另一个人工智能冬天，因为科技人员专注于构建更强大的工具，而没有考虑如何赢得更广泛社会的信任。这引出了一个有趣的问题人工智能在成为真正主流之前是否需要解释(或者至少可以理解)，如果需要，解释意味着什么?在这篇白皮书中，我们将探讨现实世界人工智能中增长最快的分支机器学习的可解释性。显而易见的是，用例的关键性驱动了对可解释性的渴望，因此需要解释性。例如，推荐系统的大多数用户都会信任结果，而不会觉得有必要揭开黑匣子的盖子。这是因为制作推荐的基本方法很容易理解“如果你看了，你可能会喜欢这个”，错误推荐的影响很小(花了几英镑在一部糟糕的电影上，或者浪费了30分钟看赶集节目)。然而，随着复杂性和影响的增加，这种隐性信任很快就会减少。有多少人会相信一个人工智能算法给出的诊断结果而不是一个医生，而不知道算法是如何得出结论的?虽然人工智能诊断可能更准确，但缺乏解释性可能导致缺乏信任。随着时间的推移，这种接受可能来自于对这类技术的普遍采用，从而形成了一个证据库，证明这项技术比人类更好，但在这种情况出现之前，算法的可解释性是非常可能需要的。