大数据文摘出品
来源：quantamagazine.org
编译：Ivy、李雷、小七、云舟
如果一个医生告诉你需要做手术，你肯定会想知道为什么，进一步地，你会希望他给你一个就算没学过医也能听得懂的明确解释。谷歌大脑（GoogleBrain）的研究科学家BeenKim认为，我们应该对人工智能抱有同样的期望。作为“可解释”机器学习的专家，她希望构建一个能够向任何人解释人工智能的软件。
自从十年前人工智能兴起以来，人工智能中的神经网络技术已经从电子邮件渗透到了药物研究等各个方面，它具有越来越强大的能力来学习和识别出数据中的模式。
但这种能力带来了一个让人头疼的问题：现代深度学习网络之所以能够实现自动驾驶和保险欺诈识别这样的壮举，主要原因在于网络的复杂性，其复杂度之高让神经网络专家也不能解释清楚网络内部到底是怎么工作的。
如果一个神经网络被训练来识别有患肝癌和精神分裂症等疾病风险的患者，例如年纽约MountSinai医院的“深度患者”系统，我们无法得知网络