背景

目前使用的许多药物安全有效，但其确切作用机制尚不清楚。从发现到批准的过程涉及反复试验，一个安全成功的分子或蛋白质可能以鲜为人知的方式发挥作用。例如，阿司匹林是在19世纪末被发现的，但是直到1995年才有一个令人信服的解释来解释它的工作原理。我们在快速发展的人工智能领域也看到了类似的模式。机器学习正在发展成为一个很有前途的领域，然而这项技术并不能解释观察结果是如何产生的。

机器学习

机器学习是通过识别大数据集中的模式来工作的。在医疗保健领域，一项引以为豪的研究表明，这种技术可以快速准确地检测视网膜疾病。机器学习分析了1000名患者的眼球后部高分辨率三维扫描数据集，这些患者的结果已经是已知的。结果与有经验的眼科医生和眼科医生的诊断结果相比较，错误率仅为5.5%。它没有漏掉一个紧急案件。然而，机器学习无法解释这一结果是如何获得的——它只能通过统计相关性得出答案。

如果机器学习的答案是正确的，或者如果阿司匹林减轻疼痛，副作用最小，店铺淘客怎么做，我们真的需要知道它们实际上是如何工作的吗？

并发症

今天我们看到机制不明的药物大量增加，每种药物都显示出各自的安全性。但对于服用多种药物的人，我们需要担心药物的相互作用。当药品已经上市时，不良事件就会被发现，同时起作用的药品的综合效应可能是危险的，云服务器价位，什么叫大数据云计算，甚至危及生命。然而，我们只能在批准后才知道这些不良事件；不知道药物如何工作意味着我们无法提前预测不良相互作用。

现在考虑机器学习的类似发展，其中因果机制可能未知。这样的系统不会孤立地工作。随着人工智能系统的激增，如何用大数据，我们将期望看到系统产生的数据被其他人消费，类似的不良事件问题将可能出现；我们将看到的不是药物相互作用，而是算法相互作用。机器学习"在野外"的交互作用是不可预测的。我们已经在金融市场看到了问题，大数据应用，那里已经部署了先进的机器学习。2010年，一场由算法交易驱动的"闪电崩盘"在36分钟内从美国主要股指上抹去了超过万亿美元的资金，然后才可以采取纠正措施。

另一个挑战将来自人工智能能够使发现更快更准确的事实，质疑进行研究以产生分析洞察力的必要性。理论家可能被视为多余的，多余的，但我们会跳到这样的结论在我们的危险。在我们仓促接受新事物和有希望的事物时，我们需要牢记意外后果的规律，并为不利因素做好准备。在理解机制和因果关系方面的投资需要增加投资，以确保实现人工智能令人兴奋的潜力的全部价值。