新的IBM Cloud Service如何检测AI中的偏差

人工智能为企业提供了承诺，使其能够使用复杂的算法来处理大量数据，发现模式，返回洞察力，并帮助推动更快更好的业务决策。通过神经网络，机器学习和深度学习获得的图像识别，自然语言处理，翻译和其他功能将帮助高管们开辟新的收入来源，提高效率，降低成本并推动自动化。

与此同时，AI被视为各种各样的“黑匣子”。数据在一端，调查结果，决策和见解从另一端出来，但是对于如何达到这些结果几乎没有可见性，并且随着企业和消费者都学会更多地依赖人工智能技术，人们越来越担心调查结果存在偏差。神经网络与进入的数据一样好，并且数据可能会受到输入数据的人的影响。

将透明度带到前台

IBM官员现在提供基于云的服务，旨在检测AI中的偏差，并为AI驱动的系统决策提供透明度。该服务在IBM Cloud上运行，可用于管理来自各种技术供应商的AI系统。与此同时，该公司将向开源社区发布一个工具包，其中包括其他人可用于检测和减轻AI偏差的技术和教育工具。

IBM Watson的首席架构师兼IBM研究员Ruchir Puri表示，随着行业采用该技术，能够检测偏差并更好地了解AI系统的决策过程至关重要。

“为了让人工智能蓬勃发展，企业要从中获益，高管们需要信任他们的人工智能系统，”普里在公司博客上写道。“他们需要能力来管理这些系统，并检测和减轻偏见。关键 - 通常是法律要求 - 透明度被纳入人工智能决策。例如，在保险业中，索赔理算人可能需要向客户解释为什么他们的自动索赔被自动处理系统拒绝。

“现在是时候开始打开人工智能的黑匣子，让组织对他们管理这些系统的能力充满信心，并解释如何做出决策。”

随着人工智能的新信任和透明度功能的出现，认知和人工智能系统和软件的支出继续迅速增加。IDC分析师本月表示，认知和人工智能系统的支出今年将达到240亿美元，到2022年将增长到776亿美元，在此期间每年平均增长37.3%。

大量公司转向人工智能采用

IBM自己的研究发现，82%的企业正在考虑或正在推进人工智能的采用，重点是创造收入，而60%的企业担心人工智能涉及的责任问题。IBM发现，63%的人缺乏利用AI的技能。

IBM的自动化服务与从流行的机器学习框架和AI环境构建的模型一起工作，如Watson，TensorFlow，SparkML，来自Amazon Web Services(AWS)的Sagemaker和Microsoft的AzureML。IBM官员表示，用户还可以自定义服务的软件，以更好地适应其组织的细节。

该服务可以解释如何做出决策并在做出决策时检测偏差，并自动推荐可以添加到正在运行的模型中的数据，以减轻发现的偏差。

该服务可以解释决策中的因素，是否将决策推向一个方向，并记录模型的准确性，性能和公平性。此外，AI系统的谱系可以跟踪客户服务，监管和合规性原因。所有这些都可以通过可视化仪表板访问。

人工智能与培训一样好

“公平是企业将AI部署到根据用户信息做出决策的应用程序中的关键问题，”Puri写道。“对任何一组用户表现出偏见所造成的声誉损害和法律影响可能对企业造成严重损害。AI模型与用于训练它们的数据一样好，开发具有代表性的有效训练数据集非常具有挑战性。“

即使在训练期间发现偏见，“该模型仍可能在运行时出现偏差。这可能是由于不同权重分配给不同特征而导致的优化不协调，“他写道。

公司官员表示，面向开源社区的IBM AI Fairness 360工具包包括初始九种算法，代码和三种教程，供数据科学家，学者和研究人员使用。将来会添加更多工具和教程。