计算机专家聚焦人工智能隐私保护和算法公平问题

在上海世界人工智能大会的一场科学前沿的全体大会上，与会专家都关注到隐私保护和伦理的问题，以及机器学习算法的公平性。

在人工智能隐私保护方面，自动驾驶技术的安全隐私是最受关注的。马斯克在大会上表示：“自动驾驶的发展趋势不可阻挡，关键问题是安全性如何。这意味着你想要在99.99%后面再加上几个9，才能被接受。”

马斯克表示，尽管自动驾驶技术在硬件上已经很大程度上准备好了，但是仍然有很多软件的细节需要完善和提升，从而防止出现可能的安全问题。

对此，自动驾驶领域专家、悉尼科技大学副校长张成奇教授认为，自动驾驶技术是人工智能落地时，隐私问题暴露最为明显的应用。“自动驾驶的研究有三个方面，第一是单车的研究，第二是多车的协同调度，第三个方面非常重要，就是怎样来防止黑客劫持你的自动驾驶车辆，如果你的车被劫持了，你自己根本控制不了，这种情况下危险就很大了，这就是技术的双刃剑。”

他认为，需要考虑有没有黑客用自动驾驶的技术，制造远程的武器。他还提到，除了技术问题之外，人工智能的落地还需要得到法律的支持。“我觉得需要和心理学、社会学、法学等多个领域进行交叉合作。”张成奇教授表示。

张成奇教授同时指出，尽管机器学习和隐私保护确实存在很大的实际矛盾，但已经有研究表明，像联盟学习这样的方式既能保护隐私，又能提高技术。

除此之外，机器学习建模时数据的偏向性也可能影响人工智能的决策。中科院院士、计算机软件专家何积丰在大会上强调了这一问题。

何积丰院士表示：“基于带有偏向性的数据所得出的数学模型，在实际做决策的时候，会有些不公平的东西，所以机器学习算法的公平性倍受关注，这是我们接下来需要讨论的问题。”

何积丰院士一直是人工智能网络安全的倡导者。去年的上海世界人工智能大会上，他就对第一财经记者表示：“人工智能要做高产值很容易，理论上一部分信息通信技术（ICT）行业的产值也可以算到人工智能领域。但要真正打造人工智能高地，让人工智能服务于我们的社会经济，还有很多工作要做。”

他认为，目前人工智能已经发展成为新一代的人工智能，这将对安全性带来更高的挑战。“人们遇到了很多以前没有碰到过的问题，值得引起重视。”何积丰院士表示，“但我们很欣慰地看到，在各方的呼吁下，人工智能的安全受到了更高的关注度。”

何积丰院士还提倡将智能家居作为人工智能的一个理想的入口，为人工智能提供试错的环境，把生态建起来，因为这种试错的成本比较低。

对此，科大讯飞董事长刘庆峰在上海世界人工智能大会的一场产业发展全体大会上表示：“我们在讲人工智能伦理，最重要的就是保护，隐私保护当中，不光是法律的问题，也要给用户更多的选择权。”

他表示，科大讯飞已经支持了科技芯片，还与海尔合作了一个纯离线的家庭音响，不联网，充分保护用户隐私。

“这得益于算法的持续优化，同时对算法的运算能耗进行大幅裁减，使得更多低端芯片上可以在离线的时候满足用户的各种使用需求。”刘庆峰说道。