如何防止隐私被人工智能“偷走”？法律体系设计很关键

很多家庭使用交互式音箱，但用户在家里的窃窃私语会不会被家里的音响“偷走”呢？人工智能时代如何实现用户的隐私保护？

科大讯飞董事长刘庆峰在世界人工智能大会产业发展全体会议上表达了上述担忧。

算法歧视、非法移动跟踪、数据隐私侵犯……人工智能在带给人类巨大进步与福利的同时，也带来了不可忽视的风险。

7月10日，以“人工智能的权利义务与法律实践”为主题的世界人工智能大会法治论坛（下称“论坛”）举行。论坛上，上海市法学会、浙江清华长三角研究院、华东政法大学、上海政法学院联合发布《世界人工智能法治蓝皮书（2020）》（下称《蓝皮书（2020）》）、《人工智能法治发展指数》（下称《指数》）和《2019中国人工智能法治发展评估报告》，关注人工智能发展中的热点、核心法律问题。

人工智能立法如何突破？

《蓝皮书（2020）》的内容由前言、人工智能法治综述、人工智能法治发展指数、2019年中国人工智能法治发展报告、专题报告等11个部分组成。

其中6篇专题报告分别聚焦区块链技术、医疗领域人工智能应用、人脸识别与隐私权保护、数据安全、知识产权保护、复合型人才培养等人工智能发展和应用中的热点、核心法律问题。

如何用法律和科技来保护用户隐私安全、数据安全？

韩国梨花大学法学院教授李元馥认为，要设计一个法律体系，来激励并鼓励开发者开发出更清晰、更透明的人工智能。其中一种方法是使用侵权责任来激励和约束人工智能开发者。

“如果我们能在侵权法的设计上，让开发者的责任与其开发的人工智能的可解释性成反比，将有利于社会。因为它将激励人工智能开发者努力开发更易于解释和审查的人工智能。” 李元馥说。

上海交通大学凯原法学院访问特聘教授秦裕林认为，在预防人工智能可能带来危害的同时，也应当建立相应的法律法规，且与市场的力量相结合，倡导能自觉守法，友好地为人类服务的人工智能技术和系统的研究与开发。

人工智能立法已经提上日程，立法具体要遵循哪些规则？

中国法学会学术委员会主任张文显认为，智能社会是科技赋能型社会。法律要以激励和保护大数据、云计算、区块链、互联网、物联网、人工智能创新发展为首要原则，推进中国智能科技占领世界科技的制高点。

美国康奈尔大学法学院王氏中国法讲席教授於兴中表示，如果我们要制定有关人工智能的法律，就必须制定反映人类道德的法律。

“社会伦理、职业伦理、生物学研究伦理、机器人伦理、人工智能伦理等都与法律有关。道德原则将作为立法和执法的指导，可以被视为人工智能开发人员的内部约束，也可能成为人工智能开发人员的设计参数。”於兴中说。

瑞典隆德大学法律社会学教授哈坎·海登（Håkan Hydén）则认为，机器学习也将给法治带来突破。

“随着数字化技术的出现，技术本身也已成为法规的来源。规范的出发点已变更。当技术自身开始成为规范时，数字化过程将进一步发展。” 海登称。

人工智能司法应用正在推广

与《蓝皮书（2019）》相比，《蓝皮书（2020）》的另一大特点是制定了《人工智能法治发展指数》。

《指数》确定了政策文件、理论支撑、执法实施、市场规模、社会关注、法治环境等6个一级指标，旨在客观、准确、全面反映我国人工智能法治发展状况，引领、推进人工智能法治研究。

“可量化、可视化的形式较准确、客观、全面反映人工智能法治发展情况，为人工智能法治研究提供支撑，推动人工智能法治建设。” 上海政法学院校长、蓝皮书编委会副主任刘晓红表示。

《2019中国人工智能法治发展评估报告》显示，2019年中国人工智能法治发展评估得分 83.79 分，总体水平较高，但相对薄弱环节在于执法领域具体场景化人工智能产品的运用。

实际上，上海在人工智能与司法的深度融合方面已经做出了表率。

上海市法学会党组书记、会长，上海市高级人民法院原院长、二级大法官崔亚东在论坛上介绍，经过三年多的努力，集中700余人合力攻关，上海在2019年底成功完成研发“推进以审判为中心的诉讼制度改革——上海刑事案件智能辅助办案系统”（下称“206系统”），先后获国家批准六项知识产权。上海刑事案件办理从立案、侦查、报捕、起诉、审判均在“206系统”内运行。

据统计，2019年1月至2020年6月，206系统累计录入证据材料14,047,275页、提供证据指引541,754次（依系统点击量统计）、提供知识索引8,331次、提示证据瑕疵28,309个。

“智能辅助审讯系统研发应用，推动了审讯工作的改革，是传统的审讯工作模式向现代化智能化审讯模式质的飞跃。这是人工智能等新技术与刑事司法实践深度融合的重大成果，使我国宪法、刑法、刑诉法确立的刑事法律原则得以落地，体现了中国法治的进步。” 崔亚东表示。

目前，该系统在安徽、山西、贵州、新疆生产建设兵团、云南等省市已推广应用。