AI进校园 边界在哪里？

人工智能技术在方便学校教学和管理时，也面临个人隐私保护等争议——

AI进校园，边界在哪里？

前不久，人脸识别类技术进校园的话题持续引发关注，此类人工智能(AI)技术除了应用于校园门禁控制、学生考勤管理，还能全程监控课堂，就连学生发呆、打瞌睡和玩手机等动作行为都能被识别出来。随着AI时代的来临，AI技术在为教学提供辅助、提高学校管理效率、确保学生安全的同时，也面临公共数据采集与个人隐私保护、使用目的的正当性、数据泄露风险等争议，AI技术进校园，边界究竟在哪儿？

变化：人脸识别“潜入”校园

新学期伊始，中国药科大学的学生们发现，熟悉的校园出现了新的改变——校门口、宿舍和图书馆都安装了人脸识别门禁。

对此，学生们的接受度还挺高。不少学生认为，门禁识别准确、速度快，不用再担心忘记带校园卡，确实比较方便。而且采集了学生出入宿舍、图书馆等信息的系统，还能帮助学校统计学生的回寝时间、晚归次数等，提高了宿舍的安全性。

而在学校的教室里，也在尝试使用人脸识别系统。中国药科大学图书与信息中心主任许建真说：“之前有的同学点完名就跑掉了或者请别的同学代(点名)，但是有了人脸识别就没这个问题了，只要你进教室那一刻起，它就对你全程进行识别。你低头多长时间，你是否在玩手机，你是否在发呆，你是否在看别的书，都能感知到。”

在校方看来，这能有效解决传统考勤方式中管理难度大、效率低的问题，从而方便教务管理者实时掌握班级学生考勤情况，是在“探索泛在、灵活、智能的教育教学新环境建设与应用模式，努力提升技术能力和服务水平”。

当前，为引领推动教育信息化转段升级，《教育信息化十年发展规划(2011—2020年)》《教育信息化2.0行动计划》《中国教育现代化2035》《加快推进教育现代化实施方案(2018—2022年)》等政策文件相继出台。在业内专家看来，信息技术与教育教学深度融合已是大势所趋。为此，不少学校都在积极探索利用AI技术服务于教育教学以及日常管理，人脸识别类技术就是该探索的一种。

安全是人脸识别技术在校园应用的最初方向。据记者了解，在山东、上海、河南等地的一些幼儿园和小学，已经开始探索运用人脸识别技术进行校园智能安防。这类智慧型校园安防系统，能对校园及周边一定距离的安全区，进行实时监控。当学校有大型活动时或者学生集中放学时间，校园大门口会聚集大量人员，该系统将自动进行“非安全身份识别”，一旦有陌生人靠近，系统监视屏会自动报警提醒，学校安保人员可及时处置。

除了应用于安防，一些学校也开始“试水”用人脸识别来保证出勤率和提高听课效率。去年4月份，重庆二十九中在教室内启用了一套人工智能分析评估系统，该系统通过观测学生细微的表情变化，来判断学生对所学内容的理解程度。“专注度高的学生占比35%”“思考学生占比29%”“疑惑学生占比18%”“不理解学生占比3%”，课堂两侧，两个电脑屏幕滚动着由大数据实时分析出的学生学习效果图。

杭州十一中的“智慧课堂行为管理系统”，则会每隔30秒进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合高兴、伤心、愤怒、反感等表情识别，分析出学生们在课堂上的状态。

还有一些学校开始尝试将人脸识别技术应用于学生的日常管理。去年11月，贵州11所中小学校开始推广使用“智慧校服”项目，利用“RFID(射频识别)+人脸识别”科技集成智能校服考勤系统，当穿着“智慧校服”的学生通过人脸识别进出校园后，系统内会自动记录学生进出校园和宿舍的精确分秒时间，同时保存前后20秒的实时视频。

一旦学生在上课时间内未经允许离开校园，GPS定位芯片会记录学生位置并激活门禁闸机自动语音报警器，提醒有学生离开校园。假如学生互换校服，警报会响起，它也能发送准确的具体位置，帮助学校和家长快速定位。

争议：是“危”还是“机”

人脸识别系统刚开始进入中国药科大学课堂，该校就有学生担忧，此举识别有侵犯个人隐私之嫌，一举一动都被人脸摄像头监视，“让人后背发凉”。校方表示，学校之前已向公安部门和法务部门咨询，由于教室属于公开场所，因此不存在“侵犯隐私”的说法。

对此，北京志霖律师事务所副主任赵占领说：“我国法律对于隐私权没有特别明确的界定，严格来看，教室属于公共场所，安装人脸识别摄像头，虽然不违法，但需要明确告知学生，给学生知情权和选择权。”

利用人脸识别类技术，无论是进行课堂管理还是教学效果分析，都不可避免要收集海量数据。首都师范大学基础教育发展研究院教授苏尚锋认为，教室内使用人脸识别的初衷是对学生学习行为进行个性化追踪，而其目的在于经分析生成个性化的学习方案，以帮助学生提高学习效率，在这种理想情况下，是符合“人工智能+教育”未来趋势的。

在使用目的的正当性上，中国基础教育质量监测协同创新中心网络平台部主任张生认为，用人脸识别类技术来对学生进行管理，不能本末倒置，“学校应回归教育本身，多反思课堂的教学效果”。

人脸识别作为一项技术，其本身并没有什么问题，关键在于如何运用。同样的人脸识别技术，帮助幼儿园和小学建立智慧安防系统，用来寻找丢失的幼童或监护老人，就很少陷入争议。赵占领说：“在这些场景里，个人隐私让位于人命关天的安全需求，这也符合人们心中牢固的共识。”在很多家长看来，对校园及周边实时严密监控，智能身份识别，严进严出，将危险扼杀在“摇篮”中，也大大降低了歹徒闯入校园作案的可能性，学生安全有保障。

人脸识别类技术的潜在危险还有数据泄露风险。赵占领告诉记者：“人脸识别监控课堂的行为会产生大量的隐私数据，如果没建立相应的数据安全规范或未尽到妥善保管义务导致数据发生泄露，这些数据一旦被恶意使用，就会侵犯老师和学生的相关隐私权利，情节严重的可能会导致违法行为的产生。”

在业内人士看来，如果从教育教学发展等长远角度以及公共利益的立场来考量，在使用人脸识别类等AI技术的抉择上，不能因噎废食。

北京师范大学智慧学习研究院副院长曾海军说，包括人脸识别在内的AI技术广泛而有效地应用于教学、管理和服务，是未来学校教育发展的必然趋势，“规模化教育和个性化学习相结合的AI技术，具有更强的灵活性、包容性，可以助力重塑学校教育，进一步提升教学的效果、效率和效益，以适应现代信息化、数字化、智能化的学习型和创新型社会的需要”。

面对教育场景内不甚成熟的人脸识别类技术应用，以及个人隐私、数据安全等风险和争议，教育部科学技术司司长雷朝滋表示，希望学校非常慎重地使用这些技术软件，“包含学生的个人信息都要非常谨慎，能不采集就不采，能少采集就少采集，尤其涉及个人生物信息的”。雷朝滋还表示，目前教育部已开始关注这一情况，已组织专家进行论证研究。

共存：坚守教育本位，合乎法律伦理

技术发展得太快，一个不留神，人脸识别类技术已经进校园、进课堂了，而我们关于其带来的复杂的伦理、法律和安全等问题的讨论，似乎慢了些。

不可否认的是，AI已成为扩大优质教育资源覆盖面和实现新型智能教育服务模式的重要一环。曾海军认为，抱着“鸵鸟”心态，完全拒绝此类技术在教育场景内的应用，按照传统的思维方式和模式来应对新变化，并不现实。

业内专家的共识是，AI是信息化发展的新阶段，面对其衍生出的复杂的安全、隐私等问题，仍需要进一步规范，提前布局，谨慎应对。

不管AI如何与教育耦合，都必须坚守教育本位的定位，将以人为本放在首位。张生说，“学生的生命成长能否得到促进，是衡量技术在教育领域中应用有效性的唯一标准，在技术应用中，学生、家长、教师的体验和满意度都是需要考察的重点”。

AI技术能否促进教与学也是重要的评判标准。苏尚锋认为，AI技术在教育场景内大规模推广使用之前，需要由教育专业人士所组成的团队进行评估与鉴定，要经过严格的科学实验和论证，要对该技术在教育教学工作中所处的位置有明晰的分辨与判断，并对其使用制定一套明确的程序与规范，从而切实做到技术服务于教育、服务于育人工作。

隐私权是一项基本的人权，现代社会对个人隐私的保护已经形成共识。目前学界主要将隐私分为信息隐私、空间隐私、自决隐私等领域，当下，在教育场景内，上述三种隐私均存在被AI类产品侵犯的风险。因此，在应用AI技术时，除明确法律红线以外，还要做到尊重学生和程序透明化，由当事人及家长来做选择。苏尚锋建议：“使用的基本原则，应该是被监控者知情同意和最大程度的隐私保护。在不违法的条件下，如果用于中小学生，理应得到其法定监护人以及学生本身的认可，如果用于大学生，理当做到明确告知并获得许可。”

2017年6月1日起正式施行的《中华人民共和国网络安全法》，明确规定了要对非法收集、买卖用户数据的行为进行处罚。面对可怕的数据泄露风险，专家建议，应规范和明确数据所有权、数据隐私和服务之间的关系，将公共利益的数据可用性放在法律和伦理框架下运行，通过相应的机制确保AI应用的安全、合乎伦理和注重隐私。

“应构建预警机制，一旦发现类似于隐私泄露、数据安全、病毒传播、系统不稳定等情况，应及时预警和进行相关处置，确保整个系统的可信、可靠、稳定。”曾海军说。

在教育场景内使用AI技术，需要进一步推进法治化进程，建立相关法律法规，做到有法可依。张生认为，这是确保技术不被滥用、限制技术的负面影响、真正发挥其促进教育教学作用的关键所在。他还呼吁各级各类政府要加强监管，在为新业态发展留足空间的前提下守住底线。

可喜的是，好的改变已经发生。目前欧盟、英国、日本等国际组织和国家，均发布了人工智能的伦理准则。2019年国际人工智能与教育大会达成的《北京共识》重点聚焦了安全和伦理问题，关注“服务于人”，将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，并强调促进人工智能相关准则的“落地”，为未来打造负责任的、有益的人工智能。

本报记者 于珍

《中国教育报》2019年10月24日第4版