纽约立法「禁」人脸识别，AI 缘何频频「折戟」校园

2022年之前，纽约禁止在学校中使用任何生物特征识别技术。

作者 张栋

美国跟人脸识别彻底杠上了。

美国纽约州近日通过了一项法令：2022年之前，禁止在学校中使用人脸识别和其他生物特征识别技术。

这也将成为全美首个明确规定学校不允许使用该技术的法案。

据南方都市报报道，这项法案提出的背后，是针对去年发生的一起有关校园AI应用争议的回应。

2019年5月，纽约州西部城市洛克波特市在全市校园部署人脸识别设备，主要目的是增强学校的安全性。

洛克波特市学区负责人米歇尔·布拉德利（Michelle Bradley）在接受外媒采访时说，“这是让学生、员工和访客更加安全的又一措施”。

洛克波特市官方信息显示，人脸识别系统将识别学校不允许出现的人员，并在识别到异常情况时发出警报提醒。

系统重点识别的人员包括二级或三级性犯罪者、被停职的学校员工、法院判决未经批准禁止进入学校的人员、执法部门信息显示会构成威胁的人员等等。

由于隐私等问题的存在，人脸识别应用在美国向来争议颇多。

由此，洛克波特市也在纽约州教育厅等部门的监督下反复修改了系统设置，最终决定只让系统记录人员比对的情况，不收集或存储任何个人信息，学生的照片等个人信息也不会被添加到系统中。

另外，根据当地法律要求，监控视频保存60天后将从服务器上删除。

2020年1月，这一系统在洛克波特市正式投入运营。然而，一些美国民间团体还是认为人脸识别系统太具侵略性，不应在学校这样的场所中部署。

他们认为，万一系统出现了误报，会给学生带来种种伤害，比如影响学生上课、给学生扣上莫须有的犯罪记录。

今年6月，纽约公民自由联盟提起诉讼，要求洛克波特市停用该系统。

这一起诉得到了当地部分官员的支持。

当地时间6月23日，纽约州议会众议员莫妮卡·华莱士（Monica Wallace）和参议员布莱恩·卡瓦纳（Brian Kavanagh）发表联合声明，重申了对隐私问题的担忧：

“我们担心该技术的使用可能侵犯学生、教职员工和访客的隐私权及其他公民权利。这是一种无效的维护校园安全的形式，并且可能无法安全地存储学生数据。”

据悉，目前纽约州参众两院已经投票通过的新禁令。

接下来，禁令将被提交给纽约州州长安德鲁 · 库莫（Andrew Cuomo）。如果他签字通过，禁令就将成为正式的法律。

校园装“天眼”

美国纽约之外，相关应用此前也在中国教室中被另类应用，并引发了一些社会舆论。

它可以洞察课堂上的一切行为。

此前，浙江省杭州市某中学课堂上多了一位神奇的新朋友：智慧课堂行为管理系统。

通过这套系统，校园管理者可以清楚地看清、分辨哪些同学在专注听课，哪些同学在开小差。

该系统内置三个摄像头，用以捕捉同学们的面部表情和动作，然后进行一系列大数据分析，最终计算出课堂实时考勤数据、课堂专注度偏离分析、课堂行为记录数据以及课堂表情数据，并将结果反馈给校园管理方。

该校负责人表示，系统每隔30秒就会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合面部表情是高兴、伤心，还是愤怒、反感，分析出学生们在课堂上的状态。（其中，仅趴桌子一项为负分行为。）

若此类不专注行为达到一定分值，系统就会向显示屏推送提醒，任课教师可根据提醒进行教学管理及调整。

据悉，该系统还可与学校医务室等其他后台的数据打通，倘若学生有身体抱恙等突发情况，还可被暂列入“白名单库”。

换句话说，在这套系统的“加持”下，同学们每天8节课的320分钟，任何行为都可一目了然地得以展示。

对于该系统的落地、应用，某教育工作者黄老师表示：华而不实。

“学生有没有开小差，老师在讲桌前可以看得一清二楚。”

在他看来，如何能将“学”作为主动权紧紧握在学生手中已成教育管理者需要思考的问题。

学习从来都是一种自主性过程，教育的核心突破不是靠教具形式的升级，学生在课堂的认真程度取决于授课老师的魅力，强行监督只会让很多学生成为“面具人”。

同时，该系统的应用也遭到了不少网友的痛击：

暂且避开隐私、伦理等层面不谈，单从技术角度出发，这项技术的落地应用是否真的可行？

校方称该系统在课堂应用中可以起到两大作用：

一、课堂实时考勤数据。

由于教室学生基数不大；另外教室范围也不大。目前很多人脸识别技术厂商都能够很好满足此项需求，不作详叙。

二、课堂专注度偏离分析（微表情数据）。

从系统运行流程来说，它在安装使用后将会进行两步操作：

一是人脸检测，通过人脸相机检测到同学们的脸部，从而完成第一大点所说的实时考勤；

人脸表情由若干条细微的小肌肉控制，与常见人们发出的较为夸张或者平常的表情不同，微表情持续时间很短、动作幅度很小。

另外，微表情是一种自发式的表情，在人试图掩盖内在情绪时产生, 既无法伪造也无法抑制。

与其他生物识别技术的研发相比，微表情识别因为太过细微，一直是计算机视觉领域一个具有挑战性的技术难题，该技术的研发门槛较高，技术难点主要体现在三个方面：

数据收集，这里的数据必须是动态的视频数据；

肌肉单元很难做标注，每个人对表情的定义都不相同，“微笑”“难过”等标准难以判定；

雷锋网AI掘金志了解到，目前这一技术在金融领域有所应用。

以信贷行业为例，如今骗贷行为频发，当涉及大额的贷款申请时，金融机构在批放贷款之前都会让面审员与用户进行一个十到十五分钟的问答。

起初会核对用户的基本信息，在用户回答的过程中，会为用户进行一个微表情的侧写，记录一个用户回答问题的习惯。

随着面审员问题的深入，用户在回答之后地问题时，如果出现了违反他之前的回答习惯（例如眼睛从直视屏幕转为眼睛往上瞟或往脚下看），系统则会为其标记一个异常。

当整个面审环节结束后，系统会根据之前记录的异常次数、等级进行一个综合评估反馈给面审员。

如果前后差距过大，就意味着从基础问题到追问环节，此人的情绪、心理变化较大，如此就可提醒面审员此人有一定风险，要做更多地调查，以更好地降低风险。

也就是说，这项技术应用的前提还需配合面审员问题的逐步深入而出现的细微面部表情变化。

回到主题，学生们在上课过程中，没有任何言语上的思考及负担，也就意味着所有的面部表情都是自然状态下而产生的，断不可从单一的面部表情的变化去判断他的心理活动或者是否分心（缺乏标准）。

宇视智能算法开发部专家杨治昆直言，“对于这套系统的可操作性，我持怀疑态度”。

在他看来，这套系统在实际应用过程中，会存在以下几个问题：

任何AI技术的落地都要保证误识率可控。一般来说，正常教室的长度在十二米左右，不近的距离通过机器去判断每个同学们的面部细微变化，难度巨大；

杨治昆表示，这些年AI技术发展迅速，教育市场也的确成为未来AI安防落地的重点拓展方向之一，如今各大安防厂商都在紧盯这块市场。

但从产业界角度来看，相关技术不能盲目落地。人工智能应用要保证识别率、误识率、鲁棒性，唯有满足这三点，技术的落地才会具有意义。

目前来看，比较容易落地的场景包括门禁、人脸考勤等等，而该系统提出的微表情分析，就目前AI发展水平来看，还存在很长一段距离。

在他看来，“一个产品的落地，除了要考虑客户的需求也要考虑到受众人群的体验”。