在北京中关村的一家咖啡馆里,刘嘉正在演示自己的创业项目。只见他上传一张用户照片后,几秒内就可自动生成一份长达12页的“事业报告”。报告会对一个人的外形、性格、内在进行分析评价,诊断其职业和管理风格,多次试验后,准确率惊人。
“这绝对不是AI算命。”刘嘉反复向笔者强调产品是基于基因学、心理学、医学等学科,并结合了AI和大数据等前沿技术。攀谈中,记者猜测刘嘉的目标很可能是——只需一张照片,就能洞悉你的一切。
惊奇,伴随着恐惧。刘嘉的项目只是人脸识别浪潮中的一朵小小浪花,但我们不得不承认一个事实,人脸正在成为一门生意。人们在享受便捷红利的同时,也面临着安全隐患和伦理道德的双重拷问。
“人家一扫你的脸就支付了,这不相当于一个行走的密码吗?”消费者“不敢刷脸”的担忧,正在成为大众拒绝刷脸的普遍理由。校园刷脸是否涉及学生隐私?小区监控的边界在哪里?刷脸失误带来的后果谁来承担?城市管理者怎样将技术用对地方,而又不超越公民的隐私底线?假如我的脸被“卖”了,难道我要去换一张脸吗?
这些问题,都值得探讨。
便捷背后的“乌龙事件”
你是谁?每一天,人们都需要无数次回答这个问题,向各种人、机器亮明身份。路遇警察临检,出示身份证;出入境,护照必须随身携带。
刷脸的出现,似乎终结了这一烦琐程序。4年前,马云在德国汉诺威参加通信和信息技术博览会时,现场用刷脸支付在淘宝上购买了一枚1948年的汉诺威纪念邮票,正式将刷脸技术推至台前。人们开始意识到,丢掉证件、手机、车票等身外物,凭着一张脸穿行世界,不再是天方夜谭。
位于松江大学城的上海对外经贸大学,一栋宿舍楼前,大三学生许娟正在刷脸开门。“我戴着眼镜,也能识别得很清楚,不用进门前再翻包找一卡通了。”许娟说。从去年开始,学校率先采用了国际领先算法的“人脸识别”系统,在宿舍刷脸进出、在图书馆借阅图书,靠一张脸就能在校园里畅行无阻。
刷脸系统的上线,确实提升了学校的管理效率,但也存在不足。比如,学生的照片时间久远、像素较低,会影响刷脸识别率,但总体来说是小概率事件。
相比之下,失误率在城市管理中面临的挑战似乎更大。前不久,“丰巢快递柜刷脸漏洞”的话题冲上微博热搜。浙江嘉兴一所小学的4名小学生,拿着一张打印的家长头像,成功打开了小区门口的丰巢快递柜,取走了原本不属于他们的快递。结果证实,丰巢采用的人脸识别是一张2D平面图像,安全级别不够,极易被破解。
电子抓拍也难免“乌龙”。一位长年跑福建到汕头线路的大货车司机称,有一次,在家休假的他竟然收到货车在其他省份的违法记录。事后虽证实是人脸识别的匹配有误,但也给他带来不小的麻烦。“我不可能为了一两百元的罚款,再去交涉,太浪费时间,后来干脆就交了罚款。”
取件刷脸的潦草上线,大货车司机吃的“哑巴亏”,难免让公众对刷脸的安全系数持怀疑态度。更可怕的是,类似的乌龙事件是不分地域的。曾有机构使用亚马逊公司的面部识别系统扫描了535名美国国会议员的面部照片,并与相关数据库中的2.5万张罪犯照片比对,结果28名议员被系统识别为罪犯。一旦人脸识别技术应用到司法、执法等关键领域,技术问题所带来的影响绝不只是令人啼笑皆非的“乌龙事件”那么简单。
“上帝视角”的边界在哪儿
目前看来,失误率带来的尴尬,似乎不是技术运用者最担心的问题。对被监控者来说,在被错误判定为违法或缺勤时,最多付出时间和金钱成本,而这些相较于刷脸工具的便捷性,大多数人的态度是可以容忍。
因此,在人工智能不断渗透人类生活的今天,人脸识别的边界就显得特别重要。“上帝视角还是凡人视角”的辩题,业界早已争论多年。大门口考勤、医务室治疗、演唱会抓捕逃犯甚至科学家通过识别情绪传感器做研究,好处自然不必说。但不止一所高校对于人脸识别进课堂有所保留,也是事实。
“从你进教室的那一刻起,系统每隔30秒就会对你进行扫描。你低头多长时间,玩手机几次,发呆几次,阅读几次,趴桌子几次,全都能被系统感知到,若不专注行为达到一定分值,系统就会向显示屏推送提醒。”关于多家高校启动的课堂学情分析,一位大学教师表达了自己的顾虑,他认为,学生的抬头率并不能精准判断学生的能力和效率,而且教室作为特殊的公共场所,监控下的教师和学生的行为,很可能都不是真实状态。
而一些校园启动的“智慧德育”系统,更易引发伦理争议。以往老师看到做好事或调皮捣蛋的孩子,如果不是本班学生,根本不知道是谁。现在好了,只要掏出手机,对准学生一“咔嚓”,屏幕上立即跳出他的信息——父母职位、孩子年龄、家庭情况等。结合不同学生的家庭信息,老师是否会使用不同的处理方式,还真不好说。但可以肯定的是,传统的有教无类、学生平等,在类似情形下被“刷脸神器”撬动了。
什么时候该刷脸,刷脸的伦理界限在哪里,关于边界的社会矛盾对冲也越发凸显。一位刷脸系统代理商告诉笔者,曾经有一家健身房找上他们,说为了防止实体钥匙丢失,希望在更衣室储物柜上加入“刷脸”系统,他的第一反应是拒绝。“你在更衣室的柜子上使用摄像头,本身就是一个非常大的错误,这种涉及公众隐私的场所,应该坚决杜绝人脸识别。”
那么,换言之,在公共场所使用人脸识别就变得合理正当了吗?未必。法国巴黎的一家书店,通过分析监控视频,仔细观察购物者的动作,店员会上前提供“心领神会”的服务。但在机器面前,每一个强忍住的哈欠、每一丝恼怒的表情都会被察觉,人际关系可能变得更加理性,也会更加机械而冷漠。试问,这样的上帝视角真的好吗?
此前,公众就对谷歌研发的一款装在智能手机上的街景软件,表达过强烈不满,原因是当这个软件扫描街景时,也会对路过的行人进行面部信息采集。最终,谷歌妥协并对人脸信息打上马赛克。只不过“上帝视角”的按钮一旦被触发,谁又能保证不会有“第二个谷歌”出现,在你走路时、坐地铁时,偷偷搜集你的人脸信息。
在人脸识别的领域,边界至今仍是一个探不到底的“规则黑洞”。
人脸被卖的风险很可怕
那么,问题来了:是不是本人只要不做违法违规的坏事,信息被采集也无所谓?正如苹果公司CEO库克曾经所说:“技术本身没有好与坏,一切由人来决定。”
在人脸识别快速发展的4年中,安全隐患与伦理后果,并不是危言耸听。2019年9月,有媒体报道,网上有商家公开兜售17万条“人脸数据”,涵盖2000人的肖像,每个人有50——100张照片,而当事人并不知情。
据兜售的商家称,自己平时从事人工智能的相关工作,收集人脸数据发售,不过是“挣个饭钱”而已。在其售卖的人脸样本中,一部分是从搜索引擎上抓取的,另一部分来自境外一家软件公司的数据库等渠道。
试想一下,如果有人把我们的脸换成犯罪事件的主角、被绑架的人质……或者伪装成我们进行视频通话,对我们的亲友进行诈骗,后果将不堪设想。
当然,更可怕的是“有人伪装你的脸”。福布斯记者曾用一张合成的3D头像,打印出一个3D头型,并成功解锁了4款手机,人脸识别被骗,足以证明伪装的门槛到底有多低。
由于面部信息是具有唯一性特征的生物信息,银行卡信息泄露后还可以更换银行卡,人脸信息泄露将是终身泄露。未来,非常可能出现的场景是:当我们走进一家商店,店员立刻就能知晓关于我们的一切——身份、职业、收入、偏好、性格……而当这一天来临时,每个人都将处于“裸奔”状态,甚至戴上面具也无济于事,因为摄像头还能识别你的体型甚至步态。
技术跑在监管前面
坦白讲,我们除非与世隔绝,否则无法完全拒绝人脸识别。
目前国家还没有一部针对“人脸识别”问题的专门法律,当技术跑在监管前面,刷脸就该被禁用吗?如果法律跟不上就限制科技发展,就是“因噎废食”的做法,不明智也不可取。总体来说,“刷脸”“二维码”“指纹识别”等新技术的发展带给社会的显然是利大于弊的。综合目前世界各国的做法,立法强化对人脸信息搜集的应用场景约束已经开始。2019年7月,马萨诸塞州的萨默维尔市成为美国第二个禁止人脸识别的城市,但只是禁止了公共场所的使用权,并未涉及商业范畴。
从理论上讲,所有的数据都有泄露的可能。对个人而言,需要在便利性和个人信息保护上权衡和取舍,对于珍视个人信息胜于便利的人,最好完全不使用任何要求进行人脸识别的App,通过市场机制倒逼企业做好隐私保护。
不过也有专家提醒,现在对于人脸数据的科普还远远不能让人们充分意识到其隐藏的风险,“很多客户根本看不懂那些授权文件里的内容究竟代表什么,但为了使用那些服务,还是同意了授权”。因此,在这项技术仍存在风险的时候,就广泛应用于各种商业领域,人们应当慎重。
教育部科学技术司司长也曾建议学校慎重使用这些技术软件,关于学生的个人信息,能不采集就不采集,能少采集就少采集。这些警告同样适用于城市管理、商业运作甚至个人生活。关键在于,这些提醒是否能够引起人们的足够重视?“刷脸”时代,公众能否对自己的安全负责?