公共场所人脸识别或全面被禁,基于AI的生物识别都犯了哪些“罪状”?

导 读:人脸识别技术经历了技术引进、市场教育、技术完善,到各行各业各领域采用数个阶段,如今已经发展相对成熟,服务于智慧安防、智慧办公、电子商务等各个领域。但近几年随着人脸识别技术广泛普及,随之而来的问题也不断出现……

如果说这是一个属于人脸识别技术全面应用的时代,相信大多数人是不会站出来反驳这一观点的。

人脸识别技术经历了技术引进、市场教育、技术完善,到各行各业各领域采用数个阶段,如今已经发展相对成熟,在街道、楼宇、煤矿、商厦、银行等各个角落,服务于智慧安防、智慧办公、电子商务等各个领域。

但是,“否定之否定规律”早已揭示,所有事物的发展都是一个螺旋式上升或波浪式前进的运动过程,而并非一帆风顺、一蹴而就的。就在近日,欧洲议会投票表决,通过了一项“呼吁全面禁止基于AI生物识别技术大规模监控”的提议,从监管层面进一步收紧了人脸识别技术的应用。

欧洲议会成员Petar Vitanov在决议通过后发表声明称,“人类的基本权利是无条件的。我们有史以来第一次呼吁暂停部署用于执法的面部识别系统,因为该技术已被证明是无效的,并且经常导致歧视性结果。这份报告对所有欧洲公民来说都是一个巨大的胜利。”

从被外界炒作的“黑科技”到人民避而远之的“瘟疫”,基于AI的人脸识别究竟犯了什么样的错误,才引起了监管部门的注意,对于其未来的发展,又给国内监管部门和企业带来了哪些启示?

数张“罪状”揭示,人脸识别并非人畜无害

在过去持续一年多的疫情当中,人脸识别技术撑起的无接触式防疫应用深入人心,让外界饱尝技术带来的科技红利,因而也让人们容易给人脸识别技术打上“善良”的标签,从而忽视它本身的两面性。

2020年1月,美国发生了首起已知的涉及人脸识别技术的错误逮捕事件。根据6月美国公民自由联盟(ACLU)向底特律警察局提出的行政投诉显示,年初,来自底特律的罗伯特·威廉姆斯被当地警方指控犯有盗窃罪,并在威廉姆斯妻儿的注视下将其逮捕,拘留时间长达30个小时。

根据ACLU的投诉,底特律警方将一名黑人男子从Shinola商店偷窃手表的视频提供给了密歇根州警方,随后警方通过人脸识别系统运行该视频,并建议将威廉姆斯的照片作为潜在的匹配对象。之后,在警方并无过多证据表明威廉姆斯就是嫌疑人的情况下,最终发生了这荒诞的一幕。

无独有偶,罗伯特·威廉姆斯的遭遇并非个例。同样来自底特律的迈克尔·奥利弗也因为人脸识别判定涉嫌盗窃罪,被关押了十天半;尼尔·帕克斯也因被认定盗窃,在伍德布里奇市被拘留了十天。而值得注意的是,以上在美国发生的这些案件,被误认为犯罪嫌疑人的当事人均为黑人,因此也引起了媒体对算法歧视的关注。

早在2018年,MIT媒体实验室(MIT Media Lab)研究员Joy Buolamwini就与来自微软的科学家Timnit Gebru合作发布了一篇研究论文《性别图谱:商用性别分类技术中的种族准确率差异》(Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification),其中作者将微软、IBM和旷视科技三家人脸识别技术进行对比,结果显示,AI应用人脸识别针对黑人女性的错误率高达21%-35%,而针对白人男性的错误率则低于1%,不同种族的准确率差异巨大。

时间一晃来到现在,这一问题不但没有被解决,反而愈发突出。

在国内,目前尚未发现人脸识别应用于警务活动中出现差错的情况,但该技术在其他应用中出现问题的案例也是屡见不鲜。比如2018年宁波交警行人闯红灯曝光台就曾闹出一出乌龙,人脸识别将喷涂在公交车上的董明珠广告人像错当成了横穿马路的路人,结果有了“格力电器董事长董明珠违法闯红灯”的笑谈。

在今年的315晚会上,基于人脸识别非法采集个人人脸数据的案例也被第一个拿出来开刀。人脸识别技术作为生物特征识别的重要技术之一,具有非接触和非侵犯的特性,因而人们在不知不觉中就会被采集数据,并对之抱有最小的排斥心理。

但人脸信息属于个人独有的生物识别信息,具有不可篡改的特征,目前有很多用户将其作为支付密码、账号密码等。国家市场监管总局发布的《个人信息安全规范》明确规定,人脸信息属于生物识别信息,也属于个人敏感信息,收集个人信息时,应获得个人信息主体的授权同意。

个人隐私成为国内外共同的难题

本次欧洲议会决议主要针对的是警察和司法机关在犯罪问题上对AI的使用,欧洲委员会在报告中对远程人脸识别呼吁,“通过立法和非立法手段,必要时通过侵权诉讼,禁止出于执法目的生物识别数据处理,包括通过面部图像识别、在公共场所进行大规模监视。”

比如,该决议中反对执法机构利用人工智能根据历史数据和过去的行为、群体成员、位置或任何其他此类特征,对个人或群体进行行为预测,从而试图识别可能犯罪的人。此外,决议还强调了人的作用,避免过度相信人工智能工具表面上的“客观”和“科学”,强调算法应该具有的透明、可追溯、充分记录等特征。

实际上,对于基于AI技术的人脸识别技术的应用,国内外较早以前就已经表现出一定的重视。

早在今年4月21日,欧盟委员会就公布了名为 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案,对人工智能技术应用进行了风险评定。其中,人脸识别技术作为基于AI实时远程生物识别技术的一种,是欧盟委员会着重强调进行限制的人工智能技术。

草案对人工智能应用场景进行了“低、有限、高、不可接受”四个风险等级的定性,等级越高的应用场景意味着受到的限制越严格。

人脸识别在很大程度上侵犯了人们的隐私,并且所有远距离生物识别系统在这份草案中都被认定为高风险,禁止执法部门在公共场合使用这一技术。该草案还提出,除寻找失踪儿童,解除恐怖袭击威胁以及在法律允许范围内追查特定的刑事犯罪嫌疑人等三种特定情况外,无差别的大规模监控会被欧盟全面禁止。

而在大洋彼岸的美国,对于人脸识别技术的使用也十分审慎。2019年,美国有9个州都颁布了关于禁用人脸识别技术的法案,严禁警察、政府部门以及在公共场合使用人脸识别技术。旧金山为美国大城市禁用人脸识别开出了第一枪,随后包括波特兰、奥克兰、波士顿在内的城市都已禁止政府使用人脸识别技术,今年7月,美国第一大经济中心纽约也加入了这一行列。

除此之外,美国的巨头们也在这一方面退缩了,去年6月,蓝色巨人IBM旗帜鲜明的宣布放弃人脸识别业务,不再提供任何人脸识别和人脸分析软件,同时也不再对这项技术进行研究和开发。另外几家巨头如亚马逊、谷歌等,也表示暂停或放弃人脸识别相关业务的开发。

在我国,针对个人数据安全的法案也被提上日程,人脸识别等人工智能技术的监管也日加严格。今年1月1日正式实施的《民法典》中规定,处理个人信息,应征的该自然人或其监护人的同意;4月23日,国家标准化管理委员会发布《信息安全技术人脸识别数据安全要求》征求意见稿,也对人脸识别技术应用场景、安全要求、数据采集和处理等环节制定了标准化规范。

8月20日,立法通过的《个人信息保护法》再次明确:在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必需,遵守国家有关规定,并设置显著的提示标识。所收集的个人图像、身份识别信息只能用于维护公共安全的目的,不得用于其他目的;取得个人单独同意的除外。

人脸识别不能“一刀切”,用好双刃剑的有利面

至于如何评价此次欧洲议会的决议,相信大家也是各执一词,有着不同的见解。人脸识别技术本身存在的问题确实在近几年暴露无遗,但“一刀切”的做法显然对于一项进步的技术来说并不合适。

问题的关键在于当技术解决不了当下存在的问题时,它就会像一把双刃剑,一方面方便着人们生活,提高社会效率;另一方面却又利刃出鞘,锋芒相向。

就像欧洲议会上表示,“人工智能在执法领域的应用提供了巨大机遇,特别是能够有效打击金融犯罪如洗钱、恐怖主义融资,以及网络犯罪如虐待儿童等,有助于欧盟公民的安全保障。但同时,数据显示AI识别对少数民族、LGBT人群、老年人和女性的误识率更高,这可能对人们的基本权利构成重大风险。”

在考虑基于AI技术的人脸识别是否应该被全面禁止还是继续沿用,都需要考虑其风险和效果之间是否成正比,避免人脸识别造成任何有害的影响。

(0)

相关推荐

  • 嘉楠科技助推生物识别应用落地,第二代AI芯片勘智K510首度曝光

    随着人工智能技术的发展,通过机器学习,各种生物识别技术的准确率及安全性也在快速的提升.人脸识别和语音识别技术近几年快速爆发也正是得益于此.而人工智能的技术发展则离不开强大的算力支持,相比传统的CPU. ...

  • 2017年这些手机黑科技太low,但谁能够在未来大趋势中继续流行呢???

    一眨眼2017年就已经要过去了,但是这一年手机界的有许多的黑科技出现,全面屏.多摄像头.智能AI.生物识别(虹膜和面部识别等)甚至无线充电,都是这一年崛起或者发展壮大起来的.那么这么多的黑科技,年底不 ...

  • 智能语音成“AI四大项目” 千亿市场待开发

    11月15日,科技部召开了新一代人工智能发展规划暨重大科技项目启动会,公布了首批国家新一代人工智能开放创新平台名单,并宣布分别依托百度.阿里云.腾讯.科大讯飞这四家公司,在自动驾驶.城市大脑.医疗影像 ...

  • 趁智能炸弹滴答声稍弱,我们来聊聊智能安全这事

    近日,一则21秒刷脸支付视频引发热议,视频中的美女不用手机.不输入帐号,仅靠刷脸就能实现支付.全过程仅需2步:第一,1秒人脸识别:第二,识别成功,输入某宝绑定手机后4位.OK,双重验证成功完成支付. ...

  • 人脸识别技术被套上“枷锁”?技术还需等一等制度

    最极客 最具极客精神的新媒体 以后在公共场合不能随意使用人脸识别技术了?近日,欧盟以377:248的投票结果通过了一项决议--禁止警方在公共场所使用面部识别技术,并对其使用人工智能进行预测性警务活动实 ...

  • AI人工智能时代,如何保证信息安全?

    在AI人工智能时代,人脸识别功能是得到广泛使用的,同时这对于每个人来说都并不陌生.但是随着人脸识别技术的普遍应用,带来的风险也随之而来.那么AI人工智能时代,如何保证信息安全? 人脸识别,通常也称人像 ...

  • 政策重拳出击!公共场所人脸识别或全面被禁,基于AI的生物识别都犯了哪些“罪状”?

    物联网智库 原创 转载请注明来源和出处 导  读 人脸识别技术经历了技术引进.市场教育.技术完善,到各行各业各领域采用数个阶段,如今已经发展相对成熟,服务于智慧安防.智慧办公.电子商务等各个领域.但近 ...

  • 论人脸生物识别信息的严格保护

    来源:法治日报2021-05-12 09:53 X 作者:李丹宁 人脸生物识别信息属于敏感个人信息.个人信息是指以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息.个人信息依据 ...

  • 专家:不仅人脸识别,信息验证、生物特征都不可靠

    蓝鲸财经旗下,专注互联网金融领域独家报道,大大集团.中晋.快鹿.链家金融.海通布局互金等独家线索均已10万+并引起大量媒体跟进.蓝鲸是重要财经资讯门户+财经记者工作平台,拥有150家媒体传播资源,每天 ...

  • 基于EEG信号的生物识别系统影响因素分析

    摘要:由于指纹.语音或面部等传统特征极易被伪造,因此寻找新的生物特征成为当务之急.对生物电信号的研究也因此具有了开发新的生物识别系统的潜力.使用脑电信号是因为其因人而异,并且相比传统的生物识别技术更难 ...

  • 实战:基于OpenCV 的车牌识别

    重磅干货,第一时间送达 车牌识别是一种图像处理技术,用于识别不同车辆.这项技术被广泛用于各种安全检测中.现在让我一起基于OpenCV编写Python代码来完成这一任务. 车牌识别的相关步骤 1.车牌检 ...

  • 基于opencv的车牌识别解析

    车牌识别太出名了,花几天来了解下这个系统,并结合opencv进行实现.下面是一些介绍: 车辆牌照识别(License Plate Recognition,LPR)技术作为交通管理自动化的重要手段和车辆 ...

  • 专访眼神科技CEO周军:生物识别的未来是人脸、虹膜、指纹多模态技术融合发展

    "这个世界对AI行业的理解还很模糊,行业还很弱小,像小嫩芽刚刚冒出来.去找欣赏你的人,欣赏AI行业的人,相信这个东西能带来价值的人."周军说,他深吸了一口烟,缓缓吐出. 周军此前很 ...

  • DeepKey:科学家提出一种基于脑纹独特性的多模态生物识别系统可以防范身份欺骗

    ‍‍‍‍‍‍‍‍‍‍ ‍‍‍‍‍‍‍‍‍‍ 生物识别认证则包括利用个体独特的.可测量的生理和行为特征识别个体的各种技术. 传统的生物识别系统如人脸识别.虹膜.视网膜.声音和指纹技术当前被广泛应用,然而 ...

  • 基于OpenCV 的车牌识别

    重磅干货,第一时间送达 车牌识别是一种图像处理技术,用于识别不同车辆.这项技术被广泛用于各种安全检测中.现在让我一起基于OpenCV编写Python代码来完成这一任务. 车牌识别的相关步骤 1.车牌检 ...