欧洲议会投票决议全面禁止基于生物识别的大规模监控

人工智能驱动的远程监控技术，如面部识别，对隐私等基本权利和自由有巨大影响，但已经在欧洲的公共场合悄然使用。为了尊重'隐私和人类尊严'，欧洲议会议员表示，欧盟立法者应通过一项永久禁令，禁止在公共场所对个人进行自动识别，并表示公民只有在涉嫌犯罪时才应受到监控。

议会还呼吁禁止使用私人面部识别数据库，如美国创业公司Clearview创建的有争议的人工智能系统（欧洲的一些警察队伍也已经在使用），并表示基于行为数据的预测性警务也应被取缔。

欧洲议会议员还希望禁止社会评分系统，这些系统试图根据公民的行为或个性来评定其可信度。

早在4月，欧盟行政部门提出了监管人工智能技术的高风险使用的立法草案，其中包括禁止社交评分，并在原则上禁止在公共场合使用远程生物识别监控。

然而，民间社会、欧洲数据保护委员会和欧洲数据保护监督员以及一些欧洲议会议员很快警告说，委员会的提案走得不够远。整个议会现在已经明确表示也希望对基本权利有更强的保障。

在昨晚通过的一项决议中，欧洲议会以377:248投票赞成LIBE委员会关于刑法中的人工智能的报告，议员们发出了一个强烈的信号，即在即将到来的欧盟机构之间的谈判中，他们将接受哪些内容，以确定人工智能法案的细节。

欧洲议会通过的决议原文如下：

关于远程生物识别监控的相关段落呼吁委员会……通过立法和非立法手段，必要时通过侵权诉讼，禁止为执法目的处理生物识别数据，包括面部图像，从而导致在公共场所进行大规模监控；进一步呼吁委员会停止资助可能导致在公共场所进行不加区分的大规模监控的生物识别研究或部署或方案。

该决议还瞄准了算法偏见，呼吁以强大的法律权力监督，以防止人工智能的歧视，特别是在执法和过境方面。欧洲议会议员们同意，人类操作员必须始终做出最终决定，并表示被人工智能系统监控的对象必须有机会获得补救。

为了确保在使用基于人工智能的识别系统时维护基本权利，欧洲议会议员指出，这些系统已被证明误认少数族裔群体、LGBTI人群、老年人和妇女的比例较高。他们还说，算法应该透明、可追踪并有充分的记录，公共机构在可能的情况下使用开放源码软件，以提高透明度。

欧洲议会还特别针对一个有争议的欧盟资助的研究项目：认为在分析面部表情的基础上创建一个'智能'测谎器的iBorderCtrl项目应该被终止。

报告员Petar Vitanov（S&D，BG）在一份声明中评论说。'基本权利是无条件的。我们有史以来第一次呼吁暂停为执法目的部署面部识别系统，因为该技术已被证明是无效的，并经常导致歧视性的结果。我们明确反对基于人工智能的预测性警务，以及任何导致大规模监控的生物识别数据的处理。这对所有欧洲公民来说是一个巨大的胜利'。

议会的决议还呼吁禁止人工智能协助司法裁决，这同样是另一个极具争议的领域，议员们认为自动化有可能巩固和扩大刑事司法系统的系统性偏见。

全球人权慈善机构'公平审判'对投票表示欢迎--称其为'技术时代基本权利和非歧视的里程碑式成果'。