欧盟推出全球首个监管人工智能法案

经过马拉松式的谈判之后，2023年12月8日，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。这项法案有望成为全球第一部关于人工智能领域的全面监管法规。“欧盟就《人工智能法案》达成协议，具有里程碑意义”，英国《卫报》发表评论称，“《人工智能法案》不仅是一本规则手册，也将成为帮助欧盟初创企业和研究人员引领全球人工智能竞赛的平台。”

“各方妥协的结果”

在科技飞速发展的今天，人工智能（AI）已经深入影响到人们生活的方方面面。然而，随着AI技术的不断进步，其带来的伦理和监管问题日益增加，在欧盟各国表现尤其突出。德国工业联合会（BDI）表示，欧洲目前在人工智能关键技术方面，面临落后危险，因此，迫切需要制定一部人工智能领域的全面监管法规。

2019年以来，欧盟一直对人工智能监管领域立法方面进行布局，先后发布人工智能伦理准则并出台了《人工智能白皮书》。随着生成式人工智能的蓬勃发展，欧洲官员们抓紧更新规则，有意推出一个供世界参照的蓝本。2021年，欧盟公布了人工智能规则手册的初稿。对此，《欧洲时报》称，在为人工智能建造护栏的全球竞赛中，欧盟已经拔得头筹。同年4月，欧盟委员会提议制定一部《人工智能法案》。在2023年人工智能大模型引发广泛关注后，欧盟加快了推进《人工智能法案》的步伐。2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。

布鲁塞尔当地时间12月8日晚，欧洲议会、欧盟成员国和欧盟委员会三方终于在漫长谈判后，就《人工智能法案》达成协议。这份法案的达成是历史性的一刻，标志着欧盟在人工智能监管方面迈出了关键一步。欧盟委员会内部市场专员蒂埃里·布雷顿午夜在社交媒体平台发文说：“随着今天围绕《人工智能法案》的协议达成，欧盟成为第一个为使用人工智能制定明确规则的大陆。”这一法案的实施将有助于规范和引导AI技术的健康发展，保护人类权利、公平竞争和隐私权，提高整个社会的福祉水平，同时也将对全球AI产业的发展产生深远影响。《纽约时报》在报道中则表示，三方在艰难达成协，意味着《人工智能法案》的关键轮廓已经确定，为那些寻求利用这项技术潜在好处的国家设定了一个新的全球基准。

欧盟各国一致认为，发展人工智能能使欧盟获得竞争优势，在未来全球治理中赢得话语权。据了解，人工智能法案的最初目的是根据特定人工智能功能的风险水平，减轻其危险性，但欧洲议员们则推动将其扩展到涵盖基础模型，即支撑Chat GPT和谷歌的Bard聊天机器人等通用人工智能服务的先进系统，而基础模型似乎成为困扰欧洲的最大症结之一。因此，这部法案的起草过程困难重重。对此，有专家表示，欧盟各方最终就《人工智能法案》达成协议，是各方做出妥协的结果，这既有来自欧盟内部的迫切需求，也有来自外部环境的压力。

事实上，谈判人员在谈判初期就设法达成初步妥协，尽管以法国为首的反对声音呼吁自我监管，以帮助欧洲本土的生成式人工智能公司与微软等强大的美国竞争对手较量。

法案的主要内容 

《人工智能法案》旨在以全面的、基于伦理的方式监管AI，法案内容包括对AI系统的安全性、透明度、可追溯性、公平性和道德标准的评估和管理，以及对AI系统的监管、执法和司法审查等方面的规定。该法案按照不同的风险类别为人工智能技术应用进行了分类，由低到高划分为四个等级，从“不可接受”，也就是必须禁止的技术，到高、中、低风险的人工智能，通过识别不同风险来进行监管。

第一，对于眼下备受关注的生成式人工智能如何监管，也就是包括Chat GPT在内的先进人工智能模型如何监管，是此次谈判的争论点之一。有欧盟委员提出，时下，像Chat GPT这样的生成式人工智能系统突然闯入人们的视野，它们居然能够生成类似人类创作的文字、照片和歌曲，这样的功能让人惊叹不止。不过，这项快速发展的技术对就业、隐私和版权保护，甚至人类生命本身构成了风险。对此，欧盟要求其在投放市场前需要起草技术文件、遵守欧盟版权法等。欧盟官员表示，希望新的法案可以帮助欧盟地区的人工智能技术更好地发展，提升行业竞争力。

第二，根据该法案，被视为有“系统性风险”的模型将受到额外的约束。其草案明确规定，所有通用型人工智能系统的开发者都必须满足基本的透明度要求。具体来看，其透明度要求包括：具有可接受的使用策略、更新训练大模型的最新信息、遵守欧盟版权法以及报告用于训练其模型的数据信息。对于那些高风险的人工智能技术应用，欧盟将在使用相关技术的产品投放市场前，进行严格评估，并根据用于训练模型的计算能力来确定这种风险。根据协议，那些构成最大“系统性风险”的先进基础模型将受到额外审查，包括被要求披露更多信息。

第三，对于人类安全具有不可接受风险的人工智能系统，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等，将被禁止使用。文件还规定，禁止利用分类系统来推断用户种族、宗教信仰等个人信息。消费者有权提出投诉并获得相应解释，违规者将被罚款。

第四，有关另一项颇具争议的生物识别监控技术，协议中规定，各国政府只能在公共场所使用实时生物识别监控，防止像恐怖袭击等可预见的威胁公共安全的事件，以及搜索犯罪嫌疑人等。事实上，关于生物识别监控技术，欧洲议会希望能够全面禁止。

对人工智能发展带来的影响  

值得一提的是，该法案的达成并非一蹴而就。对于该法案，业内一直存在不同的声音。在此之前，欧盟内部就AI技术的监管问题进行了长期的讨论和争议。

一些人认为，过度的监管可能会阻碍AI技术的发展和应用，影响经济发展和社会进步。而另一些人则认为，AI技术的广泛应用已经带来了严重的伦理和安全问题，必须加强监管以保护公众利益。耐人寻味的是，此前，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。也有研究人员警告说，由少数几家大型科技公司建立的这些强大的基础模型，可能被用于加工网络虚假信息和信息操纵、网络攻击或制造生物武器。德国工业联合会（BDI）则表示，“随着对人工智能基础模型及应用的全面监管，《人工智能法案》危及制造商和用户双方的竞争力和创新能力”。此外，该法案的执行情况也遭到质疑。《纽约时报》认为，《人工智能法案》涉及27个国家的监管机构，并要求在政府预算紧张之际聘请新的专家。

据《纽约时报》报道，欧洲议会和欧盟27个成员国的谈判代表，为协议的达成克服了巨大的分歧。“2023年12月中旬，三方展开了最后马拉松式的闭门谈判，其中一次谈判就持续了22个小时”。事实上，直到谈判的最后一分钟，立法者和欧盟各国仍在为“如何在促进创新与防范可能的伤害间取得平衡”这一问题在进行激烈的辩论。参与谈判的西班牙数字化和人工智能国务秘书卡梅·阿蒂加斯表示，为确保“里程碑式”的监管法案的达成而付出的这些巨大努力是值得的。12月8日，欧洲议会、欧盟成员国和欧盟委员会三方终于签署了这项制定人工智能法案的初步政治协议。

法案一旦颁布实施，其影响将会涉及人工智能的研发、人工智能产品和服务的设计与运行。该法案也将促进AI产业的健康发展，增强消费者对AI系统的信任和安全感，提高整个社会的福祉水平。首先，该法案会影响各类人工智能企业的市场格局、业务模式、运营方式乃至发展前景。从执法和实施的前景来看，对于人工智能企业是一个比较大的挑战，同时也是一个业务重构、业务设计的过程。具体来看，《人工智能法案》不仅会影响谷歌、Meta、微软和OpenAI等主要人工智能开发商，还会影响使用该技术的教育、医疗保健、银行等领域。政府部门因为近年来在公共业务方面更多地转向人工智能，也将受到影响。其次，法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。与此同时，它还将为全球其他国家和地区提供一个参考和借鉴的范例，从而推动全球AI监管体系的建立和完善。美国哥伦比亚大学法学院教授、欧盟和数字监管专家阿努·布拉德福德就曾表示，欧盟制定强有力且全面的监管措施，“可以为许多考虑监管的政府树立良好的样板”。其他国家“可能不会照搬每一项条款，但其中很多条款提到的很多方面会被效仿”。对此，欧盟委员会内部市场专员蒂埃里·布雷东坦言，这份协议将有助于欧洲“在全球人工智能竞赛中领跑”，“我相信《人工智能法案》不仅是一本规则手册，也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”

展望未来，《人工智能法案》的实施将为欧盟乃至全球带来一系列积极影响。首先，该法案将提高AI系统的透明度和公平性，减少歧视和偏见现象的发生。其次，严格的监管将促使企业和研究机构更加注重AI技术的伦理和道德问题，推动AI向更加可持续的方向发展。此外，该法案还将为其他领域提供借鉴和参考，推动全球范围内的人工智能监管体系的建立和完善。总而言之，该法案将对欧盟乃至全球的人工智能发展格局和立法格局带来非常重大的影响。

据悉，该法案最早要到2025年才会生效。预计他们还将就相关细则的制定展开进一步谈判。