欧盟人工智能法案可能成为下一个GDPR

• 2024-10-30 14:36:56

EU人工智慧法案或成为下一个GDPR欧洲议会重视强有力的隐私保护

发布于2023年6月21日，由Glyn Moody撰写

在重要投票中，欧洲议会已就即将到来的EU人工智慧AI法案确定了谈判立场。该提案文本包含多项重要的隐私保护措施，包括对以下事项的禁止：

这些提议的保护措施对隐私而言是一个重大胜利。正如我们在2021年报导的那样，有人对其是否会被纳入法案表示怀疑，而这些措施最终进入法案，至少部分反映出人们越来越意识到，日益强大的AI系统对每个人的隐私构成威胁。

大多数大型语言模型不符合EU人工智慧法案

最新的生成式AI系统是一场等待发生的隐私灾难。幸运的是，欧洲议会的文本现在包括了防范这种危险的措施。新闻稿解释：

基础模型的供应商，这是AI领域中一个新兴且快速发展的领域，必须评估和减轻可能的风险对健康、安全、基本权利、环境、民主和法治并在其投放EU市场之前在EU数据库中注册其模型。基于这些模型的生成式AI系统，如ChatGPT，必须遵守透明度要求包括披露内容是由AI生成的，并协助区分所谓的深度伪造图像和真实图像并确保对生成非法内容的防范措施。

由斯坦福大学基础模型研究中心进行的分析发现，大多数大型语言模型在目前形式下不符合EU的AI法案。研究人员指出，开放模型的表现优于限制性或封闭模型。欧洲议会的文本为开放方法提供了重要支持，增加了对研究活动和基于开源许可的AI组件的豁免，这一点得到了自由软体基金会欧洲分会的欢迎。

EU人工智慧法案的核心是一种“基于风险的”方法。被认为对安全、生活和人权构成“明确威胁”的人工智慧系统将被禁止。所谓的“高风险”AI系统在投入市场之前将须遵守多项义务，包括：

风险评估高品质数据集活动日志记录详细文档人类监督高水平的稳健性、安全性和准确性

欧洲议会列出的一系列高风险AI还包括用于影响选民及选举结果的系统，以及社交媒体平台上使用的推荐系统用户超过4500万。

使用AI的企业可以自我监管

尽管有诸多好消息，欧洲消费者组织BEUC指出，目前的文本使企业可以自行决定其AI系统是否应被视为高风险，这就创造了一个相当大的AI漏洞。

欧洲数位权利组织EDRi对于其所称的“对基本权利的胜利”感到高兴。然而，它批评法案未能引入保护移民权益的条款，随著基于AI的监视技术日益被用于追踪、控制和监控移民。

理论上，缺失的部分可在目前进行的“三方会谈”中由欧洲议会、欧洲委员会和欧洲联盟理事会增加。然而，更有可能的是，欧洲委员会和理事会会试图削弱欧洲议会文本中的某些隐私保护措施。这意味著，在即将到来的AI系统世界中，保护隐私的努力远未结束。

这场战役至关重要，因为EU的AI法案是迄今为止最先进、最具雄心的立法框架，用于监管AI技术。在这方面，它的影响潜力与EU于2016年通过的通用数据保护条例GDPR不相上下。正如PIA博客上的许多报导所验证的，GDPR毫无疑问地在全球发挥了影响力，成为类似隐私法律在EU以外的重要范本，也迫使许多美国最大的互联网公司调整其商业实践以遵守GDPR。

美国开发技术，欧盟进行监管

假设三方会谈不会彻底破坏目前欧洲议会提议文本中的保护措施，EU AI法案似乎将成为此领域立法动作的标准。例如，最近《科学》杂志的一篇社论将草案版本称为“AI治理中的EU里程碑”，并表明AI法案“提供了一瞥未来人工智慧治理的可能性”。

在这样的背景下，最近美国发起的“促进负责任的AI创新，以保护美国人的权利和安全”的倡议，以及提议的新“蓝丝带”委员会旨在制定AI监管策略，让人觉得稍有失望。再次，似乎美国将主导许多最新的AI技术，但将由EU来制定其使用的法律规范。

购买PIA VPN

图片由Hann Lans提供。

评论已关闭。

2 条评论

谢谢。

一年前

内容深入且及时的帖子。期待您在法律推行过程中的报导。

一年前