主要研究人员、智库、公民社会组织支持西班牙基金会为欧盟人工智能法案建模风险管理方法

　　在越来越多的全球人工智能治理非监管努力中，管理基金会模型风险，如G7行为准则、英国和美国人工智能安全研究所以及白宫关于人工智能的行政命令，欧洲处于独特的地位，可以对人工智能实施第一个横向监管，包括具有全球足迹的基金会模型。因此，西班牙主席的提议允许采用平衡的方法来规范基金会模型，完善欧洲议会的跨党派立场，以便在《欧盟人工智能法案》中为这些模型设定义务。

　　基础模型与传统人工智能有很大不同。它们的通用性、开发成本以及作为数千个下游应用程序的单点故障的能力意味着它们具有独特的风险概况——一个系统性的、尚未完全理解的、影响社会所有部门(以及数亿欧洲公民)的风险概况。我们必须在价值链上全面评估和管理这些风险，把责任交给有能力、有能力的人。当基础模型被部署并适应于应用程序时，由于缺乏修改基础模型中潜在缺陷的技术可行性和可访问性，除了将一些责任放在上游模型开发人员提供的技术上之外，没有其他合理的风险管理方法。

　　适用于基础模型技术的监管不仅不会成为欧洲行业的负担，还提供了必要的保护，将使欧盟行业和新兴的人工智能生态系统受益。训练高影响力模型所需的大量资源限制了开发者的数量，因此此类监管的范围将会很窄:与数千个潜在的欧盟部署者相比，全球只有不到20个受监管的实体，资本超过1亿美元。如果该法案旨在最大限度地减少整个欧盟生态系统的负担，那么这些大型开发商可以也应该承担当前强大模式的风险管理责任。大型上游开发人员的需求为众多较小的下游参与者提供了透明度和信任。否则，欧洲公民将面临许多风险，尤其是下游部署者和中小企业，在技术上不可能管理:缺乏稳健性、可解释性和可信赖性。样板卡和自愿的——因此不具有强制性的——行为准则是不够的。采用这些模式的欧盟公司将成为责任磁铁。基础模型的监管是欧盟工业和公民的重要安全屏障。

　　我们支持这一建议，认为这是欧洲议会和成员国之间通过分层办法作出的适当妥协。建议使用计算阈值，这是与风险密切相关的易于衡量的标准，为监管提供了实际基础，从风险管理的角度来看，这是有意义的，同时保留了中小企业的人工智能开发努力。为了保证未来的安全，随着技术的发展和风险度量科学的改进，必须修改阈值，补充标准，但它提供了一个很好的起始基线。我们认为，这将至关重要地允许《欧盟人工智能法案》管理欧洲公民面临的风险。

　　欧盟人工智能法案已经咨询了两年多的广泛代表性利益相关者:开发商、欧洲工业、中小企业、民间社会、智库等。在此基础上，至关重要的是要防止大型科技公司和少数大型人工智能公司的既得利益游说努力绕过这一民主进程。少数人的利益绝不能损害欧洲监管机构保护社会和支持中小企业的能力。

　　将基础模型整合到《人工智能法案》中，不仅是监管的需要，也是民主的需要，也是朝着负责任的人工智能开发和部署迈出的必要一步。我们敦促所有相关方建设性地开展工作，在10月24日西班牙提案和三方共识的基础上，找到合适的监管解决方案，使欧洲的人工智能环境更安全、更值得信赖和更主权。