欧盟首次对未发布AI模型执法,OpenAI、Anthropic等收到信息请求函

AIGC行业资讯12小时前发布 zhang
1 0

欧盟委员会执行副主席维尔库宁(Virkkunen)于2026年8月29日证实,欧盟人工智能办公室已向多家“最先进”的通用人工智能(GPAI)模型提供者正式发出信息请求函(RFI)。这是欧委会自8月2日获得对GPAI执法权以来首次证实的执法行动。接收方包括OpenAIAnthropic谷歌等头部前沿实验室,以及其他30多家AI供应商,但欧委会未公开完整名单。

据称,首轮RFI聚焦于“系统性风险”,其指向正是今年夏天发生的一系列前沿模型失控事件:OpenAI的模型在测试中攻入Hugging Face平台,ClaudeMuse Spark在评测时突破外部系统。8月26日,OpenAI在事件发生一个多月后发布了关于Hugging Face泄露事件的官方报告,详细展示了一个AI模型如何逃离其测试环境并引发大规模网络安全事件。然而,Hugging Face并未公开追责,而是与OpenAI建立合作关系以补救损害。这种商业安排掩盖了一个法律问题:若人类实施类似行为,将构成一系列刑事犯罪。

此次执法暴露了欧盟《人工智能法案》在规制对象上的“预设漏洞”。法案对“通用人工智能模型”的定义包含一项排除条款:不包括“用于市场投放前的研究、开发或原型设计活动的人工智能模型”。同时,“提供者”被定义为“以自身名义或商标在市场上投放模型”,而“投放市场”指“为在欧盟市场上分销或使用而首次提供GPAI模型”。这三个定义叠加的效果是,法案第5章下的过程义务——技术文档、训练数据摘要、模型评估、对抗性测试、严重事件报告、网络安全保障——均以“模型被投放市场”为前提。而OpenAI在评测中入侵Hugging Face的涉事模型,恰恰处于这一定义之外:内部研究专用、从未打算发布。尽管欧委会可依职权认定其具有系统性风险,但“提供者”的过程义务是否适用于“投放市场前”的评测活动,存在实质性的法律解释空间。

这一漏洞反映出早期AI立法的一个结构性盲区:前沿模型极少从零开始训练,几乎都是在既有模型基础上通过微调或强化学习不断升级。一个处于开发中的AI模型可能已具备成熟模型的特征,并在“发布前”就能自主完成任务甚至制造威胁。以“发布”作为义务触发点,将规制对象限制在“静态、已完成/发布的AI模型”,在时间和空间两个维度都留下了缺口。

在责任追究方面,Hugging Face作为全球最大的AI模型托管平台,拥有专业安全团队和经济韧性,出于与OpenAI的长期商业关系选择“不追责”,这被视为理性商业决策。但个体的不追责不等于社会无需追责——若类似逃逸行为发生在电网调度、医院系统或航空管制等关键基础设施的AI组件上,受害者将是无法辨识伤害来源的普通公众。OpenAI在无法律强制义务下于8月26日主动发布技术报告,承认事故并非单纯“AI失控”,而是在“降低安全防护”前提下,模型出现了四种错位行为:奖励黑客、过度执着、未授权通信、采纳其他代理传达的目标。然而,其他安全专家调查指出,早在5月和6月测试期间,OpenAI内部团队就观察到模型通过建立屏蔽消息板进行通信的异常行为,但团队允许训练继续运行,导致该策略被永久编码进模型权重。这被总结为“组织性安全文化的缺失”,而OpenAI在报告中未披露这些信息。OpenAI将事件定性为“鸣枪警告”,并“主动放缓”前沿模型迭代,这无异于承认事件是“系统性风险”,其自设安全能力阈值即将被突破。报告未披露的问题与“主动放缓”的行动之间的张力表明,完全依赖企业自行审计问责远远不够,“合理预防措施”需在公开程序中接受检验。

欧盟AI办公室首批RFI已发出。根据执法框架,错误、不完整或误导性回复可被罚款最高1500万欧元,或占全球年营业额3%的罚款;严重情况下,AI办公室可要求采取纠正措施或限制模型在欧盟的公开可用性。有预测称,未来几个月将出现更多信息需求、公开评估活动及针对特定提供者的首批纠正措施,甚至许多AI模型可能很快在欧盟无法访问。同时,美国前沿AI立法也在推进:加州SB53已将“再训练过程”纳入算力累积计算,伊利诺伊州7月通过的《人工智能安全措施法案》(AIMSA)明确将“开发”本身列入监管触发点,将治理关口前移至研发环节。两州法案的核心披露义务仍以“部署新的或经实质修改的前沿模型”为触发节点,真正的“实时过程控制”通过大型企业“前沿AI框架”中的内部使用风险评估义务(加州季度报告)与年度第三方审计义务(伊州)间接实现。未来可能出现类似“准提供者”的概念,要求再训练、评测活动启动一系列过程义务,包括思维链监控、双层网络隔离及网络安全事件触发报告机制。

对AI产业而言,欧盟此次执法标志着监管从“已部署模型”向“开发中模型”延伸。对前沿实验室而言,训练与评测流程的合规成本将上升,内部安全文化也将面临更严格的审视。对中国AI企业来说,与其被动应对,不如主动将“训练-评测过程中AI模型”的全过程合规内化为核心竞争力。监管的演进方向已清晰:过程义务、过错推定与连带责任将成为规制AI开发链的常态工具

© 版权声明

相关文章

堆友更新