21世纪经济报道见习记者肖潇北京报道
就在欧盟《人工智能法案》距离实施仅一英里之际，内部却出现了不同的声音。
近日，有报道称，一份联合文件显示，法国、德国和意大利已就如何监管人工智能达成一致。 欧洲三大经济体一致认为，人工智能法案不应针对基本模型，欧洲需要“促进创新和竞争的监管框架，以便欧洲参与者能够站在全球人工智能革命的最前沿”。
法国、德国和意大利的攻击似乎让他们站在了希望严格规范基本模式的欧洲议会立法者的对立面。
欧盟《人工智能法案》是全球首部人工智能法律草案，目前正处于立法过程的最后阶段。 受访专家指出，目前核心分歧在于基础模型的监管方式，各方应在12月6日的三方谈判中提出解决方案。如果届时无法达成共识，《人工智能法案》或将面临压力。
反对层级监管模式
法国、德国和意大利发布的文件首先指出，人工智能的本质风险在于应用，而不是技术本身，从而“反对基本模型的两级分类方法”。
“两级分类法”是指《人工智能法》，将人工智能系统划分为不同的风险组，并规定不同的合规义务。 一些义务仅适用于更大、计算能力更强的通用模型，从而形成两层规则。 三个国家在文件中明确要求基础模型免除这套规则。
模型卡是他们提出的替代方案。 模型卡的内容必须包括模型的功能和缺陷。 该文档中的示例包括模型参数数量、预期用途、潜在限制、偏差测试结果和红队安全评估结果。
此外，联合文件还呼吁各国做出自愿承诺并推迟制定制裁措施。 法国、德国和意大利都同意人工智能提供商应做出具有约束力的自愿承诺，而不是首先实施任何制裁。 文件提到，只有在一定期限后发现违规行为，才会建立明确的制裁机制。
《人工智能法案》授权草案今年6月在欧洲议会高票通过。 目前已进入成员国、欧洲议会和欧盟委员会之间的“三方谈判”，原计划在年底前获得通过。
据了解，三党于10月24日就分级监管模式达成初步共识，但法国、德国、意大利等至少5个成员国改变立场，提出不对基本模式实施监管; 10月30日，法国、德国和意大利在意大利首都罗马举行高层会议，决定加强人工智能领域合作。 本月19日，法国、德国和意大利开始下发非正式文件，再次改变监管立场，提出用模型卡监管基础模型。 关于人工智能法案的谈判仍在继续。
核心矛盾在于基本模型
同济大学法学院助理教授、上海人工智能社会治理协同创新中心研究员朱跃分析，《人工智能法案》立法谈判中联合文件与其他各方的实质性冲突集中在一点——如何监督和由谁监督的依据。 模型。
对于基本模型，《人工智能法案》始终主张风险分类，但与联合文件的风险识别思路有很大不同。 北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴申阔指出，总体来看，《人工智能法案》强调前端、抽象的风险判定，而联合文件则强调后期岗位。 、实际风险判断。
在具体层面，示范卡涉及的实体可能较少，合规义务也较轻。 朱跃认为，此前三方谈判达成的分级监管涵盖了数据治理、红蓝对抗等实质性义务。 以透明度义务和行为准则为核心的样板卡更多的是一种弱强制性的自律监管。 对外经济贸易大学数字经济与法律创新研究中心主任张欣补充道，模型卡主要针对的是基础模型的开发者，而分级监管则是针对整个模型的开发者、部署者、运营者。人工智能系统。 不过，“分级监管也存在一定的挑战。 例如，未来进入真正的通用人工智能（AGI）阶段时，可能会遇到分级标准难以设定、风险动态变化等挑战。 比如，在现有方案下，可能会导致基础模式的开发商承担更多的连带义务和责任。”张欣说。
张欣进一步向21世纪记者解释，型号卡与基本型号使用说明书类似，示例中的安全测试和偏差测试与产品出厂前的测试类似。 如果按照此前《人工智能法》规定的分级监管，位于高风险地区的大型模型相关主体还需要履行备案、更正、标签等一系列合规义务，负担可能会远大于型号卡的值。
更关键的问题可能是谁决定模型卡的严格程度以及谁执行它们。
在朱越看来，不能简单地断定样板卡和分级监管有本质区别。 如果模型卡配置了详细、深入的可解释性条目，仍然可以称为深度监督。 但如果模型卡不交给专门的监管机构或数据保护机构，而主要由行业协会或技术社区评估实施，自由度会相对丰富。
此外，联合文件中的自愿承诺也值得注意。 张欣表示，“一般来说，如果要求企业做出自我承诺，那么执法机构在违反承诺时就会采取相应的惩罚措施。” 但联合文件建议推迟制裁，并没有进一步明确如何建立强制性和约束力。 自我承诺机制。
接受采访的专家一致认为，这份联合文件旨在为基础模型的开发者松绑基础。
值得关注的一个时期是今年的10月份。 就在本月，巴黎初创公司 Mistral AI 发布了自己的大型模型 Mistral 7B。 据称，它比Meta的Llama 2大型模型性能更好，消耗的计算能力更少，使其成为人工智能领域的后起之秀。 与此同时，德国领先的人工智能公司Aleph Alpha GmbH也获得了超过5亿美元的B轮融资。 官网自称“德国自己的OpenAI”。
除了国内冠军企业大机型的快速发展和政府游说压力外，法国、德国和意大利也都有部署人工智能的国家战略。 今年6月，法国总统马克龙宣布将推动法国成为欧洲人工智能中心，并拨款5亿欧元发展人工智能。 德国数字事务部长在近日接受采访时将德国定位为“进入全球人工智能领域最高梯队竞争”，可见其发展雄心。
《人工智能法案》可能会踩刹车
此时，法德意三国相互挑战，而最令人关注的问题无疑是：《人工智能法案》能否顺利实施？
张欣表示，目前很难预测联合文件的实质性影响，但它确实给人工智能法案的共识增加了不确定性。
在朱越看来，达成共识的可能性非常大。 主要依据是各方已初步达成共识——同意对基本模式进行一定程度的规范，但只需在理念、时限等关键细节上发挥作用。 此外，从谈判进程来看，相关主体的态度不断软化。 朱越分析称，此次攻击的本质具有高度战略性，即为了获取具体条款的讨价还价筹码，并非对人工智能法案是否应该通过的分歧。
“如果能够达成妥协，《人工智能法案》可能会放弃对基本模型的进一步分级，通过细化透明度项目、强化审计义务和相关产品责任来落实透明度义务，并放弃大多数其他实质性要求。 可以说是一个不理想的计划。”朱越说道。
在后续的实施过程中，《人工智能法案》还存在进一步宽松的可能性。 吴申阔向21日记者指出，联合文件的立场更加市场友好，因此成员国在实施《人工智能法案》时可能会做出局部宽松举措。 张鑫对此的担忧是，由于模型性能强大，随着大模型能力的出现，更多的未知风险将会出现。 而且，在发展热潮下，资本逐利可能会带来模式异化的风险。 这些都需要对基本模式进行更加系统的硬法规定。
通过人工智能法案的机会之窗正在迅速关闭，12月6日将是一个关键时间点。
考虑到欧洲议会将于明年6月换届，今年12月6日的三方谈判可视为《人工智能法案》立法谈判的结论。 欧洲媒体透露，越来越多的成员国认为《人工智能法案》监管过度。 如果不能尽快找到解决方案，立法将面临风险。
朱跃表示，“《人工智能法案》之前的谈判进程确实太快了，理事会和其他各方都没有达成高度共识。之前达成的所有共识都是一种脆弱而微妙的平衡。” 这种脆弱而微妙的平衡随时可能被打破。
暂无评论内容