(一)智能体的客体识别
1.中国路径:以“感知—记忆—决策—交互—执行”确立功能性识别标准
《实施意见》第一条即将智能体界定为“具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。”这一表述没有按照产品名称、模型类型或者商业形态划定范围,而是抓住“感知—记忆—决策—交互—执行”五项能力来识别监管对象。这意味着,合规范围不再局限于产品的外部形态,只要具备上述功能要素,便应纳入本规调整范围。因此,企业应高度警惕“决策”与“执行”两个关键环节,当系统开始自行作出选择并进一步调用工具执行操作时,其合规风险已从单纯的“内容输出风险”质变为“行为执行风险”。权限管控、行为围栏、供应链审查以及后续分级治理,也都应从这一变化出发。
2.欧盟路径:以“AI系统”定义间接涵摄智能体
与《实施意见》的功能性定义不同,欧盟AI Act未创设独立的“AI智能体”法律类别,而是通过第3条第1项的“AI系统”定义对智能体加以涵盖:“依托机器运行,设计为以不同程度的自主性运行,且部署后可能表现出适应性;该系统为实现明确或隐含目标,能够根据接收的输入,推断如何生成可影响物理或虚拟环境的预测、内容、建议或决策等输出。”多数智能体因具有自主性、能够基于输入进行推断并生成影响外部环境的输出,原则上可以落入该定义。
欧盟的规范路径与中国并不一样,不是先判断产品是否属于“智能体”,而是先确认其是否属于AI系统,再根据其预期用途、部署场景及实际影响判断适用何种义务。因此,智能体具有较强自主性,并不意味着其当然构成高风险AI系统;其是否受到严格监管,仍取决于第6条及附件一、附件三所规定的产品属性和使用场景。该路径具有技术中立、避免重复立法的优点,不过也带来一个现实问题:连续行动、动态权限和多主体协作等智能体特有风险,只能分散到高风险制度、透明度规则和其他欧盟法律中处理。
(二)行动权能与权限边界
智能体的风险强度并不完全取决于模型能力,而更取决于企业向其开放了何种权限。能够生成错误建议的系统,和能够使用企业账户完成付款的系统,底层模型可能相同,但法律风险完全不同。故智能体的合规对象不仅是算法,也是账户、凭证、接口、额度、设备控制权和数据访问权所共同构成的“行动权能”。
1.中国路径:以“三级权能结构”构建用户授权边界
《实施意见》第6条明确规定:“厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。”该条实际上建立了“本人决策—授权决策—自主决策”的三级权能结构,其核心是依据事项性质分配不同程度的人类控制。涉及财产处分、合同订立、重大权益变动或不可逆后果的事项,原则上应保留由用户本人作出最终决定,而不能通过一次性概括授权交由智能体持续执行。对于可以授权执行的事项,企业还应明确授权对象、范围、期限、额度和撤回方式,使智能体的行动能力始终具有可验证的权限来源。
2.欧盟路径:通过高风险制度的技术要求间接实现行为可控制
欧盟AI Act的“高风险制度”提供了可以承接智能体行动权能与权限边界规制的规范工具:第12条要求高风险AI系统应允许自动记录系统整个生命周期发生的事件(日志),使日志达到与预期目的相适应的可追溯水平;第13条要求高风险AI系统的设计和开发应确保其操作具有足够的透明度,使部署者能够解释系统的输出并加以适当使用;第14条要求高风险AI系统的设计和开发方式,包括适当的人机界面工具,应使其在使用期间能由自然人进行有效监督;第15条要求在设计和开发高风险AI系统时,应使其达到适当的准确性、稳健性和网络安全水平,并在其整个生命周期内始终在这些方面保持一致。将这些规则放入智能体场景,监管重点便应自然延伸至输出之后的工具调用、账户凭证和连续行动。
上述条款虽然分别对日志、透明度、人类监督和技术稳健性做了规范,但在智能体场景下共同,它们共同指向一个基本要求,即系统的行动必须能够被理解、限制、介入和追溯。对于能够连续调用工具的智能体,企业不应仅记录最终输出,而应当记录关键工具调用、授权校验、执行结果、异常中止及人工干预等事件。中欧规则在此处的合规逻辑高度契合,均要求企业建立技术与组织保障,以证明智能体在运行中始终处于“可解释、可干预、可追溯”的安全控制状态,不得超越被许可的行动边界。
(三)参与主体识别与责任分配原则
现行中国法与欧盟法均未赋予智能体独立法律人格。智能体具备一定自主行动能力,并不意味着其可以独立承担法律责任;发生违法处理数据、越权操作或者造成损害时,仍需回到开发者、模型提供者、集成商、部署者、平台和用户等现实主体,结合各自在产品链条中的实际行为分配责任。
1.中国路径:多主体治理框架下的责任分配
《实施意见》第12条、第13条通过第三方评测、平台规则、用户协议和隐私政策等机制,将开发平台、分发平台、服务提供者及专业机构纳入多主体共同治理框架。但未对不同主体的民事责任作统一划分。具体义务仍应结合其是否构成个人信息处理者、受托处理者、网络运营者、生成式人工智能服务提供者、算法推荐服务提供者等法定身份分别判断。以数据处理活动为例,前述主体在智能体运行中实际实施个人信息处理、跨系统数据调用或者数据出境的,应根据其具体处理行为适用现行数据法律规则。我国既有数据法律体系已对此形成较为明确的规范基础,具体如下:
智能体基于长期记忆与多轮交互推断个人信息的,首先应依据《个人信息保护法》第6条审查处理目的是否明确、合理并符合最小必要原则,并依据第13条确定相应的个人信息处理合法性基础;以个人同意作为处理基础的,还应符合第14条关于知情、自愿、明确同意以及处理目的、方式或者种类变更时重新取得同意的要求。只有在利用个人信息实施自动化决策时,才进一步适用第24条关于透明度、公平公正以及重大影响决定的说明、拒绝权等规定。涉及敏感个人信息的,还应符合第28条、第29条关于特定目的、充分必要性及单独同意等要求;
智能体跨系统调用API实施数据调取的,如构成数据处理活动,应根据《数据安全法》第27条建立全流程数据安全管理制度并采取安全技术措施,同时依第29条履行风险监测与漏洞补救义务(如调取数据涉及重要数据,还须执行第30条关于定期开展风险评估的规定);
涉及重要数据或个人信息跨境流转的,则需严格遵守《网络数据安全管理条例》及国家网信部门颁布的《数据出境安全评估办法》《个人信息出境标准合同办法》《促进和规范数据跨境流动规定》等专门规定,依据数据类型与规模,履行安全评估申报、标准合同订立或依法适用免予申报,确保智能体自主行动始终在既有法律框架内有序运行。
2.欧盟路径:以“角色转化机制”与双轨框架实现责任溯源
欧盟法对智能体责任的处理采取了公法合规监管与私法侵权救济并行的双轨责任体系,并通过角色转化机制实现责任归责的精准溯源。
首先,在公法监管与市场准入层面,欧盟AI Act以提供者、部署者、进口商和分销商等法定角色配置义务,并通过第25条确立角色转化机制。其基本逻辑是:责任认定不应拘泥于合同名称,而应判断谁实质决定或改变了系统的用途、功能和风险。根据AI Act第25条第1款,分销商、进口商、部署者或者其他第三方在以下任一情形,将被视为提供者(Provider)并承担提供者的全部法定义务:
(a)在已投放市场或投入使用的高风险AI系统上贴附自身名称或商标;
(b)对已投放市场或投入使用的高风险AI系统作出实质性修改(Substantial Modification),使其仍为高风险AI系统;
(c)改变非高风险AI系统的预期用途,使其被认定为高风险AI系统。
对于智能体而言,提示词、长期记忆、工具接口、数据来源和自动执行权限的配置,均可能影响责任主体的认定。第25条的核心在于,部署者一旦通过上述配置实质改变系统的预期用途或风险特征,即可能从部署者转化为承担提供者义务的责任主体。
其次,在民事责任层面,AI Act与欧盟于2024年通过修订的《产品责任指令》〔Directive (EU) 2024/2853,下称“PLD”〕相衔接。但二者的主体角色并非当然一一对应。AI Act主要依据提供者、部署者、进口商和分销商等身份配置监管义务;PLD则依据其自身关于制造商、进口商及其他经济经营者的规定确定缺陷产品责任主体。同一企业只有分别满足AI Act和PLD各自规定的构成要件,才可能同时承担两套制度下的责任。对于智能体而言,PLD的意义主要在于将软件及AI系统纳入产品责任框架,并针对数字产品持续演化、责任主体及举证困难等特征调整传统缺陷产品责任规则。具体而言:
其一,产品属性的认定。PLD第4条第1项将“产品”定义为“任何动产,即使其已被集成于其他动产或不动产或者与之互联;产品还包括电力、数字制造文件、原材料和软件”;序言第13段进一步明确“软件包括人工智能系统,且不因其供应或使用方式不同而被排除。”因此,无论智能体以独立软件还是嵌入设备的方式提供,原则上均可能构成产品。
其二,持续学习对缺陷判断的影响。PLD第7条第2款要求在判断产品是否存在缺陷时考虑“产品在投放市场或者投入使用后继续学习或者获得新功能的能力对产品产生的影响。”对于具有持续学习能力的智能体,法院可以将其上线后的学习和功能演变纳入缺陷判断的综合考量。
其三,实质性修改者的制造商责任。PLD第8条第2款规定:“任何在原制造商控制之外对产品作出实质性修改,并随后将其提供于市场或者投入使用的自然人或法人,应当……被视为该产品的制造商。”这与AI Act第25条的角色转化规则高度呼应:部署者或集成商若对智能体进行了原制造商未预见且改变其性能、目的或风险状况的“实质性修改”(第4条第18项),将直接承担产品制造商的缺陷责任。
其四,举证责任与推定机制。PLD第10条第1款仍维持“原告应当证明产品存在缺陷、其遭受的损害以及该缺陷与损害之间的因果关系”的基础规则,但第10条第2款规定,在被告未依法披露相关证据、产品违反旨在防范该类损害的强制性安全要求,或者损害由产品在合理可预见使用中明显故障造成等情形下,“应当推定产品存在缺陷”。第10条第4款补充到,在案件因技术或者科学复杂性导致原告举证面临过度困难,且原告已证明产品存在缺陷或者存在因果关系具有可能性时,法院可以推定缺陷、因果关系或者两者同时成立。对结构复杂、技术封闭的智能体而言,该规则可能显著降低受害人的举证难度,但相关推定原则上仍可由被告反驳。
其五,赔偿范围的扩展。PLD第6条第1款将可赔偿损害扩展至:“死亡或者人身伤害,包括经医学确认和证明的心理健康损害”,以及“并非用于职业目的的数据的毁损或者损坏”。因此,智能体造成经医学确认的心理伤害,或者导致个人数据、照片、文件等非职业用途数据灭失或损坏时,均可能产生产品责任赔偿。
其六,归责原则与法定抗辩。PLD采取不以证明制造商过错为前提的缺陷产品责任。第5条要求成员国确保:“任何因缺陷产品遭受损害的自然人,有权依本指令获得赔偿。”但这并不意味着企业在任何情况下均必然负责,经济经营者仍可依据第11条主张产品投放时缺陷尚不存在、缺陷源于强制性法律要求,或者当时科学技术水平无法发现缺陷等法定抗辩。因此,更准确的表述是:企业可能承担不以过错为构成要件的产品责任,而非“只要发生损害即承担责任”。
综上,欧盟法完成了从AI Act的公法合规与角色认定到PLD的私法缺陷归责的制度衔接与逻辑闭环。企业部署或集成智能体时,既需应对AI Act的行政合规要求,亦须防范因角色转化(被认定为提供者或制造商)而触发的无过错产品责任风险。
(四)风险分类与市场准入
1.中国路径:以应用场景和潜在影响配置监管强度
《实施意见》第11条规定:“根据应用场景和潜在影响,审慎稳妥开展智能体分级治理。对于敏感领域及重点行业,由网信部门联合行业主管部门确定开放场景,根据相关法律法规、监管要求和安全防护标准,实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域,完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。”
该条表明,智能体的监管强度并不单纯取决于其技术能力,而主要取决于应用场景和可能产生的实际影响。对于涉及生命健康、财产安全、公共秩序或者重大权益的敏感领域和重点行业,可以通过开放场景、备案、检测及问题产品召回等方式实施较严格的治理;对于生活娱乐、日常办公等相对低风险场景,则主要通过合规自测、信息报告、平台管理和行业自律降低监管成本。
针对“拟人化互动”这一典型场景,《人工智能拟人化互动服务管理暂行办法》(以下简称《拟人化互动办法》),实现了从宏观场景划分向微观行为规范的深化。在监管对象的客体界定上,《拟人化互动办法》第2条严格将适用范畴限定于“面向境内公众、模拟人类人格特征与沟通风格并进行持续性情感互动”的产品或服务,从而将一般性智能客服、知识检索助手及教学科研工具排除在高度拟人化的合规负担之外。
在具体合规要求上,《拟人化互动办法》第7条主要从社会公众层面强调安全知识、法律法规宣传和人工智能素养;第9条明确要求拟人化互动服务提供者落实安全主体责任,建立算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等制度;第10条进一步要求提供者在部署、运行、升级、终止服务等全生命周期履行安全责任,并具备过度依赖风险预警、情感边界引导和心理健康保护等安全能力。
2.欧盟路径:以禁止实践、高风险用途和特定透明度义务分层监管
欧盟AI Act同样不因某一系统被称为“智能体”而当然提高其风险等级,而是根据系统的预期用途及其可能造成的影响配置监管义务。AI Act建立了四层风险监管标准:
2026年5月19日,欧盟委员会发布《高风险AI系统分类指南》草案,为提供者、部署者及市场监督机关适用AI Act第6条提供解释和实践示例。该指南虽不具有法律约束力,但有助于明确复杂AI系统的系统边界和分类方法。对于由底层模型、编排模块、插件和工具共同构成的智能体,应结合各组件之间的功能联系及其对最终决策的作用,对完整AI系统进行分类,而不能仅孤立审查底层模型。AI Act第3条第12项同时明确,“预期用途”应根据使用说明、宣传或销售材料及声明、技术文档等信息判断。因此,仅在合同或者服务条款中排除高风险用途,并不足以当然排除高风险分类;仍应结合系统功能、产品说明和实际面向的应用场景综合判断。
智能体被认定为高风险AI系统后,还应根据系统类别确定相应的合格评定程序。AI Act第43条第2款规定,对于附件三第2至第8项所列的高风险AI系统,提供者应适用附件六规定的内部控制合格评定程序,该程序不要求公告机构参与。对于附件三第1项所列的生物识别系统,则由第43条第1款规定相应评定路径,在符合法定条件时可以选择附件六内部控制或者附件七所规定的公告机构评定程序。第43条第3款针对的是附件一A部分所列欧盟协调立法覆盖的高风险AI系统,要求按照相应产品立法规定的合格评定程序进行评定。由此,“高风险”并不当然意味着所有系统均须接受公告机构认证,具体路径仍取决于系统类别及标准适用情况。
完成适用的合格评定后,第47条第1款要求:“提供者应当为每一个高风险人工智能系统编制一份书面、机器可读、以物理或者电子方式签署的欧盟符合性声明,并在该系统投放市场或者投入使用后保存十年。”第48条第1款进一步规定:“CE标志应当以清晰可见、易读且不可擦除的方式加贴于高风险人工智能系统;数字化提供的系统应使用数字CE标志。”第49条第1款则要求,除附件三第2项所列系统外,附件三所列高风险AI系统的提供者或者其授权代表应当在投放市场或者投入使用前,在欧盟数据库中完成自身及系统登记。
由此,欧盟法形成了“用途与影响判断—高风险认定—合格评定—符合性声明—CE标志与登记”的市场准入链条。企业进入欧盟市场前,应先根据智能体的实际使用场景判断风险属性,再确定适用的评定和登记程序,而不能仅凭其自主性或者“智能体”名称直接作出高风险结论。