(一)训练个人信息与数据的合理使用与界定
第一,何为合理使用?构成要件是什么?《意见》第(六)条规定“为人工智能模型训练,在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵害个人信息权益的行为。”经笔者梳理,《个人信息保护法》第十三条第(六)款规定:“依照本法规定在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息”不需要获得个人信息权利主体同意。《民法典》第一千零三十六条:处理个人信息,有下列情形行为人不承担民事责任:“(二)合理处理该自然人自行公开的或者其他已经合法公开的信息,但是该自然人明确拒绝或者处理该信息侵害其重大利益的除外。”总结以上规定,训练模型使用个人信息的合理使用,构成要件需要满足“合理范围+已公开+未明确拒绝+不侵害用户重大利益”,这里需要说明的是《个人信息保护法》第十三条规定只是明确已公开数据不需要获得个人信息权利主体同意,并不代表一定不会侵犯用户合法权益,如果违反构成要件任何一个要求都可能会承担民事侵权责任。
第二,合理范围界定与用户重大利益。在实务中,涉及两个问题大家重点关注:一是合理范围怎么界定;二是用户重大利益到底是什么?让我们先看合理范围怎么界定,《个人信息保护合规审计管理办法》第十二规定了个人信息处理者处理已公开的个人信息合规审计应当重点审查的内容,明确了五项内容:向已公开信息发送与公开目的无关的商业信息,利用已公开个人信息从事网络暴力、传播网络谣言和虚假信息等虚假活动,个人明确拒绝的,对个人权益有重大影响未取得个人同意的,处理已公开信息规模、时间或使用目的超出合理范围的。在实操案例中,最高人民法院发布的第35批典型案例1第194号案例中明确“未经公民本人同意或具有法律授权等个人信息保护法规定的理由,通过购买、收受、交换等方式获取在一定范围内已公开的公民个人信息进行非法利用,改变了公民公开个人信息的范围、目的和用途,不属于法律规定的合理处理,属于刑法第二百五十三条之一第三款规定的“以其他方法非法获取公民个人信息”行为,情节严重的,构成侵犯公民个人信息罪。”可见,超出合理范围认定的标准为是否超出了公开的目的、范围和用户,并且情节严重者可构成侵害公民个人信息罪。二是用户重大利益怎么判断,用户重大利益是否等同于对个人权益有重大影响的处理活动。山东省鄄城县人民法院审判的陈某诉张某存第(2024)鲁1726民初4304号案件中,被告在直播间公开了原告已公开的手机号,被告在直播间说可以直播间人员打着试试,法院判决该行为构成不当,侵害了原告个人信息权益。《个人信息保护法》第五十五条将处理敏感个人信息、进行自动化决策、委托或向其他个人信息处理者提供个人信息、公开个人信息四项处理行为与向境外提供个人信息与其他对个人权益有重大影响的个人信息处理活动并列,意味着第五十五条需要进行个人信息保护影响评估的情形均属于对个人权益有重大影响的处理行为。需要明确的是,向其他处理者提供公开的个人信息本身就属于对个人权益有重大影响的处理行为。《信息安全技术 个人信息安全影响评估指南》第5.5.1对个人权益维度进行规定认为个人权益影响可概括分为“限制个人自主决定权”“引发差别待遇”“个人名誉受损或遭受精神压力”“人身财产受损”四个维度,从例举的侵权行为来看,笔者认为以上这四种概括均可构成对个人权益有重大影响的处理行为。
第三,如何认定人工智能合理使用?首先,《意见》中明确“对个人权益有重大影响的应当取得用户的同意”,这是对已公开数据明确限制。在认定合理范围时,也围绕对个人权益的影响构建了评估标准,第一,综合考量处理个人信息的目的与模型功能的必要性和适当性;第二,要考虑所涉个人信息的类型、敏感程度及对个人权益的潜在影响;第三,要考虑个人公开信息时的场景及可合理预期的使用范围等因素。《意见》增加了模型功能必要性的考量、个人信息种类与敏感程度的考量,以及场景和可合理预期的考量三类标准。
(二)人工智能数据权益、作品与竞争法保护
第一,训练数据的权益与作品壁垒构建。《意见》第十六条明确人工智能开发者对通过采集、加工衍生、第三方受让取得或授权许可的方式合法获取的数据享有数据权益。需要注意,实践中大模型企业会通过爬虫或第三方指定爬虫获取一些数据,并不能被认定为合法获取。《意见》第十六条也规定了人工智能训练数据、数据集合的作品保护与汇编作品保护,对于构成汇编作品的构成要件(对数据内容的选择与编排体现独创性的作品)按照汇编作品保护,构成其他作品的按照《著作权法》2相应规定保护。实践中,大模型企业或者数据公司会通过直接或间接的方式采集或汇聚不同行业、不同类型的数据以便训练大模型相关专业能力。事实上,合法来源的数据或数据集完全可以通过数据权益或符合作品或汇编作品等方式进行保护,从而为大模型企业建立数据或数据集权益或著作权保护壁垒,防止无序的数据采集行为竞争。
第二,数据的商业秘密与反不正当竞争壁垒构建。对于构成商业秘密的数据、数据集合,应当依照反不正当竞争法予以保护。数据如何构成商业秘密?最高人民法院《关于审理侵犯商业秘密民事案件适用法律若干问题的规定》第一条规定“与技术有关的算法、数据、计算机程序及其有关文档等信息构成技术信息”。“与经营活动有关的客户信息、数据等信息构成经营信息。”笔者理解,不管是算法、数据、计算机程序或者其他经营活动的信息,只要公司对商业秘密信息采取了技术和制度保护措施,对相关技术信息和经营信息数据进行管理,很有可能会被认定为“商业秘密”。反之,其他机构被保护的数据、数据集合也有可能构成商业秘密,大模型企业在收集过程中需要依法识别,合规处理。《意见》同时对不构成商业秘密的数据、数据集合,只要该行为违反《反不正当竞争法》第十三条的,应当依法承担责任。笔者认为,大模型企业在此条款下最有可能违反《反不正当竞争法》第二款规定,即经营者不得以欺诈、胁迫、避开或者破坏技术管理措施等不正当方式,获取、使用其他经营者合法持有的数据,损害其他经营者的合法权益,扰乱市场竞争秩序。另外,《意见》也规定“采取虚构干扰数据、恶意标注数据、对抗样本攻击等技术手段,损害人工智能运行安全的,依法承担相应责任。”其中,“虚构干扰数据、恶意标注数据”很有可能构成反不正当竞争规定,而“对抗样本攻击”则分为“目标攻击”和“非目标攻击”两种,目标攻击会强制模型输出错误的内容,触发《刑法》非法侵入计算机系统罪或破坏计算机信息系统罪。
(三)大数据杀熟的侵权与认定
第一,大模型算法差别待遇认定。《意见》第十条明确规定了经营者“大数据杀熟”应当承担侵害消费者合法权益的责任。针对同一商品或者服务,经营者利用算法在交易价格等交易条件上实行不合理的差别待遇,侵害他人合法权益造成损害的,人民法院应当依法认定其承担相应的侵权责任。对于实行不合理差别待遇的认定上进行了细化的规定,在《网络反不正当竞争服务暂行规定》第十二条基础上(对消费者的知情权、自主选择权),增加了对消费者“公平交易权等”造成实质性限制或者损害,同时增加了“是否基于消费者的消费偏好、支付意愿、支付能力、浏览记录等信息形成针对其个人的交易条件”,“是否违背诚信原则及商业伦理等”。在《网络反不正当竞争服务暂行规定》明确判定不正当竞争要充分考虑是否有利于技术创新和行业发展等因素,而《意见》增加了要“综合考量实行差别待遇的理由是否正当、充分、非歧视。”
第二,利用数字人仿冒名人构成欺诈消费者。“仿冒名人带货”等侵害消费者合法权益的行为。经营者提供商品或者服务时,《意见》对仿冒名人带货直接认定为欺诈,并且消费者可依据《消费者权益保护法》第五十五条主张惩罚性赔偿。经营者利用人工智能实施“仿冒名人带货”构成欺诈,人工智能生成明星数字人带货的场景普遍存在,未经授权利用名人的形象、音色进行网络带货,误让消费者以为该货品已经名人背书,对产品质量、功能信以为真进行下单。《意见》对仿冒名人带货规定如此严格也是为了遏制直播行业的乱象。
(四)人工智能生成内容知识产权侵权
《意见》第十二条明确规定了涉人工智能侵害知识产权的行为,并将人工智能生成内容侵权分为人工智能开发者侵权、人工智能提供者侵权、人工智能使用者侵权三种类型的侵权。原因就在于大模型输出内容可在不同阶段由不同主体实施侵权行为,在训练阶段如果模型开发者提供了不侵权的训练数据和训练过程记录,或者证明训练阶段系由第三方训练样本攻击造成,且在该场景下模型服务提供者和使用者均未发生侵权行为,则可不构成开发者侵权责任。如果在云端私有化部署模式或私有化部署后服务提供者针对模型进行了二次训练或未建立自身知识产权侵权审查机构,开发者又证明了自身不侵权,那么知识产权侵权的责任可能就会由服务提供者承担。如果在使用阶段,使用者故意或命令模型生成与在先作品实质相似的作品,则使用者承担责任。《意见》同步规定裁判输出内容侵害他人著作权,应当综合考量人工智能服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况等因素,权利人主张人工智能提供者利用算法技术侵害其著作权的,应当提供相关证据。《意见》第三条明确规定了法律中有明确规定侵权认定原则的,以《民法典》过错责任原则进行裁判,在判断行为人有无过错以及过错程度时,应当综合考量人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围,人工智能开发者、提供者等相关主体为预防和减少人工智能侵权所采取的措施及技术上的可能性,人工智能使用者对利用人工智能技术实施的侵权行为可能造成损害的预见能力与控制能力等因素。