跳至主要内容
轩辕法律网Law2CN 法律资讯与工具平台

新规速览

最高法发布涉人工智能纠纷审理意见:企业应当重做哪些合规工作

最高法发布法发〔2026〕10号,围绕模型训练、生成内容、人格权、算法交易、自动驾驶与证据审查提…

使用浏览器语音合成,无需上传正文。

最高人民法院9月7日发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,下称《意见》)。文件共24条,不是另起炉灶制定一部“人工智能法”,而是把民法典、个人信息保护法、著作权法、消费者权益保护法、民事诉讼法等现有规则,放进模型训练、生成内容、算法交易、自动驾驶等具体场景中适用。

对企业而言,变化不只在“出了一个新文件”。过去不少AI合规工作停留在上线前的审核清单;《意见》把审判中会被追问的问题提前摆了出来:数据从哪里来,模型如何运行,风险提示是否清楚,收到投诉后做了什么,关键记录能不能提交。这些问题一旦进入纠纷,往往决定责任由谁承担、承担到什么程度。

责任不再只看“是不是AI造成的”

《意见》第3条明确,法律没有特别规定无过错责任或过错推定责任的,仍以过错责任为原则。法院判断过错时,会结合应用场景、自主化程度、技术和信息透明度、风险及影响范围,以及开发者、提供者预防和减少损害所采取的措施来判断。

这意味着,“内容由模型自动生成”不是当然免责理由,也不等于平台对所有结果承担同样的责任。模型开发者、服务提供者、接入方和使用者的控制能力并不相同。企业需要把角色划分、产品能力边界、人工干预环节和处置流程写清楚,不能只在用户协议里笼统声明“结果仅供参考”。

换脸、拟声和“AI复活”,先看是否可识别

文件对人格权保护给出了较明确的规则。未经同意,利用人工智能处理自然人的姓名、肖像,生成并公开可识别的虚拟数字形象,可能构成对姓名权、肖像权等人格权益的侵害;未经同意以他人声音训练并生成可识别的合成人声,也可能侵害声音权益。利用AI制作、使用死者虚拟形象,损害死者姓名、肖像、名誉等的,近亲属可以依法主张权利。

这里的重点不是产品有没有标注“AI生成”,而是相关形象或声音能否识别到特定个人、是否取得同意、使用方式是否造成权利损害。做数字人、语音克隆、营销素材或纪念服务的企业,应把授权范围、使用渠道、保存期限、撤回机制和二次使用限制落实到合同及后台权限中。

模型训练不是“公开数据就能随便用”

《意见》第6条为训练阶段处理已公开个人信息留出了合理空间:在合理范围内处理个人自行公开或其他已合法公开的信息,且个人未明确拒绝的,一般不认定侵害个人信息权益。但如果处理对个人权益有重大影响,仍应依法取得同意。

“合理范围”不是一句抽象口号。文件要求综合判断训练目的与模型功能是否必要、信息是否敏感、对个人可能造成什么影响,以及个人公开信息时可以合理预期的使用范围。企业不能因为数据页面可访问,就把全部抓取、长期保留和多目的训练视为当然合法。数据来源说明、拒绝处理机制、敏感信息筛查和训练记录,会成为解释处理行为的重要材料。

平台收到有效通知后,不能只做形式处理

对于生成内容侵害名誉权、隐私权等人格权益的情形,《意见》第7条强调:权利人提出包含初步侵权证据和真实身份信息的通知后,服务提供者未及时采取停止生成侵权内容等必要措施的,应依法承担责任。用户通过恶意提示词诱导模型生成侵权内容的,由该用户承担相应责任;平台未及时停止生成、屏蔽相关指令的,也可能与用户共同面对责任主张。

因此,投诉入口并不是一个客服配置问题。企业需要预先确定通知受理标准、分级时限、模型侧拦截措施、人工复核权限和处理留痕。尤其是面向公众的聊天、图像、视频和语音产品,单纯删除已发布内容未必足够;是否需要停止继续生成、限制相近指令,要根据侵权风险和技术可行性作出响应。

从“AI幻觉”到自动驾驶,产品说明会被放到证据桌上

《意见》将以实物为载体的人工智能产品纳入产品责任规则,并提出认定产品是否存在不合理危险时,应考虑产品用途、自主学习能力、更新情况、用户控制程度及相关标准;生产者、销售者还应就适用场景、固有局限和可预见风险作出真实说明和明确警示。

这对提供带有智能决策、自动化控制或专业建议功能的产品有现实意义。产品介绍中把能力说得过满,用户手册却没有说明适用边界,发生损害后就可能成为缺陷或误导宣传的争点。自动驾驶和辅助驾驶事故中,车辆的自动化等级、驾驶人的操作、系统记录及宣传表述都可能影响责任划分,数据控制方还可能被要求提供真实、完整的事件记录。

知识产权纠纷,关键在于把训练和生成过程讲清楚

《意见》没有简单给出“AI生成内容侵权时谁负责”的单一答案。法院将结合服务类型、行业特点、训练数据来源、参与程度、必要措施和获利情况,判断开发者、提供者、使用者的责任。开发者主张不侵权时,可能被要求提供训练数据来源、训练过程记录、模型运行模式及相应科学依据;使用者明知或应知存在在先作品,仍生成实质相似内容且没有合理抗辩理由的,也可能承担责任。

对企业法务来说,这要求把知识产权工作前移到采购、训练、部署和营销各环节。开源组件要保留许可证、版本和安全风险披露;第三方数据要留存授权链条;生成内容投入商业发布前,应设定与在先作品、商标和人物形象有关的复核规则。出了纠纷再试图补齐记录,通常已很被动。

证据规则的变化,先影响内部留痕

文件对证据审查的规定尤其值得企业重视。对于大数据分析报告,法院将关注原始数据来源、清洗规则和分析方法的科学性;对区块链存证,会审查上链前数据真实性及平台可靠性。把AI生成内容作为侵权证据时,提示词及其影响、重复测试的一致性、内容相似程度、模型训练和过滤机制,都可能被纳入判断。

文件还明确,向法院提交由人工智能生成的诉讼文书、案例检索报告等材料前,应核实法律、司法解释和案例的真实性、准确性;提交时要说明使用了AI辅助,并对内容承担责任。对律师和企业法务而言,AI可以帮助整理材料,却不能替代核验。错误引用、虚构判例或被选择性展示的生成结果,都可能反过来伤害自己的诉讼信誉。

企业现在可以做的四件事

第一,按“开发、提供、使用、分发”重新梳理本企业在产品链条中的位置,明确每个主体可控制的风险和合同责任。

第二,建立训练数据、模型版本、提示词策略、内容过滤、投诉处置和产品更新的留痕规则,确保发生争议后能够快速还原事实。

第三,检查对外宣传、用户协议、隐私政策和产品说明是否一致,特别是自动化能力、适用边界、风险提示和人工审核安排。

第四,把AI生成内容纳入诉讼材料和对外文书的复核流程。任何“看起来像法律意见”的内容,都应回到法条、判例和原始事实核对。

《意见》的意义,不在于让企业把所有AI项目都变得保守,而在于把创新与责任放到同一套可验证的事实框架里。技术可以快速迭代,责任链条和证据链条不能等出了问题才补。

资料来源

广告AD

发现内容需要更新或纠正?

请通过平台联系方式提交具体页面、问题位置和可靠依据。我们会核验并保留实质修订记录。

联系编辑部