AI面临的法律问题

　　主要法规依据：

　　《民法典》人格权/侵权编、《著作权法》、《个人信息保护法》、

　　一、知识产权法律风险

　　关键词：训练数据爬取、著作权侵权、AIGC作品独创性、AI生成内容版权归属、合理使用、提示词证据、模型蒸馏

　　1.模型训练阶段：未经许可抓取网文、图片、论文做训练数据，涉嫌侵害原作者著作权；目前司法尚未完全认可大规模网络抓取属于“合理使用”。

　　2.AI输出内容侵权：AI生成内容抄袭现有作品，下达指令、使用输出内容的使用者，不能以“AI生成”免责，需要承担侵权责任。

　　3.AI生成物著作权认定：

　　-用户仅简单指令，无修改筛选，不构成作品，不受著作权保护；

　　-用户精心设计提示词、多轮迭代、筛选修改，付出实质性独创性劳动，可认定为作品，著作权归实施创造性投入的人类使用者。

　　4.实务风险：直接将AI文稿、图片用于公众号、宣传、投标材料，未人工修改，容易发生侵权。

　　二、人格权侵权风险

　　关键词：AI换脸、声音克隆、深度合成、肖像权、声音权益、名誉权、虚假AI人像、深度合成标识义务

　　1.未经许可利用AI合成他人肖像、声音用于广告、短视频、宣传，侵害肖像权、声音权益，判例已明确该类侵权成立，赔偿金额较高。

　　2.AI生成诽谤、侮辱他人文本、图片，发布者承担名誉侵权责任。

　　3.深度合成内容（AI图片、AI视频）法律要求显著标识AI生成；未标识会产生行政风险与民事过错加重。

　　三、个人信息与数据合规风险

　　关键词：用户提示词数据、隐私泄露、个人信息处理、输入涉密材料、商业秘密泄露、数据安全、训练数据集脱敏

　　1.用户把身份证、病历、案卷材料、商业秘密、涉密文件输入AI，存在平台收集、泄露风险。

　　律所特别风险：案卷证据、当事人隐私、案件笔录、企业商业秘密，禁止直接粘贴到公域大模型。

　　2.AI服务商对用户输入内容负有个人信息保护义务；企业自建AI智能体，同样要落实脱敏、权限管控、日志留存。

　　3.非法抓取公民个人信息用于模型训练，触犯《个人信息保护法》，情节严重可涉刑事。

　　四、民事侵权与责任认定（AI输出错误致他人损害）

　　关键词：AI幻觉、输出错误、虚假法律意见、工具责任、共同侵权、过错认定、智能体越权行为

　　1.AI“幻觉”输出虚假事实、错误法条、错误判决，若使用者直接把AI结果对外交付（如法律意见书、鉴定意见、合同）造成第三方损失：

　　-使用人首先承担责任，不能甩锅AI；

　　-模型服务商在存在算法缺陷、未尽安全管控义务时承担相应责任。

　　2.智能体（Agent）自主越权操作造成损害：按照工具主义，优先追责设置指令、开放权限的使用者；开发者看是否存在产品缺陷、安全管控疏漏。

　　律所红线：AI输出文书必须律师人工复核，不能直接提交法院、客户。

　　五、行政监管合规风险（面向AI服务提供方）

　　关键词：生成式AI备案、安全评估、内容审核、深度合成标识、算法备案、内容过滤义务

　　依据《生成式人工智能服务管理暂行办法》：

　　1.向公众提供生成式AI服务，需要履行安全评估、备案义务；内部自用不对外提供公众服务，不需要备案。

　　2.服务提供者需建立内容审核机制，防止生成违法内容；训练数据来源合法。

　　提示：律所内部搭建私有智能体供本所办案使用，属于内部工具，不属于面向公众服务，无需大模型备案。

　　六、刑事法律风险

　　关键词：利用AI犯罪、AI造谣、虚假信息罪、诈骗、帮助信息网络犯罪活动罪、数据投毒、非法获取计算机信息系统数据

　　1.AI只是作案工具，人承担刑事责任：使用AI生成诈骗话术、伪造证据、造谣诽谤、虚假视频，追责下达指令、发布内容的自然人、单位，AI不构成犯罪主体。

　　2.训练、传播恶意模型；非法获取数据用于训练；数据投毒破坏AI系统，可能触犯计算机类犯罪。

　　七、特殊行业风险：法律行业使用AI特有问题

　　关键词：律师执业规范、AI幻觉风险、案卷保密义务、证据真实性、客户利益冲突、智能体权限管控、复核留档制度

　　1.保密义务：当事人隐私、案卷材料不得上传公域AI；

　　2.执业风险：AI生成法条、案例存在幻觉，未经人工核对提交文书，属于律师执业过错；

　　3.证据风险：AI生成内容不能直接作为证据；AI生成电子文件存在真实性、原始性的质证争议；

　　4.内部制度：律所使用AI，应当建立使用管理办法、复核制度、留档制度。

　　八、合同与商业风险

　　关键词：AI服务协议、提示词归属、输出内容许可、开源模型License、智能体权限授权、免责条款效力

　　1.商用AI平台用户协议，很多约定平台对AI输出享有广泛使用权；商用前需要审阅协议。

　　2.开源基座模型受开源许可证约束，二次微调、部署需要遵守许可条款。

　　3.企业部署AI智能体，要在合同中明确：数据隔离、不泄露商业秘密、输出不保证绝对正确、人工复核义务。

　　九、核心实务总结（律所落地）

　　1.AI是辅助工具，一切输出必须人工复核；涉及案卷、当事人隐私禁止输入公有大模型；

　　2.AI生成内容对外使用，要评估著作权、人格权风险，必要时标注AI辅助生成；

　　3.内部自建智能体，做好数据脱敏、权限管控、日志留档，制定AI使用管理制度；

　　4.发生侵权、损害，追责主体是下达指令的使用者，其次看服务商过错，AI不独立担责。