AI技术高速发展面临哪些挑战与法律风险？

虚假信息与谣言传播、深度伪造与身份冒用、数据安全与隐私泄露……当AI技术的发展为人们提供更多生活便捷的同时，其也如同一柄双刃剑——从个体权益、企业安全延伸至社会信任与稳定。为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。

AI技术高速发展，面临哪些挑战与法律风险，又该如何防范？本期《法治周刊》，邀请华商报《法治周刊》专家库成员朱长江、韩朝泽律师，解读法律视角下的“AI”。

“AI滥用”威胁个体安全 专项行动第一阶段重点整治6类问题

如今，为期3个月的“清朗·整治AI技术滥用”专项行动正在开展。

中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

其中，第一阶段重点整治6类突出问题，包括违规AI产品，传授、售卖违规AI产品教程和商品，训练语料管理不严，安全管理措施薄弱，未落实内容标识要求，重点领域安全风险等。其中在违规AI产品方面，重点整治利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。

目前，第一阶段已累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

有业内人士表示，对于普通人来说，AI技术的滥用正严重威胁着个体安全，“AI换脸、声纹克隆技术可被用于伪造亲友或公众人物的视频、音频，实施精准诈骗。违规App利用AI生成他人虚假照片并传播，导致名誉损害甚至勒索，受害者维权成本极高……”对方表示，专项行动首先为广大市民敲响了警钟，技术低成本化使普通人随时可能成为受害者，生物信息的泄露可能会造成不可逆的伤害。

>>相关案例AI技术的滥用已侵犯到多个领域

如今，“AI技术滥用”已经带给我们太多警示。华商报大风新闻记者梳理相关典型案例了解到，在法律角度，AI技术的滥用已侵犯到涵盖人格权、著作权、个人信息等多领域。

人格权侵权 AI生成声音的法律边界

2024年，北京互联网法院审理了全国首例“AI生成声音人格权侵权案”。

原告殷某某是一名配音演员，其意外发现自己的声音被AI化后，在被告某智能科技公司运营的平台中对外出售。殷某某以被告行为侵害其声音权益为由，将某智能科技公司等五被告起诉至法院，主张被告的行为已经严重侵犯了原告的声音权益，被告某智能科技公司、被告某软件公司应立即停止侵权、赔礼道歉，五被告应当赔偿原告经济损失、精神损失。

五被告均否认侵权。某智能科技公司认为，其平台中的声音产品有合法来源，来自于被告某软件公司。软件公司称其使用的声音来源于被告某文化传媒公司。文化传媒公司认为其与原告有过合作，约定经原告录制形成的作品著作权归属其所有。被告平台运营商与涉案产品的经销商，也称自己不构成侵权。

法院经审理认为，自然人声音以声纹、音色、频率为区分，具有独特性、唯一性、稳定性特点，能够给他人形成或引起一般人产生与该自然人有关的思想或感情活动，可以对外展示个人的行为和身份。利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。

本案中，因某软件公司系仅使用原告个人声音开发涉案文本转语音产品，而且经当庭勘验，该AI声音与原告的音色、语调、发音风格等具有高度一致性，能够引起一般人产生与原告有关的思想或感情活动，能够将该声音联系到原告本人，进而识别出原告的主体身份。因此，原告声音权益及于案涉AI声音。某文化传媒公司对录音制品享有著作权等权利，但不包括授权他人对原告声音进行AI化使用的权利，在未经原告本人知情同意的情况下，其授权某软件公司AI化使用原告声音的行为无合法权利来源，因此，某文化传媒公司、某软件公司未经原告许可AI化使用了原告声音，构成对原告声音权益的侵犯，其侵权行为造成了原告声音权益受损的后果，应承担相应的法律责任。

最终，法院判决某智能科技公司、某软件公司向原告赔礼道歉，某文化传媒公司、某软件公司向原告赔偿损失共计25万元。一审宣判后，各方当事人均未提起上诉。

肖像权侵权 擅用他人肖像供用户“换脸”

近期，最高人民法院公布的典型案例中，“彭某某诉某软件运营公司肖像权纠纷案”同样引起广泛关注——某软件运营公司开发运营一款软件，用于供付费会员使用他人的照片进行面部替换（俗称“换脸”），进而生成面部为该他人的作品。该公司未经彭某某同意，自行在软件中上架彭某某的肖像供会员“换脸”并牟利。彭某某认为其肖像权受到侵害。彭某某诉至法院，请求判令某软件运营公司赔礼道歉、赔偿损失共计5万余元。

审理法院认为，自然人的肖像权受法律保护。未经自然人同意，他人不得制作、使用、公开自然人的肖像。自然人的肖像权受到侵害的，有权要求停止侵害、消除影响、赔礼道歉，并可以要求赔偿损失。某软件运营公司未经彭某某授权同意，以营利为目的使用含有彭某某肖像的照片、视频，侵害了彭某某的肖像权，应承担相应民事责任。最终判决：某软件运营公司向彭某某赔礼道歉并赔偿损失3千元。

著作权侵权 利用AI制图获利27万余元

近期，北京市通州区法院审理了一起利用人工智能生成模型侵犯著作权刑事案件。

2024年3月至7月间，姚某在罗某的指导下，指使AI画师利用AI制图工具，非法复制他人享有著作权的美术作品，为了规避侵权风险，姚某耍了个“小聪明”：要求AI画师对原图仅做细节上的细微修改，如调整局部颜色、线条或背景等，但刻意保留原作品最核心、最具独创性的关键表达元素。姚某和罗某二人错误地认为，只要图片不是100%复制，做了些许改动，就不算侵权，企图以此钻法律的“空子”。 生成这些“高度相似”的图片后，罗某组织其实际控制的某电子商务公司，利用这些经人工智能软件“微调”的图片，大量生产制作拼图产品，供姚某等人销售。短短数月内，姚某与李某、王某合伙经营电商店铺售出侵权拼图超过3000件，非法获利人民币27万余元。

2024年5月，插画师张某发现自己的原创作品被“改头换面”制成拼图销售，愤而报案。北京市公安局通州分局迅速立案侦查。2024年7月1日，警方将姚某、王某、李某抓获归案。同年7月3日，罗某主动投案自首。四名被告人到案后均如实供述，并主动退缴违法所得。公安机关依法扣押了涉案手机、电脑、拼图等物证，并冻结了姚某的相关银行账户。案发后，罗某赔偿被害人张某经济损失人民币15万元；四名被告人的亲属代为退缴违法所得共计人民币18万余元。

通州法院于2025年5月22日公开开庭审理某电子商务公司、罗某、姚某、李某、王某侵犯著作权一案，庭审过程中被告单位诉讼代表人、各被告人详细陈述案发经过，表示认罪认罚，并当庭向被害人道歉。

>>律师说法判断侵权的关键在于结果的“可识别性”

华商报《法治周刊》专家库成员、陕西丰瑞律师事务所高级合伙人朱长江表示，一方面，AI换脸、声音克隆技术可被用于伪造亲友或公众人物的音视频，实施精准诈骗或损害名誉；另一方面，公司未经许可将他人的肖像用于付费“换脸”功能牟利，会侵犯肖像权。人脸、声纹、指纹等生物特征信息具有唯一性、稳定性和难以更改性，AI技术（如深度伪造、声音克隆）使得这些信息被低成本、大规模地非法获取、复制和滥用成为可能。

“目前，判断侵权的关键在于结果的‘可识别性’。但对个体来说，此类侵权维权难度很高，首先，AI生成的虚假内容传播速度快、范围广，受害者可能很长时间后才知晓侵权事实。其次，技术痕迹可能被刻意抹除，侵权源头（如提供非法AI工具的小平台、个人）可能隐蔽或位于境外。最后，名誉损害、精神痛苦的量化赔偿标准复杂，潜在的经济损失（如代言机会丧失）难以精确计算。”朱长江说，因此，在AI时代，个人必须极度谨慎保护自身生物特征信息，提高对AI滥用风险的警惕；法律需持续完善对新型人格权侵害的认定标准和救济途径；执法机关需提升技术取证和打击能力；平台必须承担起源头治理责任。

依据司法实践，AI服务提供者需履行多重责任。在数据与内容管理上，必须确保训练数据来源合法（如含个人信息需获授权）。在风险防控上，需显著标识或提示AI生成内容以防公众混淆，同时，禁止开发违法功能。若服务使用者涉及刑事责任且服务提供者存在帮助实施诈骗或侵犯著作权的行为，服务提供者还可能构成犯罪或承担连带责任。

AI生成内容的著作权认定与侵权边界

朱长江分析，AI生成内容的著作权认定以“独创性智力投入”为核心标准，但需个案判断。

“如果内容完全由AI自主生成，没有体现人类作者独特的个性化选择、判断和创造性安排，则该内容难以被认定为《著作权法》意义上的‘作品’，不享有独立著作权。如果使用者通过精心设计提示词、设定参数、进行多次筛选和调整，体现了显著的智力投入和独创性表达，则该AI生成内容可能被视为使用者的创作成果，使用者可主张著作权。”朱长江说，判断AI生成内容是否侵权的核心原则不变，即“接触+实质性相似”。

利用AI工具复制、改编他人作品，其行为的法律性质与使用传统工具（如画笔、PS软件）进行侵权无异，侵权责任主体是利用AI工具进行具体操作的自然人或法人。目前，司法实践认为只要利用AI复制了原作品“最核心、最具独创性的关键表达元素”，即构成实质性相似，属于侵权，若进行商业性使用会加重责任，如果AI服务提供者明知或应知其工具被主要用于侵权（如专门用于“风格模仿”特定艺术家），且未采取合理措施（如版权过滤机制、用户协议警示、侵权投诉快速响应），可能承担帮助侵权的连带责任。

普通人使用AI 如何避免侵权甚至刑事风险？

华商报《法治周刊》专家库成员、北京大成（西安）律师事务所律师韩朝泽表示，AI技术的发展带来了无限可能，但对于市民来说，首先要提高自身的法律意识，要严守生物信息使用边界，禁止擅自克隆他人生物特征，未经授权不得使用AI技术复制他人人脸、声纹、指纹等，警惕“娱乐功能”陷阱，避免使用“一键脱衣”“换脸羞辱”等违背公序良俗的AI工具，此类行为可能涉嫌侮辱罪或传播淫秽物品罪。

“内容创作上不得侵犯他人著作权，若利用AI生成内容（如图片、文本），需确保不使用未授权版权作品，避免生成与受版权保护作品“高度相似”的内容；数据获取与使用合规，严禁非法购买、出售他人身份信息，依据《刑法》第253条可构成侵犯公民个人信息罪，最高处7年有期徒刑。”韩朝泽说，企业员工使用AI工具时，防止泄露商业秘密或客户数据，企业需建立内部合规审查机制。网络平台要严格查验备案与标识，优先选用已通过网信办备案的AI产品（专项行动第一阶段整治重点），并确认其具有生成内容标识（如水印、声明）。

韩朝泽建议，普通人使用AI应遵循“三重验证法则”，包括数据来源合法验证、输出内容版权验证、使用目的伦理验证。反之，当我们的权利受到侵害时，务必在侵权发生后24小时内完成证据固定，降低后期举证难度，提高维权成功率。 华商报大风新闻记者 于震

来源：华商网-华商报

编辑：宁姝媛