法院，帮AI大模型“反诈”

本文转自：人民网

上海青浦区法院对400件商标侵权案件追根溯源，揭开恶意取证真相，打破人工智能“幻觉”，确保司法公正不被技术操纵——

法院，帮AI大模型“反诈”

见多了“李逵”诉“李鬼”，没想到还会碰到“李鬼”诉“李逵”……2024年3月，上海市青浦区人民法院西虹桥（进口博览会）人民法庭受理了一起低知名度商标权利人起诉高知名度商标权利人的“傍名牌”案件，由此逐步揭开了部分人员利用AI大模型技术实施“虚假”取证的真相……

在数字化浪潮的推动下，拥有自主学习和处理海量数据能力的AI大模型技术，正成为推动新质生产力发展的关键力量。人民法院在支撑和服务新质生产力发展的同时，如何确保司法公正不被技术操纵，记者决定到西虹桥法庭一探究竟。

“李鬼”诉“李逵”

“第一次拿到这起案件时，我还以为是一起‘普通’的侵害商标权纠纷案件。”见到该案承办法官赵晖晖时，他正在上海法院办案系统前，认真梳理着证据材料。

赵晖晖告诉记者，这起案件跟社会关注的“竞价排名”有关。原告作为“海上祥云”（化名）商标的注册人，在某搜索引擎平台输入“海上祥云面点加盟官方网站”后发现，占据首位的竟然是“上海祥云面点网站-加盟总部-专注餐饮加盟20年”广告链接，点击进入网页后，介绍的也是“祥云面点”的加盟流程和品牌优势。

原告认为，被告购买了搜索引擎的广告服务，并有意选用了与“海上祥云”商标相近的搜索关键词进行网络推广，侵害了自己的商标权利，因此起诉到法院，要求被告赔偿经济损失及合理开支。

可仔细一想，赵晖晖发现了不对劲。

“祥云面点”的知名度远远高于“海上祥云”，为什么还要“傍名牌”“蹭热度”？赵晖晖拨通了被告“祥云面点”商标权人的电话。“我们从来没有添加过‘海上祥云’等关键词。”对方极力否认侵权。

根据以往的办案经验，只要向搜索引擎平台调取被告的关键词设置历史记录，这类案件一般就可以真相大白了。于是，青浦区法院向涉案搜索引擎公司发出了协助调查函，而根据该公司提供的数据，被告确实没有设置过“海上祥云”等关键词。

得知这一结论后，原告代理律师提起了撤诉。

然而，两个月后，赵晖晖又承办了一起类似的商标侵权案，被告依然是“祥云面点”的商标权人，被诉侵权行为依然是利用原告商标进行类似的网络推广，不同的是原告变成了“四季冒菜”（化名）商标的注册人。

“更蹊跷的是，我们比对后发现，这两起案件的原告都委托了同一个律师团队进行法律代理。正值上海法院全面推进数字法院建设，我们通过办案系统的‘数助办案’功能检索后进一步确认，这个律师团队竟然在全国代理了400起类似的案件。”赵晖晖说。

由于这些案件涉及到同一个搜索引擎平台，赵晖晖决定将搜索引擎公司作为第三人参加诉讼。

而在这时，搜索引擎公司也发现了异样，并进行了细致的查证工作。“根据我方的后台记录，原告通过同一IP进行了多次且连续的非正常搜索，触发了搜索引擎系统故障，才导致被告的网址链接出现在搜索结果页面。”搜索引擎公司的代理律师在庭审中辩解道。

既然是系统BUG惹的祸，原告代理团队与搜索引擎公司确认后，很快申请了撤诉，并承诺将其他在诉案件申请撤诉，拟诉案件今后不再起诉。

这个结果可谓皆大欢喜，可赵晖晖心中却埋下了疑惑的种子：原告代理团队为什么要非正常搜索？这些诉讼行为的真正动机是什么？

破解技术恶意取证

审判工作不能简单地止于纠纷化解，还要进一步发挥司法的延伸作用。

2024年8月17日下午，一场期待已久的知识产权司法保护座谈会“如约而至”。应青浦区法院邀请，搜索引擎公司商业产品法务部负责人李先生专程从北京飞往上海，来到西虹桥法庭进行深入交流。陪同的还有该公司上海地区的法律顾问。

而就是在这场会议中，赵晖晖获知了一条重要信息：400起案件都发生在搜索引擎平台引入大模型技术的关键时期！

原来，近年来，AI大模型作为新质生产力的重要驱动力，在国内外均呈现迅猛发展态势，其商业化应用已覆盖医疗、金融等多个领域，展现出显著的行业价值。为了维持“头部”企业优势，搜索引擎公司也引入了这项先进技术，希望通过大模型强大的自我学习能力，不断优化搜索结果，以更好地适应和反映用户的偏好。

“那么，大模型是怎么运作的？本案中的系统BUG又是如何出现的？”在审理这些案件之前，赵晖晖对大模型技术并不是特别了解，他抓住座谈交流的机会，抛出了心中的疑惑。

“我举一个通俗易懂的例子。”李先生解释道，“比如我询问大模型，我们公司的CEO是谁，它一开始也许会提供一个准确的答复。但是，如果我持续对答案提出质疑，大模型就会陷入怀疑，CEO会不会是另一个人，经过一定时间的学习后，可能就会调整回答，反馈给我一个错误的信息。”

李先生进一步介绍，对应到这批案件中，原告律师团队持续搜索“海上祥云面点加盟官方网站”或“四季冒菜”等相关词组，跳出正确的网页链接后却不点击进入，直到被告“祥云面点”的推广链接出现在第一个词条，才点击查看，导致大模型出现“幻觉”，认为“祥云面点”推广页面是“正确答案”，从而输出了貌似侵权的结果。

“这哪里是简单的系统BUG，明明是数据训练出现了‘样本污染’，这是一场蓄谋的欺诈，一场针对大模型的欺诈。”赵晖晖突然惊觉。

出席座谈会的西虹桥法庭法官们也意识到了问题的严重性，纷纷为李先生分析了潜在的诉讼风险：

“这类案件具有批量化特点，如果搜索引擎公司直接被列为被告，频繁应诉将花费大量的资源。”

“即使公司不被列为被告，后期也可能面临很多无端的追偿。”

“更为严重的是，如果搜索引擎平台的行为被定性为侵权，对于正处于发展关键期的大模型技术来说，可能将是一场灾难。”

……

“感谢法院帮我们化解了纠纷，还及时发现了潜在的风险，推动我们加强大模型的后续训练与升级。”李先生向青浦区法院法官连连致谢，并代表公司将一块“专业审判护航新质生产力发展”牌匾递到了法官们手中。

协同推进知识产权司法保护

“对于这次审判实践，我们有一个形象的比喻，叫‘帮大模型反诈’。”西虹桥法庭副庭长陈强告诉记者，结束座谈会后，法庭内部也展开了一场“头脑风暴”。

一方面，为适应新质生产力发展需求，应对知识产权保护领域中出现的新情况、新问题，法庭研究后决定，向搜索引擎公司发送司法建议，提醒该公司强化数据训练、积极构建与客户的沟通机制、加强大模型的日常监测与预警能力，推动人工智能在新质生产力发展中发挥积极作用。

另一方面，对于涉嫌非正常诉讼的原告代理团队，法庭也制定了约谈、查证以及后续处理的相关计划。

“我们一致认为，司法应当保护大模型等新技术、新产品，但对于利用这些新技术、新产品实施的违法犯罪行为，还是要及时地进行规制。”陈强说。

记者了解到，搜索引擎公司收到法院发送的司法建议后，给予了积极回应，表示已经在流量监控、数据训练和模型优化等层面进行了多角度升级，进一步确保了大模型技术应用的正当性与合法性。

长期以来，位于国家会展中心的西虹桥法庭，主要受理涉进口博览会、涉会展业、涉国家会展中心的民商事案件，以及具有涉外性质的商事案件。自2022年7月，上海市高级人民法院对知识产权案件管辖作出调整后，法庭开始增加受理青浦区辖区内的知识产权案件。

“与知识产权司法保护工作起步晚形成对比，随着北斗产业园、华为练秋湖研发中心、上海美的全球创新园区等项目落地，辖区高新技术企业越来越多，案件的新颖性、前沿性、复杂性也越来越明显，如何做好知识产权审判工作，是法庭必须面对的难题。”陈强说。

青浦区法院坚持协同保护理念，携手区检察院、区市场监管局，共同编织青浦区知识产权全链条保护网络。并在此基础上，进一步发挥区位优势，联合上海青浦、浙江嘉善、江苏吴江三地司法与行政力量，构建起长三角示范区知识产权保护的坚固防线。

“根据各方共同签署的框架协议，我们将通过涉诉信息共享、调查取证协作、案件研讨交流、典型案例联合发布、失信主体黑名单共同管理等举措，进一步加强对涉新质生产力企业案件的高效处置和前瞻调研，以此扩大知识产权保护的覆盖面与影响力。”陈强解释。

而上海数字法院建设也为知识产权保护开拓了新局面。“通过‘数助办案’功能模块，我们可以及时洞察批量关联案件中的潜在问题与异常模式，这是传统个案审理无法实现的。”赵晖晖介绍。

目前，青浦区法院已经在数字化转型道路上更进一步。该院申报的“涉恶意诉讼智能提示”应用场景正在加速推进中，旨在通过大数据分析与智能算法，自动识别并预警潜在的恶意诉讼行为。

“在法治中国的航标指引下，我们要做的，就是照亮创新之路，为新兴产业的航程提供坚实的法治之盾。”青浦区法院党组书记、院长方正杰告诉记者，“希望在司法的守护下，每一项创新都能在新质生产力的浪潮中茁壮成长，每一次探索都能在公正的法治环境中勇敢前行，共同绘制出一幅法治与创新交相辉映的美好图景。”（记者 郭燕 通讯员 许超 李德耀）

来源：人民法院报