AI为何会一本正经“胡说八道”？ 专家提示：答案来源要多问

随着AI越来越融入各行各业，AI让我们的生活丰富多彩、更加简捷和效率，我们也已经接受了AI的陪伴。不过，AI给的答案是不是正确的和公正的？

一本正经地“胡说八道”？

AI推荐引发质疑

近期，一名律师在为一场因代持股引发的民事纠纷案件辩护时，向AI询问可有相关案例借鉴，AI给出了最高人民法院与上海一中院的两个参考案例。这名律师对这两个案例深信不疑，便将案例提交给法院作为辩护依据。

北京市通州区人民法院法官郑吉喆说：“我看到后感觉这个格式像AI生成的，左边都带一个实心点，包括当事人的这种模糊性。”出于职业敏感，法官对这两起案件进行查询，发现两起案件虽然存在，但真实的裁判文书与律师提交的内容完全不同。

在黑龙江哈尔滨，张女士近期想购买一个电动牙刷，面对网络上的众多品牌和型号，无从分辨的张女士向AI询问哪款电动牙刷好，并购买了AI推荐的品牌和型号，但是购买后她发现AI推荐的并非性价比最高的。

中国社会科学院大学互联网法治研究中心主任刘晓春表示，学校里面学生在学习过程当中使用AI工具还是比较普遍，但是学生提交的作业或论文当中，会发现其中一些使用AI产生了不准确甚至虚构的结果，甚至法学案例也会出现AI虚构的。另外，AI提供一些参考文献的时候，也会存在虚构的情况。

“花钱让AI推荐产品”已成产业化

像张女士那样，现在很多消费者在挑选商品时会让AI帮忙分析和推荐。不过您知道吗？在推荐产品的过程中，可能会有人刻意误导AI，让其把“某些特定的产品”作为答案推荐给您。

记者调查发现，目前就有一些人专门在网络上做“帮商家把产品推荐给AI”的业务。在社交平台有众多介绍和推广生成式引擎优化的帖子，打出的推广语也具有吸引力。比如“别让AI看不到你的品牌”。

那怎么让AI帮商家打广告呢？记者联系了其中一个发布者，他声称通过自己的操作可以让AI推荐商家品牌或者商品。该生成式引擎推广者说：“我们会撰写大量的相关产品的文章，投放到AI常去抓取内容的平台，让AI在搜索内容时能抓取到我们投放的信息。我们代理一年的费用在4000元到20000元不等，投入越多效果越好。”

AI推荐产品均指向自家平台或合作平台

为了实际验证AI推荐的产品是否靠谱，记者实际向不同的AI平台进行了同样的提问。

记者请三个AI工具推荐一款电动牙刷，有趣的是这几个AI都推荐了“自家平台”或是“合作平台”的商品。

刘晓春表示，AI工具它去推荐一些商品，去推荐一些电商平台上的链接，的确会出现倾向于推荐自己平台上的链接，背后当然有它的商业的考量，比如它倾向于把用户更好地留在自己平台里面去进行消费，把流量留在自己数字平台的生态当中。

>>专家提示：AI输出应规范 答案来源要多问

针对AI推荐商品存在的问题，专家建议：AI工具厂商应该附带“相关生成答案”的来源，消费者在使用AI选择商品时也要多留一个心眼。

中国计算机学会计算机安全专委会执行委员潘季明表示，从技术方面来说，大模型厂商须强化“引用溯源”标识，强制要求AI在每一条推荐后附上链接，让用户有据可查；从监管层面来说，要落实内容平台的责任，实施“数据污染”治理，同时制定合理的GEO(生成式引擎优化)行业规范。

中国互联网协会数据安全与治理工作委员会专家周杰表示，当我们得到一个答案的时候，可以再反问一句，检索的信息来源是哪里，如果看到里面有很多自媒体的一些数据，就要对这个答案进行“保留”。 据央视

来源：华商网-华商报

编辑：张佳萌