我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
中新网北京3月3日电(记者 谢艺观)“AI‘幻觉’有利于文学创作,但在AI安全方面,‘幻觉’确实会带来严重问题。”
全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。
AI“幻觉”,是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符,或偏离用户指令的现象。
“企业内部应用大模型时,如果该企业属于医疗、法律、金融、证券等领域,或者用于生产制造等不容出错的地方,大模型一旦胡乱编造信息,就会带来严重后果。”周鸿祎举例。

如何防止AI出现“幻觉”?周鸿祎认为,企业应用相关技术时,要连接企业专有的知识库,去进行校正。“幻觉”问题,部分是能通过知识库解决的。
但他也指出,当大模型连接知识库,就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全,还有基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)【编辑:刘阳禾】
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2025-03-04 05:45:01
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: