- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
微软研究人员正在测试其他ai模型
6月21日消息，就在GPT-4因征服标准化测试而登上头条时，微软研究人员正在对其他AI模型进行一种非常另类的测试——一种旨在让模型捏造信息的测试。
为了治好这种被称为“AI幻觉”的症状，他们设定了一个会让大多数人头疼的文本检索任务，然后跟踪并改进模型响应，这也是微软在测定、检测和缓解AI幻觉方面的一个例子。
微软AI负责项目的首席产品官SarahBird表示，“微软希望其所有AI系统都是值得信赖且可以有效使用的”。
我们可以向这个领域投入许多专家和资源，因此我们认为自己可以帮助阐明“应该如何负责任地使用新型AI技术”的方法，并使其他人也能够做到这一点。
从技术角度来讲，AI幻觉是一种“缺乏事实依据”的内容，这意味着AI模型改变了它所给定的数据或添油加醋描述了原本不存在的信息。
当然，AI幻觉这种东西也不是所有时候都毫无用处，例如当用户希望AI帮自己写一个科幻故事，或给出一种非传统想法时，就属于是有益的；但在大多数需要AI的场景，诸如医学和教育等场景就显得多余了，因为准确性大于一切。
因此，微软也在努力根据其自有AI产品（例如Copilot）来试图攻克AI幻觉，研究一系列工具来帮助机器解决幻觉问题。
微软表示，其工程师花了数月时间，通过检索增强生成技术（一种无需重新训练模型即可向模型添加额外知识的技术）将必应搜索数据作为Copilot的依据，通过必应的答案、索引和排名数据帮助Copilot提供更准确、更相关的回复，同时提供引用信息，让用户可以自行查找和验证。
“该模型非常擅长推理信息，但我们不认为它应该成为答案的来源，”Bird说，“我们认为数据应该是答案的来源，因此我们解决这个问题的第一步是向模型提供最新、高质量且准确的数据。”
除此之外，微软还试图通过各种工具帮助客户做到这一点，例如AzureOpenAI服务中的“YourData”功能可帮助企业组织用自己的数据来训练生成式AI。
值得一提的是，微软还推出了一种实时工具，可以大规模检测应用中依据企业数据的可靠程度。微软表示，AzureAIStudio可以根据来源文档评估响应的可靠程度。
据介绍，微软还正在开发一种新的针对措施，可以实时屏蔽和纠正“毫无根据”的信息。当检测到事实依据错误时，该功能将根据数据自动进行重写。
微软AI负责项目的首席产品经理KenArcher表示，“处于生成式AI的前沿意味着我们有责任和机会让自己的产品更安全、更可靠，并让客户也能放心使用我们的工具”。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-06-22 12:45:03
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
