- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
浪漫杀手！与AI谈恋爱有风险
在7月底，OpenAI推出了ChatGPT高级语音模式，其功能让用户感到震惊。而在周四发布的一份安全审查报告中，该公司承认，这种拟人化的声音可能使一些用户产生情感上的依恋，从而影响到正常的人际关系。
据OpenAI此前介绍，高级语音模式能提供更自然的实时对话，听起来极其逼真，它允许用户随时打断，并能感知和响应用户的情绪。实时响应和可打断对话是目前语音助手公认的技术难点。
OpenAI在今年5月推出了新版本大模型GPT-4o，同时还展示出了语音模式。该公司原定于6月底开始逐步向用户开放语音模式，但最终决定推迟至7月发布。目前，仅向部分ChatGPT Plus用户开放。
在OpenAI发布高级语音模式时，它就被视为2013年电影《她》中与主人公谈恋爱的AI助理，但当AI承认“她”还与数百名其他用户有恋爱关系时，主人公陷入了崩溃。
在经典科幻片《银翼杀手2049》中，上演了几乎同样的场景，AI虚拟人成为了主角的女友，当主角看到虚拟女友以同样的形态被售卖时，令人羡慕的真挚爱情瞬间化为乌有。
现在，OpenAI显然担心上述虚构的故事成为现实，它观察到高级语音模式成为了用户表达情感的工具。“用户可能会与AI建立社交关系，减少他们对人类互动的需求，这可能有利于孤独的人，但可能会影响健康的人际关系。”
OpenAI指出，从一个听起来像人类的聊天机器人那里听到的信息，可能会导致用户过于信任这个工具，但AI有犯错的倾向，这也会造成问题。
安全审查报告还提到，科技公司正在竞相迅速向公众推出AI工具，他们说这些工具可能会颠覆人类生活、工作、社交和查找信息的方式。但在人们真正理解这些含义之前，他们就已经这么做了，但这往往会带来意想不到的后果。
伦理挑战
一些人已经开始与AI聊天机器人建立所谓的恋爱关系，这引起了情感专家的担忧。
亚利桑那州立大学研究技术和人类交流的教授Liesel Sharabi表示，科技公司在处理与技术相关的道德和责任问题上承担了巨大的责任，而且目前这一切都还处于试验阶段。她担心的是，人们可能会与那些可能长期存在不了、且不断演变的技术形成非常深厚的联系。
OpenAI认为，随着时间的推移，用户与ChatGPT语音模式的互动也可能影响社交中的正常行为。“我们的模型是尊重用户的，允许用户随时打断并‘接管麦克风’，这虽然对于AI来说是预期中的行为，但在人类互动中却是违反社交规范的，至少有些失礼。”
目前，OpenAI称致力于“安全地”构建AI助手，并计划继续研究和解决用户对其工具“情感依赖”的可能性。
OpenAI并不是唯一一家认识到AI助手模仿人类互动的风险的公司。今年4月，谷歌DeepMind发表了一篇长篇论文，讨论了更有能力的AI助手可能带来的伦理挑战。
责任编辑：振亭
文章内容举报
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-08-10 05:45:01
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
