当AI能与人类“共情”，会带来怎样的双面影响？

本文转自：劳动报

■劳动报记者 陈宁

很多人将是否具有知觉或情感，当成了AI发展的分水岭。日前，Open AI和谷歌发布的AI私人助理类产品，通过模拟人类的交流方式、理解能力以及情感互动，力图提供更加自然、流畅且个性化的服务体验。当AI发展展现出越来越强的“人性”特征，这无疑标志着人工智能技术的一次飞跃，同时也预示着人机交互新时代的到来。在此背景下，这一趋势带来的双面影响也引发了探讨。

观点一

人机交互体验迎来“质”的提升

日前，人工智能公司OpenAI在其春季发布会上，发布了重磅产品，也就是人工智能大模型ChatGPT-4的升级版GPT-4o。会后，OpenAI创始人、CEO萨姆·奥尔特曼在个人社交平台上发表了一个单词“她”作为回应。在2013年的美国电影《她》中，男主结识了一个可以不断适应环境的AI系统，并与其坠入爱河。这个AI系统所拥有的迷人声线、幽默风趣和善解人意，如今GPT-4o似乎都可以实现了。

在清华大学智能产业研究院首席研究员聂再清看来，这类多模态语音助手，在易用性方面迈出了一大步，让人窥见了未来通用语音助手的样貌。通用语音助手就是人类在数字世界里的代理或管家，可以帮人解决一切数字事务。未来随着模型吸纳的信息越来越多，语音助手会更加人性化、更加智能，做到真正的自然交互。

的确，AI的“通人性”使用户感觉像是在与一个真正理解自己需求的朋友交流，这种互动模式可以减少沟通障碍，让技术更加贴近人的日常生活。

一个具体的案例是亚马逊的Alexa，这个智能语音助手的发展展现了AI人性化如何显著增强人机交互体验。Alexa最初设计为一个基本的语音控制中心，用于播放音乐、设置闹钟、查询天气等简单任务。随着技术的进步，尤其是自然语言处理(NLP)和情感识别能力的提升，Alexa变得越来越能够理解和适应用户的个性化需求及情感状态，从而提供了更加人性化的交互体验。

Alexa能够理解更加复杂和自然的语言表达，不再局限于预设的命令词，还能够根据时间和环境上下文提供相关建议或服务。更“神奇”的是，通过分析用户的语调和用词，Alexa能够识别用户的情绪状态，并做出相应的反应。与此同时，Alexa能够通过声音识别不同的家庭成员，提供针对每个人的个性化服务，比如为儿童讲述睡前故事，为成人播报新闻简报。

这些功能的实现，让Alexa不仅仅是一个工具，而更像是家庭的一员，增强了用户与设备之间的情感联系，提升了整体的人机交互体验。通过这些案例可以看出，AI的人性化不仅限于技术层面的进步，更是关于如何让技术更好地服务于人的需求，增强生活的便捷性和情感的满足感。

观点二

个性化服务将赋能千行百业

Open AI最新发布的GPT-4o具有文本、语音、图像三种模态的理解，这意味着AI可以识别和表现情感。在发布会上，演示者要求GPT-4o调整说话时语气，在说话和唱歌之间快速切换，甚至用堪比莎士比亚戏剧的夸张声调来讲一个睡前故事，GPT-4o都能完成任务。在被人类打断时，其也能耐心等待、快速理解新指令。在听到让自己唱歌的要求时，GPT-4o甚至轻微叹了口气。

多位业内人士指出，AI识别人类情绪的能力，即情感识别技术，对于推动个性化服务和创新行业的发展具有重要意义。

阿里巴巴的“FashionAI”项目，利用AI技术分析顾客的面部表情和肢体语言，理解顾客对试穿衣物的喜好和不满意之处，从而提供个性化的时尚搭配建议。这种基于情绪识别的个性化服务不仅提高了购物体验的趣味性和效率，还帮助商家更精准地把握消费者需求，促进销售转化，同时也推动了零售行业的数字化转型和创新。

特斯拉正在研发能够识别驾驶员情绪状态的智能汽车。车辆通过摄像头和传感器捕捉驾驶员的表情、语气等信号，根据情绪调整车内环境，如调节音乐、照明或温度，甚至提出休息建议以防疲劳驾驶。此类技术不仅提升了行车安全，还极大地丰富了驾驶和乘坐体验，推动了智能出行领域的技术创新，使汽车从简单的交通工具转变为更加理解乘客需求的智能伙伴。

从这些案例不难发现，AI识别人类情绪的能力在促进个性化服务和创新行业发展方面展现出巨大潜力，通过深入理解用户需求，为各行业带来了更加人性化、高效且富有同理心的解决方案。

观点三

警惕技术失控带来的风险

近年来，在AI迅猛发展的同时，反思和提醒的声音一直存在。

著名物理学家斯蒂芬·霍金曾表示：“如果AI技术超出人类的智慧水平，就可能无法被我们所控制。这将带来人类生存的威胁。”AI教父Hinton也曾展示出同样的担忧，他曾多次拉响警报，“如果不采取行动，人类可能会对更高级的智能AI失去控制。”这些科学家的言论也反映了，AI技术，特别是其在情绪识别方面的进步，虽然带来了诸多积极影响，但确实也伴随着一系列潜在的风险与挑战，值得引起高度警惕。

科学家们的担忧不是没有道理，最近，来自麻省理工大学等机构的研究人员通过各种实例研究发现，AI在各类游戏中，通过佯装、歪曲偏好等方式欺骗人类，实现了目标。这是由于AI黑箱（指的是AI系统的内部工作方式对用户是不可见的。你可以输入数据并得到输出结果，但你无法检查系统的代码或产生输出结果的逻辑），人工智能模型可能在没有任何给定目标的情况下，以欺骗性的方式行事。研究人员表示，“从根本上说，目前不可能训练一个在所有可能的情况下，都不会欺骗的AI模型。”

研究人员表示，虽然人工智能系统在游戏中作弊似乎是无害的，但它可能会导致“欺骗性人工智能能力的突破”，并在未来演变成更高级的人工智能欺骗形式。换而言之，当AI能够与人类共情，用户的情绪数据可能存在被滥用的风险。

因此，随着AI越来越能够识别人类情绪，我们必须保持警惕，防止技术失控带来的风险。这要求行业在推动技术发展的同时，加强伦理指导、法律法规的制定与执行，以及全球合作，确保技术的健康发展，真正服务于人类的福祉。