• 我的订阅
  • 科技

谷歌人工智能聊天机器人正在使用bard

类别:科技 发布时间:2023-10-05 10:03:00 来源:浅语科技

自生成式人工智能热潮掀起以来,科技公司一直在努力地为这项技术开发杀手级应用程序。最开始是在线搜索,目前的情况是喜忧参半。现在轮到了人工智能助手。

上周,OpenAI、Meta和谷歌为他们的人工智能聊天机器人推出了新功能,允许它们联网并扮演某种私人助理。

据我的同事威尔·道格拉斯·海文(WillDouglasHeaven)报道,OpenAI为ChatGPT加入了新功能,其中包括与聊天机器人进行对话的能力,就像在打电话一样,它可以用逼真的合成声音即时回答你口头提题。OpenAI还透露,ChatGPT将能够搜索网络内容。

作为竞争对手,谷歌Bard聊天机器人已接入该公司的大部分生态系统,包括Gmail、Docs、YouTube和地图。其目标是,人们将能够使用聊天机器人询查询自己的信息,例如,让它搜索电子邮件或整理日常安排。

Bard还将能够立即从谷歌搜索中检索信息。类似地,Meta也宣布,它也将部署人工智能聊天机器人。用户将能够在WhatsApp、Messenger和Instagram上向人工智能聊天机器人和名人的人工智能虚拟化身提问,人工智能模型可以从必应搜索中在线检索信息。

谷歌人工智能聊天机器人正在使用bard

(来源:MITTR)

考虑到技术的局限性,这是一个冒险的行为。科技公司还没有解决人工智能语言模型的一些存在已久的问题,比如他们有编造东西或“产生幻觉”的倾向。

但我最担心的是,正如我今年早些时候所写的那样,它们可能带来安全和隐私灾难。科技公司正在将这项存在严重缺陷的技术交到数百万人的手里,并允许人工智能模型访问他们的电子邮件、日历和私人信息等敏感信息。在这个过程中,他们使我们都更容易遭遇大规模的诈骗、网络钓鱼和黑客攻击。

我之前已经介绍过人工智能语言模型的重大安全问题。现在,人工智能助手可以访问个人信息并同时搜索网络,他们特别容易受到一种称为间接提示注入的攻击。它非常容易实现,而且没有已知的修复方法。

正如我在四月份所写的,在一次间接提示注入攻击中,第三方可以通过添加旨在改变人工智能行为的隐藏文本来改变网站,攻击者可以使用社交媒体或电子邮件将用户引导到带有这些隐藏提示的网站。一旦发生这种情况,人工智能系统可能会被恶意操纵,允许攻击者尝试提取人们的信用卡信息。随着新一代人工智能模型接入社交媒体和电子邮件,黑客有了更多漏洞可钻。

我向OpenAI、谷歌和Meta提问,问他们做了什么来抵御提示注入攻击和幻觉问题。在发稿时,Meta和OpenAI没有回复。

关于人工智能的幻觉倾向,谷歌的一位发言人表示,该公司发布Bard是一项“实验”,它允许用户使用谷歌搜索来核实给出的答案。

这位发言人说:“如果用户发现了编造或不准确的东西,我们鼓励他们点击‘不喜欢’图标并提供反馈。这是Bard学习和改进的一种方式。”显然,这种方法让用户承担了发现错误的责任,然而人们往往过于信任计算机产生的回应。关于我提出的抵御提示注入的问题,谷歌表示目前还没有答案。

对于提示注入,谷歌表示这个问题还没有一个好的解决方案,仍然是一个活跃的研究领域。该发言人表示,该公司正在使用垃圾邮件过滤器等其他系统来识别和过滤可能的攻击,并正在进行对抗性测试和红队演练,以确定恶意行为者可能如何攻击基于语言模型的产品。

这位发言人说:“我们正在使用经过专门训练的模型,来帮助识别违反我们政策的已知恶意输入和不安全输出。”

我理解每次新产品发布都会有经过一段时间的磨合。但即使是人工智能语言模型产品的早期支持者,对这些产品也没有什么好印象,这很说明问题。《纽约时报》专栏作家凯文·罗斯(KevinRoose)发现,谷歌的助理善于总结电子邮件,但也会告诉他收件箱里不存在的电子邮件。

简而言之,科技公司不应该对所谓的人工智能工具的“必然性”如此自满。普通人不会喜欢那些经常犯错和失败的产品,尤其是其背后的技术总是以令人讨厌和不可预测的方式失效。距离我们看到黑客恶意使用这些新的人工智能助手只是时间问题。现在,我们都只能坐以待毙。

我不知道你是怎么想的,但我打算再等上一段时间,先不让这一代人工智能系统窥探我的电子邮件。

作者简介:梅丽莎·海基莱(MelissaHeikkilä)是《麻省理工科技评论》的资深记者,她着重报道人工智能及其如何改变我们的社会。此前,她曾在POLITICO撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作,并曾担任新闻主播。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-10-05 18:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

“邯郸智造”机器人畅销20余国
5月16日,在位于河北省邯郸市邯山区的邯郸人工智能教育基地,机器人正在打开瓶盖倒水。 李昊 摄大型仿生服务机器人、安防巡检机器人、智能伴宠机器人……在河北省邯郸市邯山区,智能机器
2024-05-17 09:24:00
人工智能需要先治理“人工”
人工智能在21世纪迎来了数字化、网络化、智能化的全面发展,尤其过去十年被认为是以深度学习为代表的AI的“黄金十年”。随着大数据的进步和处理能力的提升,机器学习的方法开始在各种领域
2023-12-09 22:02:00
据悉,网约车和送货服务巨头Uber正在研发一款人工智能聊天机器人,并计划将其融入UberApp中,以提升其服务质量。UberCEO达拉·科斯罗萨西表示,公司正在全力以赴开发这款人
2023-08-03 21:26:00
江西湖口:人工智能扎“根”校园
本文转自:人民网-江西频道学生正在参加青少年人工智能及机器人大赛。吴江摄人民网湖口5月10日电 近日,江西省九江市湖口县举行青少年人工智能及机器人大赛,全县共500多名学生参加比
2023-05-10 08:45:00
人工智能公司正在利用无数人在互联网上创作的内容,但没有征得他们的同意,也没有给予任何报酬。如今,越来越多的科技和媒体公司开始要求支付费用,希望从聊天机器人的热潮中分一杯羹。翻译内
2023-05-01 09:29:00
...而是充满了数据。伊斯凯普公司发明了第一台商用全自动人工智能按摩机器人,它比普通的商场按摩椅更先进,而且比你喜欢的按摩师干活更快。只要花60美元,任何下载伊斯凯普公司应用程序的
2024-04-01 16:49:00
【NASA正在开发人工智能界面 以让宇航员与航天飞船实现对话交互、地面控制中心与星球探索智能机器人交流】《科创板日报》26日讯,美国宇航局(NASA)工程师表示,他们正在开发Ch
2023-06-26 15:16:00
TikTok正在测试自己的AI聊天机器人 抖音啥时候安排?
【CNMO新闻】TikTok正在其应用程序中公开测试一款人工智能聊天伴侣,它不仅会改变你观看内容的方式,还会为那些病毒式传播的短视频增加知识方面的内容。社交APP对人工智能并不陌
2023-05-26 13:00:00
苹果被曝正悄悄开发大模型 创建聊天机器人“Apple GPT”
在发布会上只字不提人工智能的苹果公司,被曝出正在悄悄地开发人工智能工具,可能会挑战OpenAI、谷歌等公司的类似产品。彭博社当地时间7月19日援引知情人士的话报道,苹果已经建立了
2023-07-20 19:00:00
更多关于科技的资讯: