强大又无处不在的AI，会将我们带往何处？

编者按：人工智能通过插件可以迅速嵌入到各种应用程序中，甚至可以作为一种“元应用程序”，来支持其他应用程序的功能。大型语言模型与互联网相连接是未来的趋势，而这会让人工智能变得势不可挡。如何管理好 AI？留给我们思考这个问题的时间似乎不多了。本文来自编译，希望对您有所启发。

PHOTOGRAPH: DANIEL SAMBRAUS/GETTY IMAGES

ChatGPT 生成的诗歌、散文和学术考试成绩都让人惊叹。现在，这个聊天机器人可以帮你找到下一班航班，推荐一个不错的餐厅，还能帮你买个三明治。

此前，ChatGPT 背后的 OpenAI 公司宣布，包括 Expedia、OpenTable 和 Instacart 在内的一系列公司已经创建了插件，让聊天机器人访问他们的服务。一旦用户激活了这个插件，他们将能够要求 ChatGPT 执行那些通常需要使用网页或打开应用程序才能做的任务。

这一举动可能预示着人们使用电脑、应用程序和网络的方式将发生重大转变，聪明的人工智能程序将代替他们完成杂事。再次之前，ChatGPT 被切断了与实时互联网的连接，无法查询最新信息或与网站互动。改变这一点也可能有助于巩固 OpenAI 在人工智能和个人计算新时代的中心地位。

“我认为这是一个天才之举，”英伟达（Nvidia）研究自主代理的人工智能科学家范林西（音译，Linxi“Jim”Fan）说。范说 ChatGPT 阅读文档和解释代码的能力应该会使集成新插件的过程非常顺利。他认为，这可能有助于 OpenAI 与苹果和谷歌展开竞争，这两个公司一直以来都在利用其应用商店作为竞争的壁垒。“下一代 ChatGPT 将像一个元应用程序，一个使用其他应用程序发挥作用的应用程序。”范说。

但 ChatGPT 和 OpenAI 通过其人工智能获得越来越大的主导地位，这样的未来也让部分人感到忧虑。如果其他企业过于依赖 OpenAI 的技术，那么该公司可能会获得巨大的经济回报，并对科技行业产生巨大的影响。如果 ChatGPT 最终成为科技行业的基础层，那么 OpenAI 将必须承担起巨大的责任，以确保一项快速发展的技术被谨慎而负责地使用。

投资集团 Conviction VC 联合创始人莎拉·郭（Sarah Guo）在谈到“试图通过开发类似 ChatGPT 的技术来赚钱”的企业时表示：“在创业生态系统中，那些在 OpenAI 压路机面前捡小钱的公司会有一些压力。”郭表示，OpenAI 的最新举措“提高了该公司消费者业务的持久力和战略地位”。

OpenAI 凭借 ChatGPT 抓住了公众的想象力，它比以前的聊天机器人更有能力、更连贯、更有创造力，这也吸引了数十家初创公司在其 AI 基础上进行开发。微软（Microsoft）也向 OpenAI 投资了100亿美元，将 ChatGPT 添加到搜索引擎必应（Bing）中，并急于将其整合到其他产品中，包括 Office 套件。

ChatGPT 是建立在 OpenAI 几年前开始开发的一种名为 GPT 的算法之上的。GPT 根据从网页、书籍和其他来源收集的数万亿行文本的统计分析，预测出应该跟在“提示”后面的词。虽然 GPT 本质上只是一个自动补全程序，但最新版本的 GPT-4 具备一些出色的问答功能，包括它可以在许多学术测试中取得高分。

许多开源项目（如 LangChain 和 LLamaIndex）也在探索使用大型语言模型提供的功能来构建应用程序的方法。他说，OpenAI 插件的推出有可能使这些努力付之东流。

插件也可能引入困扰复杂人工智能模型的风险。据华盛顿大学语言学教授艾米丽·本德（Emily Bender）称，ChatGPT 自己的插件红队（red team）成员发现，他们可以“发送欺骗性或垃圾邮件，绕过安全限制，或滥用发送到插件的信息”。

非营利机构人工智能安全中心（Center for AI Safety）主任丹·亨德里克斯（Dan Hendrycks）认为，在谷歌、微软和 OpenAI 等公司积极游说在《人工智能法案》（AI Act）中减轻自身责任的同时，插件的应用会使大型语言模型更具风险。他称 ChatGPT 插件的发布是一个糟糕的先例，并怀疑这可能会导致其他大型语言模型的制造商采取类似的路线。

虽然目前的插件选择仍然有限，但竞争可能会推动 OpenAI 扩大选择范围。亨德里克斯认为，ChatGPT 插件与之前科技公司围绕对话式人工智能（如亚马逊的 Alexa 语音助手）的努力之间有着很大的不同。

例如，GPT-4 可以执行 Linux 命令，GPT-4 的红队发现，该模型可以解释如何制造生物武器，合成炸弹，或在暗网上购买勒索软件。亨德里克斯怀疑，在 ChatGPT 插件的支持下，鱼叉式网络钓鱼（spear phishing，指一种网络欺诈行为）或网络钓鱼邮件等任务会变得容易得多。亨德里克斯说：“这并不是说 ChatGPT 会自行制造炸弹或其他东西，但它会让做这类事情变得更容易。”

旧金山大学（University of San Francisco）应用数据伦理中心（Center for Applied Data Ethics）代理主任阿里·阿尔哈提布（Ali Alkhatib）表示，语言模型插件的部分问题在于，它们可能会让破解此类系统变得更容易。由于你使用自然语言与人工智能交互，因此可能存在数百万未被发现的漏洞。阿尔哈提布认为，在微软和 OpenAI 等公司最近声称在人工通用智能方面取得进展的背景下，插件的应用具有深远的影响。

他说：“事情发展得如此之快，这不仅会带来危险，实际上还会对很多人造成伤害。”他同时表示担心那些热衷于使用新人工智能系统的公司，可能会匆忙将插件应用到咨询服务等敏感环境中。

Generally Intelligent 是一家致力于开发人工智能代理的人工智能公司，该公司首席执行官邱康军（音译，Kanjun Qiu）表示，为 ChatGPT 等人工智能程序添加新功能也可能产生意想不到的后果。例如，一个聊天机器人可能会预定一个过于昂贵的航班，或者被用来发送垃圾邮件，邱说，我们必须搞清谁将对这种不当行为负责。

但邱还补充说，与互联网相连的人工智能程序具有很强的实用性，这意味着这项技术是不可阻挡的。“在接下来的几个月和几年里，我们可以预见到，互联网的大部分都将与大型语言模型连接起来，”邱说。