OpenAI遭FTC正式调查，AI监管风暴来了？

美国联邦贸易委员会（FTC）对人工智能聊天器ChatGPT背后的公司OpenAI正式发起调查。

根据美媒当地时间13日曝出的信件内容，FTC告知OpenAI，将调查ChatGPT是否通过发布虚假信息损害了人们的利益，以及OpenAI是否存在“不公平或欺骗性”的隐私和数据安全行为。

FTC在信中还要求OpenAI分享内部资料，包括该公司如何保留用户信息，以及该公司为应对其模型产生“虚假、误导或诋毁”言论的风险而采取的措施。

这并非毫无预警。5月，白宫与OpenAI、谷歌、微软等公司的首席执行官会面，探讨相关技术的风险。白宫还表示，七家最大的AI公司已经同意在8月份的年度DefCon极客大会上开放模型，接受一定程度的公众监督。

对于披露模型的问题，欧洲工商管理学院（INSAED）决策科学和技术管理教授埃夫根尼奥（TheosEvgeniou）对第一财经记者表示：“我认为，关于共享模型信息的讨论重点错了。评估一个模型是否值得信任，只应该看它安不安全，而不是去检测这个模型的结构本身，因为它可能很复杂。这可以通过研究模型的行为来实现。我认为，一个模型无须做太多信息披露，也能解决很多问题。”

FTC想监管什么

13日，FTC主席可汗（LinaKhan）在众议院司法委员会的听证会上拒绝对该调查发表评论，但她表示，监管机构的担忧包括ChatGPT和其他AI服务“被输入大量数据”，而这些AI公司“没有检查是什么类型的数据被输入了”。

她补充道：“我们听到了一些案例，在（AI聊天机器人）回应询问时，一些敏感信息被泄露。我们也听到了诽谤、诋毁性论述、完全不真实的事情出现。我们担心的就是这种欺诈和欺骗行为。”

有用户报告称，ChatGPT捏造了人名、日期和事实，还伪造了新闻网站链接和学术论文参考文献。这一问题在业内被称为“幻觉”（hallucinations）。

监管机构对ChatGPT背后的语言模型攫取的大量数据也表示担忧。OpenAI推出两个月后，月活跃用户已超过1亿。微软新推出的必应搜索引擎也采用了OpenAI技术，在1月份发布后两周内，就被169个国家及地区的100多万人使用。

在对OpenAI的民事传票中，FTC向该公司详细询问了其数据安全措施、营销工作、训练人工智能模型的做法以及对用户个人信息的处理。比如对直接影响消费者的人工审核员有何监督，以及消费者的过往投诉信息等。

OpenAI首席执行官阿尔特曼（SamAltman）13日晚些时候在推特上称，该公司会与FTC合作，同时相信该公司的技术是安全的、有利于消费者的。“我们保护用户隐私，我们设计这个系统是为了了解世界，而不是个人。”但他也承认：“我们对我们技术上的局限性十分坦诚，尤其是当我们有不足的时候。我们有限盈利的结构意味着我们没有动力获得无限回报。”

根据ChatGPT的解释，“有限盈利”的意思是，OpenAI将社会和道德使命放在了追求财务目标之上。

美国未来监管方向

今年以来，随着生成性AI应用的迅速崛起，相关AI产品已成为全球监管机构的关注焦点。

拜登政府已开始研究是否需要对ChatGPT等AI工具进行检查。美国商务部于4月正式公开征求意见，内容涉及所谓的问责措施。白宫科技政策办公室也在制定相关战略，以厘清AI带来的益处和弊端，后者包括黑客攻击能力增强、AI系统的歧视性决策以及AI生成的内容破坏选举的可能性等。

5月，FTC已向AI行业发出警告，称密切关注企业对AI技术的选择和使用，以及对消费者产生的实质性影响。

在参议院多数党领袖舒默（ChuckSchumer）的领导下，两党立法者也将AI监管作为本届国会的优先事项。但新的立法或措施可能至少需要几个月的时间才能出台。议员们同时也担心，相关立法可能会放缓美国的创新步伐。

对于美国监管AI的趋势，埃夫根尼奥对第一财经解释称：“商业是需要监管的。即使是科技高管也在号召监管。今年5月美国参议院对阿尔特曼的听证会上，他就是这样的立场。因为他们知道，如果没有监管，人们将不信任技术。”

但埃夫根尼奥认为，美国的监管不会太过着急或严苛。“美国喜欢的方式是：不要着急，看看它会怎样发展，先允许创新，等有问题时再去解决它。这是因为美国在决定行动时往往也非常迅速。我们已经看到金融危机后，美国改变事情的速度有多令人惊讶。这也符合美国愿意放手观察的做法。”他说。

FTC“多管闲事”？

FTC是美国联邦政府中负责消费者权益保护的企业监管机构，可以对所有可能损害消费者利益的不公平和欺骗性商业行为，以及不公平竞争行为进行监管。

但批评人士认为，在可汗任下，该机构有时太过放大其职权范围。

代表科技行业的游说组织进步商会（ChamberofProgress）创始人科瓦切维奇（AdamKovacevich）说：“当ChatGPT说错了关于某人的话，并可能对其声誉造成损害时，这属于FTC的管辖范围吗？我认为这一点都不清楚。”他认为，此类问题“更多属于言论范畴，超出了他们的权限”。

此外，在本周四的听证会上，可汗还被指责“骚扰”推特公司。推特在一份法庭文件中称，其受到FTC“繁琐且无理取闹的执法调查”。可汗对此回应称，该机构只对保护用户隐私感兴趣，“我们正在尽一切努力确保推特遵守命令”。

FTC遇到的烦心事不止这一桩。本周，FTC阻止微软收购动视暴雪的起诉也被美国联邦法院驳回。13日，FTC对这一裁决提起上诉。