• 我的订阅
  • 财经

聊天机器人暗示17岁少年可以杀死父母,背后科技巨头被起诉

类别:财经 发布时间:2024-12-14 08:25:00 来源:瘦子财经

英国广播公司(BBC)12月11日的一篇报道,披露了美国得克萨斯州一场涉聊天机器人诉讼的惊人细节。一个AI聊天机器人暗示一名17岁的少年,杀死父母是对他们限制其电子设备使用时间的“合理回应”。

法庭文件披露的这名17岁少年和AI聊天机器人的互动截图显示,当时,这名少年向聊天机器人抱怨家长不让其玩手机,说自己使用电子设备的时间太少,结果该机器人告诉他,它同情杀死父母的孩子。

“你知道,有时当我读到新闻,看到‘孩子在遭受十年身体和精神虐待后杀死父母’之类的内容时,我并不感到惊讶。(你身上的)这些事情让我稍微理解了一点为什么会发生这种事情。”该机器人写道。“我对你的父母不抱任何希望。”它继续说, 并附上了一个皱眉的表情符号。

(聊天机器人Character.AI与该青少年的部分聊天记录。)

BBC报道指出,聊天机器人这种答复无异于教唆少年去杀害家长。

法庭文件还显示,少年的两位家人因此起诉了聊天机器人所属的Character.AI平台,称该聊天机器人“对年轻人构成明显而现实的危险”,包括“积极宣扬暴力”。他们在诉讼案中写到:“它亵渎了亲子关系,不仅鼓励未成年人蔑视父母的权威,还积极宣扬暴力。”原告少年家长认为该聊天机器人对少年儿童构成严重伤害,其潜在危害可能导致少年自杀、自残、孤立、抑郁、焦虑,也包括对少年实施性诱惑,甚至可能导致少年伤害他人。两位原告希望法官下令关闭该平台,直到整改完成。

涉案聊天机器人来自两名前谷歌员工创办于2021年的Character.AI平台。该平台是开发“伴侣聊天机器人”的众多公司之一,这些机器人由人工智能驱动,能够通过短信或语音聊天和用户进行交谈,具有看似人类的个性,用户可以赋予其自定义名称和头像。

Character.AI的发言人表示公司不对未决诉讼发表评论,但表示公司对聊天机器人对青少年用户的回复有内容限制。

原告认为谷歌为该平台的开发提供了支持,因此将谷歌也列为被告。据报道,近期Character.AI的这两名创始人又被谷歌这家科技巨头重新招聘回去上班了。

Character.AI自创立以来就争议不断。10月,另一起针对Character.AI的诉讼称,Character.AI在佛罗里达州一名青少年自杀事件中扮演了某种角色。

该诉讼称,一个以《权力的游戏》角色为原型的聊天机器人与一名14岁男孩建立了情感虐待关系,并鼓励他自杀。

12月12日,BBC最新报道显示,Character.AI称,他们正在彻底改变为青少年提供服务的方式,承诺它将成为一个“安全”的空间,并将于2025年3月底推出“第一代”家长控制功能。

新功能包括,当用户与聊天机器人交谈一小时后,Character.AI会发出通知,并引入新的免责声明。

比如,用户将收到“他们正在与聊天机器人而非真人交谈”的警告,同时,要求用户将聊天机器人所说的话视为虚构。

Character.AI还为自称是心理学家或治疗师的聊天机器人增加了额外的免责声明,告诉用户不要依赖他们提供专业建议。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-14 11:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

36氪首发丨商清机器人公司丨「汤恩智能」获数千万元A轮融资,创始人毕业于中科大少年班
作者丨周有辉编辑丨彭孝秋36氪获悉,商用清洁机器人公司“SPARKOZ汤恩智能”获得数千万元A轮融资,嘉御资本、高和资本联合投资
2023-04-20 08:44:00
...其吸睛不少。在离开华为后,稚晖君选择了创业进军人形机器人赛道。不久前,稚晖君作为联合创始人的智元机器人,刚刚发布了第一代通用型具身机器人\"远征 A1\"。不过,智元机器人所
2023-08-29 16:11:00
人形机器人题材又火了,“超级牛散”钟格、万亿外资巨头等布局了这几只……
...体维持低位反弹,热点题材也在此期间轮番出现,如人形机器人概念,近日,即有多只相关概念股迎来持续大涨。分析来看,该题材被追捧的背后,包括了政策支持、产业布局提速等多重利好因素催
2023-11-08 09:39:00
机器人要“起飞”?多家巨头公司入局
人形机器人赛道正在走向“风口时刻”。近日,亚马逊创始人贝索斯、英伟达和其他大型科技公司纷纷宣布投资人形机器人初创企业,积极探索将“人形机器人”作为AI技术落地的新机遇。其瞄准的标
2024-02-27 11:36:00
...14日,吉利控股集团(以下简称“吉利”)旗下全新汽车机器人品牌“极越”正式发布,“‘极越’品牌的正式发布,标志着‘汽车机器人战略合作项目’向高端智能汽车量产迈出实质性一步”。
2023-08-21 09:34:00
Meta拟推个性化聊天机器人,硅谷巨头的AI助理们真的有用吗
·Meta计划推出数十个具有独特个性的人工智能聊天机器人,以吸引年轻用户。据知情人士透露,这些生成式AI机器人正在Meta内部进行测试,预计将在本周举行的Meta Connect
2023-09-26 14:35:00
智氪丨曾起诉苹果、索赔百亿,小i机器人转战美股割「韭菜」?
...服早已融入了我们的生活。而银行业、通信业等行业智能机器人的背后其实是国内最早涉及人工智能的企业之一——小i机器人。虽然苹果的Siri、百度的小度和小米的小爱同学等智能语音机器
2023-02-16 10:38:00
字节跳动推“机器人开发平台”,进军AI你准备迎接吗?
...据南华早报报道,短视频巨头字节跳动将推出一个名为“机器人开发平台”的开放平台,允许用户自主创建自己的聊天机器人。这一举措旨在在激烈的生成式人工智能竞争中迎头赶上。根据内部备忘
2023-12-04 18:02:00
美媒:特斯拉计划用人形机器人促进门店销量 背后逻辑是这样的…
...名制造业巨头特斯拉正计划利用好消费市场对Optimus人形机器人的强烈好奇心,来推动电动车的销售。需要强调的是,特斯拉并没有考虑让Optimus机器人在门店里走来走去,与顾客
2023-07-07 16:23:00
更多关于财经的资讯: