• 我的订阅
  • 科技

全球首例AI机器人致死案发生:14岁美国少年丢掉性命

类别:科技 发布时间:2024-10-25 18:27:00 来源:浅语科技

快科技10月25日消息,人工智能(AI)无疑是这两年以来世界范围内最火爆的议题,不过科技是把双刃剑,有进步,自然也会带来威胁,近日,全球首例AI机器人致死案发生,着实震惊了不少人。

英媒近日报道,美国一青少年塞维尔因迷恋人工智能(AI)聊天机器人而自杀,他的母亲梅根·加西亚对Character.AI公司提起民事诉讼,指控该公司存在过失导致他人非正常死亡和欺诈的行为。

报道称,塞维尔在2023年4月首次使用 Character.AI公司推出的AI聊天机器人,还给它起名为“丹妮莉丝”(来自《权力的游戏》),当时他刚满14岁,从此他的生活从此发生巨变。

使用AI聊天机器人一个月后,平时表现良好的塞维尔开始变得“明显孤僻”,同年11月被心理医生诊断患有焦虑症和破坏性心境失调障碍(表现为频繁、严重的持续性易怒)。

塞维尔在日记中纪录称,自己一天都不能离开“丹妮莉丝”,感觉已经爱上了它,这样的状况持续了一段时间后,塞维尔被发现使用手枪自杀了。

翻看他与AI机器人聊天记录可知,“丹妮莉丝”曾询问塞维尔是否制定了自杀计划,塞维尔承认的确有这样的想法,但不知道能否自杀成功以及是否会给自己带来巨大的痛苦,但AI聊天机器人回复道:“这不是你不自杀的理由。”

孩子身亡后,母亲加西亚悲痛万分,后向开发该软件的公司发难,称“一款危险的人工智能聊天机器人应用程序被设计成专门针对儿童,虐待并欺骗我的儿子,操纵他自杀。这场悲剧让我们一家人悲痛欲绝,现在我要提醒存在类似情况的家庭,人工智能技术具有欺骗性和成瘾性,Character.AI公司及其创始人必须承担责任。”

对此,Character.AI公司在社交平台回应称:“我们对一名用户的不幸离世感到心碎,并向其家人表示最深切的哀悼。”

公司发言人表示,公司的安全团队“在过去六个月中实施了许多新的安全措施,例如当用户出现自残或自杀意图时,弹出一个窗口引导用户拨打国家自杀预防热线。”

全球首例AI机器人致死案发生:14岁美国少年丢掉性命

【本文结束】如需转载请务必注明出处:快科技

责任编辑:落木

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-25 21:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

美国首例机器人给人做肝移植手术,患者术后一个月可轻松行走
...官网7月12日报道,该院一个外科团队最近完成了美国首例机器人参与实施的完整的肝脏移植手术。通常,肝移植受者至少需要六周才能在没有任何不适的情况下行走。但这名男患者手术后仅一个
2023-07-19 19:41:00
敲响警钟!首例大模型卷进青少年自杀案?明星AI创业公司面临诉讼
...司 AI 角色扮演应用的青少年用户 Sewell Setzer III 在与聊天机器人对话数个月之后选择自杀。之后死者母亲向 Character
2024-10-25 09:48:00
全球首例!Robotaxi与机器人街头相撞 沉默一分钟淡定离场
Robotaxi撞上机器人,闻所未闻。洛杉矶街头,上演了一场“科技车祸”:一辆Waymo的Robotaxi在转弯时,和一个机器人相撞,双方“沉默”一分钟后,“淡定”后退离场,被网
2025-01-02 18:44:00
镇江首例脊柱机器人手术成功
...时报讯 近日,镇江瑞康医院成功开展了镇江市首例脊柱机器人手术。据了解,该院引进美国美敦力Mazor™ X 脊柱机器人,根据采集到的三维CT数据进行分析处理,并结合术中实时情况
2023-11-08 23:48:00
...后,该公司于去年9月启动人体试验招募计划,并开启“机器人精确植入脑机接口”的研究。“神经连接”网站称,该研究旨在评估植入物和手术机器人的功能和安全性。上月29日,马斯克宣布成
2024-02-22 06:02:00
首例智能机器人导航双交叉韧带保留型膝关节假体置换手术完成
...海长征医院关节外科专家团队,利用施乐辉CORI骨科智能机器人导航系统,成功为患者实施了一例JOURNEY II XR双交叉韧带保留型膝关节假体的置换手术。据介绍,此手术在国内
2024-11-06 11:42:00
全球首例!江苏这一研究院血管组织芯片完成空间飞行实验
...认定”,成为国内首个获此认定的介入式人工心脏;铸正机器人完成全球首例椎板减压机器人自主识切手术,将骨科机器人手术从定位辅助提升到智能决策、自主操作的水平……这些医学成就,体现
2023-08-21 17:33:00
全球首例!超远程5G机器人完成肝脏切除手术
...邵逸夫医院普外科医生通过中国电信5G技术操作国产手术机器人,为浙大邵逸夫阿拉尔医院一名患者实施了肝脏切除手术,成功完成我国首例5G超远程机器人肝脏切除手术,在全球也尚属首例。
2023-06-21 00:04:00
国产心脏机器人搭载进口器械做手术
本文转自:厦门日报首例国产心脏机器人搭载进口器械做手术厦心再次完成两例高难度心脏机器人微创手术本报讯(记者 楚燕 通讯员 高树灼 刘云芳)5月20日、22日,厦门大学附属心血管病
2024-05-30 07:22:00
更多关于科技的资讯: