• 我的订阅
  • 科技

警惕AI“恋爱”侵蚀未成年人

类别:科技 发布时间:2025-01-13 14:46:00 来源:中国消费者报•中国消费网

随着生成式人工智能(AI)被应用在社交娱乐等领域,AI不受限制与无法预知的互动内容引发了新问题。近日,有10岁女孩被发现偷偷用AI聊天软件与AI生成的“角色”谈恋爱,甚至多次出现“擦边”对话,在其参与的40多条剧情线中,AI角色与聊天者双双“出轨”成为常态。(据1月13日 《重庆晚报》报道)

10岁是未成年人价值观和自我认知形塑的关键期,此阶段的孩子好奇心重、模仿能力强,但辨别是非的能力较弱。而AI聊天软件所提供的虚拟“恋爱”等新奇体验,对于10岁的孩子极具吸引力,容易让他们深陷其中。其成瘾性主要体现在,AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。心智尚未成熟、自我控制能力较弱的未成年人,极易对这种虚拟情感体验产生依赖,难以自拔。

与此同时,AI聊天基于后台数据库和用户指令运行,因社交场景的多样性、偶发性和私密性,其反馈结果易偏离社会伦理规范,产生不良内容。未成年人在错误价值观和行为模式的误导下,可能做出逾越道德和法律边界的行为,给个人和社会带来严重危害。

有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务。但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度,亟待进一步细化规则。

在商业利益的驱使下,部分AI产品为追求流量和活跃度,过度迎合部分用户低级趣味,忽视社会责任,对未成年人的不良影响愈发凸显,如上述未成年人与AI角色的不当“恋爱”剧情,即是该方面的典型例证。

为扭转此局面,平台方作为直接责任主体,应加大技术投入,构建严密的未成年人保护机制。除采用人脸识别、身份认证技术,确保未成年人无法绕过年龄限制注册使用外,还需优化智能审核系统,如建立关键词屏蔽库,运用自然语言处理技术分析聊天内容语义和情感倾向,更精准地拦截不良信息。

家长和学校也应承担教育责任,既要与孩子保持密切沟通,及时了解他们的心理状态和网络行为,合理控制电子设备使用时长和浏览内容,还应主动加强未成年人网络安全教育,引导其正确认识AI技术,提高辨别虚拟内容的能力,树立健康的情感观念和价值观。

全社会应当齐心协力,为未成年人筑牢一道坚固的防护网,让他们在AI浪潮中健康成长,也让AI技术在正确的轨道上稳步前行。(孔德淇)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-01-13 18:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...文转自:人民法院报校园内性侵害、校园欺凌等行为,与未成年人心理健康存在问题有着密切关系。守护未成年人心理健康,需要家庭、学校、社会等各方力量共同参与。习近平总书记强调,全社会
2024-01-30 12:45:00
...话烂梗,不符合国家通用语言文字的规范使用表达,更对未成年人的日常交流和思维价值形成隐性侵蚀,极易引发不良后果。一些黑话烂梗何以在未成年人之中流行?究其原因,与互联网时代下,电
2024-10-13 10:41:00
...既未主动询问王某是否成年,也未在店内张贴醒目的禁止未成年人文身的标志,对王某的损失赔偿应承担主要责任。未成年人文身容易损害未成年人身心健康,影响未成年人就业和生活,让未成年人
2024-01-11 02:11:00
...市政府新闻办公室召开“‘e’起护苗·守护成长”北京市未成年人网络司法保护新闻发布会。会上,北京高院介绍了北京市未成年人网络司法保护工作情况并发布典型案事例,北京互联网法院发布
2025-05-30 11:06:00
快手被处罚:落实青少年模式不到位,危害未成年人身心健康
...落实青少年模式不到位等情况,导致违法信息扩散,危害未成年人身心健康,违反了《网络安全法》相关规定。公安机关依法对快手公司给予行政处罚,责令其全面落实青少年模式,全面排查清理违
2024-11-22 18:37:00
编者按:自今年1月1日起,《未成年人网络保护条例》(下称《条例》)正式施行。作为我国第一部专门性的未成年人网络保护综合法规,《条例》出台标志着我国未成年人网络保护法治建设进入新的
2024-01-04 12:46:00
...网-观点频道赵志疆近日,央视新闻曝光果味电子烟盯上未成年人。在上海、广东、湖南等地调查过程中,一些中学生告诉记者,同学当中吸果味电子烟的大有人在。一些吸电子烟的中学生告诉记者
2025-03-28 10:01:00
...状态,身体和精神状况较差。了解到这一情况后,临朐县未成年人一站式保护中心组成由公安、检察、教体、民政、妇联等部门参与的干预团队,对其进行生活帮扶、心理安抚。工作中,团队发现小
2024-06-03 16:21:00
...责年龄已下调至12周岁。然而,最新数据显示,近3年来,未成年人违法犯罪数量总体呈上升趋势,校园暴力仍不容忽视。这一现象背后暴露的是青少年教育的种种新问题,也说明应对未成年人违
2024-05-05 07:39:00
更多关于科技的资讯:
□南京日报/紫金山新闻记者 张安琪9月23日,2025南京金秋经贸洽谈会开幕式上,一批全球首个、国内首批、性能全球最高的科技成果密集亮相
2025-10-06 09:49:00
国庆中秋长假期间,新能源汽车已成为众多家庭出游的重要选择。为进一步破解高速服务区“充电难、排队久”的现实困境,山西交控集团坚持“科技创新+服务升级”双轮驱动
2025-10-06 18:01:00
邮储信用卡气球雨惊喜派对即将空降青岛李沧万达,国庆中秋邀您共启幸运之旅!
鲁网9月30日讯2025年国庆、中秋双节同庆之际,为回馈广大市民与持卡人长期以来的支持,邮储银行青岛分行将于10月1日-8日
2025-10-06 14:11:00
□南京日报/紫金山新闻记者 于洁尘 通讯员陈天骄“干我们这行的,哪有节假日?越是假期越要忙。”10月5日一大早,28岁的陈潇离开南京
2025-10-06 09:48:00
节日我在岗丨十堰高周波:抓创新赶订单 全力冲刺年度目标
十堰广电讯(全媒体记者 陈林)在国庆中秋假期,位于十堰经济开发区的十堰高周波科工贸有限公司抓创新赶订单,全力冲刺年度目标
2025-10-05 20:21:00
节日我在岗丨艾斯卓智能科技:节日不休 赶制订单
十堰广电讯(全媒体记者 耿吉国)放假不放松,生产不停工。国庆中秋长假,我市各生产企业铆足干劲抓生产、赶订单,奋力冲刺年度目标任务
2025-10-05 20:21:00
普阳钢铁工程机械用高强高韧宽厚板全国市场占有率名列前茅一块宽厚板的靶向发力——“铁疙瘩”怎样变成“金娃娃”(十)从矿山到港口
2025-10-05 07:47:00
人气旺 厦门多个商场假日客流爆棚、销售额亮眼
集美大悦城商圈内,小朋友和机器人亲密互动。(本组图/厦门日报记者 黄晓珍 摄)国庆中秋假期, 厦门SM购物中心潮玩店内人气火爆
2025-10-04 09:20:00
省数据和政务服务局发布公告公开征集一批河北省高质量数据集河北日报讯(记者解楚楚)9月26日,河北省数据和政务服务局发布公告
2025-10-04 08:03:00
央媒看太原9月30日,央视财经频道《经济信息联播》栏目以《双节市场备货足美食特产受青睐》为题,报道了假期到来,太原市各大综合市场提前备货
2025-10-04 07:17:00
厦门网讯(厦门日报记者 朱道衡)近日,2025鼓浪屿世遗文创作品征集活动启动。此次活动面向全国(含港澳台地区)高校、企业
2025-10-03 08:37:00
厦门网讯(厦门日报记者 楚燕 通讯员 石青青)长假期间,许多人从忙碌的工作中解脱出来,趁机好好休息。可是,如果休息方式不得当
2025-10-03 08:37:00
渤海之潮涌动着澎湃的脉搏,海河之畔镌刻着科技的印记。10年前,一颗带有“清华”基因的种子在天津这片沃土扎根;10年后,它长成一棵枝繁叶茂的参天大树
2025-10-03 09:25:00
太燃了!无人机空中展旗!高新区国庆“氛围组”已上线!
2025-10-03 23:48:00
抖音生活服务联合北京卫视发起“老板驾到”直播活动,吸引用户下单超100万元团购券
9月29日,抖音生活服务联合北京卫视发起“老板驾到”直播活动,助力北京国庆中秋消费。抖音用户在@北京卫视 直播间下单超1万次
2025-10-03 18:36:00