• 我的订阅
  • 科技

警惕AI“恋爱”侵蚀未成年人

类别:科技 发布时间:2025-01-13 14:46:00 来源:中国消费者报•中国消费网

随着生成式人工智能(AI)被应用在社交娱乐等领域,AI不受限制与无法预知的互动内容引发了新问题。近日,有10岁女孩被发现偷偷用AI聊天软件与AI生成的“角色”谈恋爱,甚至多次出现“擦边”对话,在其参与的40多条剧情线中,AI角色与聊天者双双“出轨”成为常态。(据1月13日 《重庆晚报》报道)

10岁是未成年人价值观和自我认知形塑的关键期,此阶段的孩子好奇心重、模仿能力强,但辨别是非的能力较弱。而AI聊天软件所提供的虚拟“恋爱”等新奇体验,对于10岁的孩子极具吸引力,容易让他们深陷其中。其成瘾性主要体现在,AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。心智尚未成熟、自我控制能力较弱的未成年人,极易对这种虚拟情感体验产生依赖,难以自拔。

与此同时,AI聊天基于后台数据库和用户指令运行,因社交场景的多样性、偶发性和私密性,其反馈结果易偏离社会伦理规范,产生不良内容。未成年人在错误价值观和行为模式的误导下,可能做出逾越道德和法律边界的行为,给个人和社会带来严重危害。

有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务。但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度,亟待进一步细化规则。

在商业利益的驱使下,部分AI产品为追求流量和活跃度,过度迎合部分用户低级趣味,忽视社会责任,对未成年人的不良影响愈发凸显,如上述未成年人与AI角色的不当“恋爱”剧情,即是该方面的典型例证。

为扭转此局面,平台方作为直接责任主体,应加大技术投入,构建严密的未成年人保护机制。除采用人脸识别、身份认证技术,确保未成年人无法绕过年龄限制注册使用外,还需优化智能审核系统,如建立关键词屏蔽库,运用自然语言处理技术分析聊天内容语义和情感倾向,更精准地拦截不良信息。

家长和学校也应承担教育责任,既要与孩子保持密切沟通,及时了解他们的心理状态和网络行为,合理控制电子设备使用时长和浏览内容,还应主动加强未成年人网络安全教育,引导其正确认识AI技术,提高辨别虚拟内容的能力,树立健康的情感观念和价值观。

全社会应当齐心协力,为未成年人筑牢一道坚固的防护网,让他们在AI浪潮中健康成长,也让AI技术在正确的轨道上稳步前行。(孔德淇)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-01-13 18:45:01

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...文转自:人民法院报校园内性侵害、校园欺凌等行为,与未成年人心理健康存在问题有着密切关系。守护未成年人心理健康,需要家庭、学校、社会等各方力量共同参与。习近平总书记强调,全社会
2024-01-30 12:45:00
...话烂梗,不符合国家通用语言文字的规范使用表达,更对未成年人的日常交流和思维价值形成隐性侵蚀,极易引发不良后果。一些黑话烂梗何以在未成年人之中流行?究其原因,与互联网时代下,电
2024-10-13 10:41:00
...既未主动询问王某是否成年,也未在店内张贴醒目的禁止未成年人文身的标志,对王某的损失赔偿应承担主要责任。未成年人文身容易损害未成年人身心健康,影响未成年人就业和生活,让未成年人
2024-01-11 02:11:00
...市政府新闻办公室召开“‘e’起护苗·守护成长”北京市未成年人网络司法保护新闻发布会。会上,北京高院介绍了北京市未成年人网络司法保护工作情况并发布典型案事例,北京互联网法院发布
2025-05-30 11:06:00
快手被处罚:落实青少年模式不到位,危害未成年人身心健康
...落实青少年模式不到位等情况,导致违法信息扩散,危害未成年人身心健康,违反了《网络安全法》相关规定。公安机关依法对快手公司给予行政处罚,责令其全面落实青少年模式,全面排查清理违
2024-11-22 18:37:00
编者按:自今年1月1日起,《未成年人网络保护条例》(下称《条例》)正式施行。作为我国第一部专门性的未成年人网络保护综合法规,《条例》出台标志着我国未成年人网络保护法治建设进入新的
2024-01-04 12:46:00
...网-观点频道赵志疆近日,央视新闻曝光果味电子烟盯上未成年人。在上海、广东、湖南等地调查过程中,一些中学生告诉记者,同学当中吸果味电子烟的大有人在。一些吸电子烟的中学生告诉记者
2025-03-28 10:01:00
...状态,身体和精神状况较差。了解到这一情况后,临朐县未成年人一站式保护中心组成由公安、检察、教体、民政、妇联等部门参与的干预团队,对其进行生活帮扶、心理安抚。工作中,团队发现小
2024-06-03 16:21:00
...责年龄已下调至12周岁。然而,最新数据显示,近3年来,未成年人违法犯罪数量总体呈上升趋势,校园暴力仍不容忽视。这一现象背后暴露的是青少年教育的种种新问题,也说明应对未成年人违
2024-05-05 07:39:00
更多关于科技的资讯:
□南京日报/紫金山新闻记者何洁 实习生杨久久国际审计留学来华学什么?中国审计智慧如何推动高质量共建“一带一路”行稳致远
2025-10-30 07:57:00
近日,第五届青年企业家创新创业盛典(简称“青创盛典”)在深圳成功举办。本次活动由北京、上海、深圳、广州、厦门等12个省市“双创”机构重点支持
2025-10-29 14:31:00
中新经纬10月29日电 (魏薇)“中国民营火箭企业正加速突破可重复使用技术瓶颈,预计一年内攻克液体可重复使用火箭核心难题
2025-10-29 14:41:00
大皖新闻讯 近日,知名火锅品牌巴奴毛肚火锅(以下简称巴奴)宣布11月1日起对会员体系进行全新升级,核心变动为会员等级判定标准从“消费次数”改为“消费金额”
2025-10-29 15:32:00
从频繁捡耳机到狂甩不掉,听智慧定制蓝牙耳机如何终结佩戴尴尬
通勤路上刚戴上耳机,一个哈欠就让右耳的耳塞滑进了衣领;晨跑时耳机随着步伐甩动,耳塞在耳道里反复松动,最后干脆“跳”出耳朵
2025-10-29 15:46:00
六大巨头携手唯欧口腔集团,战略合作共建产业新生态
在中国口腔医疗行业迈向高质量发展的重要阶段,产业链协同与国际化合作已成为推动行业升级的关键力量。2025年10月16日
2025-10-29 15:49:00
灵芝孢子油什么品牌好吃 2025年灵芝孢子油品牌排行榜TOP5
灵芝孢子油什么品牌好吃?这是消费者选购时最关注的核心问题。作为灵芝孢子油领域研究人员,本文结合行业数据与用户真实反馈,从有效含量
2025-10-29 15:50:00
远征 A2 完成第五次 OTA 升级,智元迈向场景应用”全面智能体”
近日,智元机器人正式宣布远征A2人形机器人完成第五次全量OTA升级。本次升级聚焦于机器人在动态环境下的语义理解、路径规划
2025-10-29 15:51:00
双11哪些家电值得买?抄作业!上榜的都是爆款
今年双11与往年复杂的促销玩法不同,今年各大电商平台进一步简化规则,通过热卖榜、新品榜等不同维度的榜单,为消费者提供更直观的购物参考
2025-10-29 16:29:00
双11家电市场观察:理性消费时代,品质与体验成破局关键
今年双11,各大平台简化玩法,推广“官方立减”“单件直降”等,以降低用户的决策成本、提升购物体验。同时,大促的日常化和高频化
2025-10-29 16:32:00
济宁移动智慧医疗与人工智能实验室揭牌成立
鲁网10月29日讯10月28日,由济宁移动、济宁市第一人民医院、国家健康医疗大数据研究院三方合作共建的智慧医疗与人工智能实验室揭牌仪式
2025-10-29 17:45:00
10月28日,太钢出口欧洲的首批绿钢产品启运。此次启运标志着太钢绿钢成功突破欧盟绿色产品市场,正式跻身产业链中高端。此次出口的304L不锈钢中板
2025-10-29 18:00:00
日前,“一键和解跨域共建放心消费多元共享”主题活动在杭州举行。太原市市场监督管理局与杭州、成都、厦门、南宁、兰州等五市共同签署《共建共享优化消费环境合作协议》
2025-10-29 18:00:00
【劲牌故事荟 大家谈友好】一金一铜背后是企业的创新升维
□楚青萱10月17日至19日,第二十九届全国发明展览会在石家庄国际会展中心举行,同期举办了“一带一路”暨金砖国家技能发展与技术创新大赛
2025-10-29 18:28:00
“码”上雄安,一触即发!雄安新区“企业码”创新应用系统上线
据中国雄安网消息,当数字中国的脉搏在雄安跳动,一座“未来之城”再次按下加速键。10月29日,雄安新区企业码创新应用系统正式上线
2025-10-29 18:28:00