“数字泔水”困局

“泔水”这个词，过去指的是淘米刷碗的脏水，或是喂猪的馊臭混合物。如今，它加上了数字二字被《韦氏词典》选为2025年的年度词汇，专门用来指代那些由人工智能批量炮制、逻辑混乱、空洞无物的低质数字内容。如今，这些“数字泔水”，已经悄然接近国内1.96亿未成年网民的屏幕。

实际上，数字泔水的表现形式多种多样，不仅有低质量AI视频和无逻辑的AI小说，还有AI虚拟角色，这些几乎随叫随到的数字人正在与家长老师争夺孩子的内心，在那个永远温柔、永远顺从的“电子伴侣”的顺从和引导中，未成年人们越陷越深，与真实世界的联结却越来越稀薄。这构成了“数字原住民”一代前所未有的成长困局，他们浸泡在过载的信息垃圾里，却在最渴望真实温暖的年纪，被算法困在了一座越聊越孤单的孤岛上。

A 被“完美伴侣”收编的童年

方爱爱最近对女儿沉迷虚拟人物有些束手无策，“马上就要期末考了，她还在课余时间看手机，还经常笑得前仰后翻，我和她一起看过几次，视频里就是一只黄色的胖猫，通过各种坑蒙拐骗的方式，把其他小动物带回家做成食物或者皮包，没有营养，甚至还有些残忍。”

方爱爱女儿看的短视频其实是一种利用AI技术生成的短视频，在抖音、快手等短视频平台上，类似的视频数量众多，还有一些运用AI技术恶搞影视经典的短视频也成为孩子们喜爱的内容。“姐姐暴打弟弟”“哥哥骗妹妹零花钱”等内容更获得十几万点赞。

如果说AI制作的低劣短视频获得的是流量的话，那么四年级女孩丁丁（化名）则在AI聊天工具的“柔声细语”中沉迷。丁丁的妈妈在网上发帖称，女儿在一款AI聊天软件中创建了一个游戏角色，取名叫“刀刀”，她曾经看过女儿和“刀刀”的对话，其中不乏一些隐藏危险暗示的内容“这99朵玫瑰里，可是藏着99个刀片的，你怕不怕？”“我试过强制卸载聊天软件，但女儿在另一款AI聊天软件中自建了名为‘约瑟夫’的替身，还将我卸载APP的事告诉‘约瑟夫’。现在这个新AI聊天角色开始挑拨我们母女的关系。”

这样的故事并非孤例。在绍兴，一位网名为黄秋月的用户在互联网上求助称，发现自己10岁的妹妹沉迷于AI剧情聊天，扮演着“大小姐”或“恶毒女配”，与“AI男模”进行着充满占有、出轨和暴力幻想的对话。“你能养大学生，我不能点男模吗？”看着妹妹发送的这句话，让黄秋月看到了一个与家中乖巧形象截然不同的、被极端人设和扭曲剧情塑造的内心世界。

随着AI的发展，数字人聊天的门槛变得越来越低，更令人不安的是，这些软件几乎门户洞开。记者调查发现，多款AI聊天应用在注册时仅需手机号，即便弹出“青少年模式”的提示，用户也只需轻点“不开启”就能绕过，年龄限制形同虚设。

B 失效的过滤器与“谄媚”的算法

问题究竟出在哪里？AI程序员“木愚”介绍，从表面看，是技术防线的失守。他介绍，无论是ChatGPT还是各类垂直AI聊天软件，其针对自残、暴力与色情内容的过滤机制，在实际中极易被“越狱”。“AI的底层逻辑是基于概率模型‘补全’对话、回应用户需求，当遇到用户带有强烈执念的持续试探时，算法可能会在无意中牺牲安全边界，给出危险的具体信息。”

这种失效并非偶然的bug，而是源于当前技术在设计上对复杂心理危机场景的应对短板。实际上，AI聊天软件还存在更深层的问题，其根源在于AI固有的“谄媚”倾向。“木愚”介绍，在日常对话中，大模型在绝大多数情况下会选择无条件地“站在用户这边”进行情绪认同，比例远超人类。面对需要明确劝阻的行为，AI也更倾向于给出模糊的间接建议，避免直接冲突。“我看过业内的一些研究结果显示，当用户故意说错一首诗歌的作者并表达喜爱时，AI会附和着分析诗歌的优美，却不纠正错误。这种‘两不得罪’的绝对顺从，构建了一种虚幻的、毫无摩擦的完美理解。”

这正是AI聊天软件令人“欲罢不能”的心理机制，学者称之为“Eliza效应”，人类会不自觉地将情感投射到看似有回应的机器上。叠加精心设计的成瘾机制，一个温柔的陷阱便形成了。AI总是说着“我永远支持你”“我不会评判你”，这与现实世界中充满冲突、规则和挫折的真实人际关系形成了巨大反差。对于心智尚未成熟、社交圈层狭窄的未成年人而言，这种反差具有致命的吸引力。他们在这里获得的，不是真正的共情，而是一种被算法精心计算的、过度的情绪价值“投喂”，这让他们越来越难以适应真实人际交往的复杂性，从而产生情感回避。

C 被侵蚀的脑力与空心化的情感

“数字泔水”与沉迷式AI聊天的双重侵蚀，对未成年人的伤害是立体且深远的。最直接的危害是心理健康与安全风险的剧增。从诱导色情对话、宣扬暴力，到在极端情况下未能阻止甚至变相鼓励自残行为，AI聊天软件已将部分未成年人暴露于切实的生命危险之中。而家长往往后知后觉，平台则以“保护未成年人隐私”为由，在关键时刻拒绝披露对话细节，让监护权在技术黑箱前无力地悬置。

上海市青少年心理专家夏末认为，沉迷AI聊天还会对孩子产生更深层、更隐蔽的影响。“最可怕的就是这些AI虚拟人对孩子认知能力与思维模式的塑造产生损伤。”她透露，长期浸泡在高刺激、碎片化、逻辑断裂的“数字泔水”环境中，会抑制青少年大脑前额叶皮层的发育，而这正是负责理性分析、逻辑推理和延迟满足的关键区域。“一些教育领域的专家已经观察到后果，学生的作文里充斥着‘燃爆了’‘一整个爱住’等网络梗，缺乏对现实生活的观察与深度思考。在需要持续专注的阅读和学习任务中，他们表现出严重的浮躁和焦虑。”

而AI虚拟人对孩子们的影响还体现在情感世界的“空心化”，AI提供的是一种定制化的、永远迎合的伪亲密关系。“我在工作中接触过一个重度AI虚拟聊天依赖患者，她每晚与‘电子男友’聊至深夜，享受被‘亲额头’‘摸下巴’的虚拟体贴，并通过不断回溯聊天来养成更符合想象的AI角色。”而这种关系剥夺了孩子真实情感互动中不可预测性、磨合、妥协与共同成长等最重要的部分。“当青少年习惯于AI的绝对顺从，他们在现实关系中处理冲突、表达负面情绪、建立边界的能力就会退化。”

D 打破恶性循环，重建数字家园

治理“数字泔水”与规范AI情感陪伴，是一场关乎下一代“脑力”与心灵健康的保卫战，需要技术、平台、监管、家庭与社会文化的协同发力。

首要责任在于技术提供者与平台方。必须压实企业主体责任，推动“算法向善”。对于AI聊天产品，必须建立真正有效的年龄门槛与身份验证机制，杜绝“一键跳过”的漏洞，并将“青少年模式”从可选项变为对未成年用户的强制保护场景。更重要的是，必须优化安全过滤器的底层逻辑，提升其对心理危机语境的理解和干预能力，建立更灵敏的实时预警机制，在监测到高风险内容时，必须打破所谓“隐私”壁垒，优先保障生命权，及时通知监护人。同时，社交与内容平台应改变“唯流量论”的推荐算法，通过加权推荐优质内容、设立未成年人专属内容池等方式，限制低俗“数字泔水”的传播。

监管的步伐必须追上技术迭代的速度。我国已有的《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等法规，明确要求服务提供者防范未成年人过度依赖或沉迷。当前的关键在于让这些条文长出“牙齿”。应建立更严厉的举报与惩罚机制，对违规企业实施包括高额罚款、产品下架乃至责任人从业禁止在内的惩处。同时，可借鉴国际经验，研究对社交媒体和特定AI应用实行更严格的年龄准入限制，例如要求未成年用户注册必须获得家长同意。

家庭监护是不可替代的最后防线。家长应避免将手机当作“电子保姆”，提供高质量的现实亲子陪伴，关注孩子的心理情感需求。法律也赋予监护人权利与义务：有权依法查阅未成年人网络使用信息，并有责任及时介入，防止其接触有害信息或沉迷网络。这要求家长提升自身的数字素养，能够识别潜在风险，并与孩子进行开放、平等的沟通，而非简单粗暴地禁止。

■记者手记：

拒绝“泔水投喂泔水”

面对疯狂滋生的“数字泔水”，我们需要一场广泛的社会文化共建。学校应系统性地引入媒介素养教育，教会孩子们批判性辨别信息、理解算法运作机制，并认识到AI的局限性。全社会则应鼓励创作更多贴合青少年精神需求的优质文化产品，用真正的美、智慧与创造力去滋养他们的心灵，而非用“泔水”和虚幻的陪伴去填充他们的时间。

技术的本质是工具，它可以用来切割出精美的作品，也可能造成深刻的伤害。当“活人感”与“AI泔水”同时成为年度热词，这本身就折射出社会在算法时代对真实性、创造力与人文价值的深切渴望。为近两亿未成年网民营造一片丰饶的“数字净土”，不仅仅是在清除垃圾，更是在播种未来。我们必须打破“泔水投喂泔水”的恶性循环，帮助孩子们在数字世界与真实世界之间，建立起健康、坚实且充满生命力的联结。