智能应用风险凸显 安全管理如何破局

中国消费者报报道（记者王小月）用眼动输入，通过眼球的转动和凝视操作电脑，从而实现“意念玩游戏”，这项技术将为听障、肢障人士使用电子产品提供便利；5G+算力网络打造的比特书房，打通了读者内容和文化场景之间的连接，比特分身可以在元宇宙里与书友互动，实现沉浸式交互式的阅读体验；基于数字文化技术打造的超时空博物馆，可以让人“穿越”到历史之中……7月18日—20日，以“促进数实融合 赋能千行百业”为主题的中国互联网大会在北京召开，《中国消费者报》记者在这里体验到众多互联网技术应用的同时，也感受到参会各方对互联网技术安全管理、风险治理的关注。

AI技术发展和安全需并重

近年来，人工智能（AI）技术已广泛应用于人们的生活中，智能化产品亦覆盖文旅、教育、养老助残等诸多领域。在这场AI浪潮中，一系列颠覆性改变正在发生，随之而来的安全问题也在其中。在大会AI安全论坛上，北京市通信管理局党组成员、副局长王晖表示，AI技术在赋能产业应用，提高生产效率和质量，降低成本和风险的同时，也给我们带来了一系列新的安全风险与挑战，AI技术的开发和应用应坚持发展与安全并重、权利和义务并重、自主与协作并重。

智能产品广泛应用于文旅、教育等诸多领域。王小月/摄

广泛赋能发展

AI技术在国际竞争和经济增长中都发挥着重要的作用。我国高度重视AI技术发展，早在2017年，国务院就出台了《新一代人工智能发展规划》，明确将人工智能列入国家发展战略，工信部、科技部等部委紧跟出台文件落实。具体到技术创新、产业生态融合应用等方面，也取得了积极的进展。

例如，将AI技术应用到企业招聘中，可以快速分析候选人的综合素质，大幅提升企业面试的效率及人才选拔的准确性；智慧养老AI守护产品“隐形护理员”，可以在独居老人出现在画面中时，借助视频AI算法捕捉人体关键点，进行人体姿态估计，通过对人体动作的识别、姿态和行为的分析，辅助判断是否发生跌倒事件，一旦监测到跌倒或呼救等意外事件，会第一时间触发告警，发送给家人或指定看护人员。

中国互联网协会副理事长黄澄清表示，如今的互联网发展已进入到一个“万物皆可AI”的时代。“我国目前已建成全球规模最大、技术领先的网络基础设施，数据资源价值加快释放，技术创新能力加速提升，核心技术不断突破，安全保障能力也大幅度提升，数字经济蓬勃发展，数字社会服务更加普惠便捷，网络惠民便民红利充分释放，数字治理服务效能显著增强，网络空间命运共同体的构建持续推进。”

风险日益凸显

近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一则利用AI技术实施诈骗的公告。公告显示，不法分子利用AI技术，通过声音合成，伪造成特定人物的声音，并通过AI技术换脸伪装成特定人物，与他人进行视频通话实施诈骗。据称，伪造后的面部表情自然、以假乱真，仅用10分钟，诈骗金额就达430万元。

前不久，“AI孙燕姿”“AI王菲”成为短视频平台新一轮的流量密码。同时，能以假乱真、掩人耳目的AI技术也在频频触及法律红线。北京市通州区人民法院调研发现，平台流量背后有人正在利用AI技术换脸拟声实施不法行为，如伪造不雅视频、换脸诈骗等。

此外，AI技术的应用还面临诸多安全问题，例如数据泄露、虚假内容、侵害个人隐私、违规信息生成等。中国电信集团网络和信息安全管理部总经理谷红勋表示，随着AI技术和大模型的广泛应用，数据泄露等风险日益凸显，过度采集信息、歧视性算法、滥用深度伪造等问题也需要引起重视。

“AI技术的发展和安全需要同等重视，否则人类将面临巨大风险。”北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军称，简单系统控制不了复杂系统，如果人工智能的智能水平超过了人类，人类要完全控制它是不可能的。“今年上半年以来，世界各国出台了一系列关于人工智能的管控政策，人工智能的发展和风险管控需要同时进行，才能让技术更好地为人类所用。”黄铁军表示。

APP侵权治理要应时而变

移动互联网应用程序（APP）作为数字化、网络化、智能化应用的重要载体，积极赋能赋值赋智千行百业，便利人民群众的生产生活。根据全国APP技术检测平台统计，截至今年5月底，我国国内市场上监测到活跃的APP数量为261万款。

与APP深度融合人们日常生活并存的，还有APP违规收集使用用户个人信息、欺骗误导用户点击下载等侵害用户权益的现象。中国信息通信研究院泰尔终端实验室主任马鑫对《中国消费者报》记者表示，APP终端场景多变复杂，用户权益保护问题突出，例如互联网电视开机广告、切屏广告、关机广告等关不掉的问题；儿童手机获取孩子的位置、人脸图像、录音等隐私信息，无需用户授权获得多种敏感权限的问题，都对用户产生了困扰。

《中国消费者报》记者从大会APP治理和用户权益保护论坛上了解到，行业主管部门聚焦用户关注的热点难点痛点问题，持续开展APP治理工作，强化APP全流程、全链条治理，推动行业生态不断改善。但与此同时，APP呈现形态多样、业务场景丰富，各类新应用新业态新模式也不断涌现，这都使得出现的问题和影响的对象处于动态变化之中，因此，APP治理工作仍面临各种挑战。

中国信息通信研究院技术与标准研究院副所长汤立波表示，随着产业变化、个人信息保护监管工作持续推进，APP侵权行为逐渐从窃取大量与业务无关的个人信息等恶意违法违规行为，演变为打擦边球、用户不良感知等，主要表现在收集使用个人信息告知不清晰，使用个人信息必要性不足、范围较大等。

今年以来，国家互联网信息办公室发布了《网络信息内容生态治理规定》，工业和信息化部发布了《关于进一步提升移动互联网应用服务能力的通知》，从规范安装卸载、加强个人信息保护等方面，提出改善用户服务感知的具体措施。这一系列措施的出台，也让APP治理有了更多的抓手。