如何防止利用AI技术作恶？建立深度合成应用标识制度

随着人工智能等新技术的落地应用，类似AI换脸诈骗、“一键脱衣”等乱象层出不穷。据央视新闻近日报道，北京一程序员通过研发“一键脱衣”的AI软件，仅两个月批量制作了近7000张裸图，并以每张1.5元售卖牟利。日前，该程序员已被北京海淀区检察院提起公诉。

如何防止有人利用AI技术作恶？人工智能发展需要怎样的法治保障？昨日下午，在国新办举行的一场新闻发布会上，国家网信办副主任王崧专门回应了人工智能法治的热点问题。

“注重发展和安全并重”

王崧表示，要着眼于新技术、新应用的发展规律和未来趋势，充分发挥法治的引领、规范和保障作用。为了遏制“换脸”“变声”等深度伪造带来的危害，相关立法建立了深度合成应用标识制度，帮助网民分辨真假、防止上当受骗。

王崧强调，“在推进人工智能法治的过程中，我们注重发展和安全并重，注重专门性立法和综合性立法相结合，推动人工智能健康有序发展。”

具体而言，一方面，制定互联网领域基础性法律，对人工智能发展涉及的网络安全、数据安全、个人信息处理等基础性问题作出规定。另一方面，围绕人工智能技术应用制定专门立法。近些年，国家网信办会同有关部门，先后制定了互联网信息服务深度合成、算法推荐等专门性立法。去年7月，中国率先制定《生成式人工智能服务管理暂行办法》。这些立法施行后，国内一大批生成式人工智能服务，陆续完成备案。

推进新技术、新应用法治

总结中国网络法治三十年的建设经验，王崧说，首先要坚持立足中国国情。立足中国是全球最大的发展中国家和网民数量最多的基本国情，针对网民规模巨大、应用场景丰富的实际情况，运用法治思维和法治方式，解决新技术、新应用发展治理难题。

其次，要坚持统筹高质量发展和高水平安全，法治建设的目的是促进新技术、新应用的健康有序发展。例如，在人工智能相关立法中，鲜明地提出“国家坚持发展和安全并重、促进创新和依法治理相结合”的原则。

同时王崧表示，要坚持继承和创新并重。推进新技术、新应用法治，不仅要注重吸取网络法治建设的历史经验，还需要推进理念、制度、方式等的全方位创新，推动传承发展。

聚焦

视频号出重手 限制数字人带货

数字人在腾讯视频号遭遇“闭门羹”。腾讯近日拟修订平台规则，限制主播采用数字人进行直播。

按照《视频号橱窗达人【发布低质量内容】实施细则》的修订文本，使用插件、AI等工具生成虚拟形象进行直播；提供、售卖、教学或展示平台不提倡传播的内容：如讲解和售卖虚拟人代播软件等做法，将被列为低质量内容，并视情节严重程度予以分级处罚。这份修订方案曾于6月3日至13日公开进行意见征求，当前处于公示阶段，预计6月21日正式生效。

隐患

数字人直播易出现虚假宣传等问题

一位视频号知情人士告诉南都记者，目前规则修订还在汇总整理意见。根据拟修订的内容，平台的限制举措主要包括减少直播推荐、减少账号推荐、限制直播带货能力等。视频号此举是为了鼓励真实的真人主播，能跟观众进行实时的互动。

直播电商业务建设正成为视频号的发力方向。公开信息显示，2023年微信视频号直播带货GMV（交易总额）同比大增3倍。腾讯在2024年第一季度财报中提到，视频号总用户使用时长同比增长超80%，通过激励更多内容创作者参与直播带货来加强带货生态。

数字人和直播带货的结合原本被市场看好。据艾媒咨询今年2月发布的《2024年中国AI电商行业研究报告》，电商产业已是AIGC核心商业应用场景之一，其中，数字人成为各方布局AI电商的重点。但数字人在多个内容电商平台接连遭遇挫折，视频号成为目前为止限制力度最大的一家。

2023年5月，抖音发布的一份人工智能生成内容平台规范提到，虚拟人背后的真人使用者，必须进行实名注册和认证。使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。今年3月，快手也对外公告，针对未规范使用数字人能力的电商直播间进行专项治理。

网经社电子商务研究中心网络零售部主任、高级分析师莫岱青分析说，真人主播可以实时回答观众的问题，提供个性化的购物建议。但数字人直播真实互动相对弱，可能降低用户的购物体验，也更容易出现虚假宣传、误导消费者等问题。

“站在平台角度而言，这是一个正常的选择。”数字人公司硅基智能CEO司马华鹏告诉南都记者，AIGC产业目前良莠不齐，大量低端的内容充斥网络，使得平台对AI数字人的认知比较负面。但司马华鹏又对平台的做法表示遗憾，他说随着大模型技术的能力升级，数字人直播的成熟度日渐提升，希望平台能够以更开放的态度面对新技术，支持生成式AI产业的应用创新和落地。

现状

传统电商平台对数字人开放度更高

合规风控是平台顾虑重重的另一重原因。金杜律师事务所合伙人唐丽子等人曾撰文分析，相较于真人主播而言，AI虚拟主播的直播内容不可控风险更高，直播“翻车”风险更大，这也导致了目前部分直播平台为了规避AI驱动的不稳定性，限制或完全禁止“AI驱动型”虚拟主播进行直播。

与短视频平台的不鼓励或禁止态度相比，传统货架电商平台对数字人的开放度更高。京东在今年4月中旬上线刘强东数字人，5月末又在618发布会上推出京东集团CEO许冉的AI数字人。而淘宝早在2020年就宣布对虚拟主播进行重点扶持。

数字人遭受的待遇为何两极分化？艾媒咨询CEO张毅向南都记者分析，视频号和抖音等，本身是强社交属性的平台，需要人与人之间的互动参与以完成内容的分发和变现。但京东和淘宝仅作为卖货的渠道，所以对于发展数字人电商没有顾虑。

莫岱青同样指出，平台属性、定位、用户群体等因素决定了不同平台对待数字人的取向。京东和淘宝的用户群体更加聚焦于购物，对于商品信息的要求更高，数字人主播可以提供高效的商品介绍和服务。

而司马华鹏认为，京东和淘宝在电商竞争中逐渐处于劣势，对新技术的拥抱来自于本能的驱动力。

采写：南都记者 李玲 见习记者 杨柳