- 我的订阅
- 国际
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
警惕“AI换脸”为所欲为
本文转自：北京日报
关末
身着西装，神态紧张，语气郑重，屏幕上还配以“突发新闻”字样……最近，一则日本首相岸田文雄的虚假视频在全球社交媒体疯传。令人不寒而栗的是，如此轰动的视频不过是生成式人工智能（AI）技术产品，且制作全程仅花了1小时。
“AI换脸”通过深度合成算法处理，为二度创作提供了支持，也满足了网络受众的猎奇心理和社交需求。但随着技术门槛降低与应用场景增多，人脸置换似乎愈发出格。以躺枪的各国政要为例——“拜登”公然宣布第三次世界大战开始；“马克龙”直播回答“政府聘用灭霸”；“特朗普被捕”事件还没发生，“现场照片”就已疯传……如果说仿造娱乐明星仅是一种恶搞，那么刻意生成政治人物的表态，则可能误导整个国家乃至全球公共舆论。谷歌前首席执行官埃里克·施密特就曾警告，“2024年的选举将一团糟，因为社交媒体平台无法保护我们免受AI生成的虚假消息的侵害。”
人工智能发展至今，已经成为全球新一轮科技革命和产业变革的核心驱动力。而当我们追问数据算力是否具备认知水平、未来能否取代人类之时，其带来的泄露隐私、侵犯权益、扰乱视听等现实问题已然摆在眼前。特别是在“有图不一定有真相”的社交媒体上，有人借此编造新闻、炒作热点，侮辱诽谤、实施诈骗，作恶成本越来越低。眼下，针对AI技术带来的颠覆性风险挑战，各国纷纷制定法律以探索深度合成的治理路径。就我国而言，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法（征求意见稿）》等文件相继出台，理顺了信息安全主体责任，明确了相应技术服务的规范、监督和管理等内容。但必须看到，AI生成数据量庞大，且存在多次合成、多种场景等问题，“以技术管技术”恐怕还有很长的路要走。
以更大视野来看，从社交机器人衍生出网络水军，到算法推荐加固信息茧房，再到如今人工智能掀起“以假乱真”风潮，都让我们深刻认识到，新技术往往是一把“双刃剑”。对此，需要前瞻研判其可能造成的规则冲突、社会风险、伦理挑战，更要在技术普及过程中不断拉紧缰绳。无论是以严格监管促使形成向上向善的研发应用环境，还是通过实际案例引导公众认清滥用与使用界限，努力缩短从野蛮生长到规范发展的时间差，才能最大限度抵消这股“反作用力”。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-11-08 08:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
