有规范才有好未来

本文转自：经济日报

近日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，引起业界关注。生成式人工智能，即AIGC，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。近来火爆出圈的ChatGPT等应用就属于AIGC范畴。对希望参与AIGC大潮的企业来说，征求意见稿透露了哪些玄机？

首先是明确了发展前景。AIGC争议颇多。人工智能生成的各种假新闻照片在网上流传，人们一边惊诧于AIGC技术的进步之快，一边担心这些过于逼真的假照片假视频会不会让人真假难辨。ChatGPT用户数据泄露事件也一再发生，部分国家已经对ChatGPT数据安全问题进行调查，甚至下达使用禁令。但AlGC技术具备广泛应用前景和发展潜力，禁用不是问题最好的解决方案，一禁了之更像是泼洗澡水的时候连孩子一起倒掉。

对AIGC这样快速发展的新技术新应用来说，各类风险显而易见，入局企业尤其担心重金投入后遭遇政策风险导致投资损失。首个AIGC管理办法公开征求意见，本身就是一个重大信号，说明我国非常重视此轮AI发展所引领的科技变革，期待促进AIGC技术的健康发展。

其次是明确了合规重点。目前中国市场上多家科技巨头企业正相继入局AIGC，选择此时发出规范管理的信号，体现了政府提前研判介入监管、防患于未然的工作思路，有助于企业及早构建合规解决方案、布局必要的合规机制和工具，可以有效降低内容生成领域“先污染后治理”的社会风险。

征求意见稿的具体细则，体现了我国从权益保护、数据治理、内容治理等多个维度进行综合治理的初衷。细则强调了安全评估和算法备案的前提性和必要性，明确了数据安全和个人信息保护的责任承担方和相关处罚措施，也为新技术开发保留了必要的容错空间。比如出现不合规的生成内容时不会一棒子打死，平台除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止问题再次发生。有了这些明确规范，产品开发方就可以探索在规范的框架下设计更加安全和可解释的AIGC，从技术层面降低潜在违规风险。

此外，征求意见稿中也明确了相关法律权益。比如，AIGC令人惊叹的内容生成能力是被海量人类作品“喂养”出来的，过去这些训练数据很多都未经原创者授权，侵犯了他们的知识产权。征求意见稿要求提供者对AIGC产品的预训练数据、优化训练数据来源的合法性负责，明确了版权方内容资源在AIGC产品训练中的法律权益，显然是对版权方的重大利好，IP及内容、数据产业将获得分享AIGC红利的机遇。

当然，与新技术开发几乎同步的监管规范，必将随着技术发展和时代变迁而更新调整。此次AIGC管理办法的征求意见稿是开局的第一步，它将促进AIGC产业健康可持续发展。无规矩不成方圆，AIGC有规范才有美好未来。