- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
Sora时代，如何守护信息安全？
本文转自：文汇报 ■本报记者 孙欣祺
OpenAI首个视频生成模型Sora一经发布，便引起全球高度关注。但与此同时，人工智能（AI）技术的高速发展，也进一步加深了业内人士对其安全性的担忧。
美国加利福尼亚大学伯克利分校信息学院哈尼·法里德教授指出，“文本生成视频技术的快速进步，使我们愈发接近真伪难辨的境地。如果这项技术与AI驱动的声音克隆技术结合，那么人们可以深度伪造他人从未说过的话、做过的事。”
从网上流传的片段不难发现，在刻画复杂场景时，Sora生成的视频中仍存在一些不符合客观规律的错误。这说明，这些伪造视频到目前为止仍然肉眼可辨。但白帽黑客公司“社会认证安全”联合创始人雷切尔·托巴克表示，“Sora绝对有能力产出可以骗过普通人的视频，因为许多人尚未意识到篡改视频和修改图片一样简单”。
对于信息真实性方面的安全隐患，OpenAI发言人表示，在Sora正式公之于众前，公司将采取多项重要的安保措施。比如，OpenAI组织行业专家开展安全演习，同时公司也在开发工具，辅助检测误导性内容。此外，图像生成模型DALL-E 3配套的安全工具也将应用于Sora。
在政府层面，Sora的推出势必将加速信息安全监管措施的出台。日前，欧盟各国政府已批准《欧盟人工智能法案》，欧洲议会预计将于4月签署这项法案。如一切顺利，这套法规将于2026年生效。
据悉，该法案将禁止使用存在“不可接受风险”的AI系统，例如使用生物识别数据推断公众敏感特征的系统；高风险应用（如招聘和执法中使用的系统）必须满足一定条件，比如开发人员必须证明其模型对用户安全透明，符合隐私法规，且不存在歧视；对于风险较低的AI工具，开发者仍需在用户与AI生成的内容进行交互时明确告知。该法案适用于在欧盟地区运行的AI模型，任何违反规定的公司都可能面临金额高达其年度全球利润7%的罚款。
为执行该法案，欧盟委员会将成立一个AI办公室，负责监督通用AI模型，并由独立专家提供咨询。该办公室将研究相关方法，以评估这些模型的能力并监测其风险。不过，德国利希超级计算中心AI研究员杰尼亚·吉采夫提出质疑称，即使像OpenAI这样的公司遵守法规并提交数据，但公共机构未必有足够的资源充分审查提交的内容。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-02-24 08:45:12
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
