• 我的订阅
  • 科技

AI技术为安全治理提供“新工具箱”

类别:科技 发布时间:2024-01-26 01:46:00 来源:每日看点快看

本文转自:科技日报

“数字时代安全科技价值”专题研讨会举行

AI技术为安全治理提供“新工具箱”

AI技术为安全治理提供“新工具箱”

图为郑州网络安全科技馆中,“手机安全的秘密”“移动终端安全”“钓鱼邮件”等展区。视觉中国供图

◎本报记者 崔 爽

“数字化进入新阶段,我们面临着全新的安全挑战。”1月18日,中国社会科学院大学数字中国研究院举办“数字时代安全科技价值”专题研讨会,中国社会科学院大学数字中国研究院执行院长吕鹏在会上说,“安全风险呈现出快迭代、高智能、全覆盖的新特点。尤其是有了生成式人工智能以后,关注人工智能的安全风险更加紧迫。”

研讨会上发布了《数字时代安全科技价值报告》。该报告指出,未来,安全科技将成为公共品,与人工智能(以下简称AI)并列成为两项通用技术。具体来看,AI作为核心关键技术,将成为未来生产力的“发动机”。安全科技将作为“方向盘”,把新兴科技控制在向善的道路上。新的安全技术发展得越好,个人与社会为数字化转型所付出的代价也将越小。

安全科技将成为公共品

“当人们提到安全科技时,想到的往往是防病毒软件和防火墙软件。但全球安全科技的版图和技术工具已远远超过这个范围。”吕鹏介绍,“在网络安全、系统安全之外,还有数据安全、终端安全、AI安全、云安全等技术门类,也包括区块链、隐私计算、量子计算等前沿技术。”

浙江工业大学网络空间安全研究院院长宣琦指出,本质上,安全科技是一种伴生技术。它永远在面向新科技、新发展。比如,伴随AI发展提出智能安全,针对生物科技提出生物安全。新技术的发展有时非常快速,所以安全技术的发展和创新也同样在高速进行。

中国社会科学院科学技术和社会研究中心研究员段伟文认为,未来,安全科技必将成为公共品。整体来看,安全科技具有“压舱石”与“助燃剂”的双重价值:守住技术的安全底线,防御外部风险隐患,让技术“难作恶”;提高技术的安全上限,降低技术运行成本,让新技术得以规模化落地,让产业在安全的基础上“跑起来”。

吕鹏举例说明安全科技在产业发展中的应用。“北京中铁建工物资有限公司和蚂蚁蚁盾共建产业风控平台,用数据智能防范上下游的协作风险,产生了较好的效果。”吕鹏说,“工作效率提高了50%以上,产业授信额度的评定科学化、可量化程度也得到大幅提高。风险预测、预警、事后风险处置等都更好更精准。”

AI安全风险主要分三类

2023年,AI大模型安全风险凸显。AI技术在带来强有力的新工具的同时,也带来数据隐私、技术滥用、失控等安全问题。“加强对AI这一新兴技术的潜在风险研判和防范,确保AI安全、可靠、可控,已成为产业发展的核心要素。”吕鹏说。

在段伟文看来,AI安全风险目前来看主要可以分为三类:内生风险、衍生风险、外生风险。

在内生风险方面,AI存在技术本身的脆弱性、对数据的依赖性等自身缺陷带来的安全问题。比如,如果给数据库不断投喂带有特定价值观的数据,会对AI系统形成严重干扰,产生“数据偏见”“观点霸权”等问题。衍生风险是指AI系统因其自身脆弱性被利用或不恰当使用,可能引发其他领域的安全问题。例如生成虚假新闻、利用深度合成伪造进行诈骗等,这涉及人身安全、隐私保护等一系列社会治理挑战。外生风险也就是面向AI系统的外部网络攻击。

《数字时代安全科技价值报告》认为,当前,安全风险变得更加复杂隐蔽、强对抗、更具破坏力,将AI驱动的业务风控系统建设得更强、更智能,更好地应对大规模网络攻击与入侵,成为行业健康发展的必需。过去几年,通过应用AI来提高安全技术的效率和成功率,已经成为技术领先企业的常态。业界开始推出“大模型质检”类安全产品,成为推进大模型安全健康发展的方式之一。

“快”“慢”结合维护大模型安全

吕鹏指出,AI技术发展给安全治理增加挑战的同时,也形成AI安全治理的“新工具箱”。

谈到“用AI对抗AI”的具体产业实践,他介绍,一方面,可以使用智能对抗技术向大模型“投射问题”,观察模型生成的回答,以此实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面,通过智能化风控技术,可以帮助大模型拦截外界的恶意提问,确保外部恶意诱导无法传入大模型。同时,对生成的回答内容能够进行风险过滤,保障大模型上线后从用户输入到生成输出实现整体安全防御。

整体来看,通过从已有数据中学习,AI可以更快地识别攻击的模式和趋势,从而预测未来攻击,并配置自动响应威胁功能,在更快的时间内对抗网络威胁。

吕鹏表示,维护大模型安全既要“快”也要“慢”。大模型安全防御方面要“快”,要能快速检测、查杀病毒,确保服务无毒害。大模型安全可信方面要“慢”,要能长远地、体系化地保证整个系统环境的可控、可信。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-01-26 05:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

“两藏”战略实施面临的困难与挑战
...、多元化,提高推广效率。不断丰富应对粮食安全的政策工具箱。粮食安全涉及生产、购销、运输、存储、加工、使用等多个环节和多个产业链,要统筹运用好市场和政策两种工具,进行工具叠加,
2023-07-05 00:20:00
...号、大量抢占再转让等方式,以技术对抗技术,打造防护工具箱;完成114预约挂号平台及重点医院挂号系统的升级改造,部署网络安全防护工具,全力堵塞挂号系统漏洞;综合运用系统后台监测
2023-11-25 03:06:00
...号、大量抢占再转让等方式,以技术对抗技术,打造防护工具箱;完成114预约挂号平台及重点医院挂号系统的升级改造,部署网络安全防护工具,全力堵塞挂号系统漏洞;综合运用系统后台监测
2023-11-25 11:11:00
生产现场管理的典范!七〇六所喜获全国“五星级”+“四星级”现场荣誉
...理机制,依据车间工具的使用、产品的流转轨迹,定制专用工具箱、工具柜,将工具统一放置,细分车间区域标准,对各工位以及各区域的6S标准进行目视化标注,提高生产场地的使用率,提升车
2024-02-26 18:06:00
聚焦三大社会议题 第四届Light•技术公益创造营开幕
...务等多个角度出发,设计提供技术解决方案;其次是技术工具箱更全,本届创造营加码开放腾讯云端领先技术能力,为公益开发者提供了七大数字化工具,包括AI、安全、音视频、智能客服、数智
2024-02-27 20:30:00
美方“黑名单”伸向中国人工智能企业,如何破局?
...政治化、工具化、武器化,全球第一大经济体是有自己的工具箱与武器库的,而且这个工具箱与武器库,还在以肉眼可见的方式在扩大,那么由美国相关政府部门拉出的形形色色“清单”,就是美方
2022-12-17 13:43
广西“95后飞机医生”:向挑战而生的酷女孩
...95后”女孩咸俊搭乘接驳车来到机场就位。6点30分,领取工具箱,绕机检查、上机检查、逐项核对。夜晚8点30分,结束一天的工作,交还工具箱,回家。看似单调重复的工作却极具挑战性
2023-03-08 09:26:00
...位,所以说我们都有一个红带子警醒。同样的,如果是(工具箱里)有一个缺口,(说明)工具不在,那我们就可以知道这个工具是不齐的。【解说】从20世纪90年代初在贵阳磊庄机场,只能对
2023-11-09 22:20:00
...:鄂州日报让闲置物品“活”起来社区、居民共建“共享工具箱”本报讯(全媒体记者盛鑫睿)从锤子、扳手等最基本的维修工具,到雨衣、雨伞等日常生活用品,谁家有需要,都能在“共享工具箱
2022-12-22 09:59
更多关于科技的资讯: