• 我的订阅
  • 社会

人工智能双刃剑,如何把好“安全关”?

类别:社会 发布时间:2024-11-03 14:09:00 来源:缘之心

中新网北京11月3日电 (记者 夏宾)“以深度学习为核心的人工智能技术是一把双刃剑,其作为赋能技术有着极其丰富的应用空间,更带来了前所未有的安全挑战。”中国工程院院士邬江兴近日在京参加2024绿盟科技TechWorld智慧安全大会时这样说。

面对人工智能这把双刃剑,我们该如何把好“安全关”?邬江兴首先指出,AI算法模型存在“三不可”的基因缺陷,即不可解释性、不可判识性以及不可推论性。

他认为,整个AI安全可分为内生安全问题和非内生安全问题,内生又分为个性问题和共性问题,当下,网络内生安全问题正在全面挑战当今世界生态系统底层驱动技术。网络内生安全范式应当是AI可信应用系统理论发展方向,智能时代需要正确的理论方向,以确保AI技术的健康发展。

中国科学院院士冯登国谈到,当前,人工智能技术已经从较为单一的算法发展阶段跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段,AI算法的更新迭代,使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。

冯登国表示,应对网络空间安全形势变化,需要更坚实、富有弹性的网络空间安全保障体系。他从数据泄露、关基保护、深度伪造、错误信息涌现等角度解读大模型伴生的安全风险和挑战,并从政策法规制定、前沿技术探索和创新能力提升三个维度思考应对之策。

绿盟科技集团董事长、总裁胡忠华直言,近年来持续加大在数据安全、人工智能等领域的创新投入。一方面,围绕日志降噪、推理研判、自动化渗透攻击三个安全实战场景,持续迭代安全垂域大模型,通过提示词工程构建安全专家思维链,并使用检索增强、知识图谱提升可信度和专业度,为用户提供具备可落地的安全检测、研判能力。

另一方面,持续加强技术研究与创新,从构建可信任的安全智能生态出发,逐步构建“大模型+小模型”协同安全运营新体系,并在大模型安全性方向进行深入研究,发布了AI大模型安全威胁矩阵及风险评估工具,帮助用户在自有模型时管理安全风险。

教育部信息技术新工科联盟网络空间安全工委会主任、杭州市人工智能学会副理事长胡瑞敏认为,在数据被列为第五大生产要素的今天,应对数据供不出、流不动、安全保障难等挑战,亟需构建一个面向数据要素化的数据生命周期安全防护体系。

胡瑞敏以数据安全风险事件为切入点,引出当前数据安全面临的困境,即数据分级分类、可信确权以及数据安全利用,并进一步对其团队在数据安全防护密码技术领域的研究工作进行了介绍。

国家工业信息安全发展研究中心首席专家、数据安全所所长李俊指出,数据作为数字经济时代的关键新兴生产要素,保障数据安全已成为事关国家安全与经济社会发展的重大问题。随着新一代信息技术与制造业深度融合,工业企业数字化、网络化、智能化加速推进,工业数据载体漏洞和后门、非受控运维、数据暴露面等数据安全风险日益突出。

李俊称,在此形势下,行业主管部门已构建工信领域数据安全“1+5”政策体系,加快数据安全监管技术能力建设与实践落地,切实指导工业企业提升数据安全管理和防护水平。(完)【编辑:曹子健】

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-03 17:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

本文转自:人民网人民网记者 赵竹青10月以来,人工智能再次以其“双刃剑”的特性展现在世人面前。一方面,人工智能技术因其在科学领域的贡献而获得了诺贝尔物理学奖和化学奖的认可,这些成
2024-10-24 10:45:00
中新社北京3月30日电 (陈杭 王梦瑶)当前,人工智能(AI)正以指数级速度重塑技术范式、产业格局与人类生活方式。当未来AI走向千行百业、千家万户,如何兼顾发展与安全,实现技术可
2025-03-30 11:16:00
研究发现 AI 工具对学生来说是“双刃剑”,需谨慎使用
IT之家 10 月 21 日消息,瑞典研究人员对人工智能工具的使用与学龄儿童的执行功能之间的关联进行了调查。研究发现,人工智能工具的使用对学龄儿童的学习既有潜在的好处,也有潜在的
2024-10-22 09:45:00
通用人工智能的双刃剑:驾驭发展 规避危机
《未来简史》作者尤瓦尔·赫拉利警示:核武器和人工智能最大的区别是,核武器不能制造更强大的核武器。但人工智能可以产生更强大的人工智能,所以我们需要在人工智能失去控制之前迅速采取行动
2023-05-31 10:32:00
尼山论什么|AI儒家化,有可能实现吗?
...宗智 曲阜报道7月10日下午,第十届尼山世界文明论坛“人工智能与人类文明”分议题对话会顺利举行。能否让AI服从某种指导性原则?如何建立相应的伦理框架、文化政策?怎样确保人工智
2024-07-11 11:29:00
Science研究揭GenAI「双刃剑」:GenAI让个人创作出彩却令集体创意趋同
...AI是其小说灵感来源,并且5%左右的文字直接取自生成式人工智能,这一言论引发不小争议。一些人对人工智能持欢迎态度,视之为新的写作工具;也有人心存疑虑,担心它影响作者创造力。创
2024-07-30 09:38:00
...问题研究院网络空间国际治理研究中心联合发布了《全球人工智能安全治理》报告。报告站在全球视角纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,探索既能发挥
2023-01-19 05:35:00
生成式人工智能“飞入寻常百姓家”
...为“交响”的AIGC艺术展。新华社记者 辛梦晨摄今年世界人工智能大会开幕式的开场曲与往年一样炫酷。绚丽的灯光、舞动的3D机械手、生动的视频画面,配合着“90后”二胡演奏家兼作
2023-07-08 03:15:00
2024搜狐科技年度论坛成功在京举办
...功举办。多位院士、科学家与产业界领袖齐聚一堂,畅谈人工智能、深空宇宙、脑机接口等前沿科技,奔赴科技的星辰大海。本届论坛线上线下结合,开启了全天的思想盛宴。搜狐创始人、董事局主
2024-05-20 10:18:00
更多关于社会的资讯:
厦门网讯(厦门日报记者 罗子泓 通讯员 厦公宣)近日,厦门警方及时查处一名编造涉厦上市企业网络谣言的违法行为人,维护了企业合法权益
2025-04-23 08:37:00
人民日报首推“大地书单”,10本好书上榜!
本文转自:人民日报客户端在第三十个世界读书日来临之际,人民日报社文艺部和新媒体中心共同组织推荐“大地书单”。围绕“AI时代
2025-04-23 08:40:00
头图由豆包生成,提示词:仅退款薅羊毛据媒体报道,近日各主要电商平台已与监管部门达成一致,将同步全面取消“仅退款”规则。自2021年诞生后搅动电商风云
2025-04-23 08:49:00
近日,四川游客李先生在云南大理古城流动摊贩处买完西瓜,出于好奇用自己的苹果15手机(标重170克)验证对方的电子秤,竟称出“0
2025-04-23 08:49:00
4月23日早晨,顺义区潮白河大桥发生火情,为保障安全,现场已双向断路。交通、消防、交管等部门和属地政府第一时间赶赴现场
2025-04-23 08:49:00
培育读书风尚 建设文化强国诗经、楚辞、唐诗、宋词、元曲……4月23日至27日,山西邮政将在长风文化商务区文化岛举办《邮票里的典籍》专题集邮文化展览
2025-04-23 08:50:00
“小慢车”里书香浓
本文转自:人民网-陕西频道人民网记者 贾凯璐四月的秦岭深处,粉色的山桃花铺满山坡,山脚下,6063次公益慢火车犹如一条绿色的“长龙”
2025-04-23 08:52:00
石景山区鲁谷街道“山与理想阅读季”启动
本文转自:人民网-北京频道书山远行 阅见理想石景山区鲁谷街道“山与理想阅读季”启动近日,由石景山区鲁谷街道主办的“书山远行 阅见理想”山与理想阅读季正式启动
2025-04-23 09:00:00
本文转自:人民网-北京频道人民网北京4月23日电 (记者董兆瑞)今年年初,手机等数码产品“国补”实施以来,有效刺激了消费需求
2025-04-23 09:01:00
世界读书日|对话曹保明:“其实读书的时代回来了”
4月23日,世界读书日。今年世界读书日主题是“阅读:通往未来的桥梁”。中国吉林网推出的世界读书日特别对话,自然也与阅读有关
2025-04-23 09:14:00
四川眉山:沃柑丰收销售忙
本文转自:人民网2025年4月22日,四川省眉山天府新区北斗镇灯杆村迎来沃柑丰收盛景。眼下,村民们正紧锣密鼓地开展采摘工作,以确保这些新鲜沃柑能及时供应市场。彭雅灵摄(人民图片网
2025-04-23 09:17:00
2025北京书市启幕 汇聚50余万种图书
本文转自:人民网4月22日,以“书香京城 悦读春天”为主题的2025北京书市正式启幕。此次书市汇聚了来自全国19个省市的近200家知名出版社,它们携50余万种精品出版物精彩亮相,
2025-04-23 09:17:00
本文转自:人民网-江西频道4月21日晚,赣州市信丰县开展“文明实践+全民阅读”活动暨“护苗·绿书签”行动,活动以惠民演出拉开序幕
2025-04-23 09:19:00
大众网记者 徐浩 通讯员 张青 潍坊报道4月18日下午,两名客户急匆匆进入建行潍坊寒亭丰华支行营业厅,称被诈骗了,柜员迅速为客户办理查询
2025-04-23 09:34:00
本文转自:人民网人民网记者 黄盛从2023年底中央金融工作会议首次提出金融“五篇大文章”,到近期金融监管部门印发《金融“五篇大文章”总体统计制度(试行)》
2025-04-23 09:37:00