• 我的订阅
  • 科技

AI观察|面对AI“双刃剑”,我们怎么办?

类别:科技 发布时间:2024-10-24 10:45:00 来源:人民资讯

本文转自:人民网

人民网记者 赵竹青

10月以来,人工智能再次以其“双刃剑”的特性展现在世人面前。一方面,人工智能技术因其在科学领域的贡献而获得了诺贝尔物理学奖和化学奖的认可,这些成就不仅彰显了AI在科学研究中的潜力,也预示着它在未来将发挥更大的作用。另一方面,在国庆假期期间,AI技术却因冒牌“雷军”在社交媒体上的不当言论而遭到非议,再次引发了公众对于AI安全性及伦理性的讨论。

值得注意的是,在今年的诺贝尔物理学奖颁奖过程中,评委们特别强调了科技伦理与责任的重要性。获奖者之一杰佛里·辛顿也指出,科技界和社会应共同探讨如何在推进AI技术进步的同时,确保其负责任地被使用。这反映出国际社会对于AI技术正面影响和负面影响共存的认识,并呼吁各方共同努力,构建一个健康的技术生态系统。

近年来,生成式AI的发展速度令人惊叹。曾经“一眼假”“一听假”的AI生成内容,如今已经进化至“真假难辨”的水平。随着AI技术的进一步成熟、普及,其潜在的安全风险也在不断增加。

对此,全球范围内已经出现了积极的应对措施。欧盟通过了一系列法律法规,如《人工智能法案》《一般数据保护条例》和《数字服务法案》等,旨在通过法律手段来规范AI技术的应用。我国《网络安全法》《数据安全法》《个人信息保护法》等法律法规也已陆续颁布执行。

去年,国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》,对生成式人工智能的监督检查和法律责任进行界定。今年9月,国家网信办更是就《人工智能生成合成内容标识办法(征求意见稿)》公开征求意见,旨在通过规范人工智能生成合成内容标识,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

记者从世界互联网大会获悉,2024年世界互联网大会乌镇峰会将于11月19日至22日在浙江乌镇举办。本次乌镇峰会将全面聚焦人工智能,以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题,围绕全球发展倡议、数字化绿色化协同转型发展、数字经济、人工智能技术创新与治理等议题举办20余场分论坛。

其中,11月21日上午在枕水酒店宫音厅举办的人工智能负责任开发与应用分论坛将由人民网、中国网络空间安全协会、安恒信息主办,英国标准协会、印象笔记、钛媒体协办。主办方介绍,该论坛将以“以人为本、智能向善、造福人类”为主题,汇聚国内外顶尖专家、学者及行业领袖开展深入讨论,旨在促进建设多主体参与、多层面治理的人工智能科研、转化与发展机制,共同推动构建人工智能技术、产业发展的良好生态。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-24 12:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

深演智能营收净利润骤降:大客户阿里双刃剑显著,应收账款偏高
...股份(002131.SZ)通过收购聚胜万合切入这个领域;一类是人工智能企业布局营销场景,主要包括科大讯飞;最后一类是专业技术公司,主要包括深演智能。在前两轮问询函中,深交所对
2023-07-24 14:45:00
中新网北京11月3日电 (记者 夏宾)“以深度学习为核心的人工智能技术是一把双刃剑,其作为赋能技术有着极其丰富的应用空间,更带来了前所未有的安全挑战。”中国工程院院士邬江兴近日在
2024-11-03 14:09:00
研究发现 AI 工具对学生来说是“双刃剑”,需谨慎使用
IT之家 10 月 21 日消息,瑞典研究人员对人工智能工具的使用与学龄儿童的执行功能之间的关联进行了调查。研究发现,人工智能工具的使用对学龄儿童的学习既有潜在的好处,也有潜在的
2024-10-22 09:45:00
中新社北京3月30日电 (陈杭 王梦瑶)当前,人工智能(AI)正以指数级速度重塑技术范式、产业格局与人类生活方式。当未来AI走向千行百业、千家万户,如何兼顾发展与安全,实现技术可
2025-03-30 11:16:00
...建中 4月23日是世界读书日。身处科技迅猛发展的时代,人工智能(AI)技术给阅读带来了翻天覆地的改变,人类的阅读方式和学习习惯正经历着前所未有的变化。从事文化传播工作的李女士
2024-04-25 07:22:00
...字技术深度融入社会各领域的当下,AI技术尤其是生成式人工智能的爆发式发展,正成为影响网络安全格局的关键变量。从AI换脸带来的身份伪造,到数字人直播暗藏的诈骗陷阱,AI既为数字
2025-09-19 17:34:00
Science研究揭GenAI「双刃剑」:GenAI让个人创作出彩却令集体创意趋同
...AI是其小说灵感来源,并且5%左右的文字直接取自生成式人工智能,这一言论引发不小争议。一些人对人工智能持欢迎态度,视之为新的写作工具;也有人心存疑虑,担心它影响作者创造力。创
2024-07-30 09:38:00
在 OpenAI 公布的技术论文里,竟然藏着九大隐秘的线索!
...、不良规范的扩散、AI发展进程的加速,它们都加剧了与人工智能相关的社会风险。但很奇怪的一点是,OpenAI所提到的担忧,尤其是“AI发展进程的加速”,似乎是与微软高层的想法背
2023-03-18 14:55:00
通用人工智能的双刃剑:驾驭发展 规避危机
《未来简史》作者尤瓦尔·赫拉利警示:核武器和人工智能最大的区别是,核武器不能制造更强大的核武器。但人工智能可以产生更强大的人工智能,所以我们需要在人工智能失去控制之前迅速采取行动
2023-05-31 10:32:00
更多关于科技的资讯:
1元租机器人,线下开首店:人形机器人打响大众化“发令枪”
大皖新闻讯 2025年的最后两天,中国的人形机器人产业以两件标志性事件,为即将到来的2026年按下了商业化加速键。一边是擎天租以“1元闪租”的体验价格将可以“打太极”的人形机器人推向大众市场
2025-12-30 21:48:00
从\
鲁网12月30日讯12月30日,在济南召开的"永生之手叩响仿生机器人元年之门"主题峰会上,山东未来机器人技术有限公司首次提出将人类生命划分为"碳基阶段"与"硅基阶段"的颠覆性理论框架
2025-12-30 22:13:00
贵州艺森源集团:从手工敲打到智能轰鸣 书写酒包装产业升级答卷
多彩贵州网讯 近日,贵州艺森源集团有限公司生产车间内,智能设备高效运转,自动化生产线有序作业,一派繁忙景象。历经十年深耕
2025-12-30 22:38:00
浪潮智慧文旅“智享商旅 聚力同行”2025浪潮商旅服务日成功举办
鲁网12月30日讯12月25日,由山东浪潮智慧文旅产业发展有限公司主办、山东浪潮智慧空间技术服务有限公司承办的“智享商旅·聚力同行——2025浪潮商旅服务日”在浪潮科技园圆满落幕
2025-12-30 17:23:00
潮新闻讯 浙商,是商业期刊的常客。2025年,他们的名字却接连登上《细胞》(Cell)《自然》(Nature)《科学》(Science)等学术期刊的作者栏
2025-12-30 17:52:00
扎根毕节十年,年产能超7500万只,出口覆盖欧非亚——贵州贵航新能源科技有限公司,已成为推动区域新能源产业链发展的“关键一环”
2025-12-30 18:35:00
肯悦咖啡苹果冰雕点亮冰城 代言人白敬亭助阵亮灯迎新春
2025年12月29日,肯悦咖啡在哈尔滨中央大街举办了一场别开生面的“红苹果心愿季”冰雕点灯仪式。肯悦咖啡的巨型红色咖啡杯造型冰雕搭配“水晶”苹果
2025-12-30 18:50:00
博士创新站典型案例|保定市鑫诺电科软件开发有限公司博士创新站:校企协同创新赋民生
当前供水行业智能化转型加速推进,保定市鑫诺电科软件开发有限公司作为本地企业,在技术层面面临自主开发的智能客服系统缺乏适配技术
2025-12-30 19:36:00
京东京喜自营2025年成交额增长10倍 5大产业带订单量破亿
2025年即将结束,回看这一年,外贸逆袭、市场反内卷、AI全面爆发,用户消费需求回归理性,带动品质消费。今日,京东旗下特价购物品牌京喜自营披露了这一年的成绩单——2025年实现成交额10倍增长
2025-12-30 19:48:00
事关以旧换新!河南公开征集
大河网讯 为深入推进2026年消费品以旧换新政策实施,河南省商务厅日前正式发布《河南省2026年消费品以旧换新家电及数码智能产品参与品牌厂家征集公告》
2025-12-30 19:55:00
博士创新站典型案例|英利能源发展有限公司博士创新站:携手高校突破技术瓶颈
在全球“双碳”目标推动下,光伏产业成为新能源领域核心赛道。晶体硅太阳电池占据光伏市场主要份额,但高效光伏电池需切割分片制成组件
2025-12-30 18:04:00
博士创新站典型案例|石家庄数英仪器有限公司博士创新站:攻克高次谐波源国产化难题
随着新能源发电并网比例不断提高,光伏逆变引入的谐波频率日益升高,对电网谐波测量提出了新的技术要求。当前,国内市场主流谐波标准源的谐波次数普遍低于100次
2025-12-30 18:16:00
还在用App来回倒腾文件?鸿蒙6一碰即传,感受分享的魔法
傻瓜相机的发明,将人们从复杂的调焦、测光操作中解放出来,把摄影门槛拉低到有手就行。而在这个随身电子设备越来越多的时代,人们需要在跨设备文件
2025-12-30 13:04:00
把数字安全感还给用户:HarmonyOS 6的三道主动防御防线
在万物互联的数字时代,个人隐私的边界正变得日益模糊。我们或许都曾经历过这样的时刻:经常接到诈骗骚扰电话,或是家人手机里充斥着乱七八糟
2025-12-30 13:05:00
中国消费者报杭州讯(记者施本允)近日,浙江省台州市消费者权益保护委员会发布2025年电动自行车安全头盔比较试验报告。在随机购买的25款样品中
2025-12-30 14:20:00