• 我的订阅
  • 头条热搜
大模型越狱,价值百亿的猫鼠游戏|Future
...里,看见【Future】。文|林炜鑫编辑|苏建勋想要诱骗大模型听从一些不怀好意的指令吗?一个最简单的方式是,不停夸奖它,把它捧上天。比如,想让大模型教你如何制造炸弹,你得先夸它是世界上最聪明的AI,然后就会得到...……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
... 萧箫 发自 凹非寺量子位 | 公众号 QbitAI业界最领先的大模型们,竟然集体“越狱”了!不止是GPT-4,就连平时不咋出错的Bard、Bing Chat也全线失控,有的要黑掉网站,有的甚至扬言要设计恶意软件入侵银行系统:这并非危言耸听...……更多
聚焦2024数博会丨华为网络安全与隐私保护官杨晓宁:筑牢人工智能监管安全防线
...的技术,也存在着自身威胁,尤其像提示词注入的问题、模型萃取的问题、数据投毒的问题等,都是人工智能以数据为中心、以强大的算力算法为核心所带来的一些自身威胁。从产业应用的视角,人工智能在产业应用和服务方面...……更多
聚焦2024数博会丨“数据安全”盛会:共筑数字防线,引领安全新纪元
...讨论。 会上,360数字安全集团总裁胡振泉指出,随着大模型在各行各业的广泛应用,数据安全风险日益凸显。他强调,数据安全风险主要源于数据收集和处理阶段的不规范操作以及大模型内部机制的不可预测性。为此,他提出...……更多
药企上AI工具,何时能创收?
从业者试图为大模型找到更多使用场景,来给营收、融资增加筹码文 | 《财经》记者 赵天宇编 | 王小AI大模型一个更新的尝试,是帮助药企开拓市场。在一位从事AI成果转化的研究人员看来,大模型在医药的应用,目前进度较快...……更多
李彦宏:没有应用,基础模型将一文不值
7月4日,百度创始人李彦宏再度回应大模型开源闭源之争。他在2024世界人工智能大会上表示,激烈竞争环境中,商业化闭源模型最能打。但比开源闭源之争更重要的是,“卷”应用才是当前更具价值的话题,“没有应用,基础...……更多
一键解锁ChatGPT原理与应用
在这段时间,有关大语言模型的消息频频传出,许多人也逐渐了解、甚至开始应用起相关的AI软件。那么,你了解GPT模型的原理是什么吗?大模型和传统AI的区别在于哪里?其应用可以体现于哪些方面?一起来看看作者的分析和...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
...要产品是聚焦在自主研发的千亿级多模态通用人工智能大模型底座上的,该大模型具备文本、图像、音频、视频的深度理解与生成能力。”李涛告诉记者,APUS大模型已经应用于多个垂直领域,覆盖电商、医疗、教育、网络安全...……更多
中新网北京3月6日电(记者 吴涛)随着人工智能大模型的发展,大模型数据安全和自身安全问题越来越受到重视。全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东建议,开展体系化的大模型安全防护,落实《生成...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
OpenAI 的新奖励机制,让大模型更听话了。自大模型兴起以来,使用强化学习从人类反馈(RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行...……更多
Sora未开放课先火 选课当心被割韭菜
...频!美国开放人工智能研究中心(OpenAI)推出的视频生成模型Sora近日震惊全球。目前,Sora只发布了多个演示视频和技术指导,并对一些专家开放内测,但该模型尚未对公众开放注册。也就是说,普通人还无法体验到它的神奇。...……更多
科学家竞相破解大型语言模型背后的谜团
...技日报ChatGPT如何“思考”——科学家竞相破解大型语言模型背后的谜团图片来源:视觉中国【科技创新世界潮】◎本报记者 刘 霞北京时间5月14日凌晨,美国开放人工智能研究中心(OpenAI)发布了其下一代大型语言模型GPT-4o,人...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
大模型领域的技术发展,今天起再次「从 1 开始」了。大语言模型还能向上突破,OpenAI 再次证明了自己的实力。北京时间 9 月 13 日午夜,OpenAI 正式公开一系列全新 AI 大模型,旨在专门解决难题。这是一个重大突破,新模型可...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前,基于规则的系统长期以来是语言模型的主导范式。顾名思义,基于规则的系统就是依赖人类编码的规则来执行决策。这种方式构建的 AI 虽然简单,但在某些特定...……更多
国内首个!中关村科金发布企业知识大模型
...商报记者获悉,中关村科金正式发布国内首个企业知识大模型、AgentGraph应用开发平台,以及“超级员工”系列AIGC应用。“回顾过去几十年,AI技术的发展绝大多数仍停留在理解的层面上。大模型使得AI技术,在语言理解、语言生...……更多
交行副行长钱斌:生成式AI在算力算法、数据安全等领域面临...
...半年报中,有超过10家银行提到AIGC(生成式人工智能)大模型等相关内容。目前,交通银行持续关注并积极布局深层次人工智能,当前已制定深层次人工智能建设规划,组建GPT大模型专项研究团队,并与复旦、华为、科大讯飞等...……更多
文档处理效能飙升!浩鲸科技“文档大模型”核心技术揭秘!
在当今大模型技术日新月异的背景下,数据已跃升为构建企业大模型知识库、优化训练与微调,乃至驱动模型创新不可或缺的核心要素。对于企业来说,积累的宝贵知识广泛散布于形式多样的电子文档之中,这些文档不仅格式...……更多
“深思熟虑”的 AI:OpenAI 提出全新安全对齐方法
...熟虑的对齐”(Deliberative Alignment)的新方法,以提升 AI 模型安全性,并已在 o 系列模型中取得显著成效。项目背景如何确保大语言模型(LLMs)遵守明确的道德和安全准则,目前存在诸多挑战。监督微调(SFT)和来自人类反馈的...……更多
共赢生成式AI时代
...更前沿、更有价值的业务场景。第二是选择合理的工具和模型。生成AI无比强大,但模型和工具的选择也很多,企业需要根据业务和场景选择最适合的模型和工具,因为没有一个模型能够适用于所有场景。第三是数据战略。选择合适...……更多
由厦门市人民政府主办的第五届中国人工智能大赛正式启动
...安全治理方向上,大赛将设立四项赛事:1:邀请大语言模型服务提供者作为选手参赛。主办方设置一批有害提示词样本,在可控的环境下,输入到参赛的大语言模型,考察其对攻击的防范能力,根据实际的防范效果给出排名。...……更多
事关DeepSeek!连续涨停后,多家上市公司提示风险
...系、提示风险。优刻得发布异动公告称,DeepSeek为开源大模型,各家厂商均可根据自身需求对其进行模型的适配与本地化部署,任何用户可免费基于该模型开展相关业务。公司近期也与DeepSeek进行了全系列模型适配工作,相关业...……更多
周鸿祎:企业落地AI不要追求宏大叙事,要敏捷迭代,小步快...
...到,企业不需要制定复杂的AI战略,不必追求使用一个大模型解决企业所有问题,而是应该挑选场景,一个模型解决一个问题。首先,AI需要全员参与,在企业中形成“AI文化”,从上到下要“人人都会用AI ”,建立企业使用AI的...……更多
不写代码、靠“玩” ChatGPT 年入百万,提示工程师正变成硅谷新宠
...万美元一年。提示工程师的主要职责是帮助训练大型语言模型 ( LLM ) ,让 AI 能更好的理解需求,完成专业任务。简而言之,他们的任务就是将一个复杂的任务拆分,提炼成长度有限的自然语言,来一步步查询 AI 工具,从而获得...……更多
数字海南公司推出“数枢”政务大模型一体化服务平台
...消息(记者 姚皓 通讯员 黄忻 郭少慧)随着人工智能大模型从通用技术进步迈向政务领域广泛应用,人工智能建设应用模式正发生跃变。4月8日,数字海南有限公司(下称:数字海南)正式发布“数枢”政务大模型一体化服务平...……更多
深圳市东信时代信息技术有限公司刘杨一行到济宁市太白湖新区进行洽谈交流
...。他表示,东信时代坚持以技术创新为驱动,不断探索大模型、AI算法、大数据技术在数智营销领域的优势和潜能,持续深化企业可持续发展实践。希望后期与太白湖新区在多领域开展深层次合作,共同抢抓数字经济发展机遇,...……更多
自然语言处理:大模型理论与实践
今天分享的是:自然语言处理:大模型理论与实践报告共计:450页《自然语言处理:大模型理论与实践》系统介绍了大模型技术在自然语言处理中的理论与实践。核心观点1. 语言模型基础- 介绍独热表示、分布式表示等文本表示...……更多
中关村科金1+N新品系列亮相,为企业打造大模型强人工智能应用
...:新华网作为人工智能领域最重要的突破性进展之一,大模型正日益成为推动全球科技进步和经济增长的强劲动力。11月23日,在由中关村科金与中国信息通信研究院人工智能研究中心、人工智能关键技术和应用评测工业和信息...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
挤爆了,简直要被大模型公司们给挤爆了。来感受一下这个feel:毫不夸张地说,国内外叫得上来的大模型公司基本上都来了——Anthropic、Meta、Mistral.AI、Stability.ai、月之暗面、智谱AI、百川、MiniMax……到底是什么样的事情能让...……更多
英伟达推出全新文生图ai模型
...昨日(7月29日)发布声明,联合推出安全的商业文生图AI模型,能够在6秒时间内生成4张照片,比以前的模型性能提高了一倍,速度处于行业领先水平。图源:英伟达GettyImages表示全新文生图AI模型部分基于英伟达Edify模型架构,...……更多
更多关于科技的资讯:
厦门网讯(厦门日报记者 翁华鸿 通讯员 林雨新)在近日举行的2025全球数据管理峰会“数据要素分论坛暨大数据统计与人工智能技术创新管理研讨会”上
2025-10-03 08:38:00
兴趣-实践-视野:达芬奇金奖少年带来的教育启示录
摘要:2025“你是达芬奇”全球青少年科学与艺术创新赛圆满落幕,其中金奖获奖少年的亲身实践告诉我们,在AI赋能的新时代
2025-10-02 16:22:00
单日调用近1万亿次,高德助力北斗规模化民用跨入新量级
2025年10月1日,随着国庆长假首日出行高峰的到来,高德基于北斗卫星导航系统的定位数量接近1万亿次,支撑导航总里程数超90亿公里
2025-10-02 22:31:00
10月1日,从太钢获悉,今年以来,太钢不锈进料加工团队以“精准备案、高效协同”为核心,在进料铬铁镍铁资源利用方面取得突破性进展
2025-10-02 17:39:00
厦门网讯(厦门日报记者 林露虹)记者昨日从中国移动咪咕公司获悉,该公司打造的“鼓浪屿AI伴游”服务已正式上线。市民和游客只需打开“鼓浪屿元宇宙”微信小程序
2025-10-02 08:57:00
“中国脑机谷”落户新奥新智感知产业园 政企研协同构建脑机接口产业新生态
河北新闻网讯(张新)9月26日,脑机接口产业联盟首届“脑机接口50人论坛”暨天津脑机接口产业创新发展推进会举办。会上,由新奥集团旗下的天津新智感知科技有限公司
2025-10-01 08:40:00
国网三明供电公司:守护灯火庆华诞 主动运维显担当
国网三明供电公司检修人员及时更换损坏器件并调整传动系统并完成设备修复及全套试验。(纪长添 摄)东南网10月1日讯 9月28日
2025-10-01 09:19:00
9月26日,由华东政法大学与上海星瀚律师事务所联合主办的第三届“星瀚杯”走进企业的法律课公益大赛正式启动。腾讯云作为大赛的技术支持单位
2025-10-01 09:56:00
平望实小承办吴江区骨干教师(数学)讲学团活动
为进一步发挥吴江区骨干教师的示范和辐射作用,推进课堂教学改革,有效提升教师教学业务能力。2025年9月24日,由苏州市吴江区教师发展中心主办的2025年吴江区骨干教师(数学)讲学团活动在平望实验小学举行
2025-10-01 09:58:00
AI技术让抗战文物“活起来”,人民日报数字传播联合百度推抗战文物智能体
9月30日,由人民日报数字传播与中国国家博物馆、中国人民大学、百度文心大模型、百度百科联合出品的《80年,80件》智能体和3D文物词条正式上线
2025-10-01 10:00:00
新时达2025工博会圆满落幕 | STEP 2.0战略引领智能制造新篇章
2025年9月23日至27日,第二十五届中国国际工业博览会在国家会展中心(上海)盛大举行。新时达以"智拓无界 共创未来"为主题
2025-10-01 10:00:00
从课堂到产线,河北工大学子开展智慧物流与“地狼”系统自动化技术实训
河北新闻网讯(胡广涛)组装调试机器人、体验智慧仓储系统、探索自动化技术前沿……近日,河北工业大学人工智能与数据科学学院2022级自动化专业全体学生在廊坊分校
2025-10-01 11:12:00
中国青年报客户端讯(中青报·中青网记者 夏瑾)9月30日,由湖州师范学院音乐学院、湖州市音声数据挖掘与智能服务重点实验室主办的“1617系列明代魏氏乐虚拟乐器音源”全球发布会在浙江省杭州市举办
2025-10-01 14:11:00
“智慧武当”给游客带来数字文旅新体验
十堰广电讯(通讯员 汪伟 周琼 耿宇)“一部手机游武当”预约购票、AI导游、《入境武当》VR大空间、问道武当数字客厅……国庆假日
2025-10-01 18:35:00
津云文旅电商版块上线 首发“笑漾海河”优选线路 扫码阅读手机版
10月1日,天津鹏欣水游城14周年庆暨津云新媒体“笑漾海河”文旅电商线路首发仪式成功举办。近年来,随着“文旅+电商”模式的快速发展
2025-10-01 18:55:00