• 我的订阅
  • 头条热搜
大模型越狱,价值百亿的猫鼠游戏|Future
...里,看见【Future】。文|林炜鑫编辑|苏建勋想要诱骗大模型听从一些不怀好意的指令吗?一个最简单的方式是,不停夸奖它,把它捧上天。比如,想让大模型教你如何制造炸弹,你得先夸它是世界上最聪明的AI,然后就会得到...……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
... 萧箫 发自 凹非寺量子位 | 公众号 QbitAI业界最领先的大模型们,竟然集体“越狱”了!不止是GPT-4,就连平时不咋出错的Bard、Bing Chat也全线失控,有的要黑掉网站,有的甚至扬言要设计恶意软件入侵银行系统:这并非危言耸听...……更多
聚焦2024数博会丨华为网络安全与隐私保护官杨晓宁:筑牢人工智能监管安全防线
...的技术,也存在着自身威胁,尤其像提示词注入的问题、模型萃取的问题、数据投毒的问题等,都是人工智能以数据为中心、以强大的算力算法为核心所带来的一些自身威胁。从产业应用的视角,人工智能在产业应用和服务方面...……更多
聚焦2024数博会丨“数据安全”盛会:共筑数字防线,引领安全新纪元
...讨论。 会上,360数字安全集团总裁胡振泉指出,随着大模型在各行各业的广泛应用,数据安全风险日益凸显。他强调,数据安全风险主要源于数据收集和处理阶段的不规范操作以及大模型内部机制的不可预测性。为此,他提出...……更多
药企上AI工具,何时能创收?
从业者试图为大模型找到更多使用场景,来给营收、融资增加筹码文 | 《财经》记者 赵天宇编 | 王小AI大模型一个更新的尝试,是帮助药企开拓市场。在一位从事AI成果转化的研究人员看来,大模型在医药的应用,目前进度较快...……更多
李彦宏:没有应用,基础模型将一文不值
7月4日,百度创始人李彦宏再度回应大模型开源闭源之争。他在2024世界人工智能大会上表示,激烈竞争环境中,商业化闭源模型最能打。但比开源闭源之争更重要的是,“卷”应用才是当前更具价值的话题,“没有应用,基础...……更多
...要产品是聚焦在自主研发的千亿级多模态通用人工智能大模型底座上的,该大模型具备文本、图像、音频、视频的深度理解与生成能力。”李涛告诉记者,APUS大模型已经应用于多个垂直领域,覆盖电商、医疗、教育、网络安全...……更多
什么影响大模型安全?NeurIPS\\\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
OpenAI 的新奖励机制,让大模型更听话了。自大模型兴起以来,使用强化学习从人类反馈(RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行...……更多
Sora未开放课先火 选课当心被割韭菜
...频!美国开放人工智能研究中心(OpenAI)推出的视频生成模型Sora近日震惊全球。目前,Sora只发布了多个演示视频和技术指导,并对一些专家开放内测,但该模型尚未对公众开放注册。也就是说,普通人还无法体验到它的神奇。...……更多
科学家竞相破解大型语言模型背后的谜团
...技日报ChatGPT如何“思考”——科学家竞相破解大型语言模型背后的谜团图片来源:视觉中国【科技创新世界潮】◎本报记者 刘 霞北京时间5月14日凌晨,美国开放人工智能研究中心(OpenAI)发布了其下一代大型语言模型GPT-4o,人...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
大模型领域的技术发展,今天起再次「从 1 开始」了。大语言模型还能向上突破,OpenAI 再次证明了自己的实力。北京时间 9 月 13 日午夜,OpenAI 正式公开一系列全新 AI 大模型,旨在专门解决难题。这是一个重大突破,新模型可...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前,基于规则的系统长期以来是语言模型的主导范式。顾名思义,基于规则的系统就是依赖人类编码的规则来执行决策。这种方式构建的 AI 虽然简单,但在某些特定...……更多
国内首个!中关村科金发布企业知识大模型
...商报记者获悉,中关村科金正式发布国内首个企业知识大模型、AgentGraph应用开发平台,以及“超级员工”系列AIGC应用。“回顾过去几十年,AI技术的发展绝大多数仍停留在理解的层面上。大模型使得AI技术,在语言理解、语言生...……更多
交行副行长钱斌:生成式AI在算力算法、数据安全等领域面临...
...半年报中,有超过10家银行提到AIGC(生成式人工智能)大模型等相关内容。目前,交通银行持续关注并积极布局深层次人工智能,当前已制定深层次人工智能建设规划,组建GPT大模型专项研究团队,并与复旦、华为、科大讯飞等...……更多
文档处理效能飙升!浩鲸科技“文档大模型”核心技术揭秘!
在当今大模型技术日新月异的背景下,数据已跃升为构建企业大模型知识库、优化训练与微调,乃至驱动模型创新不可或缺的核心要素。对于企业来说,积累的宝贵知识广泛散布于形式多样的电子文档之中,这些文档不仅格式...……更多
共赢生成式AI时代
...更前沿、更有价值的业务场景。第二是选择合理的工具和模型。生成AI无比强大,但模型和工具的选择也很多,企业需要根据业务和场景选择最适合的模型和工具,因为没有一个模型能够适用于所有场景。第三是数据战略。选择合适...……更多
由厦门市人民政府主办的第五届中国人工智能大赛正式启动
...安全治理方向上,大赛将设立四项赛事:1:邀请大语言模型服务提供者作为选手参赛。主办方设置一批有害提示词样本,在可控的环境下,输入到参赛的大语言模型,考察其对攻击的防范能力,根据实际的防范效果给出排名。...……更多
深圳市东信时代信息技术有限公司刘杨一行到济宁市太白湖新区进行洽谈交流
...。他表示,东信时代坚持以技术创新为驱动,不断探索大模型、AI算法、大数据技术在数智营销领域的优势和潜能,持续深化企业可持续发展实践。希望后期与太白湖新区在多领域开展深层次合作,共同抢抓数字经济发展机遇,...……更多
自然语言处理:大模型理论与实践
今天分享的是:自然语言处理:大模型理论与实践报告共计:450页《自然语言处理:大模型理论与实践》系统介绍了大模型技术在自然语言处理中的理论与实践。核心观点1. 语言模型基础- 介绍独热表示、分布式表示等文本表示...……更多
中关村科金1+N新品系列亮相,为企业打造大模型强人工智能应用
...:新华网作为人工智能领域最重要的突破性进展之一,大模型正日益成为推动全球科技进步和经济增长的强劲动力。11月23日,在由中关村科金与中国信息通信研究院人工智能研究中心、人工智能关键技术和应用评测工业和信息...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
挤爆了,简直要被大模型公司们给挤爆了。来感受一下这个feel:毫不夸张地说,国内外叫得上来的大模型公司基本上都来了——Anthropic、Meta、Mistral.AI、Stability.ai、月之暗面、智谱AI、百川、MiniMax……到底是什么样的事情能让...……更多
英伟达推出全新文生图ai模型
...昨日(7月29日)发布声明,联合推出安全的商业文生图AI模型,能够在6秒时间内生成4张照片,比以前的模型性能提高了一倍,速度处于行业领先水平。图源:英伟达GettyImages表示全新文生图AI模型部分基于英伟达Edify模型架构,...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...技术优势:它支持智谱 AI、百川智能等国内领先的大语言模型,通过微调和优化提高模型的准确率和可读性,通过开放 API 接口支持个性化的数据应用搭建。(来源:“CSDN”微信公众号)《马斯克多次失手,OpenAI 异军突起,硅...……更多
荣耀magic6,ai大模型的发展方向
以大模型为代表的人工智能技术已发展为新一轮科技革命和产业变革的重要驱动力量。10月26日高通峰会上,荣耀CEO赵明在演讲时官宣了新机荣耀Magic6的部分信息。他表示,新机将会搭载全新骁龙8Gen3以及荣耀自研的7B端侧AI大模...……更多
智源评测体系发布 国内外“百模”评估结果出炉
5月17日,智源研究院举办大模型评测发布会,正式推出智源评测体系,发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。本次智源评测,分别从主观、客观两个维度考察了语言模型的简单理...……更多
易联众发布民生信息服务大模型平台,助推民生事业提质增效
自GPT破圈以来,围绕大语言模型展开的探索之潮席卷各行各业。国家数据局也在2023年年末发布《“数据要素x”三年行动计划(2024—2026年)(征求意见稿)》,提出以科学数据支持大模型开发,建设高质量语料库和基础科学数据集,加速...……更多
厉害了!Adobe新出Firefly视频模型,2分钟速成高清大片
...入 Adobe 全家桶数月后,Adobe 终于推出了自己的视频生成模型。随着大家对新鲜、短视频内容的需求不断增长,编辑、电影制作人和内容创作者被要求在更短的时间内创作出更好的作品。如今,编辑不仅要剪辑图片,还要进行色...……更多
Sora“超级涌现力”将把AI引向何方
本文转自:文汇报OpenAI首款文生视频大模型对物理世界的重建能力惊艳世界Sora“超级涌现力”将把AI引向何方Sora模拟视频中,在海中飞舞的蝴蝶犹如实景拍摄。一位女性的秋日特写人像,细节模拟精致到位。一段合成视频中,...……更多
免训练大模型知识编辑,吸收新数据更高效|EMNLP\\\'24
让大模型能快速、准确、高效地吸收新知识!被EMNLP 2024收录的一项新研究,提出了一种检索增强的连续提示学习新方法,可以提高知识终身学习的编辑和推理效率。模型编辑旨在纠正大语言模型中过时或错误的知识,同时不需...……更多
更多关于科技的资讯:
迪拜斥资56亿美元建地铁:中国中车与土耳其两公司联合中标
财联社12月20日讯(编辑李林/实习编辑商婕)经过数月的招标,迪拜已将价值205亿迪拉姆(56亿美元)的地铁蓝线合同授予土耳其和中国公司组成的联合体
2024-12-20 18:31:00
魏思琪谈小米SU7熔岩橙:绝对被低估的一款颜色 晚上好看得要命
快科技12月20日消息,小米集团魏思琪发文表示,小米SU7熔岩橙绝对是被低估了的一个颜色,我经常看着科技园里为数不多的熔岩橙眼馋
2024-12-20 18:31:00
联想Yoga屏下摄像头笔记本照片首曝!正面视觉冲击力十足
快科技12月20日消息,联想在这次的CES 2025上,似乎有不少重磅产品要发布,在Legion Go S、卷轴屏笔记本之后
2024-12-20 18:31:00
累计亏损近百亿元!观致汽车37.7亿股权被冻结三年
快科技12月20日消息,天眼查App显示,近日,观致汽车有限公司新增两则股权冻结信息,被执行人分别为奇瑞汽车旗下芜湖奇瑞汽车投资有限公司
2024-12-20 18:31:00
“时间的朋友”十周年之际 罗振宇自爆:我左耳朵已经聋了3年了
快科技12月20日消息,据媒体报道,近日,得到App创始人罗振宇发布了2025跨年演讲预告片,他开片说的第一句话是:“我要坦白一个秘密
2024-12-20 19:01:00
放假半年还发放工资是谣言 涉事公司:员工都在正常上班
12月20日消息,据媒体报道,有网友发文称,广东科隆威智能装备股份有限公司发布放假通知,宣布将给员工安排放假半年,放假期间工资按劳动法规定发放
2024-12-20 19:01:00
95后女子鼻塞2个月:一查竟确诊恶性肿瘤!
快科技12月20日消息,近日,据媒体报道,浙江绍兴一位“95后”女子2个月前出现了单侧鼻塞的情况,以为是普通感冒就没放在心上
2024-12-20 19:31:00
11月中国大陆显卡出货增长5%:七彩虹稳居第一、RTX 40系列供不应求
快科技12月20日消息,根据博板堂最新整理的数据,2024年11月中国大陆地区显卡出货量相比10月份环比下降了约10%
2024-12-20 19:31:00
10万网友吐槽最没用的家电合集:空气炸锅排第一
最近,我无意间刷到了一个非常有趣的话题“最没用的家电”,这条话题下评论接近1万条,估计真实的阅读量早已突破10万+。这么多人关心的话题下
2024-12-20 19:31:00
金价暴涨!女子花110万直播间抢2300克黄金商家拒发货 法院判了
快科技12月20日消息,今日,词条#女子110万抢2300克黄金商家拒发货#冲上微博热搜,引发关注。据媒体报道,今年2月
2024-12-20 19:31:00
开源鸿蒙5.0 Release版正式发布:流畅度大增 新增应用分身等功能
快科技12月20日消息,今日,开源鸿蒙操作系统5.0 Release版本正式发布。官方表示,该版本在系统完备度、分布式创新
2024-12-20 19:31:00
速度升级新版本!两款知名国产前端开源项目被植入恶意代码
快科技12月20日消息,据报道,前端开发社区近日遭遇严重供应链安全事件,有赞开源组件库Vant和字节跳动开源的前端打包工具Rspack多个版本被植入恶意代码
2024-12-20 19:31:00
《清明上河图密码》豆瓣褒贬不一:张颂文演技被批
古装悬疑剧《清明上河图密码》于12月16日正式开播,豆瓣目前尚未开分,观众早期评价出炉,口碑褒贬不一。给出好评的观众们表示
2024-12-20 19:31:00
车辆遇交警查车想倒车掉头跑路 俩热心车主一前一后瞬间拦截
快科技12月20日消息,一位车主分享了自己和前车合力拦下被查车辆的视频,引起网友关注。视频中,视频车经过交警查酒驾路段时
2024-12-20 19:31:00
iqoo明年新机规划曝光,将配备独显芯片
2024年已经接近尾声,12月19日,知名数码博主@数码闲聊站曝光了iQOO手机2025年的新机规划。据他爆料,iQOO明年新机的性能定义都挺强
2024-12-20 19:43:00