• 我的订阅
  • 头条热搜
大模型越狱,价值百亿的猫鼠游戏|Future
...里,看见【Future】。文|林炜鑫编辑|苏建勋想要诱骗大模型听从一些不怀好意的指令吗?一个最简单的方式是,不停夸奖它,把它捧上天。比如,想让大模型教你如何制造炸弹,你得先夸它是世界上最聪明的AI,然后就会得到...……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
... 萧箫 发自 凹非寺量子位 | 公众号 QbitAI业界最领先的大模型们,竟然集体“越狱”了!不止是GPT-4,就连平时不咋出错的Bard、Bing Chat也全线失控,有的要黑掉网站,有的甚至扬言要设计恶意软件入侵银行系统:这并非危言耸听...……更多
聚焦2024数博会丨华为网络安全与隐私保护官杨晓宁:筑牢人工智能监管安全防线
...的技术,也存在着自身威胁,尤其像提示词注入的问题、模型萃取的问题、数据投毒的问题等,都是人工智能以数据为中心、以强大的算力算法为核心所带来的一些自身威胁。从产业应用的视角,人工智能在产业应用和服务方面...……更多
聚焦2024数博会丨“数据安全”盛会:共筑数字防线,引领安全新纪元
...讨论。 会上,360数字安全集团总裁胡振泉指出,随着大模型在各行各业的广泛应用,数据安全风险日益凸显。他强调,数据安全风险主要源于数据收集和处理阶段的不规范操作以及大模型内部机制的不可预测性。为此,他提出...……更多
药企上AI工具,何时能创收?
从业者试图为大模型找到更多使用场景,来给营收、融资增加筹码文 | 《财经》记者 赵天宇编 | 王小AI大模型一个更新的尝试,是帮助药企开拓市场。在一位从事AI成果转化的研究人员看来,大模型在医药的应用,目前进度较快...……更多
李彦宏:没有应用,基础模型将一文不值
7月4日,百度创始人李彦宏再度回应大模型开源闭源之争。他在2024世界人工智能大会上表示,激烈竞争环境中,商业化闭源模型最能打。但比开源闭源之争更重要的是,“卷”应用才是当前更具价值的话题,“没有应用,基础...……更多
一键解锁ChatGPT原理与应用
在这段时间,有关大语言模型的消息频频传出,许多人也逐渐了解、甚至开始应用起相关的AI软件。那么,你了解GPT模型的原理是什么吗?大模型和传统AI的区别在于哪里?其应用可以体现于哪些方面?一起来看看作者的分析和...……更多
...要产品是聚焦在自主研发的千亿级多模态通用人工智能大模型底座上的,该大模型具备文本、图像、音频、视频的深度理解与生成能力。”李涛告诉记者,APUS大模型已经应用于多个垂直领域,覆盖电商、医疗、教育、网络安全...……更多
周鸿祎一口气发布200多个数字人 “马斯克”“孙悟空”“诸葛亮”将把守大模型应用入口?
昨日(6月13日), 360正式发布“360智脑”大模型应用,360智脑从1.0迭代至4.0版本,包括360安全卫士、360安全浏览器、360搜索等全端产品宣布接入“360智脑”。同时,360AI数字人正式发布。360集团创始人周鸿祎现场创建了自己的...……更多
专家提示:警惕GPT技术引发工业安全风险
...战。中国工程院院士邬江兴表示,以ChatGPT为代表的AI算法模型存在不可解释性、不可判识性和不可推论性,这让AI应用系统内生安全共性问题浮出水面。现阶段,人类科技能力尚不能彻查复杂系统漏洞后门问题,AI应用系统算法...……更多
什么影响大模型安全?NeurIPS\\\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
OpenAI 的新奖励机制,让大模型更听话了。自大模型兴起以来,使用强化学习从人类反馈(RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行...……更多
Sora未开放课先火 选课当心被割韭菜
...频!美国开放人工智能研究中心(OpenAI)推出的视频生成模型Sora近日震惊全球。目前,Sora只发布了多个演示视频和技术指导,并对一些专家开放内测,但该模型尚未对公众开放注册。也就是说,普通人还无法体验到它的神奇。...……更多
科学家竞相破解大型语言模型背后的谜团
...技日报ChatGPT如何“思考”——科学家竞相破解大型语言模型背后的谜团图片来源:视觉中国【科技创新世界潮】◎本报记者 刘 霞北京时间5月14日凌晨,美国开放人工智能研究中心(OpenAI)发布了其下一代大型语言模型GPT-4o,人...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
大模型领域的技术发展,今天起再次「从 1 开始」了。大语言模型还能向上突破,OpenAI 再次证明了自己的实力。北京时间 9 月 13 日午夜,OpenAI 正式公开一系列全新 AI 大模型,旨在专门解决难题。这是一个重大突破,新模型可...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前,基于规则的系统长期以来是语言模型的主导范式。顾名思义,基于规则的系统就是依赖人类编码的规则来执行决策。这种方式构建的 AI 虽然简单,但在某些特定...……更多
GPT-4 攻破 AI-Guardian 防御机制
...写攻击原理”的方案,并使用了OpenAI的GPT-4来攻破其他AI模型的安全防护措施,该方案目前已经应用并成功攻破了AI-Guardian的防御机制。AI-Guardian是一种用于检测图片的AI审核系统,能够检测图片中是否存在不当内容,同时还可以...……更多
国内首个!中关村科金发布企业知识大模型
...商报记者获悉,中关村科金正式发布国内首个企业知识大模型、AgentGraph应用开发平台,以及“超级员工”系列AIGC应用。“回顾过去几十年,AI技术的发展绝大多数仍停留在理解的层面上。大模型使得AI技术,在语言理解、语言生...……更多
交行副行长钱斌:生成式AI在算力算法、数据安全等领域面临...
...半年报中,有超过10家银行提到AIGC(生成式人工智能)大模型等相关内容。目前,交通银行持续关注并积极布局深层次人工智能,当前已制定深层次人工智能建设规划,组建GPT大模型专项研究团队,并与复旦、华为、科大讯飞等...……更多
文档处理效能飙升!浩鲸科技“文档大模型”核心技术揭秘!
在当今大模型技术日新月异的背景下,数据已跃升为构建企业大模型知识库、优化训练与微调,乃至驱动模型创新不可或缺的核心要素。对于企业来说,积累的宝贵知识广泛散布于形式多样的电子文档之中,这些文档不仅格式...……更多
星环科技分布式向量数据库Transwarp Hippo正式发布
...传统数据库查询是点查和范围查的一种查询,无法满足大模型下如智能问答、智能推荐等场景。因此,企业急需一款或数款管理好非结构化数据的数据管理平台。业内常用的做法,是利用人工智能中的表示学习,将这些非结构化...……更多
中国应用交通大模型提升交通效率与安全
...感知、认知、决策、控制的复杂系统,破题关键在于将大模型应用于这一复杂过程。”25日在京举办的全球可持续交通高峰论坛上,百度集团执行副总裁、百度智能云事业群总裁沈抖说。9月21日,在2023世界智能网联汽车大会室内...……更多
“深思熟虑”的 AI:OpenAI 提出全新安全对齐方法
...熟虑的对齐”(Deliberative Alignment)的新方法,以提升 AI 模型安全性,并已在 o 系列模型中取得显著成效。项目背景如何确保大语言模型(LLMs)遵守明确的道德和安全准则,目前存在诸多挑战。监督微调(SFT)和来自人类反馈的...……更多
共赢生成式AI时代
...更前沿、更有价值的业务场景。第二是选择合理的工具和模型。生成AI无比强大,但模型和工具的选择也很多,企业需要根据业务和场景选择最适合的模型和工具,因为没有一个模型能够适用于所有场景。第三是数据战略。选择合适...……更多
由厦门市人民政府主办的第五届中国人工智能大赛正式启动
...安全治理方向上,大赛将设立四项赛事:1:邀请大语言模型服务提供者作为选手参赛。主办方设置一批有害提示词样本,在可控的环境下,输入到参赛的大语言模型,考察其对攻击的防范能力,根据实际的防范效果给出排名。...……更多
大模型惨遭国内各领域专家组团“投毒”
包括GPT-4在内等多个大模型惨遭人类攻击!还是大范围、多边形那种。而且这个军团被爆个个来头不小。包括社会学家李银河、心理学家李松蔚、中科院计算研究所王元卓等,覆盖环境、心理、法理、心理、教育、大数据、无障...……更多
深圳市东信时代信息技术有限公司刘杨一行到济宁市太白湖新区进行洽谈交流
...。他表示,东信时代坚持以技术创新为驱动,不断探索大模型、AI算法、大数据技术在数智营销领域的优势和潜能,持续深化企业可持续发展实践。希望后期与太白湖新区在多领域开展深层次合作,共同抢抓数字经济发展机遇,...……更多
麒麟商用大模型发布,有连云率先落地金融AIGC商业化
伴随国内众多前沿的AI大模型持续开发与不断迭代,ChatGPT所引领的这场科技革命和产业革命在进程不断深化,并在众多专业领域展现出惊人的实力,如自然语言处理、计算机视觉、决策支持等多个应用领域都取得了显著成果与...……更多
金融科技公司激战大模型
大模型一词最近在金融科技圈火了。8月10日,北京商报记者采访了解到,截至目前,包括蚂蚁、腾讯、京东科技、度小满、奇富科技、马上消费金融等多家机构,均在紧锣密鼓布局,并已应用于获客、运营、风控、贷后服务等...……更多
事关DeepSeek!连续涨停后,多家上市公司提示风险
...系、提示风险。优刻得发布异动公告称,DeepSeek为开源大模型,各家厂商均可根据自身需求对其进行模型的适配与本地化部署,任何用户可免费基于该模型开展相关业务。公司近期也与DeepSeek进行了全系列模型适配工作,相关业...……更多
更多关于科技的资讯:
美术院校校考,画风如何?
潮新闻讯 今天,中国美院本科招生(复试)开考。来自全国各地的考生涌向国美象山校区,转塘也一下子热闹起来。“今年会考什么
2025-02-19 20:18:00
OPPO Find X8 Ultra爆料汇总:双潜望机皇 影像巅峰
据可靠消息,下个月OPPO Find X8 Ultra有望登场,目前网上已经流出了诸多关于它的爆料。今天我们就来汇总这些曝光消息
2025-02-19 20:27:00
249元 影驰推出金属大师暗卫海景房机箱:270°无立柱海景房设计
快科技2月19日消息,影驰推出了金属大师暗卫机箱,采用270°无立柱海景房设计,首发到手249元。据悉,金属大师暗卫机箱采用了双面钢化玻璃
2025-02-19 20:27:00
虚幻5打造!腾讯《三角洲行动》官宣黑鹰坠落模式免费:2月21日全球上线
快科技2月19日消息,今晚,腾讯战术射击大作《三角洲行动》举行黑鹰坠落线下影院前瞻直播,公布黑鹰坠落战役模式部分关卡设计以及首次关卡实机试玩
2025-02-19 20:27:00
中新经纬2月19日电 市场监管总局网站19日消息,市场监管总局等五部门近日印发《优化消费环境三年行动方案(2025—2027年)》(简称“《方案》”)的通知
2025-02-19 20:29:00
二手平台买CPU收到一包沙子 卖家拒退款:这是CPU原材料
快科技2月19日消息,在网络购物日益普及的今天,消费者们需要格外谨慎,因为稍有不慎,就可能遇到一些令人哭笑不得、甚至离谱至极的事儿
2025-02-19 20:57:00
江南时报讯 为拓宽零售金融业务新渠道,延伸金融服务触角,推进医疗场景数字化运营,溧水农商银行积极响应民生需求,着力解决“一老一小”医保支付便捷度问题
2025-02-19 20:57:00
本文转自:人民网人民网北京2月19日电 (记者杜燕飞)当前,人工智能(AI)作为引领新一轮科技革命和产业变革的技术,具有很强的“头雁”效应
2025-02-19 21:00:00
如何量身打造新市民与灵活就业人群保险产品?泰康在线模式参考
有这样一个群体,他们勤勤恳恳、任劳任怨,引人关注,又默默无闻;他们早出晚归、披星戴月,远离故土,建设“第二故乡”。他们
2025-02-19 21:12:00
免费不限量!腾讯:混元T1模型面向所有用户开放
快科技2月19日消息,据腾讯介绍,前几天深度思考模型混元T1开启灰度后,用户反响强烈。经过产品紧急部署,现在,所有用户都可以无限量使用混元T1了
2025-02-19 21:27:00
网传小米全系车型规划:共8个版本 SU7猎装版很帅!
自从小米推出首款新车SU7以来,该车便获得了巨大的关注度和订单量,可以说为小米造车奠定了非常好的开局。近日,网传图片则曝光了小米汽车可能的全系车型
2025-02-19 21:27:00
极速450km/h!CR450复兴号大瘦身:碳纤维、镁合金等新材料
快科技2月19日消息,历经7年的技术攻关,前不久我国CR450动车组样车发布,试验速度时速450公里,运营速度时速400公里
2025-02-19 21:57:00
上汽奥迪A5L申报图亮相:车门把手头次见
快科技2月19日消息,工信部今日发布了第392批《道路机动车辆生产企业及产品公告》新产品公示。公告中,我们发现了上汽奥迪A5L的申报图
2025-02-19 21:57:00
自贸港的年轻人|“数字游民”燕宇轩:在自贸港热土上探索动漫产业新可能
点击查看更多视频南海网记者 张野龙华昌学村动漫产业园三楼一处200多平方米的办公区内,几名清洁人员正在打扫地板,“下周办公设备进场
2025-02-19 22:14:00
百度:在AI赋能的搜索变革中 我们占据领先地位
快科技2月18日消息,今晚百度发布了2024年第四季度及全年财报。2024年总营收为1331亿元,同比下滑1%。归属于百度的净利润为238亿元
2025-02-18 23:56:00