• 我的订阅
  • 头条热搜
RLHF不够用了,OpenAI设计出了新的奖励机制
OpenAI 的新奖励机制,让大模型更听话了。自大模型兴起以来,使用强化学习从人类反馈(RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行...……更多
什么影响大模型安全?NeurIPS\\\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
大模型越狱,价值百亿的猫鼠游戏|Future
...里,看见【Future】。文|林炜鑫编辑|苏建勋想要诱骗大模型听从一些不怀好意的指令吗?一个最简单的方式是,不停夸奖它,把它捧上天。比如,想让大模型教你如何制造炸弹,你得先夸它是世界上最聪明的AI,然后就会得到...……更多
聚焦大模型应用与安全,ATEC2023正式启动
如今,AI大模型技术不断发展进步,也在越来越多的行业中寻找落地场景,而随着应用愈来愈广泛,安全问题也相应被提到一定高度,关注度明显提高。11月1日,由中国电子学会主办的第四届ATEC科技精英赛(ATEC2023)正式启动报...……更多
...立于2023年7月,位于美国加州,是一家专注于AI Safety(大模型安全)和Safe AI(安全人工智能)的科技企业,致力于为大模型公司、使用大模型的企业以及其他B2B行业的客户提供全方位、多层次的AI安全解决方案。在大模型技术快...……更多
财联社6月4日讯(记者郭松峤)“‘破’是指用大模型技术解决人工智能安全问题,确保人工智能产业良性发展。‘立’则是人工智能赋能数字福建的具体实践,重构数字产业,拓展新机会。”近日,国投智能董事长滕达在数字...……更多
AI手机成行业新风口,但实际体验却频频翻车
...力为73TOPS每秒,支持终端侧运行高达100亿参数的生成式AI模型,以每秒生成20个token的速度运行70亿参数的大语言模型,并支持FastStableDiffusion在0.6秒内生成图像。显而易见,魅族21PRO虽然理解了我们的问题,但后台数据库过于老旧...……更多
阿里云安全大模型投入使用,引领云上安全运营新体验
2023年云栖大会,阿里云安全正式宣布基于通义千问大模型训练的安全大模型投入使用。首期开放的功能包括为用户提供定制化的安全告警解读、事件调查及处置建议服务,覆盖全网超过99%的告警事件类型。即日起,用户可在阿...……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
... 萧箫 发自 凹非寺量子位 | 公众号 QbitAI业界最领先的大模型们,竟然集体“越狱”了!不止是GPT-4,就连平时不咋出错的Bard、Bing Chat也全线失控,有的要黑掉网站,有的甚至扬言要设计恶意软件入侵银行系统:这并非危言耸听...……更多
如何识别AI安全风险?中国工程院院士邬江兴:尽量避免使用单一模型,要交叉验证
...式来展示数据分类分级的过程,以及在传输中如何借助大模型检测潜在的数据泄漏、恶意攻击等威胁。”近一段时间以来,以大模型为代表的AI(人工智能)技术持续火爆,在惊喜于大模型的“聪明能干”时,很多人也开始隐隐...……更多
“安防+大模型”,360智慧生活发力人工智能,用“智见”守护用户安全
...的各种应用结合起来。这种“陌生又熟悉”的局面随着大模型技术的深度应用正在发生巨变,尤其是ChatGPT的横空出世一下子拉进了人与AI的距离。当能与人深度“聊天”的通用大模型在语言领域大放异彩后,人们开始思考,如何...……更多
京东云智能编程助手与安全大模型入选CCIA人工智能优秀案例
人工智能大模型浪潮迭起,为更好地推广人工智能应用案例,中国通信工业协会及中国通信工业协会人工智能专委会近日发布《CCIA2023年度人工智能优秀案例》,京东云申报的Joycoder智能编程助手入选“AI技术创新应用”,京东...……更多
国际组织WDTA首次就大模型安全发布国际标准,蚂蚁集团、OpenAI、科大讯飞等参编
...,包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试进入新的基准。据了解,这两项国际标准是由Ope...……更多
「烫手」的AI,成了手机涨价收费的「噱头」?
...也是“跨界”给出了自己的判断:2024年是AI手机元年,大模型推动智能手机2.0时代的到来,不转向AI的手机厂商会成为下一个“诺基亚”。图片来源:IDCIDC预计,2024年全球新一代AI手机的出货量将达到1.7亿部,约占智能手机整体...……更多
腾讯云公布多项大模型产品进展
...芳腾讯云生成式AI产业应用峰会日前在北京召开,公布大模型研发、应用产品的系列进展。以“产业实用”作为发展大模型的核心战略,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,通过打造高性能的模型、高...……更多
...大格局调整深刻而宏阔,在动能切换期,需要用新的成长模型,新的增长逻辑,来应对新的不确定性态势。在开幕上,《中国企业家》杂志社社长钟云华致欢迎词。开幕主旨演讲中,国家开发银行原行长欧阳卫民、新希望集团董...……更多
AI安全守护计划启动!信通院牵头,AIIA安全治理委员会发布三类模型安全评测
...治理框架、合规治理、赋能治理展开,安全组主要开展大模型安全、合规等研究及基准测试。今年6月,中国信通院依托该委员会发起“人工智能安全守护计划”,包括建立威胁信息共享机制、开展AIGC真实内容来源可信工作、建...……更多
...会把全线产品转移到鸿蒙生态里。OPPO发布自主训练的大模型AndesGPT36氪获悉,OPPO发布自主训练的大模型AndesGPT。据介绍,该模型具有个性专属、对话增强、端云协同三大技术特征,,覆盖了十亿至千亿以上多种不同参数规模,可...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...专利产学研转化落地应用。以GPT-4o为代表的多模态大语言模型(MLLMs)因其在语言、图像等多种模态上的卓越表现而备受瞩目。它们不仅在日常工作中成为用户的得力助手,还逐渐渗透到自动驾驶、医学诊断等各大应用领域,掀...……更多
...网络安全风险管理服务机构,研发网络安全保险风险定价模型,助力我国网络安全保险市场高质量发展。该模型应用专业的网络安全风险量化评估工具与方法,采集使用十万余全球安全事件数据集和百万级安全知识库等信息。通...……更多
荣耀AI支持“一句话实现跨应用文件共享”和反欺诈视频检测
...共享文件。与此同时荣耀CEO赵明还分享了荣耀Magic7端侧AI模型能进行AI换脸的识别。如何识别AI换脸是当前AI反诈的一个难点,荣耀Magic7端侧AI模型能进行deepfake换脸检测,视频通话一眼识别真伪,让端侧AI在懂你的同时更加安全。...……更多
全球AI安全评估测试有了新基准
本文转自:科技日报大模型安全领域两项国际标准发布全球AI安全评估测试有了新基准随着人工智能系统,特别是大语言模型成为社会各方面不可或缺的一部分,以一个全面的标准来解决它们的安全挑战变得至关重要。◎本报记...……更多
...看到实现“更聪明”的人工智能的可能,并在全球掀起大模型热潮。海外的OpenAI、谷歌、微软,国内的科大讯飞、百度、阿里、腾讯、华为等科技公司纷纷拥抱大模型。360集团创始人周鸿祎表示,过去一年,大家都在“秀”大模...……更多
全球首位AI工程师诞生 “码农”未来会消失?
...智能专家在社交平台分享AI程序员编程过程。截图随着大模型的发展,AI能力越来越“逆天”,甚至编程都可以实现。近日,有消息称,全球首位AI软件工程师Devin诞生了,它掌握全栈技能,云端部署、底层代码、改bug等都可实现...……更多
360智能门锁斩获“葵花奖”,引领智能家居安全新纪元
...,更是对其不断追求技术革新和用户体验的高度评价。大模型赋能,引领体验新思路360智能门锁凭借其在智能家居领域的持续创新荣膺“2024智能锁行业创新竞争力品牌”,360智能门锁V60荣获“2024智能锁行业产品科技创新奖”。3...……更多
...公司联合研发的一款专注于安全应急领域的专业认知智能模型“大羽安全应急模型V2.0”正式发布上线。该模型整合和优化训练了海量安全应急专业数据,深入理解了安全应急相关的复杂问题和情境,具备了一定的业务推理与关...……更多
中新经纬10月18日电 (孙庆阳) “基础大模型多数从通用语料训练生成,通识能力强,可作聊天对话,但缺少行业专业知识,需要大模型提供方与垂直行业合作开发行业大模型。”10月17日,中国工程院院士、原中国互联网协会理...……更多
火山引擎ai大模型赋能千行百业成趋势
...正式在北京国贸大酒店举办,在大会上,字节跳动豆包大模型正式发布。火山引擎总裁谭待在会上介绍,经过一年时间的迭代和市场验证,豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿To...……更多
奇安信集团副总裁孔德亮:最关心网络和数据安全,大模型带来新机会
...了安全机器人,这是奇安信自主研发的国内首个工业级大模型应用。一台安全机器人效率可以相当于60多位安全专家。奇安信集团副总裁孔德亮这次来到乌镇峰会,最关心的也是网路安全这部分内容。逛了一圈互联网之光博览会...……更多
重庆巴南:风险预警模型赋能  农村交通安全工作提质增效
...作牵引,于2024年1月自主研发上线了“农村交通风险预警模型”,仅不到半年时间,全区农村道路交通事故发生率同比下降58.33%,是近5年同期最低水平。创新科技治理模式——破解农村交通安全难题巴南区位于重庆市中心城区南...……更多
更多关于科技的资讯:
何小鹏年会和大家齐唱《真心英雄》:勇敢追梦
快科技1月18日消息,今天,小鹏汽车董事长何小鹏在年会上和大家一起唱了一首《真心英雄》。何小鹏表示,我觉得这首歌非常好
2025-01-18 23:28:00
中国赴泰旅游不降反增:单日入境中国游客超2万人
1月18日消息,据国内媒体报道称,目前的情况是,中国赴泰旅游的人数不降反增,似乎并没有太受外界的影响。泰国旅游与体育部部长索拉翁先生透露
2025-01-18 21:28:00
与辉同行带货阿胶茶未检出驴成分:相关产品已下架
快科技1月18日消息,据媒体报道,有消费者反馈,与辉同行直播间销售的“千年珍红参阿胶女神茶”未检验出驴源性成分。根据消费者提供的检测报告
2025-01-18 21:58:00
券商海通造小米与蔚来“绯闻”:两家车企高管同时下场辟谣
快科技1月18日消息,近日,海通国际证券公司发布研究报告,提出2025年五大猜想。其中一个猜想将蔚来与小米联系在了一起
2025-01-18 22:28:00
选主板务必要看PCIe插槽:教你怎么选
在计算机硬件领域,PCIe(PCI Express)扮演着至关重要的角色,它不仅为高性能硬件设备提供了数据传输的高速通道
2025-01-18 22:58:00
日本特大地震警告:概率升至80%
1月18日消息,据媒体报道,近日日本地震调查小组警告称,未来三十年内南海海槽发生“特大地震”(即8级及以上)的概率已经提升至80%
2025-01-18 22:58:00
下周今年来最大范围雨雪将上线:注意防范
1月18日消息,据气象台消息,从下周开始,也就是春节前几天,我国会有一轮雨雪过程发展。据报道,1月23-25日,中东部地区将自西向东出现一次较大范围降水过程
2025-01-18 22:58:00
2024年全球显示器出货量1.27亿台:戴尔夺第一
快科技1月18日消息,根据洛图科技(RUNTO)最新数据显示,2024年全球显示器市场品牌整机出货量达1.27亿台,较2023年增长1
2025-01-18 17:58:00
那些总戴假睫毛的人 现在都怎么样了
不少女性朋友热衷于过年“三件套”:烫发、美甲、接睫毛。过年新造型,迎接好心情,过年前的仪式感满满。浓密纤长又卷翘的漂亮睫毛能让眼睛变大变美变漂亮
2025-01-18 17:58:00
借鉴visionOS 苹果iOS 19相机界面迎来重大改版:更加简洁透明
快科技1月18日消息,据媒体报道,苹果iOS 19将会借鉴visionOS,对相机界面进行重大调整。根据曝光的渲染图,iOS 19相机界面底部是照片和视频两大按钮
2025-01-18 18:28:00
联想发布异能者S130:英特尔N100处理器+3K触控屏
快科技1月18日消息,联想推出了一款全新的二合一电脑,异能者 S130,该设备属于联想的“生态品牌”系列。外观设计方面
2025-01-18 18:28:00
苏州微短剧产业联盟成立
江南时报讯 1月16日,苏州微短剧产业联盟成立仪式暨《微短剧遇见苏州》主题活动举行。新成立的苏州微短剧产业联盟致力于破解微短剧创作
2025-01-18 18:42:00
买齐至少500元 《王者荣耀》六款蛇限皮肤正式公布:灵感来自南斗六星
快科技1月18日消息,今天《王者荣耀》正式公布了蛇限皮肤,共计6款,将于1月28日(除夕)起正式上线。官方推出了好运卡活动
2025-01-18 18:58:00
OLED屏无望!苹果新款MacBook Air将拥抱TFT LCD屏幕
快科技1月18日消息,苹果公司正在研发一款新的MacBook Air,预计将在2027年发布,笔记本将采用氧化物薄膜晶体管(TFT)液晶显示屏(LCD)
2025-01-18 19:28:00
容貌巨变 确诊渐冻症女生求助蔡磊:我真的快要坚持不下去了
快科技1月18日消息,据媒体报道,湖南渐冻症女生陈静雯发布视频求助蔡磊,因她本人无法说话,所以视频声音为代录。在视频中陈静雯表示
2025-01-18 19:28:00