• 我的订阅
  • 头条热搜
“深思熟虑”的 AI:OpenAI 提出全新安全对齐方法
...之家 12 月 25 日消息,OpenAI 的研究人员提出了一种名为“深思熟虑的对齐”(Deliberative Alignment)的新方法,以提升 AI 模型安全性,并已在 o 系列模型中取得显著成效。项目背景如何确保大语言模型(LLMs)遵守明确的道德和安全...……更多
...在短板,无法很好地解决这些痛点。安全大模型急需一套全新的“作战方法”。为此,360从数据、场景、大模型和智能体4个方面进行研究,总结出新一代安全大模型的“核心战法”:数据制胜、小切口大纵深、类脑分区协同和...……更多
清华教授唐杰:Scaling Laws虽被质疑,但至今仍是提高大模型性能的重要方法
...,“OpenAI极有可能在2024年推出下一代模型GPT-5,也许会有全新的代号,无论如何比较肯定的是其认知能力将带来通用人工智能的再一次变革。其下一代模型在技术上可能解决目前ChatGPT中存在的事实性以及推理能力的缺陷,实现...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...AR眼镜边缘设备皆可用。Llama 3.1超大杯405B刚过去两个月,全新升级后的Llama 3.2来了!这次,最大的亮点在于,Llama 3.2成为羊驼家族中,首个支持多模态能力的模型。Connect大会上,新出炉的Llama 3.2包含了小型(11B)和中型(90B)...……更多
百度发布Apollo开放平台的全新升级版本
12月4日消息,百度今日发布Apollo开放平台的全新升级版本—— Apollo开放平台10.0。据介绍,该平台不仅在软件核心层、应用软件层、工具服务层进行了升级,还通过自动驾驶大模型ADFM重构算法,提升了核心算法模块效果。在软...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
...动、直观、易出错)进化到了可使用系统 2 思维(缓慢、深思熟虑、有意识、可靠)。这让它能够解决以前无法解决的问题。 从今天 ChatGPT 的用户体验来看,这是向前迈进一小步。在简单的 Prompt 下,用户可能不会注意到太大...……更多
李飞飞最新对话:我愿意被称作“AI教母”,AI不会造成“人类灭绝”
...项技术的本质,了解它是什么,以及如何在最负责任、最深思熟虑的方式下使用它。我们应该接受它,因为它是一种正在改变我们文明的横向技术,带来了诸多益处,如加速科学发现、帮助我们找到癌症的治疗方法、绘制生物多...……更多
三箭齐发 西湖论剑重磅成果助力打造安全新质生产力
...大核心能力支撑交相辉映,为加速形成AI引领下的数字安全新质生产力保驾护航。成果一:AI之于安全的八大应用趋势当前安全产业,从技术角度存在安全天平和能力鸿沟等问题,AI时代下的数据安全、内容安全、业务安全、供应...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
...他们也在 RLHF 和 RLAIF 的基础上做出了改进。 他们提出的全新的 AI 反馈方法可让人类来指定所需模型响应的规范,这些规范就类似于在 RLHF 中给人类标注者提供的指示。具体来说,该团队的方法是将期望行为分解成一些具体规...……更多
百度智能云重磅发布开元智慧金融解决方案
...台中”。徐旭说。为了解决金融行业在智能化时代应对的全新挑战,百度智能云重磅发布开元智慧金融解决方案2.0。据了解,开元2.0一是在通用大模型基础上增强了行业专业性,通过打造全栈自研的端到端解决方案,打通底层算力管...……更多
模型树笔记:理念指引学习革新,重塑深度认知与高效学习能力
...们深入交流和紧密合作,模型树的创始人洞察到一个引人深思的现象:尽管这些优秀学员在认知程度和学习能力上表现出色,但他们的成功似乎并非仅仅源于此。事实上,他们的成功更多地归功于那颗敢于拼搏、敢于挑战的心,...……更多
AI诊断抑郁症,准确率高达97.53%的秘诀何在?
...发明的KTU博士生Musyyab Yousufi说,他们选择语音数据是经过深思熟虑的:“虽然大家可能觉得面部表情更能反映心理状态,但这些数据很容易被误导。而语音能够巧妙地揭示情绪状态,比如说话的速度、语调和整体能量,这些都会...……更多
...日报昆明理工大学科研团队取得重要突破开发出帕金森病全新治疗策略本报讯(记者 陈怡希) 1月31日,记者从昆明理工大学获悉,经过8年艰苦努力,该校李天晴、季维智院士团队在帕金森疾病治疗方法上取得重要突破。团队开...……更多
苹果的人工智能为何与众不同?高管这样说
...息,在今年的全球开发者大会上,苹果高管详细阐述了其全新人工智能软件套件“苹果智能”(Apple Intelligence)的功能及其背后设计理念,这标志着该公司全面拥抱了人工智能技术。与其他科技巨头不同,苹果采取了一种更为务...……更多
NeurIPS 2024 | 数学推理场景下,首个分布外检测研究成果来了
...,研究团队跳出了静态 Embedding 的方法框架,提出了一种全新的基于动态 Embedding 轨迹 的 OOD 检测算法,称作 “TV Score”,以应对数学推理场景下的 OOD 检测问题。动机与方法1. 定义:什么是 Embedding 轨迹? 2. 动机:为什么用 Embe...……更多
华为harmonyosnext重塑全新“星盾”安全架构
...”整机性能提升30%、连接速度提升3倍、功耗降低20%、全新星盾安全架构、HarmonyOSIntelligence鸿蒙智能、Top5000应用已有1500+完成鸿蒙化上架。今天面向开发者和先锋用户启动Beta,首批机型包括华为Mate60系列、MateX5系列、MatePadPro13...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
...RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行为并收集人类反馈来训练「奖励模型」。这种模型通过发出期望的动作来指导 AI。但是,收...……更多
国际组织WDTA首次就大模型安全发布国际标准,蚂蚁集团、OpenAI、科大讯飞等参编
...式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试进入新的基准。据了解,这两项国际标准是由OpenAI、蚂蚁集团...……更多
360周鸿祎:“以模制模”,寻解人工智能安全新挑战
...为新一轮工业革命的驱动引擎。同时,面对随之产生的安全新挑战,需要采取利用人工智能技术治理人工智能的新思路,寻找解题之法。360集团创始人周鸿祎2023年以来,生成式大语言模型演进带动一系列智能技术飞速发展,在...……更多
全球AI安全评估测试有了新基准
...式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试有了新基准。“随着人工智能系统,特别是大语言模型成为社...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...信公众号)《性能直追GPT-4,5000个H100训成!DeepMind联创发全新一代大模型》InflectionAI推出了一款新的AI模型,性能超过了谷歌和Meta的两款模型,仅次于OpenAI的GPT-4。InflectionAI计划将新模型集成到其聊天机器人Pi中,提升其与用户...……更多
装备数字工程概念与实践思考
...模的区别。即便是今天,要想论证清楚体系工程是不是个全新领域,它与传统系统工程有没有本质区别,仍然是费力不讨好的事儿。因此,美国国防部从实践角度出发,选择了“从心”,把基于使命的作战概念设计、基于体系的...……更多
...马逊Alexa大语言模型提供的生成式人工智能技术,并宣布全新一代BMW智能个人助理正在推进中。在宝马集团高层看来,大语言模型是一种以高水平处理人类语言并生成相应答复的人工智能模型,通过与亚马逊的合作,大语言模型...……更多
周鸿祎:360全线安全产品已集成安全大模型能力
...度融合,归根结底是需要有一套行之有效的专业化大模型方法论。这套方法论主要包括五步,分别是找到明星场景、知识管理、专家协同、构建智能体,最后是业务融合。周鸿祎介绍,在这套方法论的指导下,360打造了安全大模...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
...任务的 Llama 模型,因此 Meta 为其配备了支持图像推理的全新模型架构。具体来说,为了支持图像输入,Meta 训练了一组适应器权重(adapter weight),其可将预训练的图像编码器集成到预训练的语言模型中。该适应器由一系列交叉...……更多
华晨宝马在2024全球工业互联网大会首秀AI仿真技术
...宁省沈阳市隆重开幕。华晨宝马作为受邀参会的代表,以全新BMW 5系为核心,展示了其在数字化生产和人工智能领域的突破性创新成果。此次大会旨在大力推动数字技术与实体经济深度融合,以人工智能赋能新型工业化,因地制...……更多
亚马逊连甩6款大模型!推出3nm AI训练芯片,最强AI服务器算力爆表
...数据库、AI推理,四大板块都迎来一大波重要更新。一、全新自研大模型Amazon Nova系列登场!文本、图像、视频齐活了亚马逊总裁兼CEO安迪·贾西现场分享了生成式AI如何贯穿亚马逊不同业务,包括改善了电商客服、卖家详情页创...……更多
安全强化学习方法、理论与应用综述,慕工大、同济等深度解析
...和北京大学的研究人员联合发布的综述《安全强化学习:方法、理论与应用》的重要观点,深入探讨安全强化学习的研究现状、关键问题及未来发展方向。论文标题:A Review of Safe Reinforcement Learning: Methods, Theories and Application……更多
盛元广通受邀参加《数字孪生模型评估规范》等4项标准首次研讨会
...估流程、构建数字孪生模型评估指标体系、建立综合评估方法进行反复论证,以信息安全、数据安全、以及数据管理、数据治理方面以及整体解决方案为核心。推动数字孪生技术作为新型智慧城市建设的创新引领性技术,将有利...……更多
更多关于科技的资讯:
手机上好看的照片在PC上被打回原形!背后原因揭开
在如今这个移动影像盛行的时代,手机毫无悬念地成为了大家记录生活点滴的得力“神器”。咱们用手机随手一拍,那照片在手机屏幕上呈现出来的效果
2025-04-12 23:50:00
联发科天玑9400e五月见:性能超越骁龙8 Gen3
快科技4月12日消息,博主数码闲聊站暗示,联发科天玑9400e的跑分成绩超过了高通骁龙8 Gen3和骁龙8s Gen4
2025-04-12 23:50:00
网上的1TB机械硬盘只要50元:背后有猫腻
虽然固态硬盘的价格已经降了不少,但是超大容量存储还得看机械硬盘。如果在购物平台搜过硬盘,你可能会被那些硬盘的价格感到震惊
2025-04-13 00:20:00
用数据告诉你 为什么不要再买GTX 750Ti了
如果说显卡经典永流传有段位的话,那么GTX1060占一席位,GTX750Ti也要占一席位。GTX750Ti的神奇之处在于
2025-04-13 00:20:00
河北一摄像头拍到“风的轨迹”:雨水被大风刮得横着走
4月13日消息,据媒体报道,近日河北张家口康保县的一个摄像头拍下雨水被大风刮得“横着走”的场景。根据监控数据,当地风速达19米/秒
2025-04-13 00:50:00
大风天气减少外出!北京大风吹倒超1200株树木
4月13日消息,据媒体报道,截至4月12日19时00分,北京全市园林绿化系统累计出动巡查抢险人员29629人次,车辆4394台次
2025-04-13 00:50:00
透过3个经济指数看信心(经济新方位)
本文转自:人民日报新近公布的制造业、零售业、物流业相关指数均处于扩张区间——透过3个经济指数看信心(经济新方位)本报记者 刘温馨 王 珂 韩 鑫图①
2025-04-13 05:56:00
本文转自:人民日报孟祥夫“现在,人工智能这么强大,啥都会,孩子还那么努力学习干吗?绘画、书法都不用学了。”一位朋友在聊天中说道
2025-04-13 05:58:00
4月12日,携程口碑榜2025年度目的地榜单发布,太原市入选“2025亚洲100经典目的地”“2025中国50艺术瑰宝目的地”“2025中国100经典目的地”3个榜单
2025-04-13 06:31:00
越来越多国家加入!法国网友自发组抵制美货消费者群:开始抵制可口可乐和麦当劳等
4月13日消息,据国外媒体报道称,随着美国关税大棒挥向全球,一些国家和地区的用户开始自发的抵制美国商品了。法国“抵制美货”的风潮也愈演愈烈
2025-04-13 07:20:00
消博会时装秀启幕 T台入展会“即秀即购”让时尚“破界跨圈”
南海网4月12日消息(记者 周静泊)4月12日晚,第五届中国国际消费品博览会时装秀在cdf海口国际免税城拉开帷幕。今年
2025-04-12 23:20:00
vivo智能戒指专利公布:能自动定位最佳动脉监测点
快科技4月12日消息,近日,vivo公司获得了一项智能戒指专利,通过传感器能够自动寻找到最佳的动脉监测点。专利文件显示
2025-04-12 18:20:00
网友体验REDMI K80一碰秒传功能:手机PC互联秒速搞定
快科技4月12日消息,有博主发视频分享了REDMI K80的一秒碰传功能,仅需将K80碰一碰REDMI Book触控板
2025-04-12 18:50:00
水中大熊猫 超22万尾子二代中华鲟放归长江
快科技4月12日消息,“2025年中华鲟增殖放流活动”今天在宜昌、荆州两地同步举行,超22万尾子二代中华鲟放归长江。该活动由三峡集团联合湖北省农业农村厅举办
2025-04-12 18:50:00
关税提高别怕 东方甄选启动“外贸优品入驻”专项行动
快科技4月12日消息,东方甄选今日发布公告称,即日起正式启动“外贸优品入驻”专项行动,让更多优质外贸产品走进直播间,服务国内消费者
2025-04-12 18:50:00