• 我的订阅
  • 头条热搜
“深思熟虑”的 AI:OpenAI 提出全新安全对齐方法
...之家 12 月 25 日消息,OpenAI 的研究人员提出了一种名为“深思熟虑的对齐”(Deliberative Alignment)的新方法,以提升 AI 模型安全性,并已在 o 系列模型中取得显著成效。项目背景如何确保大语言模型(LLMs)遵守明确的道德和安全...……更多
...在短板,无法很好地解决这些痛点。安全大模型急需一套全新的“作战方法”。为此,360从数据、场景、大模型和智能体4个方面进行研究,总结出新一代安全大模型的“核心战法”:数据制胜、小切口大纵深、类脑分区协同和...……更多
为实验监测装上“智慧之眼” 室内物理模型实验全场景变形智能追踪
...势,果断引入无人机技术,以“空中视角+智能分析”的全新模式,首次将无人机高空视角与智能技术成功应用于传统大尺度物理相似模拟实验,提出了复杂煤岩结构全场景多维度立体探测与辨识方法,突破了室内物理模型实验...……更多
清华教授唐杰:Scaling Laws虽被质疑,但至今仍是提高大模型性能的重要方法
...,“OpenAI极有可能在2024年推出下一代模型GPT-5,也许会有全新的代号,无论如何比较肯定的是其认知能力将带来通用人工智能的再一次变革。其下一代模型在技术上可能解决目前ChatGPT中存在的事实性以及推理能力的缺陷,实现...……更多
...端的安全以及基座模型的安全,构成一个人工智能安全的全新领域,解决方法的关键是“以模制模”。“我们花了很多功夫专门做安全大模型,就是用聪明的大模型智力、能力去管理知识库的使用,去管理智能体的调用,去管理...……更多
国内成立首个超级智能安全实验室
...务;极大拓展了人类探索科学的范围、尺度和视角,构建全新的人机协同科研范式,将重塑世界科研格局。我国人工智能研究和应用已处于世界先进水平,近期DeepSeek等高水平应用更引发了新一轮的人工智能热情,但目前大语言...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...AR眼镜边缘设备皆可用。Llama 3.1超大杯405B刚过去两个月,全新升级后的Llama 3.2来了!这次,最大的亮点在于,Llama 3.2成为羊驼家族中,首个支持多模态能力的模型。Connect大会上,新出炉的Llama 3.2包含了小型(11B)和中型(90B)...……更多
百度发布Apollo开放平台的全新升级版本
12月4日消息,百度今日发布Apollo开放平台的全新升级版本—— Apollo开放平台10.0。据介绍,该平台不仅在软件核心层、应用软件层、工具服务层进行了升级,还通过自动驾驶大模型ADFM重构算法,提升了核心算法模块效果。在软...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
...动、直观、易出错)进化到了可使用系统 2 思维(缓慢、深思熟虑、有意识、可靠)。这让它能够解决以前无法解决的问题。 从今天 ChatGPT 的用户体验来看,这是向前迈进一小步。在简单的 Prompt 下,用户可能不会注意到太大...……更多
李飞飞最新对话:我愿意被称作“AI教母”,AI不会造成“人类灭绝”
...项技术的本质,了解它是什么,以及如何在最负责任、最深思熟虑的方式下使用它。我们应该接受它,因为它是一种正在改变我们文明的横向技术,带来了诸多益处,如加速科学发现、帮助我们找到癌症的治疗方法、绘制生物多...……更多
三箭齐发 西湖论剑重磅成果助力打造安全新质生产力
...大核心能力支撑交相辉映,为加速形成AI引领下的数字安全新质生产力保驾护航。成果一:AI之于安全的八大应用趋势当前安全产业,从技术角度存在安全天平和能力鸿沟等问题,AI时代下的数据安全、内容安全、业务安全、供应...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
...他们也在 RLHF 和 RLAIF 的基础上做出了改进。 他们提出的全新的 AI 反馈方法可让人类来指定所需模型响应的规范,这些规范就类似于在 RLHF 中给人类标注者提供的指示。具体来说,该团队的方法是将期望行为分解成一些具体规...……更多
百度智能云重磅发布开元智慧金融解决方案
...台中”。徐旭说。为了解决金融行业在智能化时代应对的全新挑战,百度智能云重磅发布开元智慧金融解决方案2.0。据了解,开元2.0一是在通用大模型基础上增强了行业专业性,通过打造全栈自研的端到端解决方案,打通底层算力管...……更多
模型树笔记:理念指引学习革新,重塑深度认知与高效学习能力
...们深入交流和紧密合作,模型树的创始人洞察到一个引人深思的现象:尽管这些优秀学员在认知程度和学习能力上表现出色,但他们的成功似乎并非仅仅源于此。事实上,他们的成功更多地归功于那颗敢于拼搏、敢于挑战的心,...……更多
全国政协委员周鸿祎:AI“幻觉”具有两面性
...的安全,还有基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)【编辑:刘阳禾】 ……更多
AI诊断抑郁症,准确率高达97.53%的秘诀何在?
...发明的KTU博士生Musyyab Yousufi说,他们选择语音数据是经过深思熟虑的:“虽然大家可能觉得面部表情更能反映心理状态,但这些数据很容易被误导。而语音能够巧妙地揭示情绪状态,比如说话的速度、语调和整体能量,这些都会...……更多
奇安信集团:把握五个关键 筑牢人工智能安全底线
...信将深挖优势,“以AI驱动安全”,助力构建数字经济安全新生态。 ……更多
​海信重磅发布“云信·通途交通大模型”: 以AI之力,解锁智能交通无限可能
...型”,标志着其在智慧交通领域的AI技术创新应用迈入了全新阶段。该交通大模型是海信深度融合二十余年交通行业经验与前沿AI技术的产物。基于海量交通专业数据与多模态感知能力,构建“问答-分析-决策”一体化系统,通过...……更多
...日报昆明理工大学科研团队取得重要突破开发出帕金森病全新治疗策略本报讯(记者 陈怡希) 1月31日,记者从昆明理工大学获悉,经过8年艰苦努力,该校李天晴、季维智院士团队在帕金森疾病治疗方法上取得重要突破。团队开...……更多
苹果的人工智能为何与众不同?高管这样说
...息,在今年的全球开发者大会上,苹果高管详细阐述了其全新人工智能软件套件“苹果智能”(Apple Intelligence)的功能及其背后设计理念,这标志着该公司全面拥抱了人工智能技术。与其他科技巨头不同,苹果采取了一种更为务...……更多
NeurIPS 2024 | 数学推理场景下,首个分布外检测研究成果来了
...,研究团队跳出了静态 Embedding 的方法框架,提出了一种全新的基于动态 Embedding 轨迹 的 OOD 检测算法,称作 “TV Score”,以应对数学推理场景下的 OOD 检测问题。动机与方法1. 定义:什么是 Embedding 轨迹? 2. 动机:为什么用 Embe...……更多
华为harmonyosnext重塑全新“星盾”安全架构
...”整机性能提升30%、连接速度提升3倍、功耗降低20%、全新星盾安全架构、HarmonyOSIntelligence鸿蒙智能、Top5000应用已有1500+完成鸿蒙化上架。今天面向开发者和先锋用户启动Beta,首批机型包括华为Mate60系列、MateX5系列、MatePadPro13...……更多
走进民企看发展 | 周鸿祎:先上舞台,才有故事
...户端的安全、基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”他告诉三里河。为此,周鸿祎建议各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全前提下,最大化地释放...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
...RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行为并收集人类反馈来训练「奖励模型」。这种模型通过发出期望的动作来指导 AI。但是,收...……更多
国际组织WDTA首次就大模型安全发布国际标准,蚂蚁集团、OpenAI、科大讯飞等参编
...式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试进入新的基准。据了解,这两项国际标准是由OpenAI、蚂蚁集团...……更多
360周鸿祎:“以模制模”,寻解人工智能安全新挑战
...为新一轮工业革命的驱动引擎。同时,面对随之产生的安全新挑战,需要采取利用人工智能技术治理人工智能的新思路,寻找解题之法。360集团创始人周鸿祎2023年以来,生成式大语言模型演进带动一系列智能技术飞速发展,在...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...信公众号)《性能直追GPT-4,5000个H100训成!DeepMind联创发全新一代大模型》InflectionAI推出了一款新的AI模型,性能超过了谷歌和Meta的两款模型,仅次于OpenAI的GPT-4。InflectionAI计划将新模型集成到其聊天机器人Pi中,提升其与用户...……更多
全球AI安全评估测试有了新基准
...式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试有了新基准。“随着人工智能系统,特别是大语言模型成为社...……更多
装备数字工程概念与实践思考
...模的区别。即便是今天,要想论证清楚体系工程是不是个全新领域,它与传统系统工程有没有本质区别,仍然是费力不讨好的事儿。因此,美国国防部从实践角度出发,选择了“从心”,把基于使命的作战概念设计、基于体系的...……更多
更多关于科技的资讯:
金堰社区:党建赋能“她”力量,直播筑梦新斜塘
江南时报讯 为激活数字经济时代社区创业活力,助力居民尤其是女性群体拓宽就业创业路径,苏州工业园区斜塘街道妇联联合金堰社区党支部
2025-12-15 14:25:00
体育用品产业创新加速器获奖企业出炉,聚焦材料、物流、数字化三赛道
12月12日,在清华大学技术创新研究中心主办的全球开放式创新论坛期间,由安踏集团与璞跃中国联合发起的“体育用品产业创新加速器”(下称“加速器”)颁奖典礼在上海举行
2025-12-15 14:26:00
银泰百货绿色实践获认可,入选中国商业联合会2025年度创新案例
12 月 15 日,银泰百货的 “绿色商场” 建设实践通过评审,成功入选中国商业联合会2025年度绿色消费创新案例。此次一同入选的还有喜茶
2025-12-15 14:26:00
年终消费季再添一把火!“购在中国·2025山东家居焕新消费季暨“安居齐鲁 轻松焕新”活动”启动
鲁网12月15日讯年终消费市场迎来政策与科技双轮驱动的“强心剂”。2025年12月14日,由山东省智能家居协会主办,银座家居
2025-12-15 14:39:00
蚂蚁集团AQ升级为“蚂蚁阿福”:从医疗到健康 从AI工具到AI朋友
12月15日消息,蚂蚁集团宣布旗下AI健康应用AQ品牌升级为“蚂蚁阿福”,并发布App新版本,升级健康陪伴、健康问答、健康服务三大功能
2025-12-15 15:16:00
从品质定制到品牌闭环:中粮福掌柜以联名专供驱动供应端与餐饮端的协同进化
近日,中粮餐饮旗下专业餐厨品牌福掌柜与知名川菜品牌龙人居联名推出福掌柜非转基因压榨一级玉米胚芽油,在行业内引发了深度关注
2025-12-15 15:22:00
技术+生态+服务三向发力 聊城“惠循环”平台焕新惠民路径
鲁网12月15日讯(记者 泮晓阳)12月15日上午,聊城市政府新闻办公室召开“水城有约·惠享两节”2026聊城元旦春节促消费兴文旅主题新闻发布会
2025-12-15 15:54:00
瀚康荟(德州)健康科技有限公司刘勇:儒缘汇德州,大道砥初心
刘勇“富而好礼,利以义制;居敬而行简,以临其民。”当我第一次驻足于儒商研究会,孔孟故里的微光,便悄然照进了我四十年的商海生涯
2025-12-15 15:55:00
蓝图航空完成5亿元A轮融资 领航低空经济新未来
上海蓝图航空科技近日正式完成5亿元人民币A轮融资,本轮融资由玖树创投领投。作为国内低空经济领域的先行者与生态构建者,此次融资将全面加速公司在技术研发
2025-12-15 16:28:00
万物云灵石发布,不动产管理迈向“智驾时代”
不动产管理迈向“智控时代”12月12日,万物云睿见大会2025“睿见·灵石”在上海国际传媒港举行。大会汇聚近300名知名企业代表以及媒体和分析师
2025-12-15 16:30:00
中交中南局首次!隧道围岩智能识别大模型斩获“蓝翼杯”大赛三等奖
近日由中国公路学会主办的“蓝翼杯”第一届人工智能场景创新应用大赛中中交中南局凭借“隧道围岩智能识别大模型应用设计”项目荣获三等奖这是中交中南局在人工智能领域首次获得行业级奖项本次大赛以“智联交通基建
2025-12-15 16:31:00
深夜,当一场数万人的演唱会散场,人流涌向车站,一列列预先等候的“歌迷专列”正静待启程。这一幕在深圳、广州、厦门等多个城市接连上演
2025-12-15 16:32:00
钱江观潮丨经典产业焕新记
近日,首届浙江省历史经典产业焕新大赛总决赛在永康举行,可机洗真丝、可穿戴青瓷等一批创新成果亮相。一起寻访两位青年设计师,看传统产业如何焕发新生。
2025-12-15 17:43:00
年终观察:文化“新三样”出海有何变化?
近年来,以网络文学、网络影视剧、网络游戏为代表的中国文化“新三样”迅速崛起,并日益受到海外市场的欢迎。2025年,文化“新三样”出海有何变化
2025-12-15 17:43:00
在全球化人才竞争日益激烈的当下,为子女规划一条优质的海外升学路径已成为众多中高产家庭的战略选择。然而,面对市场上数量庞大
2025-12-15 18:17:00