• 我的订阅
  • 头条热搜
“深思熟虑”的 AI:OpenAI 提出全新安全对齐方法
...之家 12 月 25 日消息,OpenAI 的研究人员提出了一种名为“深思熟虑的对齐”(Deliberative Alignment)的新方法,以提升 AI 模型安全性,并已在 o 系列模型中取得显著成效。项目背景如何确保大语言模型(LLMs)遵守明确的道德和安全...……更多
...在短板,无法很好地解决这些痛点。安全大模型急需一套全新的“作战方法”。为此,360从数据、场景、大模型和智能体4个方面进行研究,总结出新一代安全大模型的“核心战法”:数据制胜、小切口大纵深、类脑分区协同和...……更多
为实验监测装上“智慧之眼” 室内物理模型实验全场景变形智能追踪
...势,果断引入无人机技术,以“空中视角+智能分析”的全新模式,首次将无人机高空视角与智能技术成功应用于传统大尺度物理相似模拟实验,提出了复杂煤岩结构全场景多维度立体探测与辨识方法,突破了室内物理模型实验...……更多
清华教授唐杰:Scaling Laws虽被质疑,但至今仍是提高大模型性能的重要方法
...,“OpenAI极有可能在2024年推出下一代模型GPT-5,也许会有全新的代号,无论如何比较肯定的是其认知能力将带来通用人工智能的再一次变革。其下一代模型在技术上可能解决目前ChatGPT中存在的事实性以及推理能力的缺陷,实现...……更多
...端的安全以及基座模型的安全,构成一个人工智能安全的全新领域,解决方法的关键是“以模制模”。“我们花了很多功夫专门做安全大模型,就是用聪明的大模型智力、能力去管理知识库的使用,去管理智能体的调用,去管理...……更多
国内成立首个超级智能安全实验室
...务;极大拓展了人类探索科学的范围、尺度和视角,构建全新的人机协同科研范式,将重塑世界科研格局。我国人工智能研究和应用已处于世界先进水平,近期DeepSeek等高水平应用更引发了新一轮的人工智能热情,但目前大语言...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...AR眼镜边缘设备皆可用。Llama 3.1超大杯405B刚过去两个月,全新升级后的Llama 3.2来了!这次,最大的亮点在于,Llama 3.2成为羊驼家族中,首个支持多模态能力的模型。Connect大会上,新出炉的Llama 3.2包含了小型(11B)和中型(90B)...……更多
百度发布Apollo开放平台的全新升级版本
12月4日消息,百度今日发布Apollo开放平台的全新升级版本—— Apollo开放平台10.0。据介绍,该平台不仅在软件核心层、应用软件层、工具服务层进行了升级,还通过自动驾驶大模型ADFM重构算法,提升了核心算法模块效果。在软...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
...动、直观、易出错)进化到了可使用系统 2 思维(缓慢、深思熟虑、有意识、可靠)。这让它能够解决以前无法解决的问题。 从今天 ChatGPT 的用户体验来看,这是向前迈进一小步。在简单的 Prompt 下,用户可能不会注意到太大...……更多
李飞飞最新对话:我愿意被称作“AI教母”,AI不会造成“人类灭绝”
...项技术的本质,了解它是什么,以及如何在最负责任、最深思熟虑的方式下使用它。我们应该接受它,因为它是一种正在改变我们文明的横向技术,带来了诸多益处,如加速科学发现、帮助我们找到癌症的治疗方法、绘制生物多...……更多
三箭齐发 西湖论剑重磅成果助力打造安全新质生产力
...大核心能力支撑交相辉映,为加速形成AI引领下的数字安全新质生产力保驾护航。成果一:AI之于安全的八大应用趋势当前安全产业,从技术角度存在安全天平和能力鸿沟等问题,AI时代下的数据安全、内容安全、业务安全、供应...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
...他们也在 RLHF 和 RLAIF 的基础上做出了改进。 他们提出的全新的 AI 反馈方法可让人类来指定所需模型响应的规范,这些规范就类似于在 RLHF 中给人类标注者提供的指示。具体来说,该团队的方法是将期望行为分解成一些具体规...……更多
百度智能云重磅发布开元智慧金融解决方案
...台中”。徐旭说。为了解决金融行业在智能化时代应对的全新挑战,百度智能云重磅发布开元智慧金融解决方案2.0。据了解,开元2.0一是在通用大模型基础上增强了行业专业性,通过打造全栈自研的端到端解决方案,打通底层算力管...……更多
模型树笔记:理念指引学习革新,重塑深度认知与高效学习能力
...们深入交流和紧密合作,模型树的创始人洞察到一个引人深思的现象:尽管这些优秀学员在认知程度和学习能力上表现出色,但他们的成功似乎并非仅仅源于此。事实上,他们的成功更多地归功于那颗敢于拼搏、敢于挑战的心,...……更多
全国政协委员周鸿祎:AI“幻觉”具有两面性
...的安全,还有基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)【编辑:刘阳禾】 ……更多
AI诊断抑郁症,准确率高达97.53%的秘诀何在?
...发明的KTU博士生Musyyab Yousufi说,他们选择语音数据是经过深思熟虑的:“虽然大家可能觉得面部表情更能反映心理状态,但这些数据很容易被误导。而语音能够巧妙地揭示情绪状态,比如说话的速度、语调和整体能量,这些都会...……更多
奇安信集团:把握五个关键 筑牢人工智能安全底线
...信将深挖优势,“以AI驱动安全”,助力构建数字经济安全新生态。 ……更多
​海信重磅发布“云信·通途交通大模型”: 以AI之力,解锁智能交通无限可能
...型”,标志着其在智慧交通领域的AI技术创新应用迈入了全新阶段。该交通大模型是海信深度融合二十余年交通行业经验与前沿AI技术的产物。基于海量交通专业数据与多模态感知能力,构建“问答-分析-决策”一体化系统,通过...……更多
...日报昆明理工大学科研团队取得重要突破开发出帕金森病全新治疗策略本报讯(记者 陈怡希) 1月31日,记者从昆明理工大学获悉,经过8年艰苦努力,该校李天晴、季维智院士团队在帕金森疾病治疗方法上取得重要突破。团队开...……更多
苹果的人工智能为何与众不同?高管这样说
...息,在今年的全球开发者大会上,苹果高管详细阐述了其全新人工智能软件套件“苹果智能”(Apple Intelligence)的功能及其背后设计理念,这标志着该公司全面拥抱了人工智能技术。与其他科技巨头不同,苹果采取了一种更为务...……更多
NeurIPS 2024 | 数学推理场景下,首个分布外检测研究成果来了
...,研究团队跳出了静态 Embedding 的方法框架,提出了一种全新的基于动态 Embedding 轨迹 的 OOD 检测算法,称作 “TV Score”,以应对数学推理场景下的 OOD 检测问题。动机与方法1. 定义:什么是 Embedding 轨迹? 2. 动机:为什么用 Embe...……更多
华为harmonyosnext重塑全新“星盾”安全架构
...”整机性能提升30%、连接速度提升3倍、功耗降低20%、全新星盾安全架构、HarmonyOSIntelligence鸿蒙智能、Top5000应用已有1500+完成鸿蒙化上架。今天面向开发者和先锋用户启动Beta,首批机型包括华为Mate60系列、MateX5系列、MatePadPro13...……更多
走进民企看发展 | 周鸿祎:先上舞台,才有故事
...户端的安全、基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”他告诉三里河。为此,周鸿祎建议各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全前提下,最大化地释放...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
...RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行为并收集人类反馈来训练「奖励模型」。这种模型通过发出期望的动作来指导 AI。但是,收...……更多
国际组织WDTA首次就大模型安全发布国际标准,蚂蚁集团、OpenAI、科大讯飞等参编
...式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试进入新的基准。据了解,这两项国际标准是由OpenAI、蚂蚁集团...……更多
360周鸿祎:“以模制模”,寻解人工智能安全新挑战
...为新一轮工业革命的驱动引擎。同时,面对随之产生的安全新挑战,需要采取利用人工智能技术治理人工智能的新思路,寻找解题之法。360集团创始人周鸿祎2023年以来,生成式大语言模型演进带动一系列智能技术飞速发展,在...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...信公众号)《性能直追GPT-4,5000个H100训成!DeepMind联创发全新一代大模型》InflectionAI推出了一款新的AI模型,性能超过了谷歌和Meta的两款模型,仅次于OpenAI的GPT-4。InflectionAI计划将新模型集成到其聊天机器人Pi中,提升其与用户...……更多
全球AI安全评估测试有了新基准
...式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准,代表全球人工智能安全评估和测试有了新基准。“随着人工智能系统,特别是大语言模型成为社...……更多
装备数字工程概念与实践思考
...模的区别。即便是今天,要想论证清楚体系工程是不是个全新领域,它与传统系统工程有没有本质区别,仍然是费力不讨好的事儿。因此,美国国防部从实践角度出发,选择了“从心”,把基于使命的作战概念设计、基于体系的...……更多
更多关于科技的资讯:
坚定信心 勇挑大梁·产业新亮点丨河北特色产业集群共享智造故事(五):关键设备共享为宁晋线缆带来什么
关键设备共享为宁晋线缆带来什么——河北特色产业集群共享智造故事(五)11月26日,位于宁晋县的缆芯高导(河北)科技有限公司共享车间
2025-12-10 08:07:00
厦门网讯(厦门日报记者 吴晓菁 通讯员 许佳琦 杨怡婷)昨日,厦门空港元翔货站跨境电商出口区一片忙碌景象,一辆辆满载货物的叉车来回穿梭
2025-12-10 08:38:00
警惕伪装成办公文件的木马病毒窃密 国家安全机关提示
中国网12月10日讯 据国家安全部微信公众号消息,国家安全部发布安全提示文章,“本月考勤公示”“年度放假安排”“高温补贴发放声明”等办公类文件
2025-12-10 08:41:00
清华、维信诺联合开发的pTSF技术破解OLED“不可能三角”,中国显示掌握关键材料主导权
屏幕,作为用户感知数字世界的核心窗口,其进化正迈向关键阶段。随着AMOLED技术加速向笔记本电脑、车载等中大尺寸应用渗透
2025-12-10 11:13:00
智能机器人大赛昌平收官 73支队伍四大赛道沉浸竞技 机器人实战化任务催生真实行业解决方案
本报讯(记者 张月朦)12月8日至9日,2025智能机器人大赛决赛在昌平举办。大赛设制造业类、康复养老类、安全应急类和创新类四大赛道
2025-12-10 14:14:00
研究揭示:人生黄金期在55-60岁,整体能力达顶峰
鲁网12月10日讯人们普遍认为,“年轻即巅峰”。然而,一项发表于国际权威心理学期刊《智力》的最新研究,彻底颠覆了这一传统认知
2025-12-10 16:21:00
鲁网12月10日讯山东移动临沂分公司坚决落实“以人民为中心”发展理念,强化“全心全意为人民服务”的宗旨意识,筑牢高质量发展生命线的服务方针
2025-12-10 16:24:00
潮评丨从独角兽榜单看浙江创新之势
全球独角兽企业数据库(Unicorn500)潮新闻讯 据央视新闻报道,近日,2025全球独角兽企业500强榜单发布,我国共有150家企业上榜
2025-12-10 16:24:00
大河网讯 (记者 李彤)大家好,我是水银体温计。我的时间,已经进入了倒计时。一直以来,我是每个家庭药箱里不可少的存在。我见证过无数滚烫的额头
2025-12-10 17:16:00
公益广告H5丨安全快门 快乐连拍
扫描二维码进入H5
2025-12-10 17:28:00
福州新闻网12月10日讯(记者 吴桦真)记者10日获悉,福州企业米多多集团股份有限公司正式向香港联交所递交招股说明书,拟主板上市
2025-12-10 18:02:00
大数据产业从“单点布局”迈向“生态闭环” 张家口数字经济拔节向上河北日报讯(郭晓通、王雯)“十四五”时期,张家口市把数字经济作为高质量发展的重要增长极
2025-12-10 18:34:00
QuestMobile报告:00后月活用户达1.79亿,闲鱼增速领跑移动购物行业
12月9日,第三方数据机构QuestMobile发布《2025“00后”用户消费洞察报告》,显示闲鱼00后月活跃用户规模达到4361万
2025-12-10 19:13:00
AI如何走进职教课堂?阿里公益联合北大教育学院探索新路径
12月9日,阿里巴巴公益联合北京大学教育学院联合主办AI+职业教育学术研讨会,分享双方在职业教育与人工智能融合领域的研究成果
2025-12-10 20:12:00
中国科大构建高性能圆偏振光电逻辑门
大皖新闻讯 12月10日,大皖新闻记者从中国科学技术大学获悉,该校庄涛涛教授团队设计了基于手性选择性光电转换的圆偏振光电逻辑门
2025-12-10 20:13:00