• 我的订阅
  • 头条热搜
“深思熟虑”的 AI:OpenAI 提出全新安全对齐方法
...之家 12 月 25 日消息,OpenAI 的研究人员提出了一种名为“深思熟虑的对齐”(Deliberative Alignment)的新方法,以提升 AI 模型安全性,并已在 o 系列模型中取得显著成效。项目背景如何确保大语言模型(LLMs)遵守明确的道德和安全...……更多
...在短板,无法很好地解决这些痛点。安全大模型急需一套全新的“作战方法”。为此,360从数据、场景、大模型和智能体4个方面进行研究,总结出新一代安全大模型的“核心战法”:数据制胜、小切口大纵深、类脑分区协同和...……更多
为实验监测装上“智慧之眼” 室内物理模型实验全场景变形智能追踪
...势,果断引入无人机技术,以“空中视角+智能分析”的全新模式,首次将无人机高空视角与智能技术成功应用于传统大尺度物理相似模拟实验,提出了复杂煤岩结构全场景多维度立体探测与辨识方法,突破了室内物理模型实验...……更多
清华教授唐杰:Scaling Laws虽被质疑,但至今仍是提高大模型性能的重要方法
...,“OpenAI极有可能在2024年推出下一代模型GPT-5,也许会有全新的代号,无论如何比较肯定的是其认知能力将带来通用人工智能的再一次变革。其下一代模型在技术上可能解决目前ChatGPT中存在的事实性以及推理能力的缺陷,实现...……更多
...端的安全以及基座模型的安全,构成一个人工智能安全的全新领域,解决方法的关键是“以模制模”。“我们花了很多功夫专门做安全大模型,就是用聪明的大模型智力、能力去管理知识库的使用,去管理智能体的调用,去管理...……更多
国内成立首个超级智能安全实验室
...务;极大拓展了人类探索科学的范围、尺度和视角,构建全新的人机协同科研范式,将重塑世界科研格局。我国人工智能研究和应用已处于世界先进水平,近期DeepSeek等高水平应用更引发了新一轮的人工智能热情,但目前大语言...……更多
如何安全“喂养”人工智能?这届WAIC上,科学家、企业家这样建议
...上,蚂蚁集团首次系统展示蚂蚁可信AI的技术架构,以及全新升级的可信AI工业检测平台——蚁鉴2.0。记者在蚂蚁集团展示现场,看到了一台搭载这一系统的装置。该装置模拟了蚁鉴2.0对AIGC安全性进行评测的过程,左边的“蚁鉴...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...AR眼镜边缘设备皆可用。Llama 3.1超大杯405B刚过去两个月,全新升级后的Llama 3.2来了!这次,最大的亮点在于,Llama 3.2成为羊驼家族中,首个支持多模态能力的模型。Connect大会上,新出炉的Llama 3.2包含了小型(11B)和中型(90B)...……更多
百度发布Apollo开放平台的全新升级版本
12月4日消息,百度今日发布Apollo开放平台的全新升级版本—— Apollo开放平台10.0。据介绍,该平台不仅在软件核心层、应用软件层、工具服务层进行了升级,还通过自动驾驶大模型ADFM重构算法,提升了核心算法模块效果。在软...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
...动、直观、易出错)进化到了可使用系统 2 思维(缓慢、深思熟虑、有意识、可靠)。这让它能够解决以前无法解决的问题。 从今天 ChatGPT 的用户体验来看,这是向前迈进一小步。在简单的 Prompt 下,用户可能不会注意到太大...……更多
李飞飞最新对话:我愿意被称作“AI教母”,AI不会造成“人类灭绝”
...项技术的本质,了解它是什么,以及如何在最负责任、最深思熟虑的方式下使用它。我们应该接受它,因为它是一种正在改变我们文明的横向技术,带来了诸多益处,如加速科学发现、帮助我们找到癌症的治疗方法、绘制生物多...……更多
三箭齐发 西湖论剑重磅成果助力打造安全新质生产力
...大核心能力支撑交相辉映,为加速形成AI引领下的数字安全新质生产力保驾护航。成果一:AI之于安全的八大应用趋势当前安全产业,从技术角度存在安全天平和能力鸿沟等问题,AI时代下的数据安全、内容安全、业务安全、供应...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
全新大语言模型越狱攻击基准与评估体系来了。来自香港科技大学(Guangzhou)USAIL研究团队,从攻击者和防御者的角度探讨了什么因素会影响大模型的安全。提出攻击分析系统性框架JailTrackBench。JailTrackBench研究重点分析了不同...……更多
OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全
...他们也在 RLHF 和 RLAIF 的基础上做出了改进。 他们提出的全新的 AI 反馈方法可让人类来指定所需模型响应的规范,这些规范就类似于在 RLHF 中给人类标注者提供的指示。具体来说,该团队的方法是将期望行为分解成一些具体规...……更多
(经济观察)中外院士共谈AI大模型:应对大模型安全问题需设好“紧箍咒”
...全一致,不仅为师生带来难忘的青春回忆,也是高校创造全新科研范式的一大体现。”以“科技·创造可持续未来”为主题的2023INCLUSION·外滩大会7日在上海开幕。中新网记者高志苗摄从ChatGPT到文心一言、盘古、曹植……2022年年...……更多
百度智能云重磅发布开元智慧金融解决方案
...台中”。徐旭说。为了解决金融行业在智能化时代应对的全新挑战,百度智能云重磅发布开元智慧金融解决方案2.0。据了解,开元2.0一是在通用大模型基础上增强了行业专业性,通过打造全栈自研的端到端解决方案,打通底层算力管...……更多
...网络”一体化架构的大网级应用CENI智驱安全网络,采用全新设计架构,不仅在行业内首次实现智驱安全网络一体化架构的大网级部署,还在业内首次成功验证了对5Tb级DDoS攻击的高效智能防御能力,有效助力安全网络建设。“5Tb...……更多
模型树笔记:理念指引学习革新,重塑深度认知与高效学习能力
...们深入交流和紧密合作,模型树的创始人洞察到一个引人深思的现象:尽管这些优秀学员在认知程度和学习能力上表现出色,但他们的成功似乎并非仅仅源于此。事实上,他们的成功更多地归功于那颗敢于拼搏、敢于挑战的心,...……更多
全国政协委员周鸿祎:AI“幻觉”具有两面性
...的安全,还有基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)【编辑:刘阳禾】 ……更多
AI诊断抑郁症,准确率高达97.53%的秘诀何在?
...发明的KTU博士生Musyyab Yousufi说,他们选择语音数据是经过深思熟虑的:“虽然大家可能觉得面部表情更能反映心理状态,但这些数据很容易被误导。而语音能够巧妙地揭示情绪状态,比如说话的速度、语调和整体能量,这些都会...……更多
奇安信集团:把握五个关键 筑牢人工智能安全底线
...信将深挖优势,“以AI驱动安全”,助力构建数字经济安全新生态。 ……更多
​海信重磅发布“云信·通途交通大模型”: 以AI之力,解锁智能交通无限可能
...型”,标志着其在智慧交通领域的AI技术创新应用迈入了全新阶段。该交通大模型是海信深度融合二十余年交通行业经验与前沿AI技术的产物。基于海量交通专业数据与多模态感知能力,构建“问答-分析-决策”一体化系统,通过...……更多
...日报昆明理工大学科研团队取得重要突破开发出帕金森病全新治疗策略本报讯(记者 陈怡希) 1月31日,记者从昆明理工大学获悉,经过8年艰苦努力,该校李天晴、季维智院士团队在帕金森疾病治疗方法上取得重要突破。团队开...……更多
苹果的人工智能为何与众不同?高管这样说
...息,在今年的全球开发者大会上,苹果高管详细阐述了其全新人工智能软件套件“苹果智能”(Apple Intelligence)的功能及其背后设计理念,这标志着该公司全面拥抱了人工智能技术。与其他科技巨头不同,苹果采取了一种更为务...……更多
NeurIPS 2024 | 数学推理场景下,首个分布外检测研究成果来了
...,研究团队跳出了静态 Embedding 的方法框架,提出了一种全新的基于动态 Embedding 轨迹 的 OOD 检测算法,称作 “TV Score”,以应对数学推理场景下的 OOD 检测问题。动机与方法1. 定义:什么是 Embedding 轨迹? 2. 动机:为什么用 Embe...……更多
华为harmonyosnext重塑全新“星盾”安全架构
...”整机性能提升30%、连接速度提升3倍、功耗降低20%、全新星盾安全架构、HarmonyOSIntelligence鸿蒙智能、Top5000应用已有1500+完成鸿蒙化上架。今天面向开发者和先锋用户启动Beta,首批机型包括华为Mate60系列、MateX5系列、MatePadPro13...……更多
走进民企看发展 | 周鸿祎:先上舞台,才有故事
...户端的安全、基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”他告诉三里河。为此,周鸿祎建议各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全前提下,最大化地释放...……更多
...要破除数据获取中的畏惧风险、制度不明等缺陷短板,以全新的数字思维、数字理念向前推进。坚持依法能动理念。获取数据不能等,应用足用好政治智慧、法律智慧、监督智慧,提升寻求合作“最大公约数”的本领。特别是针...……更多
...生技术在医疗器械领域的应用及展望数字孪生技术是一种全新的模型模拟技术,采用物理模型、传感器数据和机器学习算法创建虚拟模型,将实体复制到数字世界中,在设计、测试和优化过程中模拟现实中设备的行为,以便进行...……更多
RLHF不够用了,OpenAI设计出了新的奖励机制
...RLHF)中微调语言模型一直是确保 AI 准确遵循指令的首选方法。为了确保 AI 系统安全运行并与人类价值观保持一致,我们需要定义期望行为并收集人类反馈来训练「奖励模型」。这种模型通过发出期望的动作来指导 AI。但是,收...……更多
更多关于科技的资讯:
进军核药赛道,广药集团谋求“聚变”!
当承载着“国之重器”的核导弹方阵在阅兵式上巍然驶过,中国的科技实力与国防实力以庄严姿态展现于世界。在震撼之外,“核”所蕴含的巨大能量
2025-09-29 13:11:00
中新经纬9月29日电 题:备战“十一”消费高峰,平台用AI重塑购物逻辑作者 盘和林 工信部信息通信经济专家委员会委员“十一”长假将至
2025-09-29 13:13:00
聊城智汇 链接全球丨年销海外近8000万,泊西集团凭收纳盒从乡镇驶向全球
鲁网9月29日讯在山东聊城市茌平区洪官屯镇的土地上,山东泊西实业集团有限公司正以蓬勃之姿,书写着海外出口的精彩篇章。走进泊西集团的生产车间
2025-09-29 12:07:00
京东折扣超市全国第六店落户固安
河北新闻网讯(李寒梦、陈放)9月25日,京东折扣超市全国第六家门店在固安尚品爱购城市广场正式开业,进一步点燃居民消费热情
2025-09-29 09:53:00
从榨菜月饼到榨菜咖啡,乌江榨菜以创新打破品类边界
近年来,伴随区域化、特色化产品的迅速增长,各大品牌在深耕主业的同时也开始积极探索新赛道、新领域。乌江榨菜作为涪陵榨菜集团旗下的核心品牌
2025-09-29 08:03:00
华北首家!多美卡品牌专卖店登陆北京玩具反斗城
[北京] – 继中国首家多美卡品牌专卖店入驻玩具反斗城上海南丰城店并成功引爆小车收藏热潮后,玩具反斗城(Toys“R”Us)与多美(TAKARA TOMY)的战略合作再结硕果
2025-09-29 07:33:00
南报网讯(记者张甜甜)10月2日至3日,由南京报业传媒集团旗下南报优选供应链公司主办的首届紫金山国潮漫文化嘉年华,将在南京国际展览中心举办
2025-09-29 07:42:00
9月26日,购在中国(山西站)暨中石化易捷第八届易享节在我市启动,诸多三晋名特优产品将陆续入驻中石化易捷,走向全国。今后
2025-09-28 08:20:00
刚刚闭幕的长春航空展上,“净月号”成瞩目焦点
9月23日,长春航空展圆满闭幕,“净月号”凭借其震撼的实体造型与深厚的文化内涵,成为展会瞩目的焦点。这艘承载中式太空梦想的“星舰”
2025-09-28 10:07:00
为更好的服务广大客户,富德生命人寿安平支公司积极组织员工开展《产品健康增值服务》培训。培训中,讲师细致讲解公司产品健康增值服务
2025-09-28 10:12:00
河北新闻网讯(王丽英)9月24日至25日,宁晋县晶龙集团举行人力资源专业培训,内训师靳桂峰、王素峰和张晓宁分别围绕工伤保险及识人辨人
2025-09-28 10:18:00
美团Keeta上线阿联酋!40天连开3国,国际化全速推进
当地时间9月27日上午11点,美团旗下国际外卖品牌Keeta正式在阿联酋迪拜启动运营,这是Keeta继8月上线卡塔尔、9月上线科威特后
2025-09-28 10:22:00
小米17系列9月27日开售,卢伟冰称ProMax需求远超预期,已安排快速提拉生产
9月27日上午10点,小米17系列开售,价格4499元起!并全系首发第五代骁龙 8 至尊版。据悉,小米17尺寸6.3,7000mAh 电池
2025-09-28 10:22:00
齐鲁晚报·齐鲁壹点 王会广 通讯员 李杰在数字经济蓬勃发展的当下,大数据、云计算、物联网、移动互联网、人工智能以及区块链等新兴技术的广泛应用
2025-09-28 10:56:00
实时互动x高效制播:佳能携手《密室大逃脱大神版 互动直播》真人秀实现制作新范式
在直播与正片并行制作逐渐成为综艺内容生产新常态的当下,真人秀现场对影像系统的要求不断提升:既要满足直播的即时输出,又要兼顾正片制作的高质量成片
2025-09-28 11:51:00