• 我的订阅
  • 头条热搜
OpenAI o1强推理能提升安全性?长对话诱导干翻o1
...力的提升真的能解决安全问题吗?推理能力越强,模型的安全性会越好吗?近日,上海交大和上海人工智能实验室的一篇论文提出了质疑。这篇题为《Derail Yourself: Multi-turn LLM Attack through Self-discovered Clues》的论文揭示了AI 大模型……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
...了”。为了避免这种情况出现,在发展AI的同时也确保其安全性是必要的。 其次,大模型和安全的发展,本就是相辅相成的:换言之,大模型发展中的安全机制其实可以通过“攻击”研究来完善,这也是攻击研究的一种落地方...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
...展,尤其是大语言模型(LLMs)的广泛应用,保障模型的安全性并防止其被恶意利用,已成为一个重要的议题。越狱攻击通过恶意指令诱导模型生成有害或不道德的内容,对模型的安全性和可靠性构成了严峻挑战。这种攻击与防...……更多
OpenAI发布免费新品GPT-4o:可对音频、视觉和文本实时推理,与人自然对话,功能秒杀Siri
...练后改进模型行为等技术,GPT-4o在设计中内置了跨模式的安全性,并创建了新的安全系统,为语音输出提供护栏。GPT-4o还与来自社会心理学、偏见和公平、错误信息等领域的70多名外部专家开展广泛的外部红队合作,以识别新增...……更多
...面临着三方面挑战。邬贺铨指出,第一,金融行业对数据安全性、隐私合规性都有着严格的要求。尤其是在风控方面,对时效性与精准性要求严格,而一般的基础大模型透明性、可信性、专业性不足,很难直接迁移为金融大模型...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...ust提炼出了五个可信评价维度——事实性(Truthfulness)、安全性(Safety)、鲁棒性(Robustness)、公平性(Fairness)、隐私保护(Privacy),并进行二级分类,有针对性地构建了任务、指标、数据集来提供全面的评估。图4MultiTrust框...……更多
追问|精准爆破!科学家将细菌改造成“声控炸弹”攻击肿瘤
...在目标肿瘤区域实时、按需释放,提高了治疗的灵活性和安全性。此外,工程细菌作为药物工厂,可以持续产生多种治疗蛋白质,协同增强治疗效果。工程细菌疗法和CAR-T细胞疗法的结合可能为癌症治疗提供一个全面的治疗策略...……更多
...一个人钻漏洞改模型代码,把锅扣到自己头上。大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...o Amodei 和 Daniela Amodei,辞去OpenAI工作的原因是想建立一个安全性和可控性更高的的模型。离职后,他们还带走了曾在 OpenAI 领导 GPT-3 模型的工程师Tom Brown。Dario Amodei(左) 和 Daniela Amodei(右)据悉,Dario……更多
...虚假信息和不当言论,引发社会混乱和政治风险,也可能诱导工作人员做出错误的决策,极大破坏政府公信力。其次是AI大模型涉及海量数据训练、流转和使用,政府的机密数据、敏感数据很容易被泄露。生成式人工智能会在与...……更多
一文看尽Meta开源大礼包!全面覆盖图像分割、语音、文本、表征、材料发现、密码安全性等
...面的创新研究铺平了道路。Salsa:验证后量子密码标准的安全性在保护数据的安全领域上,密码学研究必须领先于攻击手段。Meta此次开源的方法Salsa,能够攻击和破解NIST标准中的稀疏秘密(sparse secrets)Krystals Kyber,使研究人员...……更多
...下载恶意文件。——完善安防举措。个人应设置具有较高安全性的登录密码并定期更新,配置并使用二次认证、异常登录报警等安全防护功能。相关单位要强化网络安防措施,启用有效的安全防护策略。同时,应安装并及时更新...……更多
行业丨抢滩下一个高地,分布式云计算迎来黄金发展期!
...来的计算体验。分布式云计算发展的关键因素数据隐私和安全性的需求随着数据泄露和网络攻击事件的频繁发生,企业和个人对数据隐私和安全性的要求越来越高。分布式云计算通过分散数据和计算资源,降低了单点故障的风险...……更多
AI技术为安全治理提供“新工具箱”
...实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面,通过智能化风控技术,可以帮助大模型拦截外界的恶意提问,确保外部恶意诱导无法传入大模型。同时,对生成的回答内容能够进行风险过滤,保...……更多
火山引擎ai大模型赋能千行百业成趋势
...3、安全,可信赖最后不可忽视的还有字节豆包大模型的安全性。它能够提供全周期的安全可信方案。在合规性方面,豆包大模型首批通过生成式人工之智能服务安全备案,并且火山方舟通过了SOC2.0以及ISO系列安全标准评测。同...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...以内用户数据无需上传云端,这将大大提升用户的隐私的安全性将AI推理从云端迁移到终端侧,可以充分利用骁龙8至尊版强大的终端侧AI推理能力,从而降低云端运行成本并降低能耗 ……更多
苹果宣布为 iMessage 推出“突破性” 后量子加密协议
...们所知,PQ3拥有全球所有大规模消息传递协议中最为强的安全性。目前还没有对经典加密协议与PQC加密协议进行评级的行业标准,因此苹果自己开发了一种评级系统,而PQ3就实现了3级完全认证。IT之家注:以下是其结构以及PQ3的...……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
...个版本,其推理性能和效率均优于第一代,并具有显著的安全性改进。事实上,270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争,并且提供了此前只有专有模型才能实现的性能,而这种性能现在可以在单个NVIDIA H1...……更多
警惕微信群“钓鱼”!发现一木马病毒最新变种
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。转自:央视新闻客户端来源:科技日报 ……更多
中外专家为构建网络安全免疫系统建言献策
...测试结果显示,到目前为止,采用内生安全结构的产品在安全性上表现突出。与会人士认为,打造数字中国的安全“地基”,信创产业与网络安全产业融合发展显得尤为迫切。极氪车联网安全实验室负责人陈楠强调,网络安全将...……更多
Soul上线自研大模型“SoulX”,AIGC+社交布局提速
...等策略来构建安全体系,保证了大模型的内容生产质量和安全性。SoulX的正式发布,表明了Soul在社交和AIGC领域的布局加速。自2020年系统化探索AI与社交场景深度融合,Soul在智能对话、图像、声音合成方面持续积累技术能力,不...……更多
对话王田苗:万亿市场之下,大模型 + 机器人还有四大问题未解决
...的载体性物种在灵巧性、成本性、能源维护性、使用体验安全性等方面仍存在诸多挑战,距离通用机器人走向千家万户还有距离。此外,实时性和推理速度也是当前具身智能面临的重要问题。目前基于大模型的机器人控制周期在...……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
...在新对话中直接提问,得到的答案就变成了“不知道”。安全性方面,最近瑞士洛桑联邦理工学院爆出了可以通过过去时态绕过大模型安全措施的问题,我们也给Mistral测试了一下。一上来直接询问毒品的制作方式,结果毫不意...……更多
十问十答 | 对话零极:分布式技术推动互联网应用变革!
...且节点数规模可以无限扩展。图片来自网络 最后,增强安全性。通过哈希计算加密算法私钥进行签名,可以抵御未来量子计算机的攻击;部分节点异常或被攻击,不会影响整个系统运行;在分布式网络中,共识节点越多,安全...……更多
...过大而导致钣金开裂的事故,提高了车辆的侧碰稳定性和安全性。来源:金融界 ……更多
智启新元年:PC成为AI落地首选终端
...实现AI的普惠,还需要克服AI个性化服务、效率、成本及安全性等多重挑战。但是时候去面对这些困难,让AI去普惠我们未来的世界,让AI去助力解决当下解决不了的问题。”联想集团副总裁、中国区首席市场官王传东在近日演讲...……更多
又慢又贵?OpenAI推理模型“草莓”来了,GPT-5还有多远
...时尝试不同的方法。 OpenAI表示,使用思维链能显著提高安全性和一致性,因为能够以清晰的方式观察模型的思维,且模型对安全规则的推理对分布外场景也更加稳健。商汤科技董事会执行主席兼CEO徐立此前曾表示,未来决定一...……更多
微软copilotai可泄露敏感数据,变身强大的钓鱼攻击工具
...同事Jane的邮箱地址,了解与Jane的最近一次对话内容,并诱导Copilot泄露该对话中的抄送人员邮箱。随后,他指示Copilot以被攻击员工的风格撰写一封发送给Jane的邮件,并提取两人最近一次邮件的准确主题。短短几分钟内,他就创...……更多
多个微信群已出现!千万不要点开!紧急提醒→
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。 ……更多
筑牢湾区网络安全防线!Coremail亮相大湾区网络安全大会
...础设施。据Coremail与奇安信联合发布的《2023中国企业邮箱安全性研究报告》数据显示,2023年国内共收发各类电子邮件约7798.5亿封,其中垃圾邮件占比54.2%。随着AI技术的广泛应用,网络安全问题更加多样化,攻击者正利用AI使钓...……更多
更多关于科技的资讯:
京东官宣发布新车,称像买手机一样方便,已注册多枚京东汽车商标
10月14日,京东微博账号发文称:2025京东11.11期间,京东联合广汽、宁德时代将正式推出一款神秘国民好车,官方将在10月底将陆续开启内测版
2025-10-15 10:46:00
固安:开足马力赶订单 满足京津冀市场需求
河北新闻网讯(万倩、陈放)10月13日,走进位于固安县固安镇的秋兹科技(固安)有限公司生产车间,自动化裁切设备高速运转
2025-10-15 09:56:00
参展企业334家,展位数再创新高达840个斩获银奖!“南京智造”闪耀广交会南报网讯(记者黄琳燕通讯员宁商轩)第138届广交会将于10月15日在广州开幕
2025-10-15 08:09:00
“云”上调度 雨中守护|雷沃数智化服务为抢收装上智慧大脑
秋收关键期遭遇连绵阴雨,让秋收秋种受阻。除了满足抢收抢烘抢播的智能农机,潍柴雷沃还创新数智化服务,通过智能调度与精准服务
2025-10-15 01:05:00
茶酒融合催生“微醺”新赛道,新茶饮品牌争饮“昼夜”经济
当白天的提神茶饮与夜晚的放松酒品打破边界,正催生出国内消费市场一股新的“微醺”风潮。近期,茶百道经典白酒奶茶回归即创下销量佳绩
2025-10-14 11:33:00
嘎子谢孟伟被执行超1400万,已被限高,此前因穿警服带货被行拘7日
近日,因穿警服直播带货被行政拘留、账号遭封禁的嘎子谢孟伟发视频称 “我回来了”,并向所有观众诚恳道歉。视频中,其透露公司员工已被安排回老家
2025-10-14 11:33:00
平谷将打造全国农业科创中心
原标题:世界农业科创大会开幕 农业中关村核心区2.0发布平谷将打造全国农业科创中心本报讯(记者 赵婷婷)昨天,2025世界农业科技创新大会(WAFI)在北京平谷开幕
2025-10-14 11:59:00
据大象新闻报道,近期蜜雪冰城的小票成了年轻人追捧的“追更凭证”,其上连载着名为《雪王在古代卖咖啡》的小说,20个章节随机印在消费小票上
2025-10-14 12:10:00
电通创意发布《2025首席营销官报告》:算法与人性的重构力量
AI时代,品牌的长期价值回归于人性与文化共鸣,人类的创造力、同理心与文化相关性愈加重要。•AI已成日常:几乎所有CMO都在使用AI
2025-10-14 13:29:00
近日,一则“美团外卖骑手能屏蔽顾客”的消息在网络上引发热议。据媒体报道,美团已在福建晋江、浙江绍兴等七个城市试点上线骑手评价用户和屏蔽用户功能
2025-10-14 13:40:00
这座产业园一年制造千万颗球胆、百万颗整球——沂南县“造球记”
齐鲁晚报·齐鲁壹点 记者 公绪成 李其峰 通讯员 陈婉塑炼、分切、热压......沂南县泽辉体育产业园内,工人们正紧忙制作新一批篮球内胆10月9日
2025-10-14 15:00:00
在数字经济奔涌向前的浪潮中,VR正加速与新一代信息技术融合,不断催生新的应用场景。紧抓发展机遇,江西移动聚焦VR产业发展的核心问题
2025-10-14 16:02:00
行业首个!海尔智家牵头制定《智能门锁安装和售后服务要求》
据洛图科技数据显示,2025年上半年,中国智能门锁市场全渠道销量达到897万套,同比增长6.8%。面对日益增长的智能安防需求
2025-10-14 16:14:00
蜜雪冰城卖啤酒,5.9元一杯冲上热搜!网友:期待雪王啤酒了
10月14日,蜜雪冰城啤酒5.9元一杯冲上微博热搜榜。10月1日,蜜雪集团在港交所发布的公告显示,蜜雪冰城以2.856亿元增资认购鲜啤福鹿家新增注册资本
2025-10-14 16:40:00
【宅男财经|专家面对面】据媒体报道,近日,有网友在社交媒体发帖称,美团外卖骑手能屏蔽顾客了。相关页面信息显示,目前已在晋江
2025-10-14 17:08:00