• 我的订阅
  • 头条热搜
OpenAI o1强推理能提升安全性?长对话诱导干翻o1
...力的提升真的能解决安全问题吗?推理能力越强,模型的安全性会越好吗?近日,上海交大和上海人工智能实验室的一篇论文提出了质疑。这篇题为《Derail Yourself: Multi-turn LLM Attack through Self-discovered Clues》的论文揭示了AI 大模型……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
...了”。为了避免这种情况出现,在发展AI的同时也确保其安全性是必要的。 其次,大模型和安全的发展,本就是相辅相成的:换言之,大模型发展中的安全机制其实可以通过“攻击”研究来完善,这也是攻击研究的一种落地方...……更多
什么影响大模型安全?NeurIPS\'24新研究提出大模型越狱攻击新基准
...展,尤其是大语言模型(LLMs)的广泛应用,保障模型的安全性并防止其被恶意利用,已成为一个重要的议题。越狱攻击通过恶意指令诱导模型生成有害或不道德的内容,对模型的安全性和可靠性构成了严峻挑战。这种攻击与防...……更多
OpenAI发布免费新品GPT-4o:可对音频、视觉和文本实时推理,与人自然对话,功能秒杀Siri
...练后改进模型行为等技术,GPT-4o在设计中内置了跨模式的安全性,并创建了新的安全系统,为语音输出提供护栏。GPT-4o还与来自社会心理学、偏见和公平、错误信息等领域的70多名外部专家开展广泛的外部红队合作,以识别新增...……更多
...面临着三方面挑战。邬贺铨指出,第一,金融行业对数据安全性、隐私合规性都有着严格的要求。尤其是在风控方面,对时效性与精准性要求严格,而一般的基础大模型透明性、可信性、专业性不足,很难直接迁移为金融大模型...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...ust提炼出了五个可信评价维度——事实性(Truthfulness)、安全性(Safety)、鲁棒性(Robustness)、公平性(Fairness)、隐私保护(Privacy),并进行二级分类,有针对性地构建了任务、指标、数据集来提供全面的评估。图4MultiTrust框...……更多
...以严密的安全技术保障和运行监测,强化大模型运行时的安全性、可靠性和稳定性。——培养安全意识,打造协同防御生态。单位、企业在部署大模型前,需要进行全面的风险评估和安全规划,通过制定安全政策、开展安全培训...……更多
...信息。——强化密码管理。完善安防举措,设置具有较高安全性的登录密码,尽量避免使用简单密码或“一码多用”。为重要账户开启双重验证、异常登录报警等安全防护功能,增加安全防护。建议避免长期使用同一密码,不定...……更多
追问|精准爆破!科学家将细菌改造成“声控炸弹”攻击肿瘤
...在目标肿瘤区域实时、按需释放,提高了治疗的灵活性和安全性。此外,工程细菌作为药物工厂,可以持续产生多种治疗蛋白质,协同增强治疗效果。工程细菌疗法和CAR-T细胞疗法的结合可能为癌症治疗提供一个全面的治疗策略...……更多
...一个人钻漏洞改模型代码,把锅扣到自己头上。大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质...……更多
...然科学家早在150多年前就用细菌治疗实体瘤,但由于缺乏安全性和稳定的疗效,细菌疗法如昙花一现,最终湮没在历史中,鲜有问津。近年来,合成生物学技术的飞速发展让细菌疗法重新焕发生机。尽管越来越多的“细菌制剂”...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...o Amodei 和 Daniela Amodei,辞去OpenAI工作的原因是想建立一个安全性和可控性更高的的模型。离职后,他们还带走了曾在 OpenAI 领导 GPT-3 模型的工程师Tom Brown。Dario Amodei(左) 和 Daniela Amodei(右)据悉,Dario……更多
...虚假信息和不当言论,引发社会混乱和政治风险,也可能诱导工作人员做出错误的决策,极大破坏政府公信力。其次是AI大模型涉及海量数据训练、流转和使用,政府的机密数据、敏感数据很容易被泄露。生成式人工智能会在与...……更多
一文看尽Meta开源大礼包!全面覆盖图像分割、语音、文本、表征、材料发现、密码安全性等
...面的创新研究铺平了道路。Salsa:验证后量子密码标准的安全性在保护数据的安全领域上,密码学研究必须领先于攻击手段。Meta此次开源的方法Salsa,能够攻击和破解NIST标准中的稀疏秘密(sparse secrets)Krystals Kyber,使研究人员...……更多
...下载恶意文件。——完善安防举措。个人应设置具有较高安全性的登录密码并定期更新,配置并使用二次认证、异常登录报警等安全防护功能。相关单位要强化网络安防措施,启用有效的安全防护策略。同时,应安装并及时更新...……更多
行业丨抢滩下一个高地,分布式云计算迎来黄金发展期!
...来的计算体验。分布式云计算发展的关键因素数据隐私和安全性的需求随着数据泄露和网络攻击事件的频繁发生,企业和个人对数据隐私和安全性的要求越来越高。分布式云计算通过分散数据和计算资源,降低了单点故障的风险...……更多
AI技术为安全治理提供“新工具箱”
...实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面,通过智能化风控技术,可以帮助大模型拦截外界的恶意提问,确保外部恶意诱导无法传入大模型。同时,对生成的回答内容能够进行风险过滤,保...……更多
火山引擎ai大模型赋能千行百业成趋势
...3、安全,可信赖最后不可忽视的还有字节豆包大模型的安全性。它能够提供全周期的安全可信方案。在合规性方面,豆包大模型首批通过生成式人工之智能服务安全备案,并且火山方舟通过了SOC2.0以及ISO系列安全标准评测。同...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...以内用户数据无需上传云端,这将大大提升用户的隐私的安全性将AI推理从云端迁移到终端侧,可以充分利用骁龙8至尊版强大的终端侧AI推理能力,从而降低云端运行成本并降低能耗 ……更多
苹果宣布为 iMessage 推出“突破性” 后量子加密协议
...们所知,PQ3拥有全球所有大规模消息传递协议中最为强的安全性。目前还没有对经典加密协议与PQC加密协议进行评级的行业标准,因此苹果自己开发了一种评级系统,而PQ3就实现了3级完全认证。IT之家注:以下是其结构以及PQ3的...……更多
2025 VDC安全与隐私分会:技术持续创新,夯实安全地基
...构中的安全技术能力,全方面提升了智能体全生命周期的安全性。大模型治理的可信实践不仅如此,vivo也在模型和人员管理方面积极布局落子,vivo Al安全总监刘光明向与会者分享了大模型治理中的可信实践。他指出,GenAI时代...……更多
​海信重磅发布“云信·通途交通大模型”: 以AI之力,解锁智能交通无限可能
...等交通管理核心业务场景,旨在全面提升交通管理效率、安全性与服务质量,为中国智能交通发展注入强劲动能。AI指挥官:高效指挥智能决策 高效指挥是保障道路安全与畅通的关键。依托大模型推理预测能力与专家经验,海...……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
...个版本,其推理性能和效率均优于第一代,并具有显著的安全性改进。事实上,270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争,并且提供了此前只有专有模型才能实现的性能,而这种性能现在可以在单个NVIDIA H1...……更多
中国科学家破解细菌与肿瘤的“对话”:治疗癌症不再以毒攻毒
...只能在瘤内躲避抗菌免疫细胞的追杀,保证了细菌治疗的安全性。研究人员将这一疗法在多种动物模型中进行了验证。结果显示,合成生物改造的细菌能够显著抑制多种肿瘤的生长、复发和转移,标志着细菌疗法从“以毒攻毒”...……更多
警惕微信群“钓鱼”!发现一木马病毒最新变种
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。转自:央视新闻客户端来源:科技日报 ……更多
超越ChatGPT:人类特有的思维要强化
...ChatGPT的关联学习很强,却缺乏对公理的坚持。当你试图诱导它犯错时,它很容易发生“信念屈服”,从而产生“虚假关联”。何谓虚假关联?二战期间,每架战斗机返航时,英美军方都发现机翼上密布弹孔,而发动机引擎则几...……更多
中外专家为构建网络安全免疫系统建言献策
...测试结果显示,到目前为止,采用内生安全结构的产品在安全性上表现突出。与会人士认为,打造数字中国的安全“地基”,信创产业与网络安全产业融合发展显得尤为迫切。极氪车联网安全实验室负责人陈楠强调,网络安全将...……更多
Soul上线自研大模型“SoulX”,AIGC+社交布局提速
...等策略来构建安全体系,保证了大模型的内容生产质量和安全性。SoulX的正式发布,表明了Soul在社交和AIGC领域的布局加速。自2020年系统化探索AI与社交场景深度融合,Soul在智能对话、图像、声音合成方面持续积累技术能力,不...……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
...在新对话中直接提问,得到的答案就变成了“不知道”。安全性方面,最近瑞士洛桑联邦理工学院爆出了可以通过过去时态绕过大模型安全措施的问题,我们也给Mistral测试了一下。一上来直接询问毒品的制作方式,结果毫不意...……更多
对话王田苗:万亿市场之下,大模型 + 机器人还有四大问题未解决
...的载体性物种在灵巧性、成本性、能源维护性、使用体验安全性等方面仍存在诸多挑战,距离通用机器人走向千家万户还有距离。此外,实时性和推理速度也是当前具身智能面临的重要问题。目前基于大模型的机器人控制周期在...……更多
更多关于科技的资讯:
近来,“包挂热”在年轻消费者群体中持续升温。社交平台上,有关“包挂”“包搭子”等相关话题的浏览量超过亿次。数据显示,今年上半年
2025-11-25 08:41:00
摘要:在全球市场飞速发展、竞争日趋激烈的当下,企业获得并保持核心竞争力是长远发展的动力源泉。企业的静态核心竞争力易随着技术的进步与市场的变换而失去光彩
2025-11-25 07:04:00
摘要:随着大数据技术的快速发展,传统中小企业的管理模式面临前所未有的挑战与机遇。大数据的应用使得中小企业能够通过数据分析
2025-11-25 07:04:00
外卖大战在不久前刚刚告一段落,市场就又有了新的动作:京东上线了独立App京东外卖,同时还发布了京东点评。而11月以来,也多次传出阿里的外卖平台“饿了么”要更名为淘宝闪购的消息
2025-11-25 07:22:00
在高度媒介化的社会环境中,社交媒体作为关键基础设施,其算法推荐机制催生的“信息茧房”现象日益凸显。本研究聚焦大学生群体
2025-11-25 07:04:00
猛犸世纪AI智能体训练营开课,引爆“一人公司”新范式
AI时代,企业的核心竞争力是什么?在2025年11月19日至20日于深圳南山成功举办的“猛犸AI智能体增长训练营”上,答案被清晰地指向了同一个方向
2025-11-24 14:18:00
澳柯玛多款产品获市长杯工业设计大赛金、银、铜奖
鲁网11月24日讯近日,青岛市2025年第八届“市长杯”工业设计大赛获奖名单正式公布,澳柯玛生活电器凭借卓越的设计实力
2025-11-24 14:44:00
嘉必优捷报频传,瞄定中国生物制造踏新阶
近日,《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》正式发布,明确提出,推动生物制造、量子科技、氢能和核聚变能等成为新的经济增长点
2025-11-24 15:18:00
为规范大型网络平台个人信息处理活动,保护个人信息合法权益,促进平台经济健康发展,国家互联网信息办公室、公安部起草了《大型网络平台个人信息保护规定(征求意见稿)》
2025-11-24 15:29:00
为强化员工合规意识,切实保障SPACC+营销模式下老年客户的服务安全,富德生命人寿保险有限公司张家口中心支公司于11月12日至13日
2025-11-24 15:32:00
10月29日至31日,百年人寿银行保险渠道在深圳大学举办“金鹏启梦,领行新程”主题研学班。本次活动聚焦专业能力跃升与价值成长路径
2025-11-24 15:33:00
多维促消费,畅享“双十一”——邮储银行三明市分行携手商圈平台打造银客商共赢典范东南网11月24日讯 为紧抓“双十一”消费机遇
2025-11-24 15:44:00
王嘉琳女士受邀出席睿海希尔顿花园酒店开业盛典,共贺新章
日前,重庆渝北中央公园睿海希尔顿花园酒店(以下简称“睿海希尔顿花园酒店”)在渝北区中央公园片区盛大开业。作为全国首家开业的4
2025-11-24 16:30:00
11月21日,2025北京零售商品博览会在北京展览馆启幕,展会以“品质零售·融聚共生”为主题,联动生产商、品牌商、渠道商
2025-11-24 17:41:00
“这个锅的厂家还在吗?”一则寻锅视频在全网爆火,这口“用了三十年仍旧不锈不粘、耐用如初”的锅也被网友称为“传家锅”。感动之余
2025-11-24 18:26:00