• 我的订阅
  • 头条热搜
OpenAI o1强推理能提升安全性?长对话诱导干翻o1
...力的提升真的能解决安全问题吗?推理能力越强,模型的安全性会越好吗?近日,上海交大和上海人工智能实验室的一篇论文提出了质疑。这篇题为《Derail Yourself: Multi-turn LLM Attack through Self-discovered Clues》的论文揭示了AI 大模型……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
...了”。为了避免这种情况出现,在发展AI的同时也确保其安全性是必要的。 其次,大模型和安全的发展,本就是相辅相成的:换言之,大模型发展中的安全机制其实可以通过“攻击”研究来完善,这也是攻击研究的一种落地方...……更多
什么影响大模型安全?NeurIPS\\\'24新研究提出大模型越狱攻击新基准
...展,尤其是大语言模型(LLMs)的广泛应用,保障模型的安全性并防止其被恶意利用,已成为一个重要的议题。越狱攻击通过恶意指令诱导模型生成有害或不道德的内容,对模型的安全性和可靠性构成了严峻挑战。这种攻击与防...……更多
OpenAI发布免费新品GPT-4o:可对音频、视觉和文本实时推理,与人自然对话,功能秒杀Siri
...练后改进模型行为等技术,GPT-4o在设计中内置了跨模式的安全性,并创建了新的安全系统,为语音输出提供护栏。GPT-4o还与来自社会心理学、偏见和公平、错误信息等领域的70多名外部专家开展广泛的外部红队合作,以识别新增...……更多
...面临着三方面挑战。邬贺铨指出,第一,金融行业对数据安全性、隐私合规性都有着严格的要求。尤其是在风控方面,对时效性与精准性要求严格,而一般的基础大模型透明性、可信性、专业性不足,很难直接迁移为金融大模型...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...ust提炼出了五个可信评价维度——事实性(Truthfulness)、安全性(Safety)、鲁棒性(Robustness)、公平性(Fairness)、隐私保护(Privacy),并进行二级分类,有针对性地构建了任务、指标、数据集来提供全面的评估。图4MultiTrust框...……更多
追问|精准爆破!科学家将细菌改造成“声控炸弹”攻击肿瘤
...在目标肿瘤区域实时、按需释放,提高了治疗的灵活性和安全性。此外,工程细菌作为药物工厂,可以持续产生多种治疗蛋白质,协同增强治疗效果。工程细菌疗法和CAR-T细胞疗法的结合可能为癌症治疗提供一个全面的治疗策略...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...o Amodei 和 Daniela Amodei,辞去OpenAI工作的原因是想建立一个安全性和可控性更高的的模型。离职后,他们还带走了曾在 OpenAI 领导 GPT-3 模型的工程师Tom Brown。Dario Amodei(左) 和 Daniela Amodei(右)据悉,Dario……更多
...一个人钻漏洞改模型代码,把锅扣到自己头上。大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质...……更多
...虚假信息和不当言论,引发社会混乱和政治风险,也可能诱导工作人员做出错误的决策,极大破坏政府公信力。其次是AI大模型涉及海量数据训练、流转和使用,政府的机密数据、敏感数据很容易被泄露。生成式人工智能会在与...……更多
...下载恶意文件。——完善安防举措。个人应设置具有较高安全性的登录密码并定期更新,配置并使用二次认证、异常登录报警等安全防护功能。相关单位要强化网络安防措施,启用有效的安全防护策略。同时,应安装并及时更新...……更多
行业丨抢滩下一个高地,分布式云计算迎来黄金发展期!
...来的计算体验。分布式云计算发展的关键因素数据隐私和安全性的需求随着数据泄露和网络攻击事件的频繁发生,企业和个人对数据隐私和安全性的要求越来越高。分布式云计算通过分散数据和计算资源,降低了单点故障的风险...……更多
火山引擎ai大模型赋能千行百业成趋势
...3、安全,可信赖最后不可忽视的还有字节豆包大模型的安全性。它能够提供全周期的安全可信方案。在合规性方面,豆包大模型首批通过生成式人工之智能服务安全备案,并且火山方舟通过了SOC2.0以及ISO系列安全标准评测。同...……更多
AI技术为安全治理提供“新工具箱”
...实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面,通过智能化风控技术,可以帮助大模型拦截外界的恶意提问,确保外部恶意诱导无法传入大模型。同时,对生成的回答内容能够进行风险过滤,保...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...以内用户数据无需上传云端,这将大大提升用户的隐私的安全性将AI推理从云端迁移到终端侧,可以充分利用骁龙8至尊版强大的终端侧AI推理能力,从而降低云端运行成本并降低能耗 ……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
...个版本,其推理性能和效率均优于第一代,并具有显著的安全性改进。事实上,270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争,并且提供了此前只有专有模型才能实现的性能,而这种性能现在可以在单个NVIDIA H1...……更多
苹果宣布为 iMessage 推出“突破性” 后量子加密协议
...们所知,PQ3拥有全球所有大规模消息传递协议中最为强的安全性。目前还没有对经典加密协议与PQC加密协议进行评级的行业标准,因此苹果自己开发了一种评级系统,而PQ3就实现了3级完全认证。IT之家注:以下是其结构以及PQ3的...……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
...在新对话中直接提问,得到的答案就变成了“不知道”。安全性方面,最近瑞士洛桑联邦理工学院爆出了可以通过过去时态绕过大模型安全措施的问题,我们也给Mistral测试了一下。一上来直接询问毒品的制作方式,结果毫不意...……更多
Soul上线自研大模型“SoulX”,AIGC+社交布局提速
...等策略来构建安全体系,保证了大模型的内容生产质量和安全性。SoulX的正式发布,表明了Soul在社交和AIGC领域的布局加速。自2020年系统化探索AI与社交场景深度融合,Soul在智能对话、图像、声音合成方面持续积累技术能力,不...……更多
对话王田苗:万亿市场之下,大模型 + 机器人还有四大问题未解决
...的载体性物种在灵巧性、成本性、能源维护性、使用体验安全性等方面仍存在诸多挑战,距离通用机器人走向千家万户还有距离。此外,实时性和推理速度也是当前具身智能面临的重要问题。目前基于大模型的机器人控制周期在...……更多
警惕微信群“钓鱼”!发现一木马病毒最新变种
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。转自:央视新闻客户端来源:科技日报 ……更多
中外专家为构建网络安全免疫系统建言献策
...测试结果显示,到目前为止,采用内生安全结构的产品在安全性上表现突出。与会人士认为,打造数字中国的安全“地基”,信创产业与网络安全产业融合发展显得尤为迫切。极氪车联网安全实验室负责人陈楠强调,网络安全将...……更多
...过大而导致钣金开裂的事故,提高了车辆的侧碰稳定性和安全性。来源:金融界 ……更多
智启新元年:PC成为AI落地首选终端
...实现AI的普惠,还需要克服AI个性化服务、效率、成本及安全性等多重挑战。但是时候去面对这些困难,让AI去普惠我们未来的世界,让AI去助力解决当下解决不了的问题。”联想集团副总裁、中国区首席市场官王传东在近日演讲...……更多
又慢又贵?OpenAI推理模型“草莓”来了,GPT-5还有多远
...时尝试不同的方法。 OpenAI表示,使用思维链能显著提高安全性和一致性,因为能够以清晰的方式观察模型的思维,且模型对安全规则的推理对分布外场景也更加稳健。商汤科技董事会执行主席兼CEO徐立此前曾表示,未来决定一...……更多
十问十答 | 对话零极:分布式技术推动互联网应用变革!
...b82a7bf3cf8081f.jpeg\"/>图片来自网络 最后,增强安全性。通过哈希计算加密算法私钥进行签名,可以抵御未来量子计算机的攻击;部分节点异常或被攻击,不会影响整个系统运行;在分布式网络中,共识节点越多,安全...……更多
微软copilotai可泄露敏感数据,变身强大的钓鱼攻击工具
...同事Jane的邮箱地址,了解与Jane的最近一次对话内容,并诱导Copilot泄露该对话中的抄送人员邮箱。随后,他指示Copilot以被攻击员工的风格撰写一封发送给Jane的邮件,并提取两人最近一次邮件的准确主题。短短几分钟内,他就创...……更多
筑牢湾区网络安全防线!Coremail亮相大湾区网络安全大会
...础设施。据Coremail与奇安信联合发布的《2023中国企业邮箱安全性研究报告》数据显示,2023年国内共收发各类电子邮件约7798.5亿封,其中垃圾邮件占比54.2%。随着AI技术的广泛应用,网络安全问题更加多样化,攻击者正利用AI使钓...……更多
...建“大模型+小模型”协同安全运营新体系,并在大模型安全性方向进行深入研究,发布了AI大模型安全威胁矩阵及风险评估工具,帮助用户在自有模型时管理安全风险。教育部信息技术新工科联盟网络空间安全工委会主任、杭州...……更多
中企通信“信息安全威胁识别平台”闪耀BPAA大赛勇夺榜眼
...业家的严谨评审规范流程,以有效性、创新性、应用性、安全性四大维度为核心,结合各个赛道行业特征和发展趋势进行评审及复核后,一致认可其紧密贴合产业发展的实际需求,并能展现出显著的落地性和市场潜力,在质量、...……更多
更多关于科技的资讯:
2024平板电脑市场变天了:小米大增73%
市场调研机构Canalys公布了2024年全球平板电脑市场统计数据。最新数据显示,2024年第四季度全球平板电脑出货量达到3990万台
2025-02-08 17:15:00
软弹耐磨 鸿星尔克凌跃2.0跑鞋110元大促 吊牌299元
天猫【鸿星尔克官方旗舰店】鸿星尔克凌跃 2.0 跑鞋日常售价为 219 元,下单领取 70 元优惠券,首次购买用户叠加 7~10 元首购礼金
2025-02-08 17:15:00
韶音发布OpenFit 2 开放式耳机,开启舒适听音新时代
在2025年初举办的首届ShokzDay交流会上,作为开放式耳机、专业运动耳机赛道推动者的韶音,正式推出了新一代韶音舒适圈OpenFit2
2025-02-08 17:45:00
OPPO Find N5真机出炉:折痕最浅 机身全球最薄
快科技2月8日消息,今天下午,OPPO周意保晒出了Find N5折叠屏真机照。这款折叠屏不仅做到了全球最薄,折痕也是行业最浅
2025-02-08 17:45:00
小米回应春节期间夺手机第一:在不擅长的线下打败友商
快科技2月8日消息,据华尔街见闻援引供应链数据,2025年W5(1.27-2.2)春节期间,小米新机激活量达130万台
2025-02-08 17:45:00
七彩虹笔记本大升级!“虹光AI”智能助手接入满血DeepSeek
快科技2月8日消息,继联想“小天”之后,七彩虹科技升级全新“虹光AI”智能模型助手,正式将满血版DeepSeek R1模型引入
2025-02-08 18:15:00
2025年第一款双潜望旗舰!OPPO Find X8 Ultra 3月登场
快科技2月8日消息,博主数码闲聊站暗示,OPPO Find X8 Ultra会在3月份正式发布。对比上代Find X7 Ultra
2025-02-08 18:15:00
荣耀MagicBook Pro 14配置抢先曝光:酷睿Ultra 200H系列处理器 可流畅运行《黑神话:悟空》
快科技2月8日消息,2025年刚开年,荣耀就给了所有打算换本的同学一个大惊喜。昨晚,荣耀 PC 产品线总经理@朱臣才-荣耀 在微博上放出了新品笔记本荣耀MagicBook Pro 14的一段实测演示视频
2025-02-08 18:15:00
走出去 创未来丨亮晶晶:借数字化之力,破解潍企出海“密码”
大众网记者 杨晓玲 潍坊报道外贸是拉动经济增长的重要引擎,也是联结国内国际双循环的重要枢纽,跨境电商则是城市外贸经济的重要推动力
2025-02-08 18:38:00
胖东来:全村的希望
正月初五,胖东来蛇年营业第一天,不出意外的给其所在的小城——河南许昌,带来了一场市内“春运”。胖东来许昌地区门店每日总客流量超过30万人
2025-02-08 18:45:00
王腾包场请REDMI团队看《哪吒2》:大家都说REDMI和哪吒气质很像
快科技2月8日消息,今天,REDMI王腾包场请团队成员去看电影《哪吒2》。他表示,组织大家一起学习怎么打造优秀的产品,很多视觉效果对我们做设计和视觉都有借鉴意义
2025-02-08 18:45:00
ColorOS将全面接入DeepSeek:比友商方案更高效
快科技2月8日消息,ColorOS陈希宣布,本月底ColorOS将全面接入DeepSeek,小布助手将是首个和DeepSeek深度融合的系统智能助理
2025-02-08 18:45:00
提升购物体验,增加商业价值——揭秘电梯安装对购物中心
在繁华的都市中,购物中心如同一颗颗璀璨的明珠,吸引着无数消费者的目光。而电梯,作为购物中心的重要组成部分,其安装不仅提升了建筑的垂直交通效率
2025-02-08 19:25:00
2025年春节国际和港澳台漫游来访业务快速提升
本文转自:人民网人民网北京2月8日电 (记者申佳平)据工业和信息化部官网消息,2025年春节,得益于我国过境免签政策适用范围不断扩大
2025-02-08 19:38:00
负债千亿!苏宁系公告破产重整
快科技2月8日消息,苏宁系宣布破产!全国企业破产重整案件信息网发布苏宁电器集团有限公司、苏宁控股集团有限公司、 苏宁置业集团有限公司破产重整案件信息与一债会公告
2025-02-08 19:45:00