• 我的订阅
  • 头条热搜
OpenAI o1强推理能提升安全性?长对话诱导干翻o1
...力的提升真的能解决安全问题吗?推理能力越强,模型的安全性会越好吗?近日,上海交大和上海人工智能实验室的一篇论文提出了质疑。这篇题为《Derail Yourself: Multi-turn LLM Attack through Self-discovered Clues》的论文揭示了AI 大模型……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
...了”。为了避免这种情况出现,在发展AI的同时也确保其安全性是必要的。 其次,大模型和安全的发展,本就是相辅相成的:换言之,大模型发展中的安全机制其实可以通过“攻击”研究来完善,这也是攻击研究的一种落地方...……更多
什么影响大模型安全?NeurIPS\\\'24新研究提出大模型越狱攻击新基准
...展,尤其是大语言模型(LLMs)的广泛应用,保障模型的安全性并防止其被恶意利用,已成为一个重要的议题。越狱攻击通过恶意指令诱导模型生成有害或不道德的内容,对模型的安全性和可靠性构成了严峻挑战。这种攻击与防...……更多
OpenAI发布免费新品GPT-4o:可对音频、视觉和文本实时推理,与人自然对话,功能秒杀Siri
...练后改进模型行为等技术,GPT-4o在设计中内置了跨模式的安全性,并创建了新的安全系统,为语音输出提供护栏。GPT-4o还与来自社会心理学、偏见和公平、错误信息等领域的70多名外部专家开展广泛的外部红队合作,以识别新增...……更多
...面临着三方面挑战。邬贺铨指出,第一,金融行业对数据安全性、隐私合规性都有着严格的要求。尤其是在风控方面,对时效性与精准性要求严格,而一般的基础大模型透明性、可信性、专业性不足,很难直接迁移为金融大模型...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...ust提炼出了五个可信评价维度——事实性(Truthfulness)、安全性(Safety)、鲁棒性(Robustness)、公平性(Fairness)、隐私保护(Privacy),并进行二级分类,有针对性地构建了任务、指标、数据集来提供全面的评估。图4MultiTrust框...……更多
追问|精准爆破!科学家将细菌改造成“声控炸弹”攻击肿瘤
...在目标肿瘤区域实时、按需释放,提高了治疗的灵活性和安全性。此外,工程细菌作为药物工厂,可以持续产生多种治疗蛋白质,协同增强治疗效果。工程细菌疗法和CAR-T细胞疗法的结合可能为癌症治疗提供一个全面的治疗策略...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...o Amodei 和 Daniela Amodei,辞去OpenAI工作的原因是想建立一个安全性和可控性更高的的模型。离职后,他们还带走了曾在 OpenAI 领导 GPT-3 模型的工程师Tom Brown。Dario Amodei(左) 和 Daniela Amodei(右)据悉,Dario……更多
...一个人钻漏洞改模型代码,把锅扣到自己头上。大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质...……更多
...虚假信息和不当言论,引发社会混乱和政治风险,也可能诱导工作人员做出错误的决策,极大破坏政府公信力。其次是AI大模型涉及海量数据训练、流转和使用,政府的机密数据、敏感数据很容易被泄露。生成式人工智能会在与...……更多
一文看尽Meta开源大礼包!全面覆盖图像分割、语音、文本、表征、材料发现、密码安全性等
...面的创新研究铺平了道路。Salsa:验证后量子密码标准的安全性在保护数据的安全领域上,密码学研究必须领先于攻击手段。Meta此次开源的方法Salsa,能够攻击和破解NIST标准中的稀疏秘密(sparse secrets)Krystals Kyber,使研究人员...……更多
...下载恶意文件。——完善安防举措。个人应设置具有较高安全性的登录密码并定期更新,配置并使用二次认证、异常登录报警等安全防护功能。相关单位要强化网络安防措施,启用有效的安全防护策略。同时,应安装并及时更新...……更多
行业丨抢滩下一个高地,分布式云计算迎来黄金发展期!
...来的计算体验。分布式云计算发展的关键因素数据隐私和安全性的需求随着数据泄露和网络攻击事件的频繁发生,企业和个人对数据隐私和安全性的要求越来越高。分布式云计算通过分散数据和计算资源,降低了单点故障的风险...……更多
火山引擎ai大模型赋能千行百业成趋势
...3、安全,可信赖最后不可忽视的还有字节豆包大模型的安全性。它能够提供全周期的安全可信方案。在合规性方面,豆包大模型首批通过生成式人工之智能服务安全备案,并且火山方舟通过了SOC2.0以及ISO系列安全标准评测。同...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...以内用户数据无需上传云端,这将大大提升用户的隐私的安全性将AI推理从云端迁移到终端侧,可以充分利用骁龙8至尊版强大的终端侧AI推理能力,从而降低云端运行成本并降低能耗 ……更多
AI技术为安全治理提供“新工具箱”
...实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面,通过智能化风控技术,可以帮助大模型拦截外界的恶意提问,确保外部恶意诱导无法传入大模型。同时,对生成的回答内容能够进行风险过滤,保...……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
...个版本,其推理性能和效率均优于第一代,并具有显著的安全性改进。事实上,270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争,并且提供了此前只有专有模型才能实现的性能,而这种性能现在可以在单个NVIDIA H1...……更多
苹果宣布为 iMessage 推出“突破性” 后量子加密协议
...们所知,PQ3拥有全球所有大规模消息传递协议中最为强的安全性。目前还没有对经典加密协议与PQC加密协议进行评级的行业标准,因此苹果自己开发了一种评级系统,而PQ3就实现了3级完全认证。IT之家注:以下是其结构以及PQ3的...……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
...在新对话中直接提问,得到的答案就变成了“不知道”。安全性方面,最近瑞士洛桑联邦理工学院爆出了可以通过过去时态绕过大模型安全措施的问题,我们也给Mistral测试了一下。一上来直接询问毒品的制作方式,结果毫不意...……更多
对话王田苗:万亿市场之下,大模型 + 机器人还有四大问题未解决
...的载体性物种在灵巧性、成本性、能源维护性、使用体验安全性等方面仍存在诸多挑战,距离通用机器人走向千家万户还有距离。此外,实时性和推理速度也是当前具身智能面临的重要问题。目前基于大模型的机器人控制周期在...……更多
Soul上线自研大模型“SoulX”,AIGC+社交布局提速
...等策略来构建安全体系,保证了大模型的内容生产质量和安全性。SoulX的正式发布,表明了Soul在社交和AIGC领域的布局加速。自2020年系统化探索AI与社交场景深度融合,Soul在智能对话、图像、声音合成方面持续积累技术能力,不...……更多
警惕微信群“钓鱼”!发现一木马病毒最新变种
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。转自:央视新闻客户端来源:科技日报 ……更多
中外专家为构建网络安全免疫系统建言献策
...测试结果显示,到目前为止,采用内生安全结构的产品在安全性上表现突出。与会人士认为,打造数字中国的安全“地基”,信创产业与网络安全产业融合发展显得尤为迫切。极氪车联网安全实验室负责人陈楠强调,网络安全将...……更多
智启新元年:PC成为AI落地首选终端
...实现AI的普惠,还需要克服AI个性化服务、效率、成本及安全性等多重挑战。但是时候去面对这些困难,让AI去普惠我们未来的世界,让AI去助力解决当下解决不了的问题。”联想集团副总裁、中国区首席市场官王传东在近日演讲...……更多
...过大而导致钣金开裂的事故,提高了车辆的侧碰稳定性和安全性。来源:金融界 ……更多
又慢又贵?OpenAI推理模型“草莓”来了,GPT-5还有多远
...时尝试不同的方法。 OpenAI表示,使用思维链能显著提高安全性和一致性,因为能够以清晰的方式观察模型的思维,且模型对安全规则的推理对分布外场景也更加稳健。商汤科技董事会执行主席兼CEO徐立此前曾表示,未来决定一...……更多
十问十答 | 对话零极:分布式技术推动互联网应用变革!
...b82a7bf3cf8081f.jpeg\"/>图片来自网络 最后,增强安全性。通过哈希计算加密算法私钥进行签名,可以抵御未来量子计算机的攻击;部分节点异常或被攻击,不会影响整个系统运行;在分布式网络中,共识节点越多,安全...……更多
微软copilotai可泄露敏感数据,变身强大的钓鱼攻击工具
...同事Jane的邮箱地址,了解与Jane的最近一次对话内容,并诱导Copilot泄露该对话中的抄送人员邮箱。随后,他指示Copilot以被攻击员工的风格撰写一封发送给Jane的邮件,并提取两人最近一次邮件的准确主题。短短几分钟内,他就创...……更多
多个微信群已出现!千万不要点开!紧急提醒→
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。 ……更多
筑牢湾区网络安全防线!Coremail亮相大湾区网络安全大会
...础设施。据Coremail与奇安信联合发布的《2023中国企业邮箱安全性研究报告》数据显示,2023年国内共收发各类电子邮件约7798.5亿封,其中垃圾邮件占比54.2%。随着AI技术的广泛应用,网络安全问题更加多样化,攻击者正利用AI使钓...……更多
更多关于科技的资讯:
微星AfterBurner升级:RTX 5080三个风扇可以不同转速
快科技1月4日消息,微星AfterBurner(小飞机)的开发者、维护者Alexey Nicolaychuk近日确认,该软件将在本月晚些时候升级新版本
2025-01-04 22:45:00
本文转自:人民日报营造竞争有序、繁荣活跃的数据产业生态保障企业敢用数、会用数、用好数(政策解读)本报记者 王云杉《人民日报》(2025年01月05日第 02 版)随着数字技术持续迭代
2025-01-05 05:22:00
机车圈男博主“波哥”出车祸身亡引热议 知情人:与逆行渣土车相撞
1月5日消息,据国内媒体报道称,又有机车网红出事了(被称为“龙泉山车神”)。报道中提到,网络上突然传来了一条知名机车博主死亡的消息
2025-01-05 07:15:00
麒麟影像之王!华为Pura 80 Ultra堆料前所未有 全新自研技术落地
快科技1月5日消息,进入2025年后,一大波超大杯影像旗舰将陆续登场,其中,最受关注的自然是华为Pura 80 Ultra
2025-01-05 07:15:00
号称能“百分百有效预防”的长效艾滋病药物来了:国内上市申请已获批准
1月5日消息,据国内媒体报道称,号称能“百分百有效预防”的长效艾滋病药物上市申请已获批准。国家药监局(NMPA)官网显示
2025-01-05 07:15:00
感受下!三大运营商等97家央企“一把手”年薪披露:最高不过百万
1月5日消息,据国内媒体报道称,近日,国务院国资委网站发布了一则“2023年度中央企业负责人薪酬信息”,详细披露了97家央企主要负责人的年薪收入情况
2025-01-05 07:15:00
北美新天地:来“潮流秀场”感受“时尚浓度”
北美新天地外景。王韵菲 摄入冬的太原韵味悠长,尤其夜色渐浓,流光溢彩中好一座令人惊艳的“不夜城”。伴着华灯初上,太原市的亲贤—长风商圈更是犹如一个展现时尚潮流的巨大秀场
2025-01-05 07:17:00
每位遇难者赔4000万元!韩国空难179具遗体仅5具完好无损
1月5日消息,据韩国媒体报道称,韩国国土交通部此前在记者会上表示,救援部门在事故现场找到的179具遗体中,只有5具完好无损
2025-01-05 07:15:00
4.8万公里全球还有谁!2024年新开通14条高铁一览:有你家吗
2024年,又有多条普铁、高铁新线相继建成通车,全国铁路营业里程达到16.2万公里,其中高铁4.8万公里,傲居全球第一
2025-01-04 16:15:00
高弹耳带 振德医用灭菌口罩100只11.85元
天猫【认养一头牛旗舰店】振德医用灭菌口罩100只日常售价为 19.8 元,领取 3 元优惠券,叠加打折优惠,到手价为 11
2025-01-04 16:45:00
精选黄牛后腿 牧牛班熟食卤牛肉礼盒15元/袋发车
天猫【牧牛班食品旗舰店】牧牛班 南阳黄牛肉礼盒 150g*6 袋(熟食卤牛肉)日常售价 139 元,今日下单领取 39 元优惠券
2025-01-04 16:45:00
2024年观众高满意度影片榜单TOP25出炉:《热辣滚烫》排名第五
快科技1月4日消息,据中国电影艺术研究中心,中国电影观众满意度调查结果出炉。25部影片获2024年观众高满意度影片,前三名分别为《好东西》《飞驰人生2》《第二十条》
2025-01-04 17:15:00
粉丝自制RTX 5080公版渲染图:还挺帅的
快科技1月4日消息,近日,NVIDIA的一张宣传图疑似泄露了RTX 50公版卡的样式,和以往有很大不同,猜测大概率是RTX 5080/5070 Ti
2025-01-04 17:15:00
美国又将11个中国机构列入实体清单!还有巴基斯坦1个
美国的实体清单(Entity List)又变长了!2025年1月3日,美国商务部工业与安全局(BIS)通告,将中国、缅甸
2025-01-04 17:45:00
曾在空军服役!韩国遇难机长最后画面:伸手摸向操控面板
1月4日消息,最近,一张疑似韩国济州航空遇难机长的最后画面曝光,引发网友热议。画面显示,客机用腹部着陆,即将撞上外墙前
2025-01-04 17:45:00