• 我的订阅
  • 头条热搜
OpenAI o1强推理能提升安全性?长对话诱导干翻o1
...力的提升真的能解决安全问题吗?推理能力越强,模型的安全性会越好吗?近日,上海交大和上海人工智能实验室的一篇论文提出了质疑。这篇题为《Derail Yourself: Multi-turn LLM Attack through Self-discovered Clues》的论文揭示了AI 大模型……更多
大模型集体失控!南洋理工新型攻击,主流AI无一幸免
...了”。为了避免这种情况出现,在发展AI的同时也确保其安全性是必要的。 其次,大模型和安全的发展,本就是相辅相成的:换言之,大模型发展中的安全机制其实可以通过“攻击”研究来完善,这也是攻击研究的一种落地方...……更多
什么影响大模型安全?NeurIPS\\\'24新研究提出大模型越狱攻击新基准
...展,尤其是大语言模型(LLMs)的广泛应用,保障模型的安全性并防止其被恶意利用,已成为一个重要的议题。越狱攻击通过恶意指令诱导模型生成有害或不道德的内容,对模型的安全性和可靠性构成了严峻挑战。这种攻击与防...……更多
OpenAI发布免费新品GPT-4o:可对音频、视觉和文本实时推理,与人自然对话,功能秒杀Siri
...练后改进模型行为等技术,GPT-4o在设计中内置了跨模式的安全性,并创建了新的安全系统,为语音输出提供护栏。GPT-4o还与来自社会心理学、偏见和公平、错误信息等领域的70多名外部专家开展广泛的外部红队合作,以识别新增...……更多
...面临着三方面挑战。邬贺铨指出,第一,金融行业对数据安全性、隐私合规性都有着严格的要求。尤其是在风控方面,对时效性与精准性要求严格,而一般的基础大模型透明性、可信性、专业性不足,很难直接迁移为金融大模型...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...ust提炼出了五个可信评价维度——事实性(Truthfulness)、安全性(Safety)、鲁棒性(Robustness)、公平性(Fairness)、隐私保护(Privacy),并进行二级分类,有针对性地构建了任务、指标、数据集来提供全面的评估。图4MultiTrust框...……更多
追问|精准爆破!科学家将细菌改造成“声控炸弹”攻击肿瘤
...在目标肿瘤区域实时、按需释放,提高了治疗的灵活性和安全性。此外,工程细菌作为药物工厂,可以持续产生多种治疗蛋白质,协同增强治疗效果。工程细菌疗法和CAR-T细胞疗法的结合可能为癌症治疗提供一个全面的治疗策略...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...o Amodei 和 Daniela Amodei,辞去OpenAI工作的原因是想建立一个安全性和可控性更高的的模型。离职后,他们还带走了曾在 OpenAI 领导 GPT-3 模型的工程师Tom Brown。Dario Amodei(左) 和 Daniela Amodei(右)据悉,Dario……更多
...一个人钻漏洞改模型代码,把锅扣到自己头上。大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质...……更多
...虚假信息和不当言论,引发社会混乱和政治风险,也可能诱导工作人员做出错误的决策,极大破坏政府公信力。其次是AI大模型涉及海量数据训练、流转和使用,政府的机密数据、敏感数据很容易被泄露。生成式人工智能会在与...……更多
...下载恶意文件。——完善安防举措。个人应设置具有较高安全性的登录密码并定期更新,配置并使用二次认证、异常登录报警等安全防护功能。相关单位要强化网络安防措施,启用有效的安全防护策略。同时,应安装并及时更新...……更多
行业丨抢滩下一个高地,分布式云计算迎来黄金发展期!
...来的计算体验。分布式云计算发展的关键因素数据隐私和安全性的需求随着数据泄露和网络攻击事件的频繁发生,企业和个人对数据隐私和安全性的要求越来越高。分布式云计算通过分散数据和计算资源,降低了单点故障的风险...……更多
火山引擎ai大模型赋能千行百业成趋势
...3、安全,可信赖最后不可忽视的还有字节豆包大模型的安全性。它能够提供全周期的安全可信方案。在合规性方面,豆包大模型首批通过生成式人工之智能服务安全备案,并且火山方舟通过了SOC2.0以及ISO系列安全标准评测。同...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...以内用户数据无需上传云端,这将大大提升用户的隐私的安全性将AI推理从云端迁移到终端侧,可以充分利用骁龙8至尊版强大的终端侧AI推理能力,从而降低云端运行成本并降低能耗 ……更多
AI技术为安全治理提供“新工具箱”
...实现对AI生成图片、视频等多模内容进行“真伪”辨别和安全性检测。另一方面,通过智能化风控技术,可以帮助大模型拦截外界的恶意提问,确保外部恶意诱导无法传入大模型。同时,对生成的回答内容能够进行风险过滤,保...……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
...个版本,其推理性能和效率均优于第一代,并具有显著的安全性改进。事实上,270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争,并且提供了此前只有专有模型才能实现的性能,而这种性能现在可以在单个NVIDIA H1...……更多
苹果宣布为 iMessage 推出“突破性” 后量子加密协议
...们所知,PQ3拥有全球所有大规模消息传递协议中最为强的安全性。目前还没有对经典加密协议与PQC加密协议进行评级的行业标准,因此苹果自己开发了一种评级系统,而PQ3就实现了3级完全认证。IT之家注:以下是其结构以及PQ3的...……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
...在新对话中直接提问,得到的答案就变成了“不知道”。安全性方面,最近瑞士洛桑联邦理工学院爆出了可以通过过去时态绕过大模型安全措施的问题,我们也给Mistral测试了一下。一上来直接询问毒品的制作方式,结果毫不意...……更多
对话王田苗:万亿市场之下,大模型 + 机器人还有四大问题未解决
...的载体性物种在灵巧性、成本性、能源维护性、使用体验安全性等方面仍存在诸多挑战,距离通用机器人走向千家万户还有距离。此外,实时性和推理速度也是当前具身智能面临的重要问题。目前基于大模型的机器人控制周期在...……更多
Soul上线自研大模型“SoulX”,AIGC+社交布局提速
...等策略来构建安全体系,保证了大模型的内容生产质量和安全性。SoulX的正式发布,表明了Soul在社交和AIGC领域的布局加速。自2020年系统化探索AI与社交场景深度融合,Soul在智能对话、图像、声音合成方面持续积累技术能力,不...……更多
警惕微信群“钓鱼”!发现一木马病毒最新变种
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。转自:央视新闻客户端来源:科技日报 ……更多
中外专家为构建网络安全免疫系统建言献策
...测试结果显示,到目前为止,采用内生安全结构的产品在安全性上表现突出。与会人士认为,打造数字中国的安全“地基”,信创产业与网络安全产业融合发展显得尤为迫切。极氪车联网安全实验室负责人陈楠强调,网络安全将...……更多
智启新元年:PC成为AI落地首选终端
...实现AI的普惠,还需要克服AI个性化服务、效率、成本及安全性等多重挑战。但是时候去面对这些困难,让AI去普惠我们未来的世界,让AI去助力解决当下解决不了的问题。”联想集团副总裁、中国区首席市场官王传东在近日演讲...……更多
...过大而导致钣金开裂的事故,提高了车辆的侧碰稳定性和安全性。来源:金融界 ……更多
又慢又贵?OpenAI推理模型“草莓”来了,GPT-5还有多远
...时尝试不同的方法。 OpenAI表示,使用思维链能显著提高安全性和一致性,因为能够以清晰的方式观察模型的思维,且模型对安全规则的推理对分布外场景也更加稳健。商汤科技董事会执行主席兼CEO徐立此前曾表示,未来决定一...……更多
十问十答 | 对话零极:分布式技术推动互联网应用变革!
...b82a7bf3cf8081f.jpeg\"/>图片来自网络 最后,增强安全性。通过哈希计算加密算法私钥进行签名,可以抵御未来量子计算机的攻击;部分节点异常或被攻击,不会影响整个系统运行;在分布式网络中,共识节点越多,安全...……更多
微软copilotai可泄露敏感数据,变身强大的钓鱼攻击工具
...同事Jane的邮箱地址,了解与Jane的最近一次对话内容,并诱导Copilot泄露该对话中的抄送人员邮箱。随后,他指示Copilot以被攻击员工的风格撰写一封发送给Jane的邮件,并提取两人最近一次邮件的准确主题。短短几分钟内,他就创...……更多
多个微信群已出现!千万不要点开!紧急提醒→
...考虑重新安装操作系统和安全软件并更新到最新版本。对安全性未知的可疑文件,可访问国家计算机病毒协同分析平台进行提交检测。 ……更多
筑牢湾区网络安全防线!Coremail亮相大湾区网络安全大会
...础设施。据Coremail与奇安信联合发布的《2023中国企业邮箱安全性研究报告》数据显示,2023年国内共收发各类电子邮件约7798.5亿封,其中垃圾邮件占比54.2%。随着AI技术的广泛应用,网络安全问题更加多样化,攻击者正利用AI使钓...……更多
...建“大模型+小模型”协同安全运营新体系,并在大模型安全性方向进行深入研究,发布了AI大模型安全威胁矩阵及风险评估工具,帮助用户在自有模型时管理安全风险。教育部信息技术新工科联盟网络空间安全工委会主任、杭州...……更多
更多关于科技的资讯:
RTX 5090公版太奢华了!16+6+7相供电、14层PCB
快科技12月27日消息,RTX 5090显卡的PCB电路板、GPU核心先后曝光,现在又得到了更多细节,尤其是供电、功耗等
2024-12-27 19:08:00
张雪峰公司开年会“撒”现金:图书4个月线上卖了5000万
快科技12月27日消息,据媒体报道,近日,张雪峰公司“峰学蔚来”举办年会活动。活动现场,张雪峰现场摇奖,开启了多轮抽现金红包活动
2024-12-27 19:08:00
埃及两男子从海底偷数百件文物被捕 网友:考古队省心了
快科技12月27日消息,据报道,埃及最近逮捕两名男子,他们从海底盗取古代文物448件,其中包括硬币、雕像、斧头、青铜杯
2024-12-27 19:08:00
尊界S800为何用1.5T增程器 余承东:考虑过2.0T、但车头太重
快科技12月27日消息,鸿蒙智行首款百万级豪华轿车尊界S800已经申报,将提供纯电和增程两种动力类型,均分为双电机和三电机
2024-12-27 19:08:00
蔚来萤火虫三眼灯引争议 网友爆改出15款前脸!你觉得哪款更好看
快科技12月27日消息,在蔚来2024 NIO Day上,蔚来发布第三品牌首款车型萤火虫。萤火虫前脸采用了“三重奏”的理念
2024-12-27 19:08:00
台积电3nm拿下高通骁龙8 Elite 2订单!三星无奈瞄准骁龙8 Elite 3
快科技12月27日消息,据媒体报道,台积电近日成功夺得高通下一代处理器“骁龙8 Elite 2”的代工订单,将采用其先进的3纳米制程技术“N3P”进行量产
2024-12-27 19:08:00
《小小的我》豆瓣早期评价:易烊千玺扮脑瘫突破演技
今日,由易烊千玺主演的电影《小小的我》全国正式上映。在豆瓣早期评价中,观众们给予了不错的评价。不少观众被易烊千玺饰演的“脑瘫”主角刘春和所感动
2024-12-27 19:08:00
极越欠款3700万供应商讨债:1000多万是抵押的房子 2000多万是借的
快科技12月27日消息,据媒体报道,近期,极越欠款3700万的供应商星塘文化负责人李红星发视频疑似在线讨债。在视频中,李红星表示
2024-12-27 19:38:00
节电率53%!国内首台自主研发磁悬浮地源热泵机组投运
快科技12月27日消息,据“天瑞磁悬浮”官微发文,天瑞重工自主研发的国内首台磁悬浮离心式地源热泵机组,在山东省潍坊市某住宅小区成功开机运行
2024-12-27 19:38:00
游戏性能最高提升14%!七彩虹Z890主板迎来0x114微码更新
快科技12月27日消息,今天七彩虹宣布,旗下Z890系列主板迎来最新的0x114微码更新,为酷睿Ultra 200S系列处理器提供全新功能和性能提升
2024-12-27 19:38:00
涂鸦智能携手星环科技、思码光,重塑全屋智能影音新体验
近日,全球化云开发者平台涂鸦智能(NYSE:TUYA,HKEX:2391)与国内知名影音品牌星环科技、智能照明行业领先品牌思码光达成合作
2024-12-27 20:00:00
陕西迈入万兆时代:首位全光万兆园区用户诞生
快科技12月27日消息,近日,西安市碑林科技产业园内的陕西红顶名医堂药业有限公司成功开通了万兆宽带服务,成为陕西省首个采用50G PON解决方案的全光万兆园区用户
2024-12-27 20:08:00
万亿“宁王” 官宣赴港二次上市
万亿“宁王”,正式公布赴港上市计划。12月26,宁德时代召开第四届董事会第一次会议,逐项审议通过《关于公司发行H股股票并在香港联合交易所有限公司上市方案的议案》(下称
2024-12-27 20:08:00
小号问界M9来了!问界M8实车路试曝光:前后和M9一个样
快科技12月27日消息,今日有网友曝光了问界M8实车的路试视频。从视频中来看,问界M8的尾部造型,与“大哥”问界M9一脉相承
2024-12-27 20:08:00
NVIDIA、苹果多年恩怨纠葛大起底:从乔布斯在任就开始
快科技12月27日消息,如今随着AI的不断发展,各大公司都纷纷投入巨资抢购NVIDIA的GPU,但苹果却非NVIDIA的主要客户
2024-12-27 20:08:00