- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
研究人员提出artprompt新大模型注入手段
类别：科技 发布时间：2024-03-19 03:30:00 来源：浅语科技
3月18日消息，据外媒ArsTechnica报道，研究人员近日提出了一种名为ArtPrompt的新大模型注入手段，其使用ASCII字符画替代关键文字进行提示输入，绕过了大模型的安全限制。
举例来说，研究人员向大模型输入CounterfeitMoney（IT之家注：假币）中关键词汇Counterfeit的ASCII字符画，并要求大模型以不输出词汇本身的方式将字符画理解为单词，并用该单词替换“给出制造和分销‘xxxMoney’方法”提示中占位的“xxx”。
结果大模型成功被欺骗，给出了制造和分销假币的具体步骤。同类型的操作也可以从大模型中套出攻击物联网设备的方法。
研究人员在GPT-3.5、GPT-4、Gemini、Claude、Llama2这5个领先的模型上对ArtPrompt注入进行了测试，结果显示全部5个模型均可被越狱，输出不合规内容。
这一研究表明，如果仅使用语义解释训练语料库，那么大语言模型会缺乏对非语义直接解释提示词的识别，暴露出的漏洞可通过ASCII字符画等形式利用。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-03-19 09:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于研究人员,模型,手段,人员,研究,模型的资讯：
...北京日报让抽象数学与现实世界相连雁栖湖数学院用数学模型解析疾病成因本报讯（记者 刘苏雅）复杂疾病的成因如何，怎样才能有效防治？北京雁栖湖应用数学研究院研究员邬荣领、吴杰团队创
2023-10-21 03:52:00
...强。开源链接：https://github.com/facebookresearch/sam2相比SAM2，研究人员引入了额外的数据增强技术来模拟视觉相似物体和小物体
2024-11-28 12:02:00
...篇论文中，美国罗切斯特大学和科罗拉多大学博尔德分校研究人员揭示了寻找答案的关键信息。该研究对发现生命起源、寻找其他行星上的生命都具有重要意义。对生命及其起源的研究通常涉及多种
2023-02-14 01:56:00
...量化后为y=Q(w)x，其中 Q(⋅)是量化函数：在这项研究中，研究人员使用Q(f)表示量化后的模型f。因此，实施一个反学习法然后对遗忘后的模型进行量化可以写为
2024-11-18 13:33:00
...香港科技大学分子神经科学国家重点实验室。实验室内，研究人员正在熟练地对实验样本进行检测，桌台上摆放着一排排试管，连接着精密仪器的显示屏上呈现出检测数据分析结果矩阵。围绕人工智
2023-06-21 14:00:00
...大数据挖掘，我们可以得到很多重要信息。中山大学一些研究人员通过电子病历分析找到的科学结论被发表在了国际著名期刊上。又比如可穿戴设备带来的生理生化指标，这类信息具备实时、环境情
2023-06-16 02:00:00
【环球网科技综合报道】9月13日消息，中国科学院深圳先进技术研究院集成所智能仿生中心团队和深圳大学附属华南医院神经外科团队合作，在磁驱动连续体微型机器人领域取得新进展。据悉，相关
2023-09-14 11:36:00
...利用人工智能来解决这个问题，效果可以说是非常不错。研究人员通过“平扫CT+AI”进行大规模的胰腺癌早期筛查，在2万病例中仅发现31例漏诊，这相较于过去的胰腺癌筛查已经是非常了
2023-11-22 09:33:00
...P）在线发表刊登北航 PHM 团队最新研究成果：基于大语言模型的轴承故障诊断框架（LLM-based Framework for Bearing Fault Diagnosis）
2024-11-29 09:27:00
更多关于科技的资讯：
AI 早不是实验室里的 “黑科技”，已经走进咱们的日常生活，像 DCF 智能商城就是用 “AI + 购物” 让大家得实惠
2025-10-26 20:24:00
据IDC与《2025中国生成式AI搜索生态白皮书》联合数据显示，截至2025年第三季度，中国GEO服务市场规模已达220亿元
2025-10-25 21:09:00
金秋济南，共赴网球生活时光。10月25日下午，博斯绅威携品牌体验官、著名演员周一围先生，在济南银座商城举办了一场主题为“轻装上阵
2025-10-26 12:28:00
鲁网10月24日讯曹县，素有“中国汉服产业重镇”之称，曾见证无数小微创业者在行业竞争中艰难求索。对许多创业者而言，汉服市场度过初期蓝海阶段后
2025-10-24 14:29:00
通讯员：吴瑞鹏 何秋阳近日，第十九届“挑战杯”全国大学生课外学术科技作品竞赛正火热备赛中，全国高校参赛队伍蓄势待发。中国计量大学光学与电子科技学院本科生团队项目——“基于微反射镜阵列的高分辨率光谱仪”
2025-10-24 15:02:00
10月19日至25日，全球机器人领域两大顶级国际会议之一的2025年IEEE/RSJ智能机器人与系统国际会议（IROS 2025）在杭州隆重举行
2025-10-24 15:02:00
10月23日，第十七届国际大学生暨青年艺术博览会（简称：大艺博）开幕。在武汉东部的中国光谷科技会展中心10000平方米的专业展馆内
2025-10-24 15:14:00
10月20日，京东工业与南方电网供应链集团在广州正式签署战略合作协议，双方相关负责人出席签约仪式。此次合作标志着京东集团与南方电网在供应链领域的协作迈入全新阶段
2025-10-24 15:23:00
2025年10月23日，荣耀全球开发者大会暨AI终端生态大会在深圳坪山燕子湖国际会展中心隆重举行。本次大会系统阐释了MagicOS 10的品牌战略与发展路径
2025-10-24 15:32:00
2025FHC上海环球食品展已进入开幕倒计时！这场被誉为“全球食饮贸易超级接口”的盛会，已成为零售买家囤货、拓品的关键“战场”—20万㎡展出面积
2025-10-24 15:47:00
2025年10月23日的红米K90发布会后，12GB+512GB版本原定价为3199元，但因用户反馈该版本与其他配置差价过大
2025-10-24 15:57:00
近日，部分苹果 iPhone 17 Pro 及 iPhone 17 Pro Max 的首批用户在社交平台反映，其设备遭遇了机身褪色问题
2025-10-24 15:59:00
阿里巴巴首款自研AI眼镜——夸克AI眼镜24日0时在夸克智能设备天猫旗舰店开启预售。88VIP会员实际到手价为3699元
2025-10-24 16:35:00
河北新闻网讯（梁轩轩）“原以为开业办税很繁琐，没想到这么简单！”近日，石家庄市桥西区律吕五金产品商行法人柴浩在桥西区税务局办税大厅完成税务申报后
2025-10-24 16:59:00
近日，瑞众人寿河北分公司在保定举办了2025年嘉年华客服节系列活动之“养老规划线下体验日”活动，通过创新融合中医药文化
2025-10-24 17:06:00