- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
研究人员提出artprompt新大模型注入手段
类别：科技 发布时间：2024-03-19 03:30:00 来源：浅语科技
3月18日消息，据外媒ArsTechnica报道，研究人员近日提出了一种名为ArtPrompt的新大模型注入手段，其使用ASCII字符画替代关键文字进行提示输入，绕过了大模型的安全限制。
举例来说，研究人员向大模型输入CounterfeitMoney（IT之家注：假币）中关键词汇Counterfeit的ASCII字符画，并要求大模型以不输出词汇本身的方式将字符画理解为单词，并用该单词替换“给出制造和分销‘xxxMoney’方法”提示中占位的“xxx”。
结果大模型成功被欺骗，给出了制造和分销假币的具体步骤。同类型的操作也可以从大模型中套出攻击物联网设备的方法。
研究人员在GPT-3.5、GPT-4、Gemini、Claude、Llama2这5个领先的模型上对ArtPrompt注入进行了测试，结果显示全部5个模型均可被越狱，输出不合规内容。
这一研究表明，如果仅使用语义解释训练语料库，那么大语言模型会缺乏对非语义直接解释提示词的识别，暴露出的漏洞可通过ASCII字符画等形式利用。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-03-19 09:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于研究人员,模型,手段,人员,研究,模型的资讯：
...北京日报让抽象数学与现实世界相连雁栖湖数学院用数学模型解析疾病成因本报讯（记者 刘苏雅）复杂疾病的成因如何，怎样才能有效防治？北京雁栖湖应用数学研究院研究员邬荣领、吴杰团队创
2023-10-21 03:52:00
...强。开源链接：https://github.com/facebookresearch/sam2相比SAM2，研究人员引入了额外的数据增强技术来模拟视觉相似物体和小物体
2024-11-28 12:02:00
...篇论文中，美国罗切斯特大学和科罗拉多大学博尔德分校研究人员揭示了寻找答案的关键信息。该研究对发现生命起源、寻找其他行星上的生命都具有重要意义。对生命及其起源的研究通常涉及多种
2023-02-14 01:56:00
...量化后为y=Q(w)x，其中 Q(⋅)是量化函数：在这项研究中，研究人员使用Q(f)表示量化后的模型f。因此，实施一个反学习法然后对遗忘后的模型进行量化可以写为
2024-11-18 13:33:00
...香港科技大学分子神经科学国家重点实验室。实验室内，研究人员正在熟练地对实验样本进行检测，桌台上摆放着一排排试管，连接着精密仪器的显示屏上呈现出检测数据分析结果矩阵。围绕人工智
2023-06-21 14:00:00
...大数据挖掘，我们可以得到很多重要信息。中山大学一些研究人员通过电子病历分析找到的科学结论被发表在了国际著名期刊上。又比如可穿戴设备带来的生理生化指标，这类信息具备实时、环境情
2023-06-16 02:00:00
【环球网科技综合报道】9月13日消息，中国科学院深圳先进技术研究院集成所智能仿生中心团队和深圳大学附属华南医院神经外科团队合作，在磁驱动连续体微型机器人领域取得新进展。据悉，相关
2023-09-14 11:36:00
...利用人工智能来解决这个问题，效果可以说是非常不错。研究人员通过“平扫CT+AI”进行大规模的胰腺癌早期筛查，在2万病例中仅发现31例漏诊，这相较于过去的胰腺癌筛查已经是非常了
2023-11-22 09:33:00
...P）在线发表刊登北航 PHM 团队最新研究成果：基于大语言模型的轴承故障诊断框架（LLM-based Framework for Bearing Fault Diagnosis）
2024-11-29 09:27:00
更多关于科技的资讯：
2026年开年，智慧医保领域迎来里程碑式突破——云知声智能科技股份有限公司成功中标全国首个省级医保垂直大模型项目“江苏省医保垂直大模型及智能体应用项目”
2026-01-24 17:26:00
香港大学中国商业学院2026年专业研究生文凭课程全面启动招生！课程涵盖人工智能、创新管理、增长营销、财务金融、人力资源等前沿及核心商管领域
2026-01-24 17:27:00
在信息纷扰、节奏加速的时代，何处寻得一方宁静，让思想深度扎根？华为阅读联合北京广播电视台纪实科教频道《我们读书吧》第二季
2026-01-24 17:29:00
1月8日，深圳市精锋医疗科技股份有限公司（以下简称精锋医疗）在香港联合交易所主板成功挂牌上市，成为2026年深圳IPO“第一股”
2026-01-24 17:29:00
1月22日，第十五届公益节暨2025ESG影响力年会在北京盛大开幕。本届大会以“15年，共益新篇章”为主题，回顾中国公益事业十五年发展历程
2026-01-24 17:30:00
你是否也经历过这样“手忙脚乱”的时刻：出差途中单手提包，电话突然响起，另一只手紧紧攥着手机，大拇指却怎么也够不到那段长长的滑动接听条
2026-01-24 17:27:00
大皖新闻讯 1月23日至25日，安徽省脑机接口创新发展大会在蚌埠隆重启幕。为期三天的盛会汇聚了300余位来自高等院校、科研院所
2026-01-24 16:54:00
固体废物综合治理是生态文明建设的重要内容，也是推进美丽中国建设的关键环节。近日，国务院办公厅印发《固体废物综合治理行动计划》
2026-01-24 12:14:00
鲁网1月24日讯国家新一轮消费品以旧换新及数码智能产品购新补贴政策红利持续释放。作为通信行业标杆企业，山东移动济宁分公司积极响应国家号召
2026-01-24 14:00:00
提供16万多方生态空间 设立7亿元资本活水每日商报讯 眼下，“AI漫剧”正加速走入公众视野。作为人工智能时代下中国文化“新三样”（网文
2026-01-24 10:59:00
1月20日，“立业固安”平台工作人员（中）通过平台向企业推荐合适的选址方案。 万 倩摄河北日报讯（记者刘英）30秒，生成一份定制化的选址方案
2026-01-24 08:19:00
来雄安，体验智能弹性绿波带主要道路早晚高峰通行缩短15分钟近日，雄安新区容东片区乐民街的数字化道路上，车辆顺畅通行。 河北日报记者 刘光昱摄河北日报讯（见习记者康晓博）从雄安新区工信科技数据局获悉
2026-01-24 08:27:00