• 我的订阅
  • 科技

字节跳动实习生投毒自家大模型:全删了

类别:科技 发布时间:2024-10-19 08:21:00 来源:浅语科技

10月19日,字节跳动大模型训练遭实习生攻击一事引发广泛关注。据多位知情人士透露,字节跳动某技术团队在今年6月遭遇了一起内部技术袭击事件,一名实习生因对团队资源分配不满,使用攻击代码破坏了团队的模型训练任务。

字节跳动实习生投毒自家大模型:全删了

图|来源于网络

据悉,该事件的主要涉事者为一名田姓实习生所为,他利用了Huggingface(HF)平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果忽高忽低,无法产生预期的训练成果。

一位前字节技术员工表示,“字节AI Lab的实习生权限和正职员工差异不大,也使得此次事件有了发生的机会”,其也对此次事件带来的恶性影响表达了担忧,“这件事之后肯定会极大地收缩实习生的权限”。

在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任推给他人,不过很快便遭到了接近字节跳动人士的否认。

据相关知情人士在Gitbub上表述,“你(指田某)在长达2个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实!”

该名人士还分享了一则调查人员对田姓实习生 (TianKeyu)的询问录音,录音中的对话还原其攻击的过程:田某最先输入的code本来是被用于影响通讯和随机性的,“最开始的时候它并不是以攻击为目的,它是为了debug,但这确实会涉及到程序的一些运行情况。但是后面它经过一些文件,就是那些upload文件,code也会被update,code就变成了攻击code。它大概的作用就是去修改code,然后就会造成一些后果。”

录音中疑似田某本人的回应承认了其通过update使得code带有了攻击性。其也对问询人员明确表示,“就是因为某些原因导致了我们都非常不满”。

另据传闻称此次损失可能超过千万美元,但内部人士表示实际损失并没有传闻中那么严重。

据了解,该事件发生于今年6月底,目前字节跳动已对田姓实习生采取了辞退处理,并将此事通报给相关行业联盟和该实习生所在的学校。

不过前述相关知情人士表示,除了被字节辞退,田某目前未受到任何处罚。

多方消息显示,田姓实习生为国内某高校在读博士生,于2021年9月起在字节AI Lab实习,其所在的团队刚在今年4月与北大王立威团队提出了VAR研究,在图像生成质量、推理速度、数据效率和可拓展性等方面均超过了DiT。此外,VAR的推理速度比传统自回归模型快了约20倍。

字节跳动实习生投毒自家大模型:全删了

责任编辑:朝晖

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-19 14:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

该实习生已在8月被辞退。近日有传闻称字节跳动大模型训练被实习生攻击,对此,字节跳动10月19日回应表示,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为且已被辞退,但相关
2024-10-19 21:50:00
前实习生篡改代码攻击大模型训练 字节跳动起诉要求赔偿800万元
...科创板日报》11月28日讯(记者 张洋洋)字节跳动起诉前实习生田柯宇篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院,判令田柯宇赔偿公司侵
2024-11-28 12:31:00
字节跳动大模型训练被实习生攻击 背后内幕曝光:四点真相
快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。据“大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚
2024-10-19 10:51:00
被字节索赔800万的实习生:拿下NeurIPS 2024最佳论文!
...偿侵权损失800万元及合理支出2万元,并公开赔礼道歉的实习生田某某,获得了NeurIPS 2024的最佳论文奖。其在字节跳动商业化技术部门实习期间
2024-12-04 15:08:00
被字节起诉索赔 800 万的实习生拿下 NeurIPS 2024 最佳论文
...S2024最佳论文近日出炉,字节跳动\"破坏大模型训练\"的前实习生田某某与字节合作论文被人工智能顶级会议NeurIPS评为最佳论文(BestPaper)
2024-12-04 21:05:00
惊掉下巴!被字节起诉800万实习生,拿下NeurIPS 2024最佳论文
【新智元导读】太戏剧了!攻击字节训练集群的实习生,居然刚刚获得了NeurIPS 2024最佳论文奖?虽然看起来像爽文剧情,但这位高材生接下来的路,应该是难走了。刚刚,恶意攻击字节
2024-12-05 09:47:00
实习的年轻人,被职场“整顿”
...和两轮面试后,她顺利进入腾讯,做了四个月的区域运营实习生。小未告诉刺猬公社(ID:ciweigongshe),“零实习经验也不用害怕,我的第一段实习能来到腾讯,除了某种机缘,
2023-07-28 17:19:00
互联网大厂秋招,开启抢人大战
...据等。腾讯虽然未披露具体招聘人数,但是面向应届生和实习生提供了更为具体的招聘项目,如技术大咖、产品经理培训生、销售培训生等。而在更早之前的5月份,阿里巴巴就表示,2023年六
2023-08-27 17:04:00
...项目背的是那个指标,我说这是我领导的指标,我是他的实习生,他问我觉得这个指标合理吗,我说不合理,并且阐述了我的观点。他说为什么你不认同这个指标但不说出来,你不够真实,伪装了自
2023-10-29 13:11:00
更多关于科技的资讯: