• 我的订阅
  • 财经

大模型训练被实习生攻击?字节跳动回应:已辞退

类别:财经 发布时间:2024-10-19 21:50:00 来源:瘦子财经

该实习生已在8月被辞退。

近日有传闻称字节跳动大模型训练被实习生攻击,对此,字节跳动10月19日回应表示,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为且已被辞退,但相关报道也存在部分夸大及失实信息。

字节跳动指出,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。同时,网传“涉及8000多卡、损失上千万美元”严重夸大。

字节跳动还称,经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。此外,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。

10月18日,多个微信群流传一则消息:“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”

随后,有媒体报道称,从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月,起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。

传闻显示,该实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质生产力的大模型在安全性方面仍存在较多缺陷,这为其大规模落地应用带来了不确定性。近期,中国信通院发布的大模型安全基准AI Safety Benchmark的测试结果显示,大模型(尤其是开源大模型)在恶意诱导手段下的攻击成功率均较原始输入有明显提升。因此,对大模型进行安全对齐防护刻不容缓。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-19 23:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

前实习生篡改代码攻击大模型训练 字节跳动起诉要求赔偿800万元
...科创板日报》11月28日讯(记者 张洋洋)字节跳动起诉前实习生田柯宇篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院,判令田柯宇赔偿公司侵
2024-11-28 12:31:00
字节跳动大模型训练被实习生攻击 背后内幕曝光:四点真相
快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。据“大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚
2024-10-19 10:51:00
字节跳动实习生投毒自家大模型:全删了
10月19日,字节跳动大模型训练遭实习生攻击一事引发广泛关注。据多位知情人士透露,字节跳动某技术团队在今年6月遭遇了一起内部技术袭击事件,一名实习生因对团队资源分配不满,使用攻击
2024-10-19 08:21:00
被字节索赔800万的实习生:拿下NeurIPS 2024最佳论文!
...偿侵权损失800万元及合理支出2万元,并公开赔礼道歉的实习生田某某,获得了NeurIPS 2024的最佳论文奖。其在字节跳动商业化技术部门实习期间
2024-12-04 15:08:00
惊掉下巴!被字节起诉800万实习生,拿下NeurIPS 2024最佳论文
【新智元导读】太戏剧了!攻击字节训练集群的实习生,居然刚刚获得了NeurIPS 2024最佳论文奖?虽然看起来像爽文剧情,但这位高材生接下来的路,应该是难走了。刚刚,恶意攻击字节
2024-12-05 09:47:00
被字节起诉索赔 800 万的实习生拿下 NeurIPS 2024 最佳论文
...IPS2024最佳论文近日出炉,字节跳动"破坏大模型训练"的前实习生田某某与字节合作论文被人工智能顶级会议NeurIPS评为最佳论文(BestPaper)
2024-12-04 21:05:00
大厂围猎AI人才:部分实习生日薪可高达2000元,有AI算法岗年包上浮20%
...分将面向技术人才。更早的2月27日,阿里启动2026届春季实习生招聘,开放的3000多个岗位中,AI相关岗位占到了五成
2025-04-28 11:56:00
“实习生也月入过万”,这一行业严重缺人
...速都超过三成,这些岗位平均招聘月薪都突破了2万元。 实习生都能月入过万AI岗位的高薪并非偶然,因为行业正处于快速爆发期,企业纷纷为此不惜重金抢人才。艾媒咨询发布的《2024
2025-03-25 08:53:00
字节今年计划对毕业三年内青年人才招聘量扩大一倍,三年以上社招仍占七成
...公司必争之地。今年3月,淘天集团宣布启动“2026届春季实习生全球招聘活动”,涉及七大职类,其中技术类占比超90%
2025-03-31 22:19:00
更多关于财经的资讯:
停牌超500天,诺辉健康上市地位将被取消
中新经纬10月22日电 (王玉玲)22日晚间,香港联合交易所有限公司(下称联交所)发布公告称,自2025年10月27日上午9时起
2025-10-23 06:40:00
全球AI眼镜上半年出货量大增,企查查:相关企业集中华东华南两地
智能眼镜市场火热,10月20日,国际数据公司(IDC)发布报告显示,2025上半年,全球智能眼镜(AI眼镜)市场出货量达406
2025-10-22 14:12:00
宇树科技完成首期上市辅导:决定更名
中新经纬10月22日电 杭州宇树科技股份有限公司(下称宇树科技)IPO有了新进展。中国证监会网上办事服务平台近日公布的《关于杭州宇树科技股份有限公司首次公开发行股票并上市辅导工作进展情况报告(第一期)》(下称报告)
2025-10-22 14:15:00
完美公司:共探规范宣传促发展 社会共治惠民生
大河网讯 近日,由中国市场监管报社主办的“规范食品保健食品宣传 共建社会共治新格局”交流会在京举行。会议深入探讨食品、保健食品广告及科普宣传路径
2025-10-22 14:20:00
完美公司:玛丽艳品牌荣获“INPD国际创新品牌奖”
大河网讯 10月15日至16日,一年一度的全球美妆创新盛事——2025年国际化妆品创新匹亚峰会(INPD)在法国巴黎卢浮宫隆重举行
2025-10-22 14:20:00
完美公司:热血传情护生命 公益笃行显担当
大河网讯 近日,“你的一次,他的一生”第二十二届完美百城千店万人献血活动在河南焦作、济源、三门峡三地先后举办。活动由三地市中心血站与完美河南分公司联合主办
2025-10-22 14:20:00
完美公司:共探功能性食品研发新路径 引领精准抗衰新方向
大河网讯 10月4日—5日,以“活得更健康,活得更长久,拥抱更优质生活方式”为主题的2025亚太长寿医学国际峰会在香港启幕
2025-10-22 14:20:00
中材科技成立新公司,含高性能纤维制造业务
近日,北玻院(滕州)聚合物有限公司成立,法定代表人为张明辉,注册资本为1亿元,经营范围包含:新材料技术研发;工程塑料及合成树脂制造
2025-10-22 15:00:00
红墙股份在杭州投资成立新材料公司
近日,浙江红墙新材料有限公司成立,法定代表人为王宏宇,注册资本为1100万元,经营范围包含:新型建筑材料制造(不含危险化学品)
2025-10-22 15:00:00
大唐发电在漳州成立海上风电公司
近日,大唐(漳州)海上风电有限公司成立,法定代表人为徐敬,经营范围包含:发电业务、输电业务、供(配)电业务;供电业务;风力发电技术服务
2025-10-22 15:00:00
信安世纪新设科技公司,含信息系统集成服务业务
近日,重庆信安世纪科技有限公司成立,法定代表人为李伟,注册资本为2000万元,经营范围包含:信息技术咨询服务;计算机系统服务;信息系统集成服务;网络与信息安全软件开发等。企查查股
2025-10-22 15:00:00
纵横股份成立无人机科技公司,含地理遥感信息服务业务
近日,江西纵横大鹏无人机科技有限公司成立,法定代表人为王陈,注册资本为1000万元,经营范围包含:民用航空器驾驶员培训
2025-10-22 15:00:00
环旭电子成立光电公司,含集成电路芯片制造业务
上海环兴光电有限公司成立,法定代表人为史金鹏,注册资本为6000万元,经营范围包含:光电子器件制造;光通信设备制造;电子元器件制造;集成电路芯片及产品制造等。企查查股权穿透显示,
2025-10-22 15:12:00
【财说明白】宇树科技,为何此时“决定更名”?
中新经纬10月22日电 (薛宇飞)近日,宇树科技上市辅导机构中信证券发布的辅导工作进展情况报告显示,宇树科技2025年第五次临时股东会审议通过了《关于公司更名的议案》
2025-10-22 15:31:00
襄阳高新储能产业投资合伙企业成立,出资50.05亿
近日,襄阳高新储能产业投资合伙企业(有限合伙)成立,执行事务合伙人为襄阳高投创业投资管理有限公司,出资额50.05亿人民币
2025-10-22 15:36:00