• 我的订阅
  • 财经

大模型训练被实习生攻击?字节跳动回应:已辞退

类别:财经 发布时间:2024-10-19 21:50:00 来源:瘦子财经

该实习生已在8月被辞退。

近日有传闻称字节跳动大模型训练被实习生攻击,对此,字节跳动10月19日回应表示,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为且已被辞退,但相关报道也存在部分夸大及失实信息。

字节跳动指出,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。同时,网传“涉及8000多卡、损失上千万美元”严重夸大。

字节跳动还称,经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。此外,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。

10月18日,多个微信群流传一则消息:“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”

随后,有媒体报道称,从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月,起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。

传闻显示,该实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质生产力的大模型在安全性方面仍存在较多缺陷,这为其大规模落地应用带来了不确定性。近期,中国信通院发布的大模型安全基准AI Safety Benchmark的测试结果显示,大模型(尤其是开源大模型)在恶意诱导手段下的攻击成功率均较原始输入有明显提升。因此,对大模型进行安全对齐防护刻不容缓。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-19 23:45:06

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

前实习生篡改代码攻击大模型训练 字节跳动起诉要求赔偿800万元
...科创板日报》11月28日讯(记者 张洋洋)字节跳动起诉前实习生田柯宇篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院,判令田柯宇赔偿公司侵
2024-11-28 12:31:00
字节跳动大模型训练被实习生攻击 背后内幕曝光:四点真相
快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。据“大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚
2024-10-19 10:51:00
字节跳动实习生投毒自家大模型:全删了
10月19日,字节跳动大模型训练遭实习生攻击一事引发广泛关注。据多位知情人士透露,字节跳动某技术团队在今年6月遭遇了一起内部技术袭击事件,一名实习生因对团队资源分配不满,使用攻击
2024-10-19 08:21:00
被字节索赔800万的实习生:拿下NeurIPS 2024最佳论文!
...偿侵权损失800万元及合理支出2万元,并公开赔礼道歉的实习生田某某,获得了NeurIPS 2024的最佳论文奖。其在字节跳动商业化技术部门实习期间
2024-12-04 15:08:00
惊掉下巴!被字节起诉800万实习生,拿下NeurIPS 2024最佳论文
【新智元导读】太戏剧了!攻击字节训练集群的实习生,居然刚刚获得了NeurIPS 2024最佳论文奖?虽然看起来像爽文剧情,但这位高材生接下来的路,应该是难走了。刚刚,恶意攻击字节
2024-12-05 09:47:00
被字节起诉索赔 800 万的实习生拿下 NeurIPS 2024 最佳论文
...IPS2024最佳论文近日出炉,字节跳动"破坏大模型训练"的前实习生田某某与字节合作论文被人工智能顶级会议NeurIPS评为最佳论文(BestPaper)
2024-12-04 21:05:00
大厂围猎AI人才:部分实习生日薪可高达2000元,有AI算法岗年包上浮20%
...分将面向技术人才。更早的2月27日,阿里启动2026届春季实习生招聘,开放的3000多个岗位中,AI相关岗位占到了五成
2025-04-28 11:56:00
“实习生也月入过万”,这一行业严重缺人
...速都超过三成,这些岗位平均招聘月薪都突破了2万元。 实习生都能月入过万AI岗位的高薪并非偶然,因为行业正处于快速爆发期,企业纷纷为此不惜重金抢人才。艾媒咨询发布的《2024
2025-03-25 08:53:00
字节今年计划对毕业三年内青年人才招聘量扩大一倍,三年以上社招仍占七成
...公司必争之地。今年3月,淘天集团宣布启动“2026届春季实习生全球招聘活动”,涉及七大职类,其中技术类占比超90%
2025-03-31 22:19:00
更多关于财经的资讯:
从技术驱动到场景适配——中国重汽新能源产品的全维度解决方案
新物流时代背景下,用户对新能源商用车的需求已从“能用”升级为“好用、耐用、实用”。作为新能源商用车领域的引领者,中国重汽始终从用户需求出发
2025-10-21 12:57:00
厦企盛屯矿业13.5亿元拿下刚果(金)大金矿
厦门网讯(厦门日报记者 李晓平)日前,厦企盛屯矿业发布公告称,将通过在加拿大设立的全资下属公司Chengtun Gold Ontario Inc
2025-10-21 08:41:00
富德生命人寿武安支公司强化消防安全意识筑牢安全防线
一场理论结合实践的消防培训,一次全员参与的安全演练——富德生命人寿武安支公司通过沉浸式消防安全教育,提升员工应急能力,践行金融机构安全生产责任2025年10月14日
2025-10-21 09:43:00
警银社区三方联动 打造“沉浸式”反假课堂
近日,荷花池社区的公共区域里热闹非凡,民生银行贵阳分行联合遵义汇川区公安分局、遵义汇川区上海路街道办事处荷花池社区打造的反假货币课堂正在开讲
2025-10-20 11:49:00
工行凯里黎平支行:金融活水精准滴灌,普惠服务助力发展
为深入贯彻中央金融工作会议精神,全面落实普惠金融服务要求,工行凯里黎平支行始终坚持服务实体经济的初心使命。近日,该行成功为当地一家优质皮鞋加工企业发放30万元“园区工业贷”
2025-10-20 11:49:00
银行火速拦截 30万元存款免遭扣费骗局——民生银行贵阳霞辉路小微支行成功拦截电信诈骗
2025年9月26日晚8点,62岁的王女士突然通过手机银行全额支取其30万元一年期定期存款。这一异常操作立即引起了民生银行贵阳霞辉路小微支行客户经理的警觉
2025-10-20 11:49:00
宁德时代在洛阳成立新公司,注册资本20亿
近日,宁德时代(洛阳)新能源科技有限公司成立,法定代表人为来永杰,注册资本20亿人民币,经营范围包括电池制造、电池销售
2025-10-20 13:48:00
万喆:国际黄金计价为什么用盎司,而不用克?
中新经纬10月20日电 题:国际黄金计价为什么用盎司,而不用克?作者 万喆 北京师范大学教授近期,国际金价一路走高,不断刷新历史纪录
2025-10-20 14:35:00
鹿哈成立馋猫突击食品公司
近日,长沙馋猫突击食品有限公司成立,法定代表人为段金科,注册资本50万元,经营范围包含食品销售、食品互联网销售、初级农产品收购等
2025-10-20 14:36:00
苍山寻鲜,AI为伴:老板电器“寻鲜记”第二站解锁大理山野鲜活人生
十月的大理,苍山晨雾还没散尽,腐殖土里的黑松露已透出醇厚香气,北门市场的白族阿姨正用竹篮码放刚采的竹荪,稻田间的金黄穗子被风拂过
2025-10-20 14:47:00
横琴口岸广场全新样板房盛大开放,铸就琴澳融合品质人居新标杆
刚结束的国庆中秋黄金周,横琴口岸共查验出入境人员超83万人次,同比增长22%,车辆超8万辆次,同比增长39%,增幅位居珠海核心口岸首位
2025-10-20 14:47:00
柘荣农信社因三宗贷款违规领 90 万罚单,责任人袁某被警告
10月20日,宁德金融监管分局行政处罚信息公示表显示,柘荣县农村信用合作联社股份有限公司因个人经营性贷款贷后管理不到位;个人经营性贷款贷前调查不尽职;违规向公务员发放个人经营性贷
2025-10-20 15:06:00
建行宁德分行违规向关系人放贷,罚没合计超94万元
10月20日,宁德金融监管分局行政处罚信息公示表显示,中国建设银行股份有限公司宁德分行因违规向关系人发放信用贷款;个人经营性贷款贷后管理不到位;员工行为管理不到位被处以90万元罚
2025-10-20 15:07:00
山东银联硬核赋能助力“食”超争霸点燃消费引擎
日前,好客山东美食争霸赛已顺利完成11个赛区的激烈角逐,这场持续数月的美食盛宴在银联资源的大力支持下,取得了令人瞩目的成绩
2025-10-20 15:27:00
“新时代、新生活”好房子建设经验交流会圆满举办
为深入贯彻落实国家关于推进“好房子”建设的决策部署,切实提升人民群众的居住品质,10月18日,由乌鲁木齐市房地产行业协会主办
2025-10-20 15:48:00