• 发文
  • 评论
  • 微博
  • 空间
  • 微信

字节跳动大模型遭实习生破坏?公司称损失上千万美元严重夸大

新识研究所 2024-10-22 09:14 发布于湖北 发文

AI发展途中,哪怕是大厂的内控制度仍需加强 

大模型也能被“投毒”? 

近日,有消息称字节跳动发生大模型训练被实习生“投毒”事件。 

据流传,该事件发生在字节跳动商业化团队,因实习生田某某对团队资源分配不满,利用HF(huggingface)的漏洞,通过共享模型注入破坏代码,导致团队模型训练成果受损。消息称此次遭到入侵的代码已注入8000多张卡,损失或达千万美元。 

而在19日下午,字节跳动官方也出面进行了澄清,表示有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。

 不过,虽然有相关事件,但相关报道也存在部分夸大及失实信息,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。另外,网传“涉及8000多卡、损失上千万美元”严重夸大。 

经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。据悉,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。 

但是,此事件也暴露出了字节跳动技术训练中存在的安全管理问题,包括权限隔离、共用代码的审计等。据九派新闻报道,一位技术安全专家表示,HF漏洞产生肯定是单一性集中训练,公司既没做权限隔离,也没有做好共用代码的审计。正常情况下,每次大的代码变动必须做审计,无论谁做操作都有痕迹记录,一个人想动代码是不可能的。 

作者:杨启隆

编辑:丁力 

声明:本文为OFweek维科号作者发布,不代表OFweek维科号立场。如有侵权或其他问题,请及时联系我们举报。
2
评论

评论

    相关阅读

    暂无数据
    推荐商品

      举报文章问题

      ×
      • 营销广告
      • 重复、旧闻
      • 格式问题
      • 低俗
      • 标题夸张
      • 与事实不符
      • 疑似抄袭
      • 我有话要说
      确定 取消

      举报评论问题

      ×
      • 淫秽色情
      • 营销广告
      • 恶意攻击谩骂
      • 我要吐槽
      确定 取消

      用户登录×

      请输入用户名/手机/邮箱

      请输入密码