AI发展途中,哪怕是大厂的内控制度仍需加强
大模型也能被“投毒”?
近日,有消息称字节跳动发生大模型训练被实习生“投毒”事件。
据流传,该事件发生在字节跳动商业化团队,因实习生田某某对团队资源分配不满,利用HF(huggingface)的漏洞,通过共享模型注入破坏代码,导致团队模型训练成果受损。消息称此次遭到入侵的代码已注入8000多张卡,损失或达千万美元。
而在19日下午,字节跳动官方也出面进行了澄清,表示有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。
不过,虽然有相关事件,但相关报道也存在部分夸大及失实信息,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。另外,网传“涉及8000多卡、损失上千万美元”严重夸大。
经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。据悉,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。
但是,此事件也暴露出了字节跳动技术训练中存在的安全管理问题,包括权限隔离、共用代码的审计等。据九派新闻报道,一位技术安全专家表示,HF漏洞产生肯定是单一性集中训练,公司既没做权限隔离,也没有做好共用代码的审计。正常情况下,每次大的代码变动必须做审计,无论谁做操作都有痕迹记录,一个人想动代码是不可能的。
作者:杨启隆
编辑:丁力