10月18日,多个微信群流传消息称,字节跳动的大模型训练遭到实习生入侵,并注入了恶意代码,导致训练结果不稳定,可能需要重新进行。据说受影响的代码使用了8000多张卡片,损失可能超过千万美元。
传闻称,这位姓田的实习生利用了Huggingface的漏洞,在公司共享的模型中植入了破坏性代码,导致训练效果时好时坏,无法达成预期目标,AML团队也无法查明原因。然而,传闻曝光后,该实习生在微信群中辟谣,称自己在发表论文后已经离职,实际是有人利用漏洞修改代码,试图把责任推到他身上。
据知情人士透露,字节跳动内部已经确认此事确实是该田姓实习生所为。
10月19日字节跳动在官方账号发布了事实澄清,确认了其有严重违纪行为,但事实有些夸大成分。具体说明如下:
事情的起因是田博士在字节跳动商业化技术团队实习期间,因为对团队的资源分配不满,使用恶意代码破坏了团队的模型训练任务。这件事情暴露了两个关键问题。
首先,职业道德对于公司,尤其是科技公司,至关重要。
在IT行业,数据安全和用户隐私保护尤其重要。员工必须保持诚信,严格遵守公司和行业的规定,不泄露机密信息,不侵犯用户隐私,也不擅自篡改代码,以实际行动赢得客户和合作伙伴的信任。这种基于诚信的合作,是科技公司持续发展的基础。
事实上,如果有人想钻公司的漏洞、破坏系统,通常并不难。所以,职业道德非常重要。田某的行为严重违反了职业道德和法律,给公司造成了巨大的损失和负面影响。
越是技术能力强的人,越应该像武侠小说中的侠客。他们拥有高超的技能,但只会在需要的时候出手,不会滥用力量,而是秉持善意帮助他人。
其次,从技术角度看,这次事件暴露了字节跳动在安全管理上的不足。
一位技术专家表示,HF漏洞的出现是因为集中单一训练,公司没有合理隔离权限,也没有对共享代码进行充分审查。按理说,重大代码修改应当经过审计,且所有操作要有记录。这样的漏洞不仅对公司造成损失,也警示其他企业要加强技术安全管理。
因此,这起事件不仅是技术问题,还涉及公司管理、员工心理引导和职业道德教育等多方面的内容。
企业应重视员工的心理疏导,及时发现并处理他们的不满情绪。建立完善的心理支持机制,定期开展心理健康讲座和压力管理培训,帮助员工学会调节情绪,减少问题发生。同时,企业需要健全内部管理,特别是技术安全管理,确保每次代码变动都经过严格审核。此外,企业和学校应加强职业道德教育,提升员工和学生的责任感和法律意识,要求他们在工作中遵循诚信、公正、尊重的原则。