0
0

字节跳动实习生投毒自己大模型

硬核刘大
2024-10-21
121
shoptop 【建站扶持计划】

免订阅费,免费SEO与代建站,16大主流媒体免费开户

   立即查看>>

大数跨境
导读:字节跳动实习生投毒自己大模型

10月18日,多个微信群流传消息称,字节跳动的大模型训练遭到实习生入侵,并注入了恶意代码,导致训练结果不稳定,可能需要重新进行。据说受影响的代码使用了8000多张卡片,损失可能超过千万美元。

传闻称,这位姓田的实习生利用了Huggingface的漏洞,在公司共享的模型中植入了破坏性代码,导致训练效果时好时坏,无法达成预期目标,AML团队也无法查明原因。然而,传闻曝光后,该实习生在微信群中辟谣,称自己在发表论文后已经离职,实际是有人利用漏洞修改代码,试图把责任推到他身上。

据知情人士透露,字节跳动内部已经确认此事确实是该田姓实习生所为。

10月19日字节跳动在官方账号发布了事实澄清,确认了其有严重违纪行为,但事实有些夸大成分。具体说明如下:

事情的起因是田博士在字节跳动商业化技术团队实习期间,因为对团队的资源分配不满,使用恶意代码破坏了团队的模型训练任务。这件事情暴露了两个关键问题。

首先,职业道德对于公司,尤其是科技公司,至关重要。

在IT行业,数据安全和用户隐私保护尤其重要。员工必须保持诚信,严格遵守公司和行业的规定,不泄露机密信息,不侵犯用户隐私,也不擅自篡改代码,以实际行动赢得客户和合作伙伴的信任。这种基于诚信的合作,是科技公司持续发展的基础。

事实上,如果有人想钻公司的漏洞、破坏系统,通常并不难。所以,职业道德非常重要。田某的行为严重违反了职业道德和法律,给公司造成了巨大的损失和负面影响。

越是技术能力强的人,越应该像武侠小说中的侠客。他们拥有高超的技能,但只会在需要的时候出手,不会滥用力量,而是秉持善意帮助他人。

其次,从技术角度看,这次事件暴露了字节跳动在安全管理上的不足。

一位技术专家表示,HF漏洞的出现是因为集中单一训练,公司没有合理隔离权限,也没有对共享代码进行充分审查。按理说,重大代码修改应当经过审计,且所有操作要有记录。这样的漏洞不仅对公司造成损失,也警示其他企业要加强技术安全管理。

因此,这起事件不仅是技术问题,还涉及公司管理、员工心理引导和职业道德教育等多方面的内容。

企业应重视员工的心理疏导,及时发现并处理他们的不满情绪。建立完善的心理支持机制,定期开展心理健康讲座和压力管理培训,帮助员工学会调节情绪,减少问题发生。同时,企业需要健全内部管理,特别是技术安全管理,确保每次代码变动都经过严格审核。此外,企业和学校应加强职业道德教育,提升员工和学生的责任感和法律意识,要求他们在工作中遵循诚信、公正、尊重的原则。

文章来源:【硬核刘大】公众号
【声明】该内容为作者个人观点,大数跨境仅提供信息存储空间服务,不代表大数跨境观点或立场。版权归原作者所有,未经允许不得转载。如发现本站文章存在版权问题,请联系:contact@10100.com
0
0
硬核刘大 聊聊大家都喜欢的事
总阅读774.7k
粉丝2
内容940
主页
关注