活在枫叶国

 找回密码
 立即注册
查看: 326|回复: 0

字节跳动商业化团队模型训练被“投毒”,内部人士称未影响豆包大模型

[复制链接]

5万

主题

8万

帖子

24万

积分

论坛元老

Rank: 13Rank: 13Rank: 13Rank: 13

积分
249182
发表于 2024-10-19 09:55:17 | 显示全部楼层 |阅读模式 来自: LAN
  在东方财富看资讯行情,选东方财富证券一站式开户交易+ K, d3 g! O3 K7 W2 V) t
                                                              近日,有消息称字节跳动发生大模型训练被实习生“投毒”事件。' ^' f0 i/ {7 \
  据悉,该事件发生在字节跳动商业化团队,因实习生田某某对团队资源分配不满,利用HF(huggingface)的漏洞,通过共享模型注入破坏代码,导致团队模型训练成果受损。消息称此次遭到入侵的代码已注入8000多张卡,损失或达千万美元。# G, O( \* q5 K9 R! Z
  字节跳动知情人士向记者透露称,近期公司确实发生过破坏模型训练一事,但传闻存在夸张和虚构的部分,该事件实际发生在今年6月底,田某某是在商业化技术团队实习,因为对团队资源分配不满,使用攻击代码破坏团队的模型训练任务,千万美元损失的数字也有所夸大。
$ e. ?' m4 y) O  另外,该人士称,受代码入侵影响的业务不是豆包大模型,而是商业化技术团队的模型训练任务,影响了广告部门的部分技术工作,实习生通过共享模型进行入侵的部分也不属于集团大模型。
9 I7 q- z0 L3 R$ o  此次事件暴露出字节跳动技术训练中存在的安全管理问题,包括权限隔离、共用代码的审计等。一位行业人士对记者表示,进行权限隔离与审计利于保护公司核心数据与知识产权,防止数据泄漏,提高数据与系统的安全性。比如实时监控权限使用情况,及时发现权限滥用和异常操作;定期审计权限,检查团队成员的权限是否符合授权策略,是否存在权限滥用的情况等。但这件事也有难度,包括跨部门合作成本、经常性维护与更新的资源投入等。
4 u2 p; }. g4 \9 l& @  j  据知情人士向记者透露,目前该实习生已被辞退,公司也将相关情况同步给行业联盟与实习生学校。
6 T) h" p. e4 u0 z0 t  最新的字节跳动大模型信息披露发生在今年10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,助力解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。5 [: f' B" c" s8 I4 ^4 c
(文章来源:第一财经)
【郑重声明】活在枫叶国刊载此文不代表同意其说法或描述,仅为提供更多信息,也不构成任何投资或其他建议。转载需经本网同意并注明出处。本网站有部分文章是由网友自由上传,对于此类文章本站仅提供交流平台,不为其版权负责;部分内容经社区和论坛转载,原作者未知,如果您发现本网站上有侵犯您的知识产权的文章,请及时与我们联络,我们会及时删除或更新作者。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|小黑屋|活在枫叶国

GMT-5, 2024-12-23 22:27 , Processed in 0.015286 second(s), 33 queries .

Powered by 活在枫叶国

www.canadaasians.com

快速回复 返回顶部 返回列表