中国实习生代码投毒事件震惊字节跳动,利用AI大模型漏洞攻击造成数千万美元的损失

据油管频道老范讲故事的消息,在ByteDance,一位不满的实习生通过恶意代码投毒,大规模攻击AI大模型训练集群,造成数千万美元的损失。这起事件揭示了AI安全管理中的脆弱性:他巧妙地隐匿在Huggingface漏洞中操控Pytorch集群,随机打乱训练进程,篡改模型参数。

事件迫使多名员工的数月努力付诸东流,凸显出工程管理中信任和开放系统的风险。此外,随着AI的广泛应用,如何平衡安全与创新开放成为现代技术治理的重要议题。这不仅涉及AI模型的可信度,还有未来AITG在协作中的角色及其可信性。

※新西兰全搜索©️版权所有

敬请关注新西兰全搜索New Zealand Review 在各大社交媒体平台的公众号。从这里读懂新西兰!️