21CTO导读:一条在技术圈内被称为“删库跑路”的强制删除指令,连续运行了 17 个小时,干掉了 89TB 的核心训练数据与文生 3D 模型,直接导致整条 AI 研发线瘫痪。北京市首例破坏人工智能模型刑事案件最近尘埃落定:违规操作的“90后”算法工程师王某因破坏计算机信息系统罪,被判处有期徒刑五年十个月,并赔偿公司经济损失 20.4 万余元人民币。
2024 年 1 月,具备丰富互联网大厂履历的计算机专业人才王某,入职到北京市东城区某科技公司,担任 AI 短剧部门算法高级工程师。
由于公司内部架构调整,2024 年 7 月至 8 月期间,部门曾三次在工作群通知将数据从旧的 A 集群迁移至新的 B 集群,并明确告知后续将收回 A 集群权限。王某等员工均在邮件中回复“收到”。
然而,2024 年 9 月 3 日下午,王某登录 A 集群时,因未找到本部门文件夹,竟直接打开了 AI 游戏部门 的存储目录。在拉取目录未果后,他做出了一个疯狂的举动——输入了带有最高管理员权限、无须确认的强制删除指令(即俗称“删库跑路”代码),随后径直下班离开。
当运维人员发现异常并切断进程时,该代码已经在后台持续破坏了整整 17 个小时,这导致了:
核心资产蒸发:AI 游戏部门的全部开发文件被毁,包括自主研发的多个文生 3D、渲染 AI 模型及海量训练数据,数据总量高达 89TB;
研发项目停摆:研发线全面瘫痪,全员被迫暂停开发,投入近 20 天进行紧急抢救修复;
产生直接损失:审计认定,仅恢复数据消耗的人工工资即达 16 万余元,损耗的算力资源超 4 万元。
被解雇后,王某辩称自己是“误以为 A 集群已被弃用”才误删数据。
但检察机关通过深挖电子数据,翻出了一份关键聊天记录:案发前,王某长期与外部人员高某合谋,秘密利用公司集群的 GPU 算力资源帮私活“训练模型”;案发当日,王某正在尝试运行私活代码,并在聊天中坦言知道用公司资源干私活会被开除。
真相很快水落石出:王某并非误操作,而是为了清空存储空间、下载自己“干私活”的模型,蓄意抹掉了公司核心数据。
作为北京市首例破坏 AI 模型刑事案件,本案的办理为数字经济时代的刑事司法保护树立了重要标杆:
AI 模型是否属于刑法意义上的“计算机信息系统”?东城区检察院联合网络犯罪特邀专家及刑法、AI 领域专家深入论证认为:
涉案模型部署于集群硬件之上,依照机器学习算法对数据进行采集、训练、推理;
该系统已具备从数据中自我学习进化、长期持续自动化处理信息的能力;
训练数据被删除直接破坏了数据结构,导致模型训练功能瘫痪。因此,AI 训练系统完全符合“计算机信息系统”的标准。
破坏行为导致原本满负荷运转的集群 GPU 利用率直接归零,算力资源长时间闲置。检察机关指出,算力作为驱动数字经济与 AI 模型训练的核心生产要素,属于消除犯罪后果、恢复系统功能必须投入的必要成本,理应依法纳入经济损失计算。
法院最终采纳了检察机关全部的指控意见:
一审与二审结果:王某因犯破坏计算机信息系统罪,被判处有期徒刑五年十个月,赔偿公司经济损失 20.4 万余元。二审裁定驳回上诉,维持原判。
治理与合规建议:针对案件暴露出的权限管控疏漏,检察机关向涉案企业制发了检察建议,推动其健全数据访问权限、强化数据备份安全及建立应急响应机制。
中国政法大学网络法学研究所所长 李怀胜教授 这样表示道:
大模型正逐渐成为数字时代的关键基础设施。本案的妥善办理意义深远:一方面拓宽了破坏计算机信息系统罪的适用边界,激活了传统罪名在新业态下的生命力;另一方面形成了可复制的裁判逻辑,填补了国内大模型安全刑事规制的实践空白,为护航科技创新与数字产业提供了坚实的法治保障。
作者:聆听音乐的鱼
本篇文章为 @ 场长 创作并授权 21CTO 发布,未经许可,请勿转载。
内容授权事宜请您联系 webmaster@21cto.com或关注 21CTO 微信公众号。
该文观点仅代表作者本人,21CTO 平台仅提供信息存储空间服务。
请扫描二维码,使用微信支付哦。