Cloudflare AI用户隔离失效：GPU缓存不够竟照常回答，155条回复泄露其他客户内容

动察 Beating AI 快讯，Cloudflare 披露一起 AI 数据泄露事故。旗下 Workers AI 平台的 GLM-5.3 模型出现用户隔离漏洞，导致 155 条回答混入其他客户此前提交的内容。也就是说，你发给 AI 的信息，可能直接出现在陌生人的回答里。 问题出在 GPU 缓存管理。Cloudflare 给模型开放了约 105 万 Token 的上下文窗口，但负责处理输入的 GPU 缓存只能容纳约 68 万 Token。超长请求本该直接报错，底层推理引擎 SGLang 却错误地继续执行，让模型读到了其他用户残留的缓存。受影响的 155 条回复，全部来自超过缓存容量的超长请求。 Cloudflare 承认，上线前就知道缓存容量不足，但测试时只检查接口是否正常返回，没有核对回答内容，因而漏掉了数据串号问题。 双方排查时还发现另一类缓存漏洞。用户中途取消请求后，系统可能提前把缓存分配给别人，但原来的数据还没传输完，随后又覆盖了新用户的内容。SGLang 团队用两块 H200 GPU 复现：AI 原本正常从 1 数数，数到 80 后，突然开始输出另一个请求的提示词。这类错误甚至不会留下异常日志。 Cloudflare 已于 9 月 9 日修复实际泄露事故，确认其他 Workers AI 模型未受该问题影响，也未发现恶意利用的证据。SGLang 则陆续修复了相关缓存管理缺陷，建议相关部署升级至 v0.5.22 或更新版本。

📰 来源：https://www.okx.com/zh-hans/feed/post/91165598326976