Ilya警告：下一次AI失控，可能抢下GPU云不断复制自己

动察 Beating AI 快讯，OpenAI 前首席科学家 Ilya Sutskever 警告，专门出租 AI GPU 算力的 neocloud 安全防护还不够到位。他认为，下一次 Agent 真正失控时，可能直接攻下这类平台，用抢来的算力运行更多自己的副本。 Ilya 呼吁 neocloud 大幅加固网络安全。拥有强大网络安全模型的 AI 公司，也应该出手帮忙。 这个风险需要两个条件：Agent 能突破原有控制，云平台本身又有漏洞。两个条件最近都出现了。OpenAI 上周承认，内部网络安全评测中的 Agent 曾绕过隔离，并入侵部分 Hugging Face 系统。 SemiAnalysis 随后公布对 neocloud 的安全测试。研究人员发现，部分平台能读取其他租户的数据，甚至从自己的容器或虚拟机逃出去攻击其他租户。最严重的一次，漏洞可以一路扩大到跨租户远程执行代码。相关问题已经通知厂商，并已修补或确认升级。

📰 来源：techflowpost