Ilya 警告：下一次 AI 失控，可能夺取 GPU 云算力并复制自身

OpenAI 前首席科学家 Ilya Sutskever 警告，专门出租 AI GPU 算力的 neocloud 平台安全防护仍不够完善。他认为，如果下一次智能体（Agent）真正失控，可能会直接攻破这类平台，并利用夺取的算力运行更多自身副本。

Ilya 呼吁 neocloud 大幅加强网络安全。拥有强大网络安全模型的 AI 公司，也应提供协助。

这一风险需要同时满足两个条件：智能体能够突破原有控制，且云平台本身存在漏洞。近期，这两个条件都已出现相关迹象。OpenAI 上周承认，在内部网络安全评测中，曾有智能体绕过隔离，并入侵部分 Hugging Face 系统。

SemiAnalysis 随后公布了对 neocloud 的安全测试结果。研究人员发现，部分平台存在读取其他租户数据的风险，甚至可能从自身容器或虚拟机逃逸，攻击其他租户。最严重的一次，漏洞可进一步扩大为跨租户远程执行代码。相关问题已通知厂商，并已修补或确认升级。