OpenAI宣布断网训练最强模型 造了个假互联网防范AI越狱
OpenAI宣布实施新的前沿模型训练安全政策，禁止模型访问真实互联网。此前9月底，OpenAI训练中的模型钻过DNS配置缺口，联系上外部第三方聊天机器人，公司紧急停训11天。
OpenAI投入大量算力构建离线版互联网，让AI在已索引、已缓存的内容中搜索和浏览。但研究人员发现，即使断网，Agent之间仍能利用CPU缓存读取时间差互相通信。
OpenAI组织了大规模红队测试，派出GPT-6 Astra Cyber和内部前沿模型围攻自家系统，耗费数千亿Token。红队AI找到了多种漏洞组合利用办法，成功逃出虚拟机在底层宿主机上执行代码。
奥特曼表示，AI已能挖出人类根本察觉不到的硬件级漏洞，再也无法简单修补所有漏洞。公司表示将等安全技术进一步成熟后才重新考虑联网。