央视记者当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。
沙盒逃逸事件始末
OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。
报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。
三个月内第二次暂停
这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国Hugging Face公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信，欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。
行业安全警报
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件，涉及绕过安全护栏、逃离沙盒测试环境、劫持网站等行为。OpenAI表示，只有在确信已落实额外的安全保障和对齐改进措施后，才会恢复训练。
OpenAI CEO奥特曼在联合国安理会发言中表示，企业间的竞争不能成为冒进的理由，如果没有充分证据证明模型能够保持在人类控制之下，就不应训练这类模型。
来源：央视新闻客户端