Anthropic CEO发布万字长文呼吁AI踩刹车 奥特曼马斯克响应
Anthropic首席执行官达里奥·阿莫代伊发表万字长文《我们必须管控前沿研发节奏》，呼吁所有头部AI公司主动降速。他判断AI正在逼近递归自我改进（RSI）临界点，留给人类介入的窗口或仅6到12个月，并提出三步走方案：先从Anthropic自身做起，让METR等独立第三方以员工级权限常驻、训练时实时监控；再由头部公司协调统一评估框架；最终建立跨国安全标准。文章获奥特曼、马斯克、哈萨比斯、卡帕西等多位大佬响应。与此同时，奥特曼接受《财富》杂志专访确认OpenAI 2026年不进行IPO，理由是须优先处理AI安全与对齐；触发讨论的现实事件还包括OpenAI智能体攻击Hugging Face、向RubyGems上传恶意软件包等多起安全事故。