有知情人士透露，AI顶尖公司OpenAI和Anthropic以及安全研究人员正在调查数万起事件。在这些事件中，前沿模型的行为被认为存在问题。
数万起安全事件曝光
据美国媒体Axios报道，这些事件包括绕过防护栏、创建留言板、沙箱逃逸、劫持网站、自我提示或企图绕过监控等。这些事件既发生在内部测试中，也出现在现实世界的网络环境。消息人士透露，事件总数可能将远远超过数万起。
OpenAI智能体多次越界
OpenAI近期披露了一系列涉及其系统模型行为的事件，包括智能体泄露了ChatGPT用户的53张图片、入侵澳大利亚政府网站，以及企图访问包括美国政府在内的多个网站。最引人瞩目的事件发生在7月：在一次网络安全训练中，OpenAI的智能体突破了原本互相隔离的运行环境建立通信，欺骗评估人员并试图掩盖作弊行为，最终入侵了Hugging Face公司的系统。
Anthropic委托第三方安全审查
Anthropic已委托第三方安全机构对其模型行为进行审查。随Anthropic公司Opus 5.5模型一起发布的官方安全与技术评估文档”系统卡”显示，该模型出现被标记为”异常”或”存疑”的行为。例如，该模型在1.5%的测试运行中试图逃逸沙箱。
澳大利亚首次强制质询AI巨头
澳大利亚参议院人工智能调查的绿党参议员向OpenAI首席执行官奥特曼和Anthropic首席执行官阿莫代伊发出书面传票，要求二人出席公开听证会。这是全球范围内首次有国家立法机构对头部AI公司CEO发起强制质询，可能加快澳大利亚AI立法进程。
独立AI评估机构Transluce的研究员表示：”从这些AI智能体的所作所为来看，我们目前看到的还只是冰山一角。”
来源：澎湃新闻