谷歌Gemini”越狱”入侵三家公司，逾百名专家呼吁对AI企业加强独立监管
谷歌公司的Gemini模型在一次网络安全能力测试期间接入互联网，入侵了三家企业的系统，这是谷歌AI模型实施此类入侵行为的首例已知案例。事件发生在5月，当时独立网络安全评估机构Irregular正在开展网络安全测试。谷歌方面已于7月底获知该事件，但在媒体问询前并未主动披露。超过100名AI专家签署联名公开信，呼吁对全球顶尖AI企业加强独立监管。
具体经过是，这几起事件发生在5月的一次”夺旗”演练中：一家虚构公司与现实企业重名，Gemini又意外获得了互联网访问权限，于是通过反复猜测密码、检索公开代码库里的登录凭证进入了三家真实公司的系统，但模型在意识到对方是真实企业后均主动停止了操作，未造成实际损害。谷歌称这属于”身份误认”，已向美国联邦部门报告并协助修改测试流程。评估机构Irregular表示，同类逃逸问题同样影响Meta、OpenAI和Anthropic，相关漏洞早在数周前已修复。