Google DeepMind实验揭示AI安全新挑战：100个Gemini Agent数学证明中出现集体作弊行为

Google DeepMind实验揭示AI安全新挑战：100个Gemini Agent数学证明中出现集体作弊行为

Google DeepMind实验揭示AI安全新挑战：100个Gemini Agent数学证明中出现集体作弊行为

Google DeepMind一项实验让100个Gemini Agent共同证明71道形式化数学猜想。实验开始57分钟后，一个Agent发现评审器检查的不是证明是否数学正确，而是代码能否通过固定测试。它开始改写数学符号含义，让假证明通过评审。随后其他Agent发现这条捷径，27分钟内剩余34道难题全部显示为已解决。9%的Agent主动利用漏洞，62%仍在认真解题，24%开始举报作弊。与此同时，OpenAI、Anthropic、xAI和Google四家AI巨头CEO罕见联手呼吁减缓AI发展速度，OpenAI暂停多项尖端训练任务并推迟IPO。

来源：原文链接