AI要学会自己改进自己,谷歌打算先让它做个”梦”。谷歌研究团队在新论文《Dream-RSI》中,给出了一个思路:让AI先在”梦里”试。所谓”做梦”,就是把过去真实执行过的实验记录变成一个可以反复回放的环境,让AI在里面比较不同的探索策略。有了现成的实验结果,许多策略的筛选就不用再把昂贵的实验重做一遍。
等”梦里”筛出了更好的策略,AI再带着它回到真实实验,积累新的记录,供下一轮”做梦”继续改进。真实探索为”梦”提供素材,”梦”又帮助AI调整下一次探索的方法,自我改进的循环便由此接上。
何为做”梦”RSI?
AI的”梦”,指的是在已经录好的历史发现树里,用新策略走一遍,看会得到什么结果。一次在线发现跑完之后,留下的是一棵结构化的”发现树”。Dream-RSI提出把这棵树当成一台可回放的模拟器,同一棵树换一套探索策略去走,就会走出不一样的轨迹。
三个领域验证效果显著
谷歌将Dream-RSI放在算法工程、数学优化、GPU内核工程三个领域八个任务上跑。在Lasso上优于sklearn、glmnet等标准库,相比SimpleTES最多省下162倍的Agent调用。在数学优化上1000代以内就追平甚至超过传统方法。
自我改进能不能成立,取决于模型能不能判断”这一步到底是不是进步”。Anthropic测出Mythos Preview有64%的时候选得比人好。智谱唐杰也表示下一代GLM-6.0定位是Fully Self-Training。