AI黑箱被推翻？前OpenAI研究员发现90%神经元功能可解释，神经网络本就清晰

过去十年，整个AI领域都默认一个前提：神经网络是”黑箱”，内部纠缠成一团乱麻，人类根本无法理解。但2026年10月15日，前OpenAI可解释性研究科学家Nick Cammarata发表了一篇震撼AI界的长文，推翻了自己当年亲手打下的地基——他宣布：神经网络本就是清晰的。

这一发现的”反常识”之处在于：学界花费巨资开发的稀疏自编码器（SAE）等特征拆解工具，可能从一开始就走错了方向。因为神经网络内部根本不需要”拆解”——它们本来就是有条理的。

Cammarata团队在对Qwen3-32B模型的初步审查中估算，约90%的神经元各自有一个明确的主导功能，约7%有两个高度相关的功能，仅约2%至4%暂时无法解释。在包括Kimi K3在内的万亿参数级模型中也观察到类似现象。

最令人震惊的”翻案”是经典的”猫与汽车神经元”案例。十年来，教科书级的案例是：同一个神经元既识别猫脸又识别汽车车头，因此神经元不可解释。但Cammarata用新工具重新检查后发现：这个神经元根本不认识猫也不认识车——它检测的是V字几何形状，狐狸脸、火焰、汽车尖头都能激活它。

这意味着，我们以为的”混乱”，可能只是模型使用了人类没想到的分类方式。理解AI内部运作，或许没有此前预想的那么遥不可及。