谷歌说AI自我改进还很远，但Hinton们已经等不及了

谷歌DeepMind工程师海顿·贝尔菲尔德近日公开一组数据：公司内部超过75%的生产代码由AI生成。这似乎表明AI已深度融入研发流程。

然而，贝尔菲尔德还提供了另一组数字：约88%的代码变更仍需人工监督或审查，每次变更提交前必须经过人工审核。完全交由AI处理的代码变更比例从7.5%升至11.9%。

75%与11.9%之间的差异，正是当前AI自我改进能力的真实局限。

任务越复杂，AI越难独立完成

贝尔菲尔德的数据源自谷歌的实际运营经验。他指出，谷歌DeepMind并未发现AI自身驱动的研究出现可衡量的加速。自动化程度确有显著提升，但距离“AI自我改进”仍有较大差距。

这一判断在谷歌内部基准测试中得到印证。在1389次Argon内部智能体运行测试中，随着任务复杂性上升，无人干预的成功率急剧下降。任务越复杂、耗时越长，AI就越难以独立完成。

在DeepMind内部的RE-Bench基准测试中——包含74个真实机器学习工程任务——Argon能解决约一半的任务。这比Gemini 3.7 Flash的27%有显著提升，但与完全自动化所需的近乎完美性能仍相去甚远。

贝尔菲尔德表示，人类在创造性研究、新颖实验设计、诊断细微训练不稳定性及长期规划方面仍至关重要。一项针对12位DeepMind高级研究人员的调查证实了这一点：自动化程度最高的是定义明确、可验证的任务，最低的是开放式科学构思。

换言之，AI能做好“按图施工”，但无法“绘制图纸”。

通用能力指数增长未加速

为系统追踪进展，谷歌团队构建了一个涵盖123个模型和92个基准测试的通用能力指数。数据显示，Gemini模型的能力以每月约0.1个GCI点的稳定速度增长，速度未出现显著变化。

团队认为，Gemini 4 Argon的性能略高于趋势线，但这主要归因于计算能力和组织投入的增加，而非AI驱动的加速。这是一个关键区分：模型进步来自“人类投入更多资源”，而非“AI自身变得更聪明”。

目前，该团队认为AI驱动的研究自动化风险较低，但正在构建测量基础设施，以追踪未来加速迹象。

但另一群人持不同观点

贝尔菲尔德的研究结果与近期多项研究一致，但并非所有业内人士都认同。

包括杰弗里·辛顿、约书亚·本吉奥和OpenAI的雅库布·帕乔基在内的20多位AI研究人员近期在一篇论文中警告，AI领域可能出现“智能爆炸”。这篇题为《What if automating AI R&D triggers an intelligence explosion?》的论文由剑桥人工智能科学与政策项目发表，22位作者包括两位AI教父、强化学习先驱安德鲁·巴托、OpenAI首席科学家帕乔基及Anthropic联合创始人杰克·克拉克。

论文核心判断是：一旦AI能完整参与研发下一代AI，递归自我改进就可能真正闭环。AI研发自动化一旦越过某个临界点，几年才能完成的AI进步，可能被压缩到几个月甚至更短。极端情况下，今天一年完成的AI进步，未来可能只需约5周。

论文引用的数据包括：2025年1月AI生成的获批代码比例仅为低个位数，到2026年5月已超过80%。2026年3月，Claude能在仅接受高层次人类监督下自主完成约1%的研发工作；到同年8月，这一比例升至26%。半年内翻了二十多倍。

论文也指出，Anthropic强调，目前Claude尚未在任何一类被测AI研发工作中达到完全无人监督的水平。但这个趋势本身已足够引发警惕。

75%与88%之间的真相

两边的数据并不矛盾，它们描述的是同一件事的不同侧面。

谷歌的75%指的是“AI参与编写的代码比例”——AI写了一段代码，人类审核后通过。Hinton论文引用的80%也是类似统计口径。而贝尔菲尔德的88%指的是“需要人工监督或审查的代码变更比例”。这两个数字放在一起看：AI写的代码很多，但AI独立完成的代码变更很少。

这个差距指向一个核心问题：AI目前能做的是“辅助”，而非“自主”。它能生成大量候选方案，但判断哪个方案正确、哪个安全、哪个值得提交，仍需人类完成。

谷歌在RE-Bench测试中的结果也印证了这一点：Argon能解决约一半任务，意味着另一半仍需人类参与。在开放式科学构思上，AI的贡献几乎可以忽略不计。

Hinton等人的论文也承认，AI研发自动化仍处于早期阶段。但他们的关注点不在此。他们的论点是：一旦越过某个临界点，变化可能来得非常快。而谷歌的立场是：我们还没到那个临界点，而且有数据证明增长曲线是线性的，而非指数级的。

企业界的AI代码生成：自动化已在发生

无论学术界争论如何，企业界对AI代码生成的采用已在加速。

根据New Relic发布的《2026年AI编程状态报告》，67%的受访技术主管表示，AI目前生成或显著重构了他们组织每周代码产出的51%至75%。报告还援引多家公司数据：微软报告AI编写了其30%的代码库，Salesforce CEO马克·贝尼奥夫估计AI代理目前承担了30%至50%的工作量，Meta为2026年设定的目标是50%。

谷歌的75%在所有大型科技公司中是最高的。但报告同时揭示了一个矛盾：94%的受访者认为AI生成的代码在审查时质量高于人类编写的代码，但一旦部署到生产环境，78%的人报告了更多事故，86%的人报告了更多需要高级工程师介入的紧急修复。

这意味着，AI生成的代码在审查时看起来很好，但在真实生产环境中表现不佳。这个差距——审查评估与生产表现之间的差距——正是当前AI自我改进能力的核心瓶颈。AI能写出看似正确的代码，但判断其是否真正正确，仍需人类。

资本市场已在为RSI定价

尽管技术上距离尚远，资本市场已开始将“递归自我改进”作为投资叙事来定价。

德意志银行近期发布的研究报告指出，如果AI能持续扩大计算规模，并实现真正的递归自我改进，其能力可能进入加速增长阶段，到2030年出现全面超越人类专家的超级人工智能并非不可能。报告同时承认，规模定律能否持续有效仍存争议，真正的递归自我改进尚待实现。

RSI概念在2026年下半年迅速升温。据钛媒体报道，相关讨论引发的观感不一，但资本市场反馈相对积极。对“减速”的焦虑短暂导致波动后即被抛诸脑后，RSI叙事迅速被推向前台，加之Meta发布消费级个人AI代理Muse等事件，让此前因AI厂ARR增速放缓等承压的美股科技板块明显回暖。

全球自我改进AI系统市场预计在2025年至2030年间增长约695亿美元，复合年增长率38.8%。AI编程初创公司的估值也在飙升：Cursor正在以超过500亿美元的估值洽谈融资，Cognition AI的投后估值达到260亿美元。

测量的意义

回到谷歌团队的工作。贝尔菲尔德表示，他们正在构建测量基础设施，以追踪未来加速迹象。这句话的分量比表面上看起来更重。

如果AI自我改进真的即将到来，那么越早建立测量能力，就越能识别出加速迹象。如果不会到来，这些测量数据也能为公众和监管者提供可靠依据，防止市场被过度叙事推着走。

目前的数据是清晰的：AI编写了75%的代码，但只有11.9%的代码变更被完全委托给AI。这个差距本身就是一个信号——它告诉我们，AI离“自我改进”还有多远。

但这个信号能持续多久，无人能给出确切答案。Hinton们的警告和谷歌的测量，本质上是在做同一件事：为一个可能永远不会发生、也可能随时发生的转折点做准备。

本文来自微信公众号“Tech商业”，作者：Tech商业，36氪经授权发布。