AI 开始辅助研究 AI：分清现实工具自动化与科幻的递归自我进化

接好运鸭

导语

      近些年来出现不少令人震撼的案例：AI 辅助设计芯片布局、自动优化算法、生成科研论文。不少观点提出，AI 已经开始自己研究自己，技术进化的方向盘正在从人类手中转移出去。
      但我们需要划清一条关键界限：当下是 AI 作为工具，辅助人类完成科研环节；而科幻设想里 “递归自我改进、不受人类控制的智能爆炸”，目前还只停留在理论假设阶段，并没有真正实现。
      本文结合 DeepMind、Sakana‑AI 等公开项目，梳理当前 AI 自动化科研的真实进展，区分现实能力和科幻想象，同时探讨对从业者带来的现实影响，以及学界正在讨论的两难困境。

一、现实：AI 已经可以参与 AI 研发，但全程由人类主导

现在多个前沿实验室已经把 AI 嵌入 AI 自身的研发链条，在芯片设计、算法调优、科研实验三个领域都有落地案例，但所有项目都离不开人类设定目标、划定约束、审核最终结果。

• AI 辅助芯片硬件设计Google DeepMind 的 AlphaChip 可以完成芯片布局规划，过去人类工程师需要耗费数周甚至数月的芯片布线工作，AI 数小时就可以输出方案，部分指标优于人类手工设计，已经实际用于 TPU 芯片迭代Google Dee...。
  

注意：不是 AI 从零完整设计一颗芯片。芯片的架构目标、性能约束、接口标准全部由人类工程师定义，AI 只负责布局布线这一子环节，人类会对输出结果做严格验证、修改。

• 算法与训练策略自动化调优部分实验项目，AI 可以自动搜索神经网络架构、调整训练超参，找到更优训练策略，实现训练提速、成本下降。但搜索范围、评价指标依旧是人类提前写好，模型不会自己凭空创造全新的基础范式。
• 自动化科研智能体，做实验、生成论文初稿Sakana‑AI 的 “The‑AI‑Scientist” 系统，可以接收人类给出的研究方向，自动设计实验、跑仿真、整理实验数据、输出完整论文初稿中国科学技...。但现状是：多数产出只达到普通研究生水平，缺少顶级科研的深度洞见；无法自主提出真正突破性的原始科学问题，重大创新想法依旧来自人类研究者，AI 主要负责执行、整理、撰写初稿，论文的创新判断、结论校验依旧要由人完成中国教育和...。
  

总结现实状态：AI 是效率倍增的科研助手，不是独立自主的科学家。目标、评判标准、最终决策全部掌握在人类手里。

二、什么是递归自我改进（RSI），分清理论和现实

很多自媒体会把上面这些辅助案例直接等同于 “递归自我改进（Recursive Self‑Improvement）”，这里要厘清概念差异：

• 狭义递归自我改进（智能爆炸设想，理论假说）：AI 能够自主改写自身架构、训练逻辑，不需要人类设定目标，一代迭代出更强的下一代，新的 AI 再继续迭代，形成不受人类干预的加速进化闭环。这是安全学界讨论的思想实验，至今没有在现实中实现。
• 当下真实发生的工具自动化：人类利用 AI 工具，加速 AI 研发的部分环节。相当于工匠用上了更好的机床去打造新工具，机床本身不会自己设计新机床。
  

当下我们处在「人类主导，AI 辅助改进 AI」的中间阶段，距离完全自主闭环还有多重现实硬壁垒：

• 目标与评价难题：重大科研不知道 “什么算好”，没有现成客观打分函数，AI 就无法自主迭代；
• 物理硬件约束：就算算法跑通，芯片流片、算力、能源都受现实供应链限制；
• 错误会层层放大：如果 AI 自主迭代，微小缺陷会在循环中被放大，没有人校验就会走向失控；
• ** 真正的原创问题提出，依旧高度依赖人类的直觉、行业洞见与跨领域联想36氪。
  

三、这件事对普通从业者意味着什么

AI 辅助科研工具普及，并不等于工程师、科研人员会立刻大规模失业，但工作范式正在被改写：

• 重复性实验、布线、调参、文献整理、初稿撰写，会大量交给 AI 完成；
• 人的核心价值会往上游迁移：定义研究方向、提出关键科学问题、设定评判标准、甄别 AI 输出的错误、做最终取舍与工程落地验证。
  

未来的矛盾点不是 “AI 抢全部岗位”，而是只会做执行层工作的人会被工具大幅替代；懂得提问题、定目标、做判断、做验证的人价值会持续放大。
四、科研界的囚徒困境：要不要踩刹车？

这也是全球 AI 安全领域经常讨论的两难局面：

• 一派观点：自动化科研工具蕴含潜在风险，应当设置约束，审慎推进，避免未来出现不可控的局面。
• 另一派现实顾虑：如果我方主动自我限制，而其他地区继续向前研发，就会在技术竞赛中处于劣势。
  

这就是典型的技术囚徒困境。所以现在全球很多实验室一边推进 AI for Science，一边同步开展 AI 对齐、安全评估研究，希望在发展的同时保留人类的审核控制点，而不是简单一刀切禁止技术探索。

客观现实：今天还不存在完全脱离人类掌控的自我进化 AI，但自动化科研工具发展速度很快，风险讨论应当前置，而不是等问题出现之后再补救。

五、大众高频认知误区澄清

误区 1：AI 已经可以完全自主研究 AI，进化的方向盘已经不在人类手中

纠正：目前全部 AI 科研项目，目标、约束、最终审核都由人类把控。真正完全递归自我改进还属于理论假说，没有现实落地案例。AI 只是高级工具助手，不是独立的科研主体。
误区 2：AlphaChip 用几小时完成芯片布局，代表 AI 可以独立设计完整芯片

纠正：仅完成布局布线子任务，芯片整体架构、规格、约束全部由人类定义，输出结果也需要工程师复核，不等于从零造出芯片。
误区 3：AI 能生成完整论文，就等于 AI 已经拥有独立科研创新能力

纠正：多数只能基于已有知识做组合推演，很难产出突破性原创科学问题；论文的创新点、真实性、学术责任依旧需要人类承担，AI 不能作为论文作者中国新闻周...。
误区 4：AI 自动化科研一到来，工程师、科研人员马上会大规模失业

纠正：大量执行性工作被工具接管，但提出问题、定义方向、甄别错误、落地验证的人的需求会上升，岗位会发生结构性迁移，不是简单消失。
全文总结

AI 已经深度参与 AI 自身的研发流程，芯片布局、算法调优、实验仿真、论文初稿这些环节，都已经可以交给 AI 辅助完成，大幅加快科研迭代效率。
但要分清现实与科幻：现在是人类指挥 AI 做科研，并不是 AI 脱离人类自己递归进化。真正无人类干预的递归自我改进依旧停留在理论设想，现实中还面临目标定义、硬件供应链、错误放大等多重难以跨越的瓶颈。
技术工具在迭代，人的价值正在向上游迁移：单纯的执行调参、重复实验会被工具替代，而提出问题、定义目标、甄别错误、做关键取舍的能力会愈发珍贵。同时，自动化科研带来的安全两难困境，也值得整个行业提前思考与讨论。