特朗普政府新推出的“创世纪计划”（Genesis Mission）承诺利用人工智能变革科研方式，力求在机器人技术、生物技术和核聚变等领域的重大难题上取得突破。

该计划旨在建立这样一套智能系统：AI能独立设计实验、执行操作、从结果中学习并持续提出科研新方向。计划支持者们希望借助此AI科研模式，大幅提升美国联邦政府资助项目的生产力。

“创世纪计划”的愿景代表了国际潮流。多国政府都在重金投资、大力推进AI辅助科学研究的应用。成功案例以DeepMind的蛋白质结构预测系统AlphaFold为代表——现已广泛用于生物学和药物研发的诸多领域。

然而，正如科学哲学总结的经验教训所告诫我们的，“自动化的科学发现”听起来酷炫，其实践难度与潜在风险可能远超大众认知。

哲学家卡尔 · 波普尔（Karl Popper）认为科学知识的增长过程就是“大胆猜想与严格反驳”的循环过程。在他看来，新发现常常始于研究者遭遇反常现象，即那些无法被现有理论合理解释的观测结果。由此，科学家要提出有望解开谜团的新假说。哲学家称之为“溯因推理”，即从现象出发，反推可能原因，而非根据既有数据，正向推演结果。

当今AI系统的基石大语言模型（LLM），能够模仿某些溯因推理的模式。然而，LLM并不具备人类科学家在重构问题或重新定义异常现象时所能仰仗的经验、智慧和情境理解能力。

机器擅长发现既有数据中的规律。但最引人入胜的科学突破往往源于研究者发觉了数据未能捕捉的盲点，或意识到曾被忽略的矛盾恰恰指向尚待探索的新领域。

当新概念、新理论开始形成，科学家还需判断哪些假说值得投入心血和资源，值得反复推敲与持续完善。在做此类决策时，不仅要问“它能取得的实证成果有多少”，更应权衡理论的融贯性和简洁度，应思索“它能以怎样的深刻性解释现象”以及“它能开辟怎样的科研新课题”……

最为关键的是，上述种种评判过程不可公式化展开，决策者不可拿着几个简单量化的指标、照着几种简化通用的套路来决定一个新概念的去留。若要生搬硬套，后果可能是科研资源向短期见效的项目倾斜，而那些既富有创新潜力又充满不确定性的研究方向却被轻视，一部分能挑战现有公式的颠覆性假说被埋没。

证据不只是数据

面对多个相互对立的理论，科学家一般基于证据评估孰是孰非，但正如哲学家早已指出的：仅凭证据很少能导出唯一结论。多套互斥的理论往往可解释同一组数据，这意味着研究者必须权衡各种理论的优劣，思考其底层假设，研判反常现象究竟要求我们补充数据还是变更既有框架。

综上所述，我们必须清醒认知科研自动化这件事的风险。算法决策系统往往隐含特定假设，倾向于将复杂的利弊权衡压缩为二元输出：不是赞成，就是否决；要么标记，要么忽略。2021年荷兰育儿补贴丑闻就是机器决策伤害公共政策的例证：一套风险评估算法通过“假设”与“评估”判定哪些家庭涉嫌欺诈申领补贴，随后将这些“合理正当”的结论输入自动化工作流程，强制要求返还补贴，致使无数清白家庭陷入财务困境。

“创世纪计划”意欲将类似形式的自动化引入科学决策链。举例来说，AI智能体可能代替人类决策者来作判决：哪些结果可信、哪些实验冗余、哪些研究方向应当终止……这样的未来景象引人忧虑，因为我们或许只会看到AI的结论，却无从知晓其得出结论的推理过程，无力辨识其程序是否隐含偏见，无法确定是否真有人监督这套智能体的运转。

科学也是一门系统化说服的学问

科学哲学与科学史的智慧和经验告诉我们：一项科学工作成功与否，研究成果本身只决定其中一半，另一半取决于科学家能否说服同行认可其主张。奥地利哲学家保罗 · 费耶阿本德（Paul Feyerabend）曾指出，即便如伽利略这般典范人物，也要揣摩受众特点，琢磨表达方式，打磨语言艺术，策略性地推进新思想传播。

当然，这绝不意味着科学等同于宣传营销。关键在于，新知转化为共识的过程离不开同行的论证、批判和决断。

当AI系统开始以极少人为干预的方式生成假设、开展实验甚至撰写论文，问题就来了：究竟该由谁负责说服同行？期刊、审稿人和资助机构会带着审视人类作者时的怀疑精神，来剖析由基础模型构建的论证体系吗？抑或说，面对机器客观性的光环，我们会更难发觉研究方法的缺陷，指摘底层假设的偏颇？

不妨以常被引为AI“解决”重大科学问题范例的AlphaFold为例。AlphaFold系统能提供关于海量蛋白质的高质量结构预测，毫无疑问颠覆了结构生物学的研究范式。当科学家探索蛋白质结构如何决定其功能时，有AI工具加持就意味着工作难度和专业门槛大大降低。

但我们必须清楚，此类机器输出成果只可被视作“有价值的假说”，是信息量极大的研究起点，须历经货真价实的大量实验检验。

以“创世纪计划”为代表的构想暗含重大风险。它引诱大家根据成功案例草率推演出各种“成功模式”，却忽略一个关键事实：那些AI科研智能体之所以能大显身手，是因为它们深植于由人类主导的研究生态，而非系统自身具备独立做科研的能力。

守护科学的“浪漫”

科学机构的诞生曾瓦解神职的威严、神医的玄妙以及“虽然我也不懂为什么但老祖宗的传统就是好”的共识，使人们抛弃对神秘力量的迷信，转而追求证据可验、方法可循、结论可辩的公共准则。

但科学实践并非如冷冰冰的机器一般运转，它是有温度且浪漫的。这份浪漫来自灵光乍现的顿悟时刻、针锋相对的理论争鸣、科学共同体通力协作探索未知……这样的浪漫绝非装饰，它代表了驱动人类不断前行的本能——好奇心、勇气、执着和想象力。

若按“创世纪计划”的设想将科学全面自动化，科学实践恐怕会变得狭隘，局限于数据集、损失函数和工作流程图。更具责任感的战略应当是将人工智能视为一套深植于人类探索共同体的强力工具。科学新知总要经历创造、质疑和信任的过程，此过程又注定是充满混乱、争论与不可预测性的，AI只能帮助科学家经历，不可踢开人类自行设计经历。

资料来源 The Conversation