题图
(题图由AI生成)

读文献这些年,我渐渐养成了一个习惯:看到一项研究,尤其是结论比较“劲爆”的那种,第一反应往往不是“有意思”,而是先问一句——这是真的吗?

看一项研究,我习惯先看细节:样本量、测量方式、对照组怎么设的、数据记录和分析是否符合最初的设计。细节往往比结论本身更能说明问题。之所以如此警惕,是因为“预设一个结果,然后炮制一套数据去支持它”,这件事并不算很难。


样本怎么选、哪些数据被剔除、用哪种统计方法、报告哪些指标,每一个环节都有操作空间。所以,如果没有足够的“自证清白”的证据,我就很难相信一项研究的结论——不管这个结论是符合预期,还是反预期。反预期的结论同样可以“炮制”,甚至更容易博得眼球。利益驱动下,凭空捏造数据、只挑好看的结果报告的人,从来都不缺,这个话题我在《科研是一件极简单同时又极难的事》里聊过,这里不再展开。

有人会说,这项研究被媒体报道过,被引用了很多次,总不至于有问题吧。报道只是新闻报道,不是重复实验。 如果原始研究本身不真,新闻报道不过是把原来的“虚构”放大了一遍;若是重复实验,也面临同样的问题——重复者怎么自证自己的数据真实,而不是拿着之前的结果,重新炮制一套新数据。至于引用率,它只能说明这项研究被人提起得多,引用率高低并不能说明研究和数据真实。 顺便说一句,耿同学学术打假时用的那些简单检查方法——比如看看数据表里数值的分布特征——就能识破明显的造假痕迹。如果一项研究连这关都过不了,后面的讨论也就没有意义了。

还有一种情况,实验设计看起来挺严谨,对照组也选了,但能控制的因素其实很有限。 实验操作本身可能就携带着与理论无关的效应——比如需要高度专注的任务本身就能让人静下心来,被试猜到实验意图后的“配合”也能产生看似支持结论的数据。研究者给出的解释只是众多可能中的一种,但仅凭这样的设计,恐怕还不足以把其他解释都排除掉——结论下得有些仓促。


这就触及了研究方法里最核心的一条:做研究的过程中,必须反复给自己提问——是否还有其他解释? 若有,就重新设计一个实验,把这个解释也否定掉;直到再也提不出其他解释,才能非常可靠地给出那个唯一的结论。

这个流程说起来简单,做起来极难。难就难在“是否还有其他解释”这个问题永远问不完:每排除一个,又可能冒出一个新的。科学结论的可信度,正是靠这一层层排除堆起来的。也正因如此,一个做得比较扎实的研究,往往恰恰不够“劲爆”——因为它的结论,是在排除了大量替代解释之后,剩下的那个谨慎的、有条件的说法。反而是越“劲爆”的结果,越可能被新闻反复报道,也越可能获得高引用率——可越是这样,越值得带着批判的眼光去读。这大概也解释了,为什么有些研究结论看起来完美得让人心动,却经不起时间的检验:如果没有努力去穷尽“是否还有其他解释”这个基本过程,发出来的不可重复的文章,就跟垃圾没有多大区别了。


顺着这个话题,再多说几句可重复性。

常听到一种说法:有些学科实验可重复性低,是因为人太复杂、影响因素太多,是学科本身的特性。我承认人和人的复杂性,但“重复性差”更应该被看作一个提示:“还有因素没有考虑”,才是对“重复性差”更准确的理解。 同样一个实验,用在六十年代出生的人身上是一个结果,用在八十年代、零零后身上是另一个结果,那就去找出造成这种代际差异的因素,把它纳入实验设计。重复性差不是终点,而是继续探索的驱动力;不是一个让研究者固执己见、继续坚持不完善结果的借口。这话对现在的各种临床研究,同样适用。

顺便澄清一个容易混淆的点:可重复性,并不是以“大量重复”为前提的。 一次设计良好的独立重复,远比一百次自说自话的自我重复更有说服力。

另一个容易混淆的点,是不同体系之间的差异。从分子、细胞、小鼠到人体,验证链条上隔着一个又一个体系,而体系之间的差异是实实在在的。受限于伦理、经费、技术等现实约束,很多实验并不能直接在人体上进行,只能先在其他体系——比如小鼠——上做试验,拿到一些基础验证之后,再考虑是否迁移到人体、或者与人体更接近的体系中去。但小鼠身上成立的结论,并不一定在其他体系、乃至人体中同样成立。 大量治疗手段过不了三期临床,主因往往正在于此,而不一定是“可重复性”的问题——这两者不能混为一谈。


说到对研究真实性的质疑,我还有个切身的体会。

做计算生物学和生物信息学的,也就是所谓“纯干实验”的人,很容易被做湿实验的“传统”生物学家质疑。有的老学者甚至直接宣称不看,反正他完全不信纯计算的结果。以前我多少有些委屈,现在想想,这其中多少就有这方面的原因:“从头炮制一套数据来支持某个预设结论”,这种事并不算很难。 数据不公开、代码不公开,别人就无从验证,怀疑就是顺理成章的。

但这不是借口。如果因为“别人不信”就放弃标准和原则,那迟早会让自己跟“民科”划清不了界限。 正因干实验容易被怀疑,干实验的人才更应该主动公开数据、公开代码,用“自证清白”去赢得信任。生信在这件事上有天然的优势:数据和算法摆在那里,别人随时可以跑一遍,验证成本比分子生物学低得多。可惜的是,很多人并没有这份自觉——好多人不公开数据,也不公开代码,没有自证清白的觉悟,那“造假少”就很难说。(关于数据公开为什么越来越难,我在《奇货可居:数据共享的困局》里专门聊过。)

就算公开了数据和代码,也还有下一层问题:代码是不是真的能跑通?跑通之后的结果,跟正文中展示的结果,是不是一致? 这一层过了,才轮到“是否还有其他解释”这种框架性的逻辑问题。

于是,我对一项研究的信任,大致要经过三个层面:

第一层,数据与过程真实。受试者确实参与了实验,数据记录和分析符合设计,数据表里没有明显的造假痕迹。

第二层,结果可以复现。别人按照文章的描述,能重新得到一致的结果。新闻报道代替不了这一层,引用率也代替不了。

第三层,逻辑上排除了其他解释。实验设计足以支撑结论,所有能想到的替代解释都被设计排除掉了。这是最严格、也最难的一层。

这三个层面,每一层都是“自证清白”:不是让别人来证明你清白,而是你自己拿出证据来。数据是你的,过程是你设计的,解释是你给出的——那么,证明它们真实、可复现、完备的责任,当然也在你。


最后说点轻松的。有时候会想,幸好我们活在这个时代,还有那么多可以研究的待解决问题。比起十九世纪那种“物理学已经没什么新的可研究内容了”的绝望,现在真的好太多了。正因为问题够多,才更要把研究方法立住:读论文时带着批判的眼光,才能培养独立思考;做研究时守住自证清白的底线,自己的结论才值得别人相信。这大概也是我这些年读论文、做研究,越来越在意的一件事。

--- END ---

注:本文由AI辅助润色,文章内容与观点均由作者本人提出并复核。