病理学从来没有假设专家不会犯错

—— AI时代，我重新理解病理学

今天和几位 eBay、TikTok 电商同行聊平台治理和信任的问题。

在卖家治理里，3% 的假阳性（false positive），可能误伤一大批优质卖家；而一个假阴性（false negative），则可能带来巨大的消费者损失和平台信任风险。大家自然会问：AI 能解决吗？准确率还能不能继续提高？

聊着聊着，一位朋友得知我是医学院毕业，还曾在北医病理科做过淋巴瘤、免疫组化和分子诊断，颇为惊讶。这也让我一下子想起，当年高子芬教授带我进入病理科的日子。

年轻的时候，我一直觉得奇怪：一个病例为什么要讨论那么久？为什么免疫组化 panel 一加再加？为什么专家之间还需要会诊、会争论？为什么总是不放心？

多年后再回头，我才慢慢明白：

病理学从来没有假设专家不会犯错。

恰恰相反，它默认：人会有分歧，会偏移，会过度自信，甚至整个群体一起慢慢跑偏而不自知。

所以，会诊、双阅片、免疫组化、分子诊断、数字病理、外部质量评价，以及今天越来越重要的病理能力验证，本质上不过是同一种哲学在不同阶段的延伸。

它们真正要解决的问题，从来不是如何证明自己是对的，而是如何让一个复杂系统持续保持校准。

病理能力验证最大的成功，恰恰是那些永远没有发生的错误。

Taleb 在《The Black Swan》中提出过 Via Negativa。人们习惯奖励那些已经发生的成果，却很少奖励那些因为预防而没有发生的事情。

从这个角度看，每一次能力验证发现的问题，都意味着未来某个真实错误被提前消灭。某种意义上，它记录的是一部“反事实的历史”——从未发生，却至关重要。

真正危险的敌人，往往不是无知，而是过度自信。

Donald Rumsfeld 曾把未知分成 known knowns、known unknowns 和 unknown unknowns。很多风险，并不来自已经知道的问题，而来自那些我们尚未意识到的问题。

复杂系统最大的威胁，往往不是错误本身，而是我们越来越自信，却没有意识到自己正在偏离。

知识终究会超越个体，而系统成为记忆的载体。

病理医生退休，年轻医生加入；技术不断更新，数字病理、空间转录组和 AI 不断出现。但经验通过反馈和校准，被持续编码进系统，让知识比人活得更久。

某种意义上，外部质量评价和能力验证，本身就是一种集体记忆。

真正伟大的系统，从不依赖某一个天才，而依赖经验的持续积累与传承。

优秀系统最伟大的地方，不是相信专家，而是不相信任何人——包括专家自己。

Karl Popper 在《Conjectures and Refutations》中写道：

Science progresses not by proving ourselves right, but by exposing ourselves to being wrong.

科学的本质，不是不断证明自己正确，而是持续创造机会发现自己可能错。

现在回头看，能力验证最伟大的发明，也许并不是提高准确率，而是把谦逊变成了一种制度——一种制度化的谦逊（Institutionalized Humility）。

也许，我们一开始就问错了问题。

过去，我一直在思考：如何进一步降低 false positive？如何继续减少 false negative？如何让 AI 更准确？

但现在越来越觉得，这些问题可能都不是第一性原理。

复杂系统永远会面对新的风险和新的未知。

真正的问题，从来不是如何消灭错误，而是当错误不可避免时，我们如何更早发现它、更快纠正它，并避免整个系统一起慢慢跑偏。

与其追求完美的预测，不如追求持续的校准；与其依赖越来越聪明的模型，不如建立越来越诚实的反馈机制。

比起相信某一个专家、某一个团队或某一个 AI，我越来越相信一个能够持续接受挑战、暴露错误、不断学习的系统。

也许，复杂系统真正的目标，从来不是证明自己正确，而是持续创造机会发现自己可能错。

因为复杂系统最深层的安全感，从来不是来自完美，而是来自不断纠正自己的能力。

真正危险的，不是错误，而是整个群体一起慢慢偏离，却没有人察觉。

而最危险的错误，往往是那些让人越来越自信的错误。