人类自己都不透明，凭什么要求AI一定是白箱？

天方烨谈 by 基因频道

陶哲轩从来没有要求 AI 变成一个玻璃盒。他自己的解法是：让机器把每一步写成能被独立核验的形式——你可以不懂它是怎么想出来的，但必须能一步步查它有没有错。这和我们做药是一个道理：双盲试验从来不问"为什么有效"，它只问"有没有效"，因为人类最诚实的认知工具，恰恰建立在承认自己不懂之上。所以真正的分野，从来不是白箱还是黑箱，而是可不可验证、负不负责。黑箱可以存在，但输出必须能查。