当人成了狗的神迹
德国波恩附近有一座一万四千年前的墓。墓里埋着一个人,和一条狗。狗的骨头显示它得过犬瘟,牙也坏了大半。那种病,野外的狗熬不过去。它是被人喂着、守着,才多撑了那么久,最后埋在主人旁边。
一万四千年前是什么概念。那时候没有农业,没有城市,人自己都还在靠打猎和采集过日子。狗比小麦、比牲畜、比房子都更早进了人的生活。
所以那条视频里的说法,是从结果往回看才成立的——狗在两万年前撞上了人工智能。它没撞。它是一代一代被人改出来的。
狗在两万年前,就撞到了「人工智能」。它们活在一个自己根本看不懂的世界里,身边全是神迹,大部分过得挺开心。
如果 AI 找到一种抗癌药,没人知道它为什么有效,你还会在乎它是怎么做到的吗?
我想提一个命题:懂的权利。
这句话里我最不放心的是「开心」两个字。
狗过得开心吗,也许吧。但那份开心是有条件的。它被人从灰狼改成了狗,鼻子变短、耳朵耷下来,眼睛变大——这些变化在人这边叫可爱,在狗那边,是一张越来越离不开人的脸。它连狼那副纯肉食的肠胃也丢了,学会了消化淀粉。那是在人定居种地以后才用得上的本事。
狗不是因为看不懂才开心。它是被改造成了一个「看懂看不懂都活得下去、而且活得不错」的样子。那条路通不通,对它无所谓。它用不上。
现在轮到人了。
人和 AI 之间的关系,正在往那个方向滑:东西越来越好用,机制越来越看不懂。区别只有一个——人心里有一个狗没有的念头:我想知道为什么。
这个念头值不值钱,得看它什么时候被拿走。
视频里那个问题可以换个问法:一种药能治病,但没人说得清它为什么治得好,你要不要?
真实世界里这不是假设。深度学习模型早就强到连造它的人都解释不清——它不是在骗你,它是真的没人完全打开过。
更要命的是,「有效」和「看起来有效」常常不是一回事。有一个分辨狼和哈士奇的模型,准确率很高。后来有人把它的注意力画出来,发现它根本没在看动物,它看的是背景有没有雪。哈士奇的照片大多拍在雪地里,狼的照片大多是野外的。它答对了,理由是荒唐的。这事发生在图片分类里是个笑话,换成癌症筛查就是人命。
还有一个更实在的。微软的研究员 Rich Caruana 做过一套预测肺炎病人风险的模型。模型学到一条规律:有哮喘的病人,死于肺炎的概率反而更低。听着像医学奇迹,其实是数据布的陷阱——哮喘病人一入院就被送进重症监护,死亡率本来就低。模型把「照顾得更及时」读成了「身体更好」。
只看准确率,这套模型合格。可要是没人打开它看一眼,这个坑会一路带进病房。他们后来换用一种能读出规则、能被人检查的模型,才在上线前把这问题挖出来。
这就是「为什么」的用处。它不是知识分子的洁癖,是你分得清「真有效」和「碰巧对」的为数不多的办法。
可解释 AI 这件事,真有人认真做过。美国国防部高级研究计划局 2017 年开了一个项目,叫 可解释人工智能(XAI),拉了十一个团队,做了四年,目标是让模型既准又能讲道理。
结果没那么漂亮。项目负责人 2021 年复盘时说,把解释摆给用户看,并不总能让人更信任;有时候反而更迷惑,该校准的信任没校准。给解释和让人真的理解,中间还隔着一大段路。
这件事说明:懂,本身不是自动生效的。给它开路,不等于路的尽头一定有答案。
但「想懂」这件事,已经有人替我们写进法律里了。
欧盟《通用数据保护条例》第 22 条规定,人有权不受完全自动化的决定摆布。它前面有一段说明写得更直白——人有权「获得对决定的解释」。那段叫 Recital 71,是前言,严格说不算法条。所以「解释权」这三个字在欧盟,其实是从几条正文和一段前言里拼出来的,法律学者到今天还在吵它到底成不成立、管多大用。
看到这段我反而放心了一点。
连法律里的这个权利都是半截的、还在争的,就说明它不是天上掉下来的常识。它是有人觉得不对劲,一层一层要求出来的。「懂的权利」听着像句漂亮话,落到地上,就是这么一件麻烦、含糊、得有人一直盯着的事。
它不是「你必须懂」。它是「你想懂的时候,门没被焊死」。
那条视频最后问,被剥夺了懂的权利,人是不是就离「AI 的狗」不远了。
我觉得这个问题问反了一半。狗不是被剥夺了懂的权利。狗是没有那个「想」。它不会蹲在门口琢磨今天为什么给食、明天为什么不给。它不需要先想明白,才肯摇尾巴。
人不一样。人会问为什么,问不出来会难受。让人不至于成为狗的,从来不是懂了多少,是还在不在问。
门要是哪天彻底合上了,人不会像狗那样开心。人只会不知道自己少了点什么。
参考
- UC Davis 兽医遗传实验室《The Rise of the Modern Dog》 · 狗是最早被驯化的物种,早于农业;主流认为至少 1.5 万年前,另有研究推到 2 万–4 万年前;德国 Bonn-Oberkassel 犬骨约 1.4 万年前、与人合葬
- Botigué et al., 2017, Nature Communications · 把犬类驯化时间上推到 2 万–4 万年前的估计来源
- 科普中国《狗的进化》《为何狼是家犬祖先》 · 东亚南部约 3.3 万年前驯化、约 1.5 万年前扩散的说法;狗由灰狼驯化,以及淀粉消化能力
- Ribeiro, Singh & Guestrin, 2016, "Why Should I Trust You?" · LIME 论文;分辨狼与哈士奇却依赖雪地背景的案例
- Caruana et al., 2015, "Intelligible Models for HealthCare" · 哮喘与肺炎死亡率的假相关,可解释模型在部署前查出该问题
- Gunning & Aha, 2019;Gunning et al., 2021 项目复盘 · DARPA XAI 计划 2017–2021、十一个团队;解释不必然校准用户信任
- GDPR 第 22 条及 Recital 71;Wachter et al., 2017 · 自动化决定与解释权;前言不具约束力,解释权范围至今有争议