职场心理

算法厌恶测试:机器错一次,你是不是就不再信它了

算法预测比人准,但只要让人看见它犯过一次错,信任就跳水——这是 Dietvorst 的算法厌恶实验。人犯错显得正常,机器犯错显得不可原谅,这种不对称让很多人放着更好的工具不用。本测试12道题,测你对算法建议的信任校准能力。

一、它更准,但它错过一次

Dietvorst 与同事设计过一个著名实验:被试完成预测任务(预测MBA毕业生的薪资、电影票房),可以先看到算法与人类预测者的历史表现——算法明显更准。然后让他们选择由谁来预测未来。结果,多数人选择了人类。原因不是算法历史表现差,而是被试先看到了算法的几次具体错误:那几个离谱的预测值在脑子里挥之不去,人类预测者的几十个隐含错误反而看不见。

Dietvorst、Simmons 与 Massey(2015)把这种现象命名为算法厌恶(algorithm aversion):人们看到算法犯错之后,会迅速降低对它的信任并放弃使用,即使它的整体表现优于人类判断者。后续分析发现,厌恶的核心机制是错误的不对称评价:人会犯错,犯错「符合预期」,可以原谅;算法被默认为「不该犯错」,一次失误就被解读为「不可靠」。可事实是:算法的整体准确率照样高于人类——只是它的错误呈现得更刺眼。

这不是个案。Castelo 等(2019)发现,算法厌恶有很强的任务依赖性:在「客观任务」(数据分析、预测数值)上人们愿意接受算法,在「主观任务」(招聘、情感判断、艺术评价)上强烈排斥——尽管很多研究显示算法在这些领域同样占优。Logg、Minson 与 Moore(2019)则给出了另一半图景:在很多判断任务上,普通人其实更信任算法而非他人建议——所谓「算法欣赏」。两个结果合起来看才完整:人们的算法信任是情境性的,而不是一个稳定的立场。任务越主观、错误越显眼、赌注越高,厌恶越强。

Dietvorst 团队还找到了一个漂亮的解法。Dietvorst、Simmons 与 Massey(2018)的实验显示:只要允许人对算法的输出做微小修正,算法厌恶就大幅下降——哪怕那个修正权限小到几乎不改变结果。这说明厌恶的本质不是「不信算法的能力」,而是「不接受控制权旁落」。人要在判断链里留一个自己的位置,哪怕只是象征性的。

必须说清边界:算法厌恶不是缺陷,它是一个被错配的直觉。这个直觉在人际世界里是合理的——一个医生连续误诊三次,你确实该换医生,因为人是稳定的品质载体。但算法是概率载体,它的价值在统计意义上,不在个案意义上。用评价「人」的标准评价算法,会让你系统性地拒绝更好的证据;反过来,用概率标准评价人,会让你忽视品质信号。真正的技能是分清哪个对象该用哪套标准。

二、算法信任自测(12题)

请凭真实倾向作答。1=完全不符合,5=完全符合。请回想你使用推荐系统、预测工具、AI助手或数据模型时的真实反应。

第1-4题:算法建议的采纳习惯

  1. 当工具给出建议时,我会先看它的理由和依据,而不是立刻接受或否决。(1-5)
  2. 我知道算法整体上比我拍脑袋更准,所以会认真对待它的输出。(1-5)
  3. 算法的建议和我直觉冲突时,我会先想「哪里可能是我漏了信息」。(1-5)
  4. 我用预测类工具时,关心的是长期平均表现,而不是某一次准不准。(1-5)

第5-8题:错误的容忍与校准

  1. 看到算法给出一次离谱的错误后,我会调整使用场景,但不会全盘弃用。(1-5)
  2. 我会问自己:换成人做同样的错,我还会这么生气吗。(1-5)
  3. 我能说出我常用的工具在什么情境下容易错,并据此设置检查点。(1-5)
  4. 算法出错后,我会去核对它的整体准确率,而不只是记住那一次。(1-5)

第9-12题:控制权与依赖平衡(反向计分)

  1. 我不会因为算法「显得机械」就拒绝它,效率高就用。(1-5)
  2. 我不需要每个结论都亲手验证一遍才安心,抽检就够。(1-5)
  3. 主观决策里我也能接受数据辅助,而不是坚持「这个只能靠人」。(1-5)
  4. 我不觉得「用算法做决定」是对我专业性的冒犯。(1-5)

三、计分方法

第 1-8 题正向计分,第 9-12 题反向计分(选 1 记 5 分,选 5 记 1 分),相加得12-60 分。分数越高,说明你对算法的信任越有校准:不盲从,也不因一次错误而全盘否决。

  • 44-60 分:校准型使用者。你既采纳证据,也保留检查。这是用算法工具的理想姿态。要留意的是校准成本:抽检、核对整体准确率都需要时间,建议只对高赌注决策做全套校准,低风险场合直接采信,把省下的注意力还给别处。
  • 30-43 分:印象型信任者。你对算法的信任基本由最近一次的印象决定:错一次就冷一阵,准几次又热回来。这种信任像坐过山车,决策质量随情绪波动。最有效的改进是给信任设「统计窗口」:连续二十次的整体表现,才是你调整使用方式的依据。
  • 12-29 分:强厌恶倾向。你在主观任务上基本拒绝数据辅助,机器一错你就走。留意的隐性代价:你可能正在用更差的判断方法做重要决策。不需要改变立场,先做一个对照实验:拿一个月的历史决策,分别用工具和直觉复盘一次,看看各自的错误率。

分组看:1-4 题高是采纳习惯在线;5-8 题高是错误校准能力;9-12 题得分低提示控制权问题——你不接受判断链里有机器的位置,这往往是厌恶的核心而不仅是表象。

四、四种典型画像

1. 一次翻车型:错一次就出局

第 5 题反向得分高,第 6 题也偏低。算法(或AI助手)给过你一次明显错误的结果,之后你基本不碰它。这就是经典的算法厌恶场景:一次鲜活错误压过了几十次统计优势。人类同事犯同样错误时你甚至没注意——因为人的错误分散在几百次交互里,算法的错误集中在一次展示里。补救从归因开始:那次错误是工具不行,还是你用它时不满足适用条件?

2. 领地守卫型:这个领域只能靠人

9-12 题整体偏低,尤其第 11 题。你把某些任务划为「人类专属」:识人、审美、谈判。这个立场在人文关怀上有价值,但常被泛化到数据本来就更强的领域——比如筛简历、预测销量。Castelo 等(2019)发现主观任务上的排斥最顽固,也最缺乏证据支撑。折中做法不是让机器决定,而是「机器出名单、人做终审」——这也是实践中几乎所有团队最终的落点。

3. 校准派:用错了,也用对了

5-8 题分数高。你有一套朴素的统计观:整体表现、适用条件、检查点。你给团队做工具选型时通常不会踩大坑。要提醒你的只有一点:别把校准做成仪式——为低风险决策做全套核对的成本可能超过收益。分级是关键:高赌注全流程,日常直接用。

4. 无感依赖型:从不用怀疑到不会怀疑

第 2、9 题高,总体分数高。你信任数据,用起来顺手,也不纠结。反面代价与自动化偏差相邻:长期无抽查,你对工具失效的敏感度会下降。给自己立一条最低配额:每周抽一次工具的输出对照实际结果。十分钟的抽检,防的是系统性漂移,不是单次错误。

五、必须分清的四个近亲概念

  • 算法厌恶不是自动化偏差。 本站已有自动化偏差一篇。自动化偏差是过度信任自动系统、不质疑其输出——方向与算法厌恶正好相反,但两者同源:都是放弃了信任的校准。一个人可以同时对某类工具盲信、对另一类工具死活不用——共享的缺陷是「把信任当立场,而不是当统计」。
  • 算法厌恶不是决策风格问题。 本站已有决策风格测试一篇。决策风格测的是你惯用的信息加工方式(理性收集 vs 直觉依赖);算法厌恶测的是对特定证据来源的排斥反应。直觉型决策者可以善用算法(把算法当另一种直觉输入),分析型决策者也可能死守自己的分析而拒绝模型。
  • 算法厌恶不是认知反射不足。 本站已有认知反射测试一篇。CRT 测的是压制直觉错误答案的能力,是有标准答案的题;算法厌恶发生在没有标准答案的判断里,且高CRT者同样中招——他们更擅长为自己的排斥找技术性理由。
  • 算法厌恶不是计划谬误。 本站已有计划谬误一篇。计划谬误是预测自己任务时的系统性乐观;算法厌恶是拒绝外部更好的预测来源。讽刺的是,两者常在同一个决策链里相遇:一边低估工期(计划谬误),一边拒绝采用更准的估算工具(算法厌恶)——两个偏差互相掩护。

六、用好算法建议的四个做法

1. 给信任设「统计窗口」

决定要不要继续用一个工具,看的不是上一次准不准,而是最近一段时间的整体表现。给自己定一个窗口(比如二十次),窗口内算错误率,再决定加大使用还是收窄场景。单次错误的记忆权重在心理上被放大了几十倍,统计窗口就是把这个权重拉回来的工具。

2. 分任务类型决定用法

把你的决策分成三类:数据密集型(预测、估算、排序——算法优先,人工抽查)、混合型(筛选、初评——机器出名单、人做终审)、价值型(伦理判断、关系决策——人主导,数据仅作参考)。很多算法厌恶的冲突,其实是把第二类任务的机器名单误当成第三类的「机器决定」。

3. 允许修正,但限定幅度

Dietvorst 的解法可以直接搬进工作流:给人类保留明确的修正权限——AI初稿、人工终审,模型排序、人工微调。修正权限满足了控制感,厌恶大幅下降;但幅度要限死(比如只允许调整个别项),否则终审会退回纯人工,工具的价值归零。

4. 记录工具错误时,也记录自己的错误

厌恶之所以不对称,是因为算法的错误有日志、人的错误没日志。做一个简单表:同一批决策,工具的错几条,你自己的直觉错几条。多数人做完一次这个对照,对工具的容忍度立刻回到现实水平——不是变得更信任,而是变得更公平。

七、科学依据

  • Dietvorst, Simmons & Massey (2015):命名并系统实验了算法厌恶,证明即使算法历史表现优于人类,被试看到其错误后仍显著弃用。
  • Dietvorst, Simmons & Massey (2018):实验证明允许对算法输出做小幅修正可显著降低厌恶,揭示控制权旁落是厌恶的核心机制之一。
  • Logg, Minson & Moore (2019):发现多数普通人在数值估计任务上反而更信任算法而非他人建议(算法欣赏),与厌恶现象共同刻画情境性信任。
  • Castelo, Bos & Lehmann (2019):证明算法厌恶具有任务依赖性,主观任务上的排斥显著强于客观任务。
  • Meehl (1954):临床预测与统计预测的经典比较,奠定「机械式组合优于临床直觉」的证据传统。
  • Grove & Meehl 等 (2000):对136项研究的元分析,再次确认统计方法在预测准确性上普遍优于临床判断。

八、相关推荐