CHAPTER 6 · EP 42

信任与防御 · 心智模型与拟人化

第 6 章 · 第 42 讲 · 15:56

时长 15:56音色 云健 · 男声章节 6

同步字幕

章节导航(点击跳转)

0:00开场1:20
1:20用户不是不会用,是不敢用1:44
3:05三板斧:控制感、可逆性、透明1:29
4:35转人工悖论与假开关1:40
6:15用户拿错了说明书2:11
8:27三个纠正手段1:52
10:20拟人化是你只能拨的档位1:47
12:07道歉的三要素2:37
14:45收尾 · 可带走的判断清单1:11
解读全文

pm42-m6 解读与音频稿件 · 信任与防御 · 心智模型与拟人化

  • 模块:M6 产品手感
  • 课节:防御心理 / 心智模型 / 拟人化与道歉
  • 配套音频:pm42-m6-播客.mp3
  • 配套字幕:pm42-m6-播客.srt

一、本集解决什么问题

很多 AI 功能的低使用率,复盘时被归因成「用户教育不够」,于是再做一轮引导弹窗,结果还是没人用。

真正的原因常常是用户在防御——他看懂了你的功能,然后决定不碰。

教育解决「看不懂」,解决不了「不敢碰」。

本集覆盖三件不写在需求文档里、也不出现在埋点里、却决定用户会不会来第二次的事:

  1. 防御心理:数据、能力、责任三轴 + 控制感 / 可逆性 / 透明三板斧
  2. 心智模型:用户拿错的四本说明书 + 三个纠正手段
  3. 拟人化:只能拨不能退的档位 + 道歉三要素与服务补救悖论

它们的共同难点:用户不会告诉你他在防,只会说「不太好用」,然后再也不打开。


二、能力地图

层级能力具体表现验证方式
L1 诊断防御三轴排查低使用率时先查数据 / 能力 / 责任三轴能说出每轴的潜台词与出处
L2 化解防御三板斧控制感、可逆性、透明落成界面改动把防御指数压到 40 以下
L3 识别错配四本说明书从差评反推用户拿的是哪一本四段对话找茬全对
L4 纠正心智三手段空状态改教室、记忆外显、边界前置三处改造都能见效
L5 管理拟人拨档位按任务严肃度 / 出错代价选档五类产品对号入座
L6 危机沟通道歉三要素认错 + 解释 + 可验证补救装配器把消气度拉满

能力依赖关系:L1 诊断错了,L2 的三板斧就打偏(给数据防御用户上可逆性,等于白做);L5 与 L6 是配套的——档位定错了,道歉再标准也会被当成更重的背叛。

提示1 · 低使用率的第一假设是防御,第二假设才是教育

这是本集最省钱的一条结论。看到某个 AI 功能没人用,先问「用户看懂了之后为什么还是不碰」,而不是「怎么再教育一轮」。教育只在诊断确实是「看不懂」时才对症。


三、三种防御:用户看懂了,然后决定不碰

防御类型用户心里的潜台词出处高发场景
数据防御「这份合同传上去,会去哪?会被拿去训练吗?」隐私计算,Dinev & Hart (2006)合同、财报、客户名单等高价值场景
能力防御「用 AI 写方案被发现了,老板会不会觉得我没本事?」印象管理,Goffman (1959)内部工具(头号杀手)
责任防御「AI 写的报告数字错了,锅算谁的?」责任沟,Matthias (2004)有签字 / 问责环节的流程

数据防御的吊诡之处:AI 恰恰在高价值场景才最值钱,数据防御直接卡住了产品价值的兑现。训练开关其实存在,但用户不知道——不知道,就按最坏情况设防。

能力防御不会说出口:只表现为「试了一下,不太好用」。员工把「用 AI」解读成「承认自己可被替代」,把使用数据解读成绩效监控。

责任防御是理性行为:用 AI 省 2 小时,出错背整口锅,期望收益为负——不用是对的。解法是把人签字的环节留在流程里(HITL),谁确认、谁负责写清楚。

防御还有一个麻烦的性质:它不写在脸上。你在问卷里问为什么不用,得到的答案多半是「没时间」「用不上」,而真实原因躺在三轴里的某一根上。

四、三板斧:控制感、可逆性、透明

板斧原理实验 / 出处界面落地
控制感方向盘在自己手里,人就敢开快车Averill (1973);Glass & Singer (1972) 可控噪音实验AI 建议、用户拍板
可逆性不可逆才需要勇气,可逆只需要好奇心Shneiderman 界面设计黄金法则默认草稿态 + 可撤销
透明说清风险反而降低感知风险隐私计算模型,Dinev & Hart (2006)数据去向一句人话 + 可验证状态

可控噪音实验的启示

两组被试处在同样的噪音环境下,唯一差别是其中一组手边有个停止按钮。结果:有按钮的那组压力更小、任务表现更好,而那个按钮几乎没有人真的按下去。

这就是控制感的本质——用户要的不是「真的控制」,而是「随时能控制」的权利感。但请注意下一节的陷阱。

提示2 · 高风险动作一律草稿态 + 撤销

把尝试的门槛从勇气降到好奇心。课程里的教具让 AI 批量改 30 个文件名:先给草稿预览(还没动真实文件),应用后提示「30 秒内可撤销」。留意的不是结果,而是你自己点「应用」之前犹豫了多久。


五、转人工悖论与假开关

你是 AI 客服的产品负责人,人工坐席很贵,你怕用户都跑去找真人。「转人工」按钮放哪?

方案做法结果
A · 出口摆在明面开场就说「右上角随时可以转人工」转人工率更低,满意度更高
B · 出口藏进三级菜单更多 > 帮助与反馈 > 其他问题转人工率更高,满意度更低

为什么:用户知道随时能走人,反而愿意先跟机器人聊几句——这一步的试错成本变成了零。把出口藏起来,用户感觉自己被关在一个不知道有没有门的房间里,第一反应就是砸门。

假开关的陷阱

控制感必须给真的。假开关的原型是城市里大量不接线的过街按钮和电梯关门键——按下去什么都没发生,但人确实感觉好一点(控制错觉,Langer 1975)。

短期有效,一旦被识破,防御反弹得更高。

课程里三个高防御设计改造练习,每个都埋了一个看着像解药的安慰剂,其中一个还是货真价实的假开关——选了它,防御指数不降反升。

防御这件事骗不过去,只认真实的控制、真实的可撤销、真实的透明。

六、四本错误说明书

心智模型(Craik 1943 提出,Norman 在《设计心理学》中带入产品设计):用户带着一套「这东西应该怎么运作」的假设来用产品,假设错了,操作就错,然后差评打给产品。

AI 是人类历史上第一个「长得像老产品、内核两样」的东西,心智错配格外严重。

#错误说明书用户预期现实典型差评
①当搜索引擎用结果有出处、信息实时凭记忆回答、知识有截止日、没有链接「给我的链接点不开」「查个今天的新闻都不会」
②当数据库用问什么查什么,查不到会说没有概率补全,查不到会现编一个像样的答案「问我们公司 Q3 营收,它张口就报了个数」
③当会学习的学徒用说过一次就记住,越用越懂我参数冻结,新会话即失忆「跟它说过八百遍别用表格,转头就忘」
④当计算器用数字运算天经地义是对的按 Token 概率生成数字,长算式常错「37 个数求和都能错」

诊断优先于修复:看到差评先别急着改模型,先认出用户手里拿的是哪一本。

提示3 · 三个纠正手段

心智模型没法靠说明文档纠正,没人读。只能在使用路径上见缝插针地教。

① 把空状态改成教室

新会话的空白首屏是第一个现场——用户还没打出第一个字,说明书还没翻开。别写欢迎语,放三条示范正确问法的示例(叠加 Cialdini《影响力》的社会认同:别人都这么问,我也这么问)。

② 让用户亲眼看到「已记住」

A 版B 版
当下「好的。」「已记入偏好:避免表格」
三天后新会话照样甩出一张表格主动按偏好用分条陈述

差别不在模型记不记得住,在于记忆有没有做成能看、能删的界面实物。对应 Nielsen 十大可用性启发式第一条「系统状态可见」——看不见的状态,等于没有。

③ 边界声明抢在出错前面

同一个汇率问题、同一个知识截止日,两版回答的边界内容一字不差,差别只在什么时候说:

  • A 版(出错后解释):用户已经拿着错误数字去银行对过了
  • B 版(回答前声明):「这是实时数据问题,我的知识截止 2025 年 6 月,建议开启联网搜索」→ 给出带来源的实时结果

计算器说明书是同款药方:求和、统计、日期计算,路由给代码解释器执行,界面标注「已用代码计算」。错误率压下去的同时,用户也看明白了——AI 靠谱的方式是调工具。


七、拟人化:你只能拨的档位

Reeves & Nass《The Media Equation》(1996):人会不由自主地对电脑讲礼貌、被电脑夸了会开心,明知对面是机器也照样套用社交规则。

礼貌实验:被试在电脑 A 上完成任务后要给 A 打分。一组就在 A 上填问卷,另一组被带到电脑 B 上填同一份问卷。结果——在 A 上填的那组分数明显更高,因为当着人家的面不好意思说坏话。

底层判断:用户必然把 AI 当某种人,你只能选档位,没法退出。

四档与两条仪表

档位特征
第 0 档无人格工具
第 1 档礼貌助手
第 2 档有名字的伙伴
第 3 档情感陪伴

拖滑块时会看到两根仪表同步上涨:用户期望值 与 伦理风险值。

同一个错误在不同档位下杀伤力完全不同——无人格工具报错,用户皱一下眉;有名字的伙伴报错,用户觉得被辜负。

拨档规律

  1. 任务越严肃、出错代价越高,档位越低
  2. 高频工具场景往低了拨
  3. 陪伴价值本身就是卖点时才敢开高档

账单:档位每高一格,期望和伦理风险跟着涨,同样的错误会被当成更重的背叛。

提示4 · 拟人化是双刃剑

涨期望的同时也在积累背叛感。过度拟人还会触发恐怖谷(森政弘 Mori, 1970)——好感在某个点突然掉头向下。拟人度不是越高越好,是要跟任务的严肃度匹配。


八、道歉的三要素

场景:报销助手把差旅报销总额多算了 800 元,被财务打回,用户回来质问。

风格文案点评
甩锅型「这可能与您提供的发票图片清晰度有关,建议重新上传」第一句就把责任推给用户。就算图片真模糊,正确做法也是识别时就提示置信度低
抒情型「真的非常非常抱歉!都怪我太粗心了…您能原谅我吗?」情绪拉满,信息为零。用户要的是修正错误,收到的是一场表演(恐怖谷发作)
机械型「非常抱歉给您带来不便,我们高度重视…持续优化」三句话没有一个字回应「哪错了、为什么错、现在怎么办」
三要素型「这笔算错了:10 月 14 日的住宿发票 1,600 元被重复计入,导致总额多了 800 元。已生成修正后的报销单(总额 6,420 元),并重新核对了其余 11 张发票,无其他问题。点击查看修正明细。」承认具体错误、说明原因、给出可验证的补救

三要素 = 认具体的错(哪张票、错多少、责任在谁)+ 一句话说清原因 + 可验证的补救动作。

注意最后那句「重新核对了其余 11 张发票」:一次错误会让用户怀疑既往输出,主动复查再报告,把怀疑圈住了。

课程里三要素做成了三个开关——缺任何一个,消气度都上不去;缺两个基本等于没道歉。

服务补救悖论

McCollough & Bharadwaj (1992):经历过「出错、然后被漂亮解决」的客户,忠诚度常常超过从没遇到问题的客户——因为他亲眼验证过这个系统兜得住底。

对天生会犯错的 AI 产品,这几乎是量身定制的好消息。但有个硬前提:

同一个坑只能掉一次。

补救本身再出错,或者同一处错误第二次出现,悖论当场失效,用户直接流失。三要素道歉里那句主动复查,就是在给「只掉一次」上保险。


九、审查清单

  • 低使用率的功能,是否已排查数据 / 能力 / 责任三轴?
  • 高风险动作是否都是草稿态 + 可撤销?
  • 数据去向是否用一句人话说清?是否有可验证状态(如「已删除」)?
  • 出口(转人工、退出、取消)是否在明面上?有没有假开关?
  • 新会话空状态是否放了示范问法,而不是欢迎语?
  • 用户偏好是否外显为能看、能删的界面实物?
  • 时效 / 算数类短板是否前置声明,并给工具开关当出路?
  • 拟人档位是否与任务严肃度匹配?有没有无谓地抬高期望?
  • 道歉文案是否齐了三要素?有没有抒情或甩锅?
  • 同一个坑的第二次出现,是否有机制拦截?

十、约束说明

约束一:三板斧不能互换。 给数据防御用户上可逆性,等于白做。必须先诊断对轴,再选板斧。

约束二:控制感有上限。 过度给控制(满屏开关、每步确认)会把工具变成负担。控制感要给在高风险动作上,不是所有动作上。

约束三:可逆性受技术限制。 已发送的消息、已提交的对公付款、已推送给第三方的操作,物理上不可逆。此时只能靠草稿态前置,不能承诺撤销。

约束四:透明不等于全盘托出。 说清数据去向是透明,把模型架构、供应商名单、内部阈值全抖出来不是。透明的目标是降低不确定性成本,不是信息披露竞赛。

约束五:心智模型纠正见效慢。 空状态示例、记忆外显都是长期功夫,不会在下一版本的数据里看到跳变。短期指标上看不出效果,不等于没用。

约束六:服务补救悖论的前提很硬。 它只在同一处错误不重复出现时成立。在产品还没建立「只掉一次」的机制之前,不要指望靠道歉拉忠诚。

约束七:拟人档位会随场景漂移。 同一个产品在客服场景用低档、在陪伴场景用高档是合理的,但要避免同一会话内档位跳变——那会让用户觉得人格分裂。

提示5 · 把错误当补救机会经营

修得漂亮比不出错更涨忠诚,同时给「同一个坑只掉一次」上好保险。每一次被用户抓住的错误,都是一次免费的信任表演机会——前提是你能接住。


十一、可带走的判断清单

  1. 低使用率先查防御,再谈教育。 数据、能力、责任三轴各排查一遍,问一句用户看懂了之后为什么还是不碰。
  2. 高风险动作一律草稿态加撤销,把门槛从勇气降到好奇心。数据去向用一句人话说清,再配一个可验证的状态。出口放在明面上,假开关一个都别上。
  3. 差评先查心智。 先认出用户手里那本错误说明书,再谈修复。空状态别写欢迎语,放三条示范问法;记忆要外显,做成能看能删的实物;边界声明抢在出错前面,并给工具开关当出路。
  4. 拟人度当档位管,道歉照三要素装配。 认具体的错、说简短的因、给可验证的补救,抒情一个字都省下。

这三件事都不写在需求文档里,但用户每一次打开和关闭,都是在为它们投票。


来源:xueai.miyang.cn(小山学堂 · 洛小山)

本页内容改编自小山学堂《学 AI 产品,从入门到精通》,为二次演绎配音版。理论出处:CASA 范式与礼貌实验见 Reeves & Nass《The Media Equation》(1996);心智模型见 Craik (1943) 与 Norman《设计心理学》;服务补救悖论见 McCollough & Bharadwaj (1992);恐怖谷假说见 Mori (1970)。