深刻理解AI 第25讲——AI产品设计的特殊性：为不确定性而设计

访问DeepWrite

排版设置

在这里统一调整字体、字号、目录停靠位置和正文显示方式，不挤占右上角工具条。

字体

字号

目录层级

目录停靠位置

决定目录固定在左侧还是右侧，方便按手势习惯或演示场景调整。

正文显示方式

决定正文是否保留独立阅读卡片背景；关闭后正文会更贴近整页背景。

中文长文先试中文经典；英文长文先试 English Essay。目录默认显示到 H2，可按需要扩到 H4；目录位置和正文显示方式也可以在这里统一调整。

朗读菜单

直接在 HTML 页面内朗读，下载文件和独立分享页都可使用。这里只保留最少功能。

当前状态：未开始

语音

语速 0.82x

高亮级别

浏览器支持时会记住上次朗读位置。

全屏专注式阅读说明

这页优先保留鼠标与触摸操作，让阅读、选词、点击链接和查看目录互不打扰。

单击正文空白区：同时显示或隐藏主题区和目录。
开始滚动正文：自动进入专注态，减少阅读时的视觉干扰。
双击正文空白区：进入或退出全屏专注式阅读状态。
全屏专注时，按 Esc 或点击“退出全屏专注”：退出全屏。

第25讲 AI产品设计的特殊性：为不确定性而设计

一、场景钩子：为什么"套壳"产品留不住人

上一讲我们造了一把量"AI 好不好"的尺子。但尺子量的是模型输出的质量，而用户体验到的，是整个产品——同一个模型，包在两个不同的产品里，一个让人爱不释手，一个让人卸载拉黑。差别不在模型，在产品设计。

我见过无数"套壳"产品：拿一个通用大模型，套一个聊天框，就上线了。它们几乎都活不长。原因不是模型不好，而是它们把 AI 当成了传统软件来设计——默认输出是确定的、正确的、即时的。可大模型的三个天生"脾气"恰恰相反：它的输出是概率性的（可能出错、每次还不一样）、是有延迟的（长文本要一个字一个字挤，回想第23讲）、是有成本的（每次调用都在烧钱）。用设计确定性软件的思路去设计一个概率性系统，结果就是处处别扭：用户被一本正经的错误坑过一次就再不信任，被七八秒的空白等待磨光耐心，被莫名其妙的行为搞得不知所措。

这就是本讲的核心问题：当你的产品核心是一个"不确定、慢、贵"的模型，产品设计的底层逻辑要发生什么改变？ 传统 UX 追求的是"确定、即时、可控"，而 AI 产品必须学会一件反直觉的事——为不确定性而设计（design for uncertainty）：不是假装模型不会错，而是把"它会错"当成设计的第一前提。

本讲处理三个重点：第一，模型的三个天生属性（概率性、延迟、成本）分别怎样倒逼交互设计；第二，"为出错而设计"和"人机协作分工"这两条核心原则的原理；第三，落到真实项目——一套可操作的 AI 产品设计决策。

二、原理讲透：把模型的三个"脾气"翻译成设计约束

好的 AI 产品设计，起点是彻底接受模型的三个结构性属性，并把每一个都翻译成具体的设计动作。这三个属性不是缺陷，是这类技术的本质，你绕不开，只能设计。

第一个属性：概率性——它一定会错，问题是错了怎么办。 大模型的输出本质是采样（第11讲），这意味着它没有"永远正确"这一档，只有"大概率对"。而且它出错并非随机——它最容易错在第3讲讲的泛化边界上：那些偏离训练分布的长尾请求、罕见组合、刁钻边界。产品设计救不了泛化本身，但可以救泛化失败时的处境——你无法让模型对所有没见过的输入都正确，却可以让它在没把握时诚实示弱、把控制权交还给人。传统软件里 bug 是异常、是要消灭的；AI 产品里"出错"是常态、是要接住的。这个转变是整个 AI 产品设计的原点。 一旦你承认"它一定会错",设计的问题就从"怎么让它不错"（做不到）变成"错了之后,用户能不能低成本地发现、纠正、并继续"。这就是"为出错而设计"：给用户留出校验的抓手（显示依据、给出引用、标注置信度）、纠错的入口（一键重生成、可编辑输出、反馈按钮）、以及止损的边界（高风险操作前必须人工确认）。

第二个属性：延迟——它天生慢，你要管理的是"感知"。 上一讲说过，decode 是串行的，长回答就是慢，这一点技术上砍不动。于是战场从"真实延迟"转移到"感知延迟"。人对等待的痛苦，不只取决于等多久，更取决于"等的时候知不知道发生了什么"。 一个空白转圈等 8 秒，和一个字在往外流式蹦、旁边写着"正在检索资料"等 8 秒，主观体验天差地别。流式输出、进度反馈、乐观更新（先把用户能确定的部分显示出来）、预取缓存高频请求——都是在"真实延迟砍不动"的前提下，重新分配用户的注意力和耐心。

第三个属性：成本——每次调用都花钱，设计要为钱负责。 传统软件里一次点击的边际成本几乎是零，AI 产品里一次调用是实打实的支出（第23讲）。这逼着产品设计参与成本决策：哪些请求值得动用最贵的大模型、哪些用小模型甚至规则就够、哪些结果可以缓存复用、哪些交互该引导用户"一次问清"而非反复试探。 成本不再只是工程后台的账，它会正面塑造前台的交互形态——比如把开放的自由对话，收敛成有引导的结构化输入，既降不确定性又降成本。

三个属性之上，还有一条贯穿全篇的主线——信任的校准。AI 产品的终极体验目标，不是让用户觉得"它无所不能"（那会在第一次出错时崩塌），也不是让用户觉得"它不可信"（那它就没价值），而是让用户建立恰如其分的信任：知道它在什么场景可靠、什么场景要留个心眼。这本质是一个对齐问题（第15讲）在产品层的延伸——不只是让模型对齐人的意图，还要让用户对模型能力的心理预期，对齐模型的真实能力边界。 一个把置信度、依据、局限诚实呈现给用户的产品，是在帮用户校准信任；一个把模型包装得无所不知的产品，是在透支信任。

原理落点因此清晰：AI 产品设计的特殊性，根子在于它的核心是一个概率性、有延迟、有成本的系统。好的设计不与这三个属性对抗，而是把每一个都翻译成设计动作——为出错留抓手、为延迟管感知、为成本做取舍——并始终围绕一个目标：帮用户建立与模型真实能力相匹配的、恰如其分的信任。

三、来龙去脉：从"AI 是功能"到"AI 是协作者"

AI 产品设计范式的演化，是一条"人和机器的关系被重新定义"的线。

最早，AI 被当成藏在后台的功能：推荐算法、垃圾邮件过滤、人脸解锁。用户根本感觉不到 AI 的存在，也不需要和它"交互"——它对了用户享受，它错了用户抱怨"这软件真笨"，但界面上没有专门为"AI 会错"设计的任何东西，因为它错得还不够显眼、不够致命。

转折来自生成式 AI 把模型推到了前台。 当模型不再是后台的一个判断，而是直接生成用户要读、要用、要基于它做决策的内容时，"它会错"这件事突然变得无法回避——一个推荐错了商品无所谓，一个 AI 一本正经地编造了法律条款、医疗建议、退款政策，是要出事的。传统 UX 那套"假设系统正确、追求无缝流畅"的方法论，在这里第一次系统性失灵：无缝流畅反而危险，因为它让用户放松警惕、全盘信任一个会骗人的系统。

于是设计范式发生了根本转向：从"隐藏 AI、假装完美"，转向"暴露 AI、坦承局限"。显示引用来源、标注"AI 生成，请核实"、给出置信度、把关键决策权留给人——这些在传统 UX 里被视为"打断流畅"的设计，在 AI 产品里成了美德。这条戏剧线的内核是：人和 AI 的关系，从"工具与使用者"变成了"协作者与协作者"——而协作的前提，是双方都清楚对方能做什么、不能做什么。一个健康的 AI 产品，是在设计一场诚实的协作，而不是一次完美的表演。

四、破除误解：三个关于 AI 产品设计的常见错觉

误解一："模型够强，产品设计就不重要了。" 这是"套壳"思维的根源。它假设价值全在模型，产品只是个壳。但现实是：模型越来越同质化（大家能用的通用模型能力差不多），产品设计反而成了差异化的主战场。 同一个模型，一个产品用"显示依据 + 一键纠错 + 结构化引导"把它的能力稳稳接住，另一个用裸聊天框把它的缺陷全暴露给用户——用户留存天差地别。模型决定能力上限，产品设计决定这份能力有多少能真正到达用户手里。

误解二："AI 产品就是加个聊天框。" 聊天框是最自由的交互，但自由是把双刃剑——它把"想清楚要问什么"的全部认知负担甩给了用户，也把不确定性和成本拉到最大（用户可以问任何东西，模型可以答任何东西，包括错的和贵的）。很多场景下，更好的设计恰恰是收敛自由度：用表单、按钮、预设选项把用户意图约束到模型擅长的范围内，既降低了出错率和成本，又降低了用户的使用门槛。从原理看，这其实是在帮用户把模糊意图"投影"到模型表示空间里那些被训练得最扎实的区域（回扣第1讲、第17讲）——约束越好，落点越准，模型越不容易跑偏。 聊天框是默认选项，但很少是最优选项。

误解三："把准确率做到 95% 就没问题了。" 这是只盯着模型指标、忽略体验设计的典型。5% 的错误率听起来很小，但如果这 5% 的错误是静默的、不可发现的、且后果严重的（比如悄悄改错了一个数字），那这个产品就是灾难；反过来，即使错误率高一些，但每个错误都可发现、可纠正、后果可控，产品依然可用甚至好用。决定 AI 产品成败的，往往不是错误率的绝对值，而是"错误发生时用户的处境"。 这正是"为出错而设计"的要义——你控制不了错误率归零，但你能控制错误的代价。

五、实践影响：一套"为不确定性而设计"的决策清单

这是本讲重头戏。把上面的原理落成可操作的产品决策，我在真实项目里用下面这套清单。

决策一：先按"出错代价"给功能分级，代价越高、人的控制权越大。 不是所有 AI 功能都该用同一种交互。我会先问：这个功能错了，代价有多大？

低代价、可逆（如生成一段文案草稿）：让 AI 大胆自动做，用户事后编辑即可，追求流畅。
中代价（如自动分类、批量处理）：AI 做、但给出依据和批量复核入口，让用户能抽查、能回滚。
高代价、不可逆（如发送邮件、转账、删除数据、对外承诺）：AI 只能建议，最终执行必须人工确认。这条是红线，回扣第19讲工具调用的权限最小化。

分级的意义：把有限的"人工把关"成本，精准花在出错代价最高的地方。

决策二：为每个 AI 输出配齐"信任三件套"——依据、纠错、边界。

依据：能给引用就给引用（回扣第18讲 RAG）、能显示推理过程就显示、能标注"这部分是 AI 推测"就标注。让用户有据可查，是校准信任的基础。
纠错：一键重新生成、输出可直接编辑、明确的反馈按钮。让用户纠错的成本越低，他对偶尔的错误就越宽容。
边界：诚实告知"我不擅长 X""这个数据可能不是最新的"。主动暴露局限不会让产品显得弱，反而让用户的信任落在正确的地方。

决策三：把延迟当体验来设计，而非只当性能来优化。 工程上榨干了延迟之后（第23讲），产品侧还有大量空间：默认用流式输出、等待时给具体的状态文案（"正在检索 3 篇文档"而非干巴巴的转圈）、把能秒回的部分先回（乐观更新）、对高频问题预生成缓存。我的经验是，感知延迟的优化，投入产出比常常高于再去榨那几百毫秒真实延迟。

决策四：用交互形态主动管理不确定性与成本。 不要默认上自由聊天框。先看能不能用更收敛的形态：结构化表单（把意图约束进模型擅长区）、预设的快捷指令（降低用户表达成本、也让结果更可控）、渐进式引导（一步步问清需求再调用模型，减少反复试错的调用）。收敛自由度，往往同时降低了出错率、成本和用户门槛——这是三赢，回扣第22讲的选型思路：能用轻方案接住的，别上重的。

决策五：为"信任校准"设计，而不是为"惊艳"设计。 很多团队痴迷于让 demo 惊艳，把模型包装得无所不能。但产品是要长期用的，透支的信任会在第一次严重出错时连本带利地崩盘。我更倾向于从第一天就诚实：不夸大能力、如实呈现置信度和局限、在模型没把握时让它说"我不确定"而不是硬编。一个让用户"知道什么时候能信、什么时候该核实"的产品，比一个让用户"以为永远能信"的产品，走得远得多。 这本质是把模型的对齐延伸到了用户心智的对齐。

实践落点：AI 产品设计的落地，从"按出错代价给功能分级、代价越高人的控制权越大"开始；为每个输出配齐"依据/纠错/边界"信任三件套；把延迟当体验设计（流式、状态文案、乐观更新、缓存）而非只当性能优化；用结构化表单/快捷指令/渐进引导等收敛形态同时压低不确定性与成本；始终为"恰如其分的信任"而非"惊艳"而设计。

六、承前启后：一句话记住

本讲把工程线从"模型侧"拉到了"人侧"：再好的模型、再优的推理、再准的评估，最终都要经过产品设计这道翻译，才能变成用户真正能用、敢信的体验。 而这道翻译的核心心法，是承认并拥抱模型的不确定性——为出错而设计，为信任而设计。

这里还埋着一条更深的线：一个"为出错而设计"的产品，处处都是纠错入口、反馈按钮、编辑动作——而这些用户的每一次纠正、每一次选择，都是极其宝贵的信号。如果把这些信号系统地收集、回流到模型和评估里，产品就会越用越懂用户，形成一个后来者极难追赶的循环。下一讲（第26讲）我们就来谈这个循环——数据飞轮与护城河：AI 时代真正的壁垒到底在哪。

记住这一句：AI 产品设计的第一原则不是让模型显得完美，而是承认它会错——然后把"错了怎么办"设计得足够优雅，让用户的信任恰如其分。