第 3 章 · 第 15 讲 · 16:18
本集分两段：
为什么产品经理要关心：这两件事最终都落到责任上——工具采购是否合规、用 AI 处理工作内容会不会泄密、哪些活可以直出哪些必须复核。判断错了，代价不是效率，是事故。
| 域 | 本集能力 | 可落地动作 |
|---|---|---|
| 采购 | 识别低价账号的三个风险 | 走官方免费额度 / 合规订阅 |
| 隐私 | 知道默认在收集、开关在哪 | 关开关 + 三条红线 |
| 信任 | 两问两维 → 四象限 | 团队规范：直出 / 附出处 / 人工复核 |
| 原理 | 训练 ≠ 推理；参数冻结 | 理解成本随上下文线性上涨 |
| 机制 | Token 推 Token | 理解「补得像 ≠ 想明白」 |
| 工程 | 对话 = 补全 | 理解提示词拼接与词元成本 |
广告常见：「会员拼车，9.9 一个月」——比官方价便宜十几倍。
本质：一个正式账号被拆给几十个人合用（共享登录或技术转发）。像合租一间单人间：房租平摊了，但你的东西别人可能看得到，而且一人违规、全屋清退。
某正式账号月费 20 美元，被拆售给 30 人：
| 问题 | 说明 |
|---|---|
| 聊天记录不只属于你 | 你问过的健康问题、贴过的工作文件，都在陌生人眼前；反过来你也会看到别人的 |
| 封号是「连坐」的 | 官方明令禁止账号共享与转售，风控专门识别「多地同时登录」。任何一人违规，全体失效 |
| 钥匙在别人手里 | 号主随时可改密码、看数据、关服务；今天 9.9 明天 19.9，或直接消失 |
官方明确禁止账号共享和转售，这类交易天然没有售后。你买的是一个随时可能失效的入口，不是一个服务。批量注册、盗刷信用卡开通的账号本身也是重点清理对象。
更好的选择：国产官方应用免费额度就很能打，旗舰能力在第一梯队；真需要海外模型，走正规产品的合规打包订阅。把 9.9 的预算加一点，就能买到不用提心吊胆的版本。
一句话回答：可能会，取决于产品和你的设置。 不少产品默认用你的对话改进模型，但正规产品都给了关闭开关；免费版更倾向收集，企业版通常承诺不碰你的数据。
| 档位 | 默认用于训练？ | 能不能关 | 数据保留承诺 |
|---|---|---|---|
| 免费版 | 多数默认开启 | 通常可关，要自己找开关 | 承诺较弱，保留期说法不一 |
| 付费版 | 部分开启、部分关闭 | 通常可关，开关更好找 | 多数写进条款，保留期更明确 |
| 企业版 | 通常承诺完全不用 | 默认就是关的 | 有合同约束，出问题可追责 |
同一家公司，两个入口，两套政策：免费网页版与 App 条款写明可能把输入用于改进模型；而面向开发者的接口默认承诺不拿去训练。同一个模型，你从哪个门进去，待遇完全不同。
关键补充：条款承诺「不直接进训练池」≠「数据在系统里不存在」。请求要经过缓存、日志、风控审计，各有保留期。真正敏感的东西，靠的不是条款，是你压根没发出去。
打开设置，找这几类字眼：「数据控制」「隐私」「改进模型」「模型训练」。网页版与 App 都有。实在找不到，在设置页搜索框搜「数据」两个字。
关掉开关管的是「以后」。 已经练进模型的内容，删除对话也拿不回来——就像话说出口收不回。
免费的代价之一：你不只是用户，你也是原料。
在公司用 AI 多记一条：处理工作内容用公司审批过的企业版账号。企业版贵就贵在合同里白纸黑字写着「你的数据只归你」。
遇到一件具体的事，先问自己两个问题：
① 这件事有「标准答案」吗？
② 答错了，后果多大？
| 象限 | 条件 | 例子 | 处理方式 |
|---|---|---|---|
| ✅ 放心用 | 无标准答案 + 你能把关 | 起名、润色、翻译大意、头脑风暴、列清单、写初稿 | 产出只是「候选」，你是裁判 |
| 💡 放心问，动手前核实 | 帮助理解的知识 | 解释概念、看懂报告、科普原理 | 用它「搞懂」最高效，拿去做决定前核对出处 |
| ⚠️ 要核实 | 有标准答案的具体事实 | 数字、日期、人名、条文、时效信息 | 顺手搜一下，只要十几秒 |
| 🚨 只当参考 | 健康 · 金钱 · 法律 | 听懂医生的话、看懂合同条款 | 吃什么药、签不签字、投不投钱——听专业人士的 |
这不是死规矩，是一套排序。 同样一件活落在不同格子，核实成本完全不同。把核实时间花在第三、第四格，第一、第二格就放心交出去。
对产品经理的落地：这张表可以直接变成团队规范——哪些产出可直出、哪些必须附出处、哪些必须人工复核。写进流程，比反复口头提醒有用得多。
很多人以为 AI 每次回答都在学习。实际上完全不是这么回事。
| 训练（Training） | 推理（Inference） | |
|---|---|---|
| 类比 | 多年备考，反复刷题，记住知识 | 上考场作答，参数冻结，不再学习 |
| 执行频率 | 一次性 | 每次对话 |
| 算力需求 | 千～万块专用芯片 | 1～数块 |
| 参数状态 | 持续更新 | 完全冻结 |
| 成本 / 计费 | 数亿美元 | 按词元计费 |
| 时长 | 数周～数月 | 1～10 秒/次 |
结论：今天告诉它「你叫什么」，明天重开对话它不记得——对话只存在于上下文，不改变任何权重。对话不是学习。
对话里的所有内容都存在于上下文窗口中，它是临时的。窗口一关，什么都不剩。
成本含义：推理按词元计费，账单随上下文长度线性上涨。你多贴一份长文档，成本就多一份，而且每一轮都要重新算一遍。
训练结束后得到的原始模型只做一件事：
前文 Token → 概率分布 → 采样 → 新 Token → 追加到序列末尾 → 循环
它不会：理解问题 · 思考答案 · 查阅知识
它只会：看概率，吐词元。
给它「紫霞捧着月光宝盒，轻声问：哥哥」→ 它会接着推出概率最高的下一个词，但它并不知道自己在写什么。
没有意图、没有记忆、没有常识判断，只有概率，只有词元。但这个简单的循环，是一切大模型能力的底层引擎。
想让模型学会说话，先要喂给它数以万亿计的词元——它读了人类写过的绝大多数内容。训练数据的质量和多样性，决定了模型世界观的上限；数据量小的模型在事实性问题上更容易出现幻觉，这不是调参能补的。
| 之前（任务专用模型） | 预训练路线 | |
|---|---|---|
| 顺序 | 先确定任务，再训练模型 | 先用海量语料预训练，再适配任务 |
| 换任务 | 从零训练，换任务换模型 | 预训练一次，能力迁移到任意任务 |
预测下一个词这个目标看似极简单，但用互联网上几乎所有的文字去做，模型就被迫学会了语法、常识、事实、逻辑、风格——这一切都只是预测下一个词的副产品。这就是基础模型的核心思路。
明明是在和大模型对话，为什么有的公司接口路径里写的是「补全」，另一家写的是「消息」？
补全这个命名背后，藏着对大模型本质的理解：大模型的本质是补全——给它一段文字，它接着往下写。聊天不过是把对话格式化成「待补全的文本」，本质还是在做词元补全。
[system] 你是一个有帮助的助手。
[user] 紫霞仙子是谁？
[assistant]
模型做的事：从 [assistant] 标记之后，预测下一个概率最高的词元，一直生成到终止符。
chat 是假象：你以为在「对话」，模型只是在「把这段文本补全完整」。这就是 completions 的真相。
既然它只会往后补全，那就构造一个格式——「这是一段没写完的聊天记录，你来续写助理的部分」：
补得有模有样——但它是「推」出来的吗？
第二轮里，上一句只说了「至尊宝最深爱的人是紫霞仙子」，压根没说紫霞爱谁。严格按字面推，「她爱的人是谁」这一问答不出来。
模型敢这么补，是因为它在训练语料里见过这个故事无数遍。这不是推理，是把最常一起出现的话接下去。补得像和想明白了是两回事——顺着这条缝往下走，就是幻觉。
发送前问一句：这份东西明天登在报纸上，你慌吗？ 慌就删敏感部分再发。这比背诵任何数据分级规则都好用。
去设置里找「数据控制」「隐私」「改进模型」，把开关关掉。但记住：关掉只管以后——真正的防线是没发出去。
哪些产出可直出、哪些必须附出处、哪些必须人工复核，写进流程文档。规范化的核实成本，远低于事后返工。
既然每条消息都要重新拼进上下文并按词元计费，长文档就不要每轮重复粘贴。能摘要就摘要，能复用就复用——这既是省钱，也是给上下文腾位置。
当模型的回答特别顺、特别像那么回事时，恰恰是最该核实的时候。它敢这么补，往往只是因为语料里这句话很常见。
Q：企业版一定安全吗？
企业版的价值在合同：白纸黑字写着数据归属与责任。但「不用于训练」不等于系统里没有副本，仍然要遵守三条红线。
Q：关掉开关，之前发的能撤回吗？
不能。已经进入流程的数据无法通过删除对话撤回，这也是「从一开始就别发」最重要的原因。
Q：为什么同一个模型，网页版和接口政策不同？
因为面向的对象不同：消费级入口条款宽松、更可能收集；开发者接口通常承诺不用于训练。你从哪个门进去，待遇完全不同。
Q：它每次回答都在学习我的偏好吗？
不是。推理时参数完全冻结。你感受到的「越来越懂你」，来自产品外挂的记忆，不是模型在学习。
Q：既然只是补全，为什么它能回答得那么像回事？
因为预训练规模极大——语法、常识、事实、逻辑、风格都是「预测下一个词」的副产品。但补得像不等于想明白了，这正是幻觉的来源。
技术会一直变，但判断方式不会变：先问代价，再问边界，最后问自己能不能把关。
来源：xueai.miyang.cn（小山学堂 · 洛小山《学 AI 产品，从入门到精通》）
本页文字与音频为基于小山学堂原课程的二次演绎版本，仅供学习交流使用。