第 4 章/试用期
为什么难的他会，简单的反而错？
季度末，你请小满写部门季度总结。三分钟，一篇条理清楚、口气得体的总结摆在你面前，比你自己写得还顺。
你顺手把 25 个人的应发工资贴给他：“帮我加一下，合计多少？”他立刻回了一个数：252825。
你不放心，又问了一遍：248124。第三次：247124。你拿计算器一按，是 249114。三次，没有一次对。
难的活他做得漂亮，简单的活他做错了。这不是他马虎，而是我们对“难”和“简单”的判断，跟他正好反着。
他擅长的，和我们以为的不一样
第 1 章说过，他写东西的方式是一个词一个词往下接。所以：
- 语言活他做得好：写、改、缩、扩、翻译、归类、出点子。这些活没有唯一正确答案，“接得顺”就是做得好。
- 精确活他做不好：算数、引用原文、报编号、记日期。这些活只有一个对的答案，“接得顺”不等于“接得对”。
- 你们家的事他做不了：你的年假、单位的制度、某个人该不该晋升。他没见过，也没资格定。
最要小心的，是那些看着像语言活、其实是精确活的：总结里的数字、通知里的文号、汇报里的同比。他做得飞快，口气笃定，你很容易连同前面写得好的部分一起信了。
猜一猜：这件事他做得好吗
你想让他
“把一段口语化的会议发言，改成一份正式通知。”
放心交给他
他做不了
看着会，其实危险
一张对照表
| 放心交给他 | 他做不了 | 看着会，其实危险 |
|---|---|---|
| 改写、缩写、扩写 | 你们单位的制度、数据 | 算数，哪怕只是加法 |
| 翻译 | 你个人的情况 | 法规条文、文件编号 |
| 归类、提炼、列提纲 | 对具体某个人的评价和决定 | 总结和报告里的数字 |
| 出点子、起名字 | 要有人担责的决定 | “今年”“最新”的任何东西 |
| 换个口气、换个对象写 | 他没见过的新事 | 他引用的“原话” |
第三列不是不能用他，而是用了之后，这一部分一定要回到原文或计算器上核对。第 3 章 3.7 讲了怎么核，5.3 讲了算数该怎么交给他。
幻觉从哪来
预训练只教会他一件事：接得像。遇到没见过的事，那张“下一个词”的概率表照样有排第一的候选，听起来照样通顺。所以他编出来的文号、日期、人名，读起来和真的一样。
对齐：学会像助手一样说话
预训练完的模型只会接龙，不太会好好回答问题。接下来要做对齐，最常听到的方法是 RLHF（基于人类反馈的强化学习）：让人给模型的回答打分，再训练它多给出高分的那种。
副作用：不爱说“不知道”
人打分时，往往更喜欢完整、自信、有帮助的回答。模型就学到了：答上来比说“不知道”得分高。OpenAI 2025 年的一篇论文专门分析过这一点：常见的评测方式奖励“猜一个”，不奖励“承认不确定”，模型自然越来越敢猜。研究里还有个词叫“谄媚”（sycophancy），说的就是模型顺着提问人的意思说。
所以核对要有重点
结构和语气是他最拿手的，最不用担心；具体的数字、文号、人名、日期是他最可能“猜一个”的地方。上面对照表的第三列就是这么来的。
对应到小满： 刚入职，怕被觉得不行，问什么都先答上再说。
现在试试· 用 DeepSeek，五分钟
- 找一份你最近让 AI 写的东西。
- 用上面三列，把里面的内容分一分：哪些属于第三列？
- 只核对第三列那几处。看看有没有错。