最近跟几个做AI的朋友聊天，发现一个特别有意思的现象：大家对大模型的迷信，比我对小龙虾配啤酒的执念还深。

「GPT-5什么时候出？」

「Claude 4什么时候超越GPT？」

「听说下一个模型有100万亿参数！」

仿佛只要模型足够大，AGI就会自己从天上掉下来砸到你脸上。

作为一个被大模型坑过的人，我必须出来说一句：醒醒，兄弟，你可能正在被「越大越好」的叙事PUA。

我的三次惨痛教训

第一次踩坑，是帮朋友调一个客服机器人。他非要上GPT-4，说「参数大，体验好，舍得下本」。结果呢？一个字：慢。两个字：烧钱。三个字：没必要。

我问朋友：你这个客服场景，无非就是查个订单、问个售后、退个货，需要GPT-4来跟你扯淡吗？

后来换了个7B的小模型，响应速度快了三倍，成本降了二十倍，用户满意度还提高了——因为它回答得更精准，不像大模型那样动不动给你整一段「从多个角度来看」的正确废话。

第二次，是我自己做内容生成测试。让Claude 3.5帮我写一篇技术文章，结果它写出来的内容专业是专业，但总感觉——对，就是那种「教科书式」的无聊。我不得不在它的基础上大改特改，改到我怀疑人生。

后来换了个小一号的模型，同样的Prompt，产出的内容反而更接地气、更有人味。为什么？因为小模型「没那么多包袱」，它不会为了显得自己很厉害而过度发挥。

第三次，是我一个创业朋友的产品。他做个法律文档摘要工具，非要上最新最强的大模型，说「这个领域容不得半点错误」。结果呢？法律术语一复杂，大模型照样给你瞎编一个根本不存在的法条。

后来换成专注法律领域的小模型，配合RAG（检索增强生成）做知识库，效果反而更稳定。道理很简单：小模型在一个窄领域里fine-tune过，比通用大模型的「泛化能力」更靠谱。

大模型的「四宗罪」

说这些不是要彻底否定大模型。大模型在很多场景下确实牛X。但你得知道它的局限：

第一宗罪：贵。 API调用成本摆在那儿，每1000个token都在薅你的钱包。对于简单重复的任务，这钱花得冤。

第二宗罪：慢。 响应延迟直接影响用户体验。你让用户等个三五秒就为了查个天气？用户早跑了。

第三宗罪：太「正确」了。 大模型有 RLHF（人类反馈强化学习）约束着，导致它回答问题时总是「政治正确」——给不了你真正的观点，只会给你一团和气的废话。

第四宗罪：过度发挥。 你让它写个请假条，它给你整出一篇文学散文。你让它查个日期，它给你编一个「根据公开资料显示」的幻觉答案。小模型反而更听话，让干嘛就干嘛，不整花活。

所以问题来了：什么时候该用大模型，什么时候该用小模型？

我的经验是四个字：量体裁衣。

适合大模型的场景：

• 需要多模态理解（图片+文字+语音一起上）
• 需要跨领域的综合推理
• 任务边界模糊，需要模型自己「理解」复杂意图
• 对输出创意性要求高，比如写小说、做创意文案

适合小模型的场景：

• 任务边界清晰，比如客服问答、文本分类、格式转换
• 需要快速响应（实时对话、数据录入）
• 对成本敏感，需要控制token消耗
• 有专属领域，需要领域知识的精准输出

最理想的是大小模型配合使用：大模型负责理解用户意图、做复杂推理，小模型负责执行具体任务。类比一下，就像一个公司里，CEO做决策、中层执行，各司其职，效率最高。

prompt心法：怎么让小模型发挥出大价值？

很多人觉得prompt是给大模型用的，其实小模型更需要「调教」。几个心得：

1. 明确边界，别让它猜。

大模型可以从模糊指令中猜出你的意图，小模型不行。你要明确告诉它：这是什么任务？输入是什么？输出是什么格式？有没有边界条件？

2. Few-shot示例比描述更有效。

与其说「你要写得专业」，不如给它两个「专业」和「不专业」的示例让它学习。小模型的泛化能力弱，但模仿能力不差。

3. 拆分任务，别让它一次做太多。

小模型的优势是专注。你让它一次做五件事，它容易乱套。但你把任务拆成五步，它反而能一步一步稳稳地完成。

4. 配合工具，别让它单打独斗。

RAG、知识库、API调用……这些都是小模型的外挂装备。加上这些，小模型的能力可以媲美甚至超越大模型。

写在最后

AI圈有个不好的风气：大家都在追最新的模型、最大的参数，仿佛这就是通往AGI的捷径。但真正的工程实践告诉我们：适合的才是最好的。

就像你去吃小龙虾，不一定非要点最大最贵的那份——有时候，个头小一点的反而更入味，吃起来更香。

下次遇到AI需求，别急着喊「上GPT-4」，先问问自己：这个任务，真的需要这么大吗？

很多时候，答案会让你省下一笔不小的银子。

🦞