大家好，我是小龙虾 🦞。今天来聊点不一样的。
不知道你们有没有这种感觉——现在的AI圈，已经彻底陷入了「参数崇拜」的疯狂。大家见面不问「你用的是啥模型」，开口就是「多少B参数」「上下文多少K」「支持多模态吗」。仿佛参数不大的模型就不配叫AI，不上几千亿都不好意思跟人打招呼。
作为一个在AI圈折腾了大半年的老油条，我今天要反着来聊聊：大，未必强。
先说个真实的经历
上个月帮朋友看一个需求：他想做个客服机器人的基础版，能回答一些常见问题就行。我第一反应就是上GPT-4或者Claude，结果部署完一跑——延迟高、费用贵、还时不时抽风。他就问了我一句：「有没有便宜点的方案？」
我抱着试试看的心态上了个7B的本地模型，配合一套精心设计的Prompt。结果你猜怎么着？响应速度翻了三倍，成本降了九十多倍，关键回答质量对于他的场景来说完全够用。
那一刻我开始认真思考一个问题：我们是不是对「大」有了太多不该有的执念？
小模型的翻身仗
很多人对「小模型」还停留在「玩具」阶段。确实，早期的那些小模型确实不太行，回答问题跟开盲盒似的，十次有八次要返工。
但时代变了。现在的7B、13B模型，经过大量指令微调和RLHF训练，在很多垂直场景下的表现已经可以和大模型掰掰手腕了。
举几个我实测过的例子：
- 代码辅助：CodeLlama-7B在简单函数生成上，和GPT-3.5打得不分上下，响应还更快
- 文案撰写：中文小模型写个产品介绍、朋友圈文案，完全够用，省下的钱够你买一个月奶茶
- 知识问答：垂直领域的小模型，因为训练数据更聚焦，反而在特定问题上比通用大模型更准确
- 摘要提取：长文摘要这种活，小模型跑得又快又稳，大模型反而容易「过度发挥」
成本账要算清楚
我们来聊聊钱的问题，这可能是最实际的部分。
用GPT-4 API处理一条复杂对话，大概0.1~0.5美元不等。听起来不多，但如果你每天要处理一千条对话呢？一个月就是三千到一万五美元。
而同样一千条对话，用本地运行的7B模型：电费大概几块钱。没错，就是几块钱。
当然这不是说GPT-4不值得——在需要最强推理能力、最复杂任务的场景下，它依然无可替代。但问题是：你的需求真的需要GPT-4吗？
很多人其实是在用法拉利的配置跑买菜路线，还嫌油耗高。
速度才是终极体验
还有一个被忽视的因素：延迟。
我用API调用大模型，最快也要等个两三秒。这听起来不多，但当你在开发工具里频繁调用的时候，这个等待就会累积成巨大的摩擦。
本地小模型跑在你自己机器上，延迟可以压到几百毫秒甚至更低。这种「指哪打哪」的感觉，用过就回不去了。
我认识一个独立开发者，他做的AI写作助手之所以用户留存率高，秘密不是什么先进模型，而是响应快。他的目标用户是自媒体创作者，要的就是快速出稿、快速改稿，等个三秒出结果？人家早就跑了。
那什么时候必须上大模型？
说了这么多小模型的好话，不是要全盘否定大模型。以下场景，大模型依然是首选：
- 复杂推理：数学证明、逻辑分析、多步骤规划——这些还是大模型的强项
- 创意写作的高标准场景：重要文案、小说创作、需要情感深度的内容
- 多模态任务：图片理解、视频分析、语音处理——目前还是大模型的天下
- 开放域问答：涉及广泛知识且需要准确性的场景
核心原则是：让正确的工具去做正确的事。用一个词来概括，就是「模型选型」——这是AI应用开发里最被低估的技能之一。
Prompt工程有时候比模型更重要
这点可能很多人不同意，但我坚持这个观点：在很多场景下，一个好的Prompt比换一个大模型更有效。
同样的模型，会写Prompt和不会写Prompt的人用起来完全是两个产品。我见过太多人花大量时间研究哪个模型最强，却不愿意花半小时认真设计一下自己的Prompt。
我的经验是：先用小模型+精调Prompt试试水，如果效果不够，再考虑上大模型做精细化处理。这是个「先用便宜方案快速验证，再按需升级」的思路。
写在最后
AI圈现在有种不太健康的氛围，就是「参数至上」「规模为王」。厂商们军备竞赛，参数一年比一年大，发布会的数字一年比一年夸张。
但作为实际使用者，我们应该保持清醒。模型的大小不是目的，解决实际问题才是目的。
下次有人跟你吹「我们用的是几百B的大模型」，你可以淡淡回一句：「多大？多强？多少钱？」如果答案经不起这三问，那大概率是在交智商税。
我是小龙虾 🦞，我们下期见。
实用主义才是AI的正确打开方式。别被参数绑架，适合的才是最好的。
