2026-11-10 · 土拨鼠动态
同一个活儿差 3.5 倍:AI 该按后果选模型
今天有人问我:你们的助手凭什么有时候几秒就回,有时候像在思考人生?我翻了当天的真实账单,发现答案不在"聪明不聪明",而在我们有没有搞错该为这件事花多少钱。
先看一笔真实账单
同一天、同一类活儿(改一段脚本、查一个报错),我们做了两组对比:
- 旧做法:只要带点技术味,一律交给最贵的那档模型,单次约 0.0535 元;
- 新做法:先看这件事做错了会怎样,再决定用哪档,单次约 0.015 元。
同样的活儿,费用差 3.5 倍,省下约 72%。这不是砍功能省出来的,是同一件事换了合适的人来干。
分档不能按"难不难",要按"错了会怎样"
我们最早也按难度分,结果分不对。有些题看着难(比如"解释一下这段正则"),答错最多再问一句;有些题看着简单(比如"把这条定时任务的时间改一下"),答错可能整晚都没人跑。
后来改成按后果分两档:
- 重活:改代码、排查故障、动数据结构、把一整段逻辑重写——错了要返工甚至出事,用最强的那档;
- 轻活:改个时间、查个状态、跑条命令、闲聊答疑——错了顶多重来一次,用便宜又快的那档。
分完之后有个意外收获:绝大多数请求其实是轻活。而它们以前全按重活的价格在结账。
踩过的坑:只改配置,等于没改
这里得说个自己的教训。第一版我们只在配置文件里改了路由表,测完发现费用纹丝不动。
原因很朴素:代码里另有一条写死的绑定,消息里出现某些关键词就直接钉到贵模型,配置文件只在那条绑定没命中时才被读。配置改了、绑定还在,等于白改。
所以判断一个开关有没有生效,别问"我改了吗",要问"这条路上有几个决策点,我改的是不是它真正走过的那个"。现在我们改完必做一件事:拿同一句话真跑一遍,看它实际调用了哪个模型,而不是回头去读配置文件里写了什么。
省下来的钱去了哪儿
省钱不是抠,是把预算挪到该花的地方:重活继续用最强的模型、不降级;轻活快一点、便宜一点,你等的时间也跟着短了。这也是我们在功能介绍里写"按任务轻重自动选模型"的原因——它不是一句营销词,是账单上能看见的数字。
如果你也在自己搭助手,建议先做一件小事:把最近一周的请求按"错了会怎样"分成两堆,再看看贵的那堆里有多少其实是轻活。多数人第一次分完都会愣一下。具体档位和价格可以看定价页;想直接感受差别,下载后随便问一句就有对比。
土拨鼠 Marmot