泡泡资讯网

微博大模型可真能省钱 这几天,微博官方推出的模型VibeThinker-3B一直

微博大模型可真能省钱 这几天,微博官方推出的模型VibeThinker-3B一直在Hugging Face上比较靠前的位置晃悠,也是给微博涨了脸了。这个模型在x/reddit/hack news上等都引发了热议,再详细介绍一下吧。

一个小模型就能有那这么大热度,是因为它直接拿来和 Qwen3.6 Plus、Gemini 3 Pro、GLM-5 和 Kimi K2.5这类甚至到T级参数的模型一桌比较性能了。。这都是上百倍的参数差距了!VibeThinker-3B 是基于 Qwen2.5-Coder-3B 的 3B 稠密模型,它的主要贡献是证明了在数学、代码、STEM 这类答案可验证的任务中,小模型可以通过高质量后训练逼近大模型推理能力。

Hacker News上对这个模型的讨论刷了好几百条。大家都很兴奋,这似乎说明了一条路子:不需要把所有世界知识都塞进权重,重点训练如何推理就可以了,需要知识时再通过搜索、RAG、文档、工具或外部 memory 获取。这会是未来的一个发展方向吗?还不太确定,有人反对没有足够先验知识就不知道查什么;如果工具太多,模型也不知道哪个工具该用。但至少对需要本地跑的模型来说,这是一个很好的方向。

Hacker News用户的实际测试结果也验证了这个模型不是只有跑分强。一位用户让它解 Mathematica 15 发布文中提到的一个复杂一阶 ODE, VibeThinker-3B 找到了有效通解。他是在自己的 RTX 2070 Super 上跑的,速度约 25 tok/s。甚至用 Q4_K_M 量化版本也能复现,在 RTX 2070 Super 上速度就能到 110 tok/s,解决问题生成了约 22K token,几乎都用于 thinking,并给出同样解。还有用户在 GTX 1080 上用 llama.cpp 跑量化版,评价是 “This. Is. Amazing. I am flabbergasted.”,说自己主要用模型做 Python、C++ 和数学,这个模型可能成为主力工具……

模型的局限性层面,讨论的最多的现在这个模型还缺少 tool calling / agent 能力(可能下个版本会解决?)。大家总结的实际应用时,可以把它当“思考/验证子模型”,而不是主控模型。 例如由较大的工具调用模型负责收集上下文、读 repo、调用工具,再把已整理好的封闭问题交给 VibeThinker-3B 做数学、代码或逻辑验证。

这次VibeThinker-3B还是给微博带来了很大排面的。也算是小出圈了一次。从技术层面,它证明了在特定任务中,小模型可以通过高质量后训练逼近大模型能力。从应用层面,它也是一个令人惊讶的 3B 级可验证推理专家,尤其适合数学、Python/C++ 竞赛式代码和封闭上下文验证。它最有价值的用法可能是作为本地快速 reasoning/validation 子模块,与工具调用模型、RAG、代码检索或更大 orchestrator 搭配使用。希望这种小模型也却来越多~~