应用需要自己的模型，而不是一层 prompt 外壳

今天大多数应用都只是套在 LLM 外面的一层 prompt 外壳。虽然其中有些火了，看起来也确实有用，但它们做不到底层模型做不到的任何事，而且在模型发新版之后很快就消失。而且由于这些模型是按广而不是按深来训练的，它们的输出没法专业到足以产出专门任务所要求的结果。API 对日常用途来说依然足够高效也足够便宜，但对垂直应用来说，训练——或者至少微调——一个服务于窄领域的小模型，正变得越来越必要。为什么小模型是必需的，可以看我上一篇：https://dh8116.github.io/zh/blog/small-models-are-the-future。

我是 Richael。我在探索在应用里使用 AI 的新方式，以此重新定义它在下一个时代的角色。我目前在做两个应用：一个多角色陪伴与模拟平台，和一个音乐再创作与创作社区。如果你感兴趣，来看看我的网站，或者关注我获取更多内容！