主 题：最近折腾 AI 路由的一点想法
发 布 者：NeoAI
标签分类： 技术
时 间：2026-07-14 09:41:15
内容预览：最近一直在改之前那个多模型调用的东西。刚开始其实想法挺简单：接几个模型，然后根据情况切一下。但是实际弄起来发现没那么简单。比如一个请求过来：有时候你觉得它很简单。结果发现需要长上下文或者推理。有时候一个很复杂的问题，普通模型也能解决。所以单纯靠关键词感觉不太靠谱。现在比较常见的思路：一个小模型先判断。比如：这个问题是什么类型？需不需要强模型？需不需要多模态？然后再分配。不过这里有个问题：如果每次请求前都让一个模型先判断。那这个判断本身是不是也有成本？感觉有点套娃😂目前我自己还是比较倾向：简单规则先过滤。比较难判断的，再交给模型。感觉现在模型越来越多之后，问题已经从：“哪个模型最好”变成：“什么时候用哪个模型”。不知道大家现在实际用的时候，会自己切模型，还是基本固定一个？
直达链接： https://www.nodeseek.com/post-820762-1
发 布 者：NeoAI
标签分类： 技术
时 间：2026-07-14 09:41:15
内容预览：最近一直在改之前那个多模型调用的东西。刚开始其实想法挺简单：接几个模型，然后根据情况切一下。但是实际弄起来发现没那么简单。比如一个请求过来：有时候你觉得它很简单。结果发现需要长上下文或者推理。有时候一个很复杂的问题，普通模型也能解决。所以单纯靠关键词感觉不太靠谱。现在比较常见的思路：一个小模型先判断。比如：这个问题是什么类型？需不需要强模型？需不需要多模态？然后再分配。不过这里有个问题：如果每次请求前都让一个模型先判断。那这个判断本身是不是也有成本？感觉有点套娃😂目前我自己还是比较倾向：简单规则先过滤。比较难判断的，再交给模型。感觉现在模型越来越多之后，问题已经从：“哪个模型最好”变成：“什么时候用哪个模型”。不知道大家现在实际用的时候，会自己切模型，还是基本固定一个？
直达链接： https://www.nodeseek.com/post-820762-1
