主 题:把自己用的 AI Gateway 整理了一下,开放给大家测试
发 布 者:NeoAI
标签分类: 技术
时 间:2026-07-24 10:37:38
内容预览:最近一直在折腾多模型调用。前面发了几篇关于模型路由、模型选择的记录。一开始只是自己用,后来发现每次切模型、换接口确实挺麻烦,就慢慢整理成了一个小工具。目前主要做几个事情:1.一个入口调用多个模型不用每个模型单独配置。目前接了一些常用模型:GPT 系列Claude 系列Gemini 系列后面还会继续加。2.简单模型选择现在还没有做到特别智能。目前主要根据:任务类型模型状态成本考虑做基础选择。3.稳定性处理之前自己用的时候经常遇到:请求失败响应慢临时换模型所以加了些:重试fallback状态检测目前开放一个测试版本主要想收集一下真实使用反馈。如果有人想试一下,可以评论或者私信。比较想听:哪些模型比较常用,路由逻辑哪里不合理,实际使用有什么问题目前还有很多不足:比如:智能路由还比较初级,缓存策略还没完善,模型评分还在研究,所以更像是一个持续迭代中的工具。最近越来越觉得:模型越来越多以后,真正麻烦的不是“有没有模型”,而是:怎么方便地使用这些模型。有兴趣折腾 AI Gateway / 多模型调用的可以交流。
直达链接: https://www.nodeseek.com/post-837233-1
 
 
Back to Top