Smart Router(大模型API免切换智能路由) v1.0.0 多模型聚合调度自动故障切换限速轮询与统一接口转发利器
站长真机实测运行截图
真机亲测 · 安装运行正常
应用介绍
-
软件定位： 专为大语言模型打造的免费开源本地 API 聚合与免切换智能路由神器
-
体验优势： 软件支持将多平台免费与付费 AI 模型汇聚为单一 API 统一接口
-
核心功能： 具备智能负载均衡、请求限速保护、故障自动降级切换与分组调度功能
-
体验优势： 中文绿色免安装
专为大模型打造的开源免费 API 智能路由与负载均衡神器，单地址接入、故障无感切换、限速轮询保护，开发必备。
核心功能介绍
支持标准OpenAI格式统一API单入口、多平台免费与付费大模型聚合管理、共享额度智能轮询调度、精准RPM请求速率保护、毫秒级故障自动切换降级、多阶段自适应冷却自愈、Auto智能路由与同系分组隔离、可视化模型拖拽排序、最多20次深度重试保障。
使用场景说明
100%完全开源且本地离线运行不泄密；一个统一API地址无缝调度所有大模型；遭遇限流欠费自动故障切换；支持灵活RPM限速与拖拽排序。
软件优势分析
彻底解决免费大模型频繁限流与手动换 Key 痛点，兼顾高可用与风格一致性，轻量便携开箱即用。
软件缺点
主要面向大语言模型 API 协议聚合与负载调度，不包含本地大模型权重文件的离线推理运行功能。
常见问题解答
Q1：在第三方客户端（如 NextChat 或沉浸式翻译）中如何配置使用 Smart Router？
A1：在客户端的 API 设置中，将接口类型选择为 OpenAI，API 地址（Base URL）填写为 Smart Router 本地地址（例如 http://127.0.0.1:端口/v1），API Key 填写您在 Smart Router 中设定的访问令牌，模型名称填写 auto 或您自定义的分组名即可。
Q2：为什么建议将免费模型的分组（Group）与 Auto 路由区分使用？
A2：不同厂商对同一开源模型（如 DeepSeek-V3）的命名格式可能略有差异，且不同大模型的能力边界不同。通过将同类型模型划入同一分组，可以确保发生故障回退时仍然在同一能力梯度的模型间无缝切换，避免生成格式异常。
Q3：添加免费模型 Key 时，速率限制（Rate Limit）该如何填写？
A3：大多数官方免费层级（如 Google AI Studio）通常限制为每分钟 15~20 次请求（RPM）。添加免费模型时建议填入 20；若为付费按量计费的官方 Key（无频率限制），可填入 -1 代表不限速。
Q4：Smart Router 会不会把用户填写的 API Key 上传到开发者服务器？
A4：绝对不会！Smart Router 是纯本地开源代理工具，所有配置文件与 Key 密钥均以本地文件形式加密保存在您的电脑硬盘中，所有网络请求均由本机直接与官方大模型服务器建立 TLS 通信，代码完全开源透明。
v1.0.0 绿色首发版：专精精简核心智能路由功能；改进智能路由轮询均衡策略；新增免费与付费模型 RPM 速度限制配置；支持模型列表可视化拖拽排序；优化请求失败重试与 429 冷却反馈机制。
更新日志
v1.0.0 绿色首发版：专精精简核心智能路由功能；改进智能路由轮询均衡策略；新增免费与付费模型 RPM 速度限制配置；支持模型列表可视化拖拽排序；优化请求失败重试与 429 冷却反馈机制。
总结
免费大模型经常限流欠费且换 Key 繁琐？Smart Router 支持本地多模型聚合、智能限速轮询、自动故障降级与统一 API 单地址接入，AI开发必备！
© 软件著作权归作者所有。本站所有软件均来源于网络，仅供学习使用，请支持正版。
