GitHub

将每个提示路由到能够处理它的最便宜模型

这是 GitHub 上基于 pydantic-ai 和 FastAPI 构建的 AI API 成本优化模板，它能根据提示词的复杂程度自动将请求路由到能处理该任务的最便宜模型上，复杂任务分配给 Claude、简单任务交给 Groq，帮你避免在 AI API 上过度付费。它原生支持 Claude、GPT-4o、GPT-4o-mini 和 Groq，自带实时成本追踪功能，10 分钟内就能接入现有项目，同时提供完整源代码、测试套件和部署教程。