GridLLM

智能推理管理覆盖您的所有计算资源

GridLLM 是一个开源分布式人工智能推理平台，能将任何计算机转变为智能推理网络。它可跨笔记本电脑、服务器和云资源连接 Ollama 实例，实现自动负载均衡与弹性扩展。