察元AI能力广场 · MCP 服务器

bifrost

Stars 9,234 · 作者 maximhq

企业级AI网关,速度超LiteLLM五十倍,支持千余模型与自适应负载。

详细介绍

bifrost是一个高性能的企业级AI网关,宣称比LiteLLM快50倍,支持自适应负载均衡和集群模式。它内置护栏机制,支持1000多种模型,并在高并发下保持极低的延迟开销。典型场景包括高吞吐量的LLM应用后端路由与负载均衡。适合对性能敏感的大型企业AI基础设施架构师使用。

数据分析 大模型 测试

官方入口 · 源码仓库

同类MCP 服务器推荐

浏览全部MCP 服务器 · 返回察元AI首页