察元AI教程库 · 仓库 · 部署

mlx-serve

专为Apple Silicon设计的原生LLM推理服务器。兼容OpenAI和Anthropic API。无需Python。包含带有聊天、代理模式和工具调用功能的MLX Core macOS应用程序

作者:ddalcu · 语言:en

前往原址学习

简介

专为Apple Silicon设计的原生LLM推理服务器。兼容OpenAI和Anthropic API。无需Python。包含带有聊天、代理模式和工具调用功能的MLX Core macOS应用程序

返回教程库 · 察元AI产品家族