AI 产品

Rapid-MLX 0.11.0发布：提升Apple Silicon本地模型性能与可靠性

首次出现 8月9日 00:06·最近更新 8月9日 00:06

Rapid-MLX 0.11.0已发布，针对Apple Silicon优化本地模型性能。性能方面，TTFT从13.1秒降至0.51秒（25.6倍提升），响应缓存从656毫秒降至2毫秒（284倍提升），吞吐量达152 tok/s，冷启动秒级。此外，新增agent功能，可自主链式调用工具，并支持5个新模型家族，包括HY3 295B MoE等。这些改进基于具体数据，使本地模型更可靠，适用于实际工作流程。

多来源证据

Twitter/X AI List·twitter·7月25日 06:12

🚀 Rapid-MLX 0.11.0发布！使Apple Silicon上的本地模型足够可靠，可以运行你的agent工作流程，而不仅仅是演示。 ⚡️ 性能 • 前缀缓存

🚀 Rapid-MLX 0.11.0发布！使Apple Silicon上的本地模型足够可靠，可以运行你的agent工作流程，而不仅仅是演示。 ⚡️ 性能 • 前缀缓存复用：TTFT从13.1秒降至0.51秒（在重复6k token前缀上快25.6倍）。共享系统提示不再重复预填充。一次会话节省了38,032个token。 • 响应缓存：从656毫秒降至2毫秒（快284倍，字节相同，零GPU解码）。 • 吞吐量：在Qwen3.5-4B-4bit上达到152 tok/s。冷启动秒级完成。 🤖 "rapid-mlx chat" 成长为真正的agent 指向任何MCP服务器，它都可以自主链式调用工具

事件时间线

7月25日 06:12
Twitter/X AI List
🚀 Rapid-MLX 0.11.0发布！使Apple Silicon上的本地模型足够可靠，可以运行你的agent工作流程，而不仅仅是演示。 ⚡️ 性能 • 前缀缓存