M5 Ultra 与 RTX 5090 本地跑大模型对比

01 摘要

Hugging Face 发布内容比较 Apple M5 Ultra Mac Studio 与 NVIDIA RTX 5090 在本地运行 AI 模型时的表现，覆盖规格、Qwen3.8-27B 基准、多 token 预测加速、32 GB VRAM 与 256 GB 统一内存差异，并给出每秒 token 数约等于带宽除以模型规模的经验关系。事实层面，这些是比较所涉及的主题与资源链接；作者观点层面，则体现为对两款硬件在本地 AI 场景中定位的判断。

02 关键点

1. 比较聚焦 M5 Ultra 与 RTX 5090 在本地 LLM 上的规格与 Qwen3.8-27B 基准表现。
2. 内容涉及提示处理、token 生成与多 token 预测（MTP）带来的加速。
3. 讨论 32 GB VRAM 与 256 GB 统一内存的容量差异及其影响。