自建AI智能体：从智能体框架到本地小模型微调

01 摘要

视频以PewDiePie的Odysseus为例，介绍智能体运行框架与工具调用的基本原理。视频还讨论了如何用llama.cpp与Hugging Face在本地运行模型，以及在智能体轨迹上微调Qwen 3.5 9B，使模型在自有框架中更可靠地调用工具。作者提出的具体训练方法与配置属于其讲解与建议，并非已由视频内证据验证的通用结论。

02 关键点

1. 以Odysseus为例拆解智能体框架、工具调用与上下文（系统提示、工具、记忆）的构成。
2. 对比本地模型与云端API，讨论隐私、延迟、离线可用性，并介绍在Hugging Face上寻找开源模型。
3. 介绍用llama.cpp做本地推理、按硬件与量化（Q4与BF16）选择模型，以及在智能体轨迹上微调Qwen 3.5 9B。