2026 年的智能体式 AI：Hermes、NVIDIA Nemotron 与开放模型技术栈

2026 年有意思的前沿，不是一个更大的聊天机器人。而是智能体：一个会规划、调用工具、读取结果并不断循环直到任务完成的模型。聊天回答一个问题；智能体则改变一个系统的状态。而一旦模型能够行动，可靠性就不再是锦上添花，而变成了产品的全部。

两个开放权重家族已成为自托管智能体的骨干——Nous Research 的 Hermes 和 NVIDIA 的 Nemotron。这里讲讲为什么，以及围绕它们的技术栈长什么样。

“智能体式”到底要求什么

一个能干的对话模型，并不自动就是一个能干的智能体。智能体的生死系于一组更窄的技能：

• Function calling（函数调用）——每一次都发出格式良好、符合 schema 的工具调用，而不是大多数时候。
• 结构化输出——可靠的 JSON，让周边代码无需靠启发式猜测就能解析。
• 可引导性——真正遵从那个定义了智能体角色与边界的 system prompt。
• 循环中的推理——规划多步骤工作，并在某个工具返回错误时能够恢复。

一个在冷知识上强 2%、但在发出有效工具调用上差 20% 的模型，是个更糟的智能体。仅这一个事实，就解释了开放模型格局的大半。

Hermes：开放、可引导的主力马

Hermes 来自 Nous Research，是构建在 Llama 等开放底座之上的一族微调模型。它的名声立在三件构建智能体的人最在意的事上：强劲的 function calling、可靠的结构化/JSON 输出，以及一种刻意中立、可引导的对齐——它遵从你的 system prompt，而不是厂商硬编码的某种人设。

对于那些需要嵌进你自己护栏、并可预测地行事的自托管智能体而言，那份可引导性就是全部的吸引力所在。你定义角色，模型就恪守它。这和我早先探讨过的在本地运行模型背后是同一种本能——掌控行为，而不只是权重。

NVIDIA Nemotron：为工具而调优的推理

Nemotron 是 NVIDIA 的开放模型系列，其中 Llama Nemotron 推理模型（有 Nano、Super 和 Ultra 几档大小）明确为智能体式工作做了调优：多步推理和工具调用，其推理还能针对难任务开启、针对便宜任务关闭。它们带着开放权重发布，并被打包成 NIM 微服务，可部署在一个标准 API 之后。

Nemotron 家族还在一个不那么光鲜的地方挣到了自己的口粮：合成数据生成。更大的 reward 和 instruct 变体被广泛用来为其他模型生成和评分训练数据——包括你自己可能会去微调的那些智能体。

围绕模型的技术栈

模型大概只占一个能干活的智能体的三分之一。剩下的都是工程：

• 工具 schema——严谨、描述清楚的函数定义。含糊的 schema 产出含糊的调用。
• 编排——一个规划/执行/观察的循环（ReAct 风格），带步数上限和超时，好让一个犯迷糊的智能体快速失败，而不是没完没了地烧 token。
• 护栏——在每一次工具调用执行之前都去校验它；绝不让模型不经检查就够到生产系统。
• Evals（评估）——一套黄金任务集，每次换模型或改 prompt 都重跑一遍。没有 evals，你做的就不是工程，而是在猜。
• 可观测性——追踪每一步。当某个智能体在凌晨两点出岔子时，那条 trace 是唯一能救你的东西。

开放模型 vs API：怎么选

前沿的 API 模型，仍然是今天让一个能干的智能体跑起来的最简单方式，对许多团队而言那就是正确的选择。当你需要数据驻留、大流量下可预测的成本、通过微调进行深度定制，或者仅仅是想要一份“下个季度模型不会在你脚下变来变去”的保证时，才去伸手够那套开放栈——Hermes、Nemotron。务实的答案往往是一种混搭：用一个前沿模型处理硬核推理，用一个开放模型处理高频、范围界定清晰的调用。

---

智能体式 AI 奖赏的是无聊的工程纪律，远甚于模型的炒作：严谨的工具、严格的循环、真正的护栏，以及你信得过的 evals。挑一个在工具调用上真正出色的模型——Hermes 和 Nemotron 都是——然后把你的精力花在围绕它的那套框架上。如果你要把一个智能体接到真实的业务数据上，就从数据住的地方开始：Databricks lakehouse 和 搭配 Copilot Studio 的 Fabric。