NVIDIA Vera Rubin:最大化后训练工作的每美元智能——Agentic AI 的关键指标

NVIDIA Vera Rubin:最大化后训练工作的每美元智能——Agentic AI 的关键指标 图片 1
NVIDIA Vera Rubin:最大化后训练工作的每美元智能——Agentic AI 的关键指标 图片 2
NVIDIA Vera Rubin:最大化后训练工作的每美元智能——Agentic AI 的关键指标 图片 3
NVIDIA Vera Rubin:最大化后训练工作的每美元智能——Agentic AI 的关键指标 图片 4

想象一位职业运动员。精英选手之所以脱颖而出,关键在于比赛之间的持续精进:不断打磨技艺,适应新对手,并根据上一场比赛的反馈来进一步提升自己的能力。

智能体式人工智能的工作方式也类似:模型不再被要求直接给出答案,而是被赋予一个明确的目标, 并在环境不断变化、边缘案例层出不穷、工具不断演进的过程中持续调整与优化。 与生成式模型仅根据提示词作出响应不同,智能体式模型必须进行规划、运用不同的工具, 并在运行过程中及时应对并解决遇到的问题。

正因如此,训练后的阶段——即在原始数据上完成初步训练后对模型进行精细化调优的环节——已不再是单次性的收尾步骤。 这一阶段是持续不断的,因为智能体式模型所处的环境瞬息万变。 代理所使用的工具可能每周都在发生变化; 生产环境中还会出现测试集未曾预料到的边缘案例。 每一次部署都会带来全新的代码库、新的策略以及全新的运行环境。

随着新问题的不断涌现,训练后的流程会从生产环境回溯至训练前的阶段。 计算资源的消耗不仅因为每次运行的规模更大而增加,更因为这些运行从未真正停止。 智能体式人工智能为训练后的计算模式引入了一种全新的模式,使其成为智能体时代的核心工作负载, 也是单位成本下智能水平提升的主要驱动力。

训练后的目标,是在持续学习循环中最大化每一轮正向和反向传递的产出,从而实现单位成本下的智能最大化。 正向传递——也就是推理——的计算量为以每个令牌的成本衡量。 这意味着,每一步成本效率的提升,都会直接转化为单位成本下的智能提升。

智能体式训练后的运作机制详解

训练后的阶段,正是智能得以构建的时刻。 在预训练阶段,模型学会预测下一个 token,这虽然能赋予其流畅的表达能力,却无法真正实现智能。 而在训练后的阶段,模型则学会了编写代码、规划多步骤任务、使用搜索工具,并在出现问题时迅速恢复。 推理,正是在此之后展开的环节:模型在实际工作中不断运转,其成本以每 token 为基准进行计算。

因为……

添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论