POST / 1043

AI Infra:Intelligence Runtime 的定义与创新边界

过去几年,Agent Runtime 让智能体从演示走向工程。它解决了许多具体问题:模型怎么调、上下文怎么带、工具怎么接、状态怎么存、失败怎么恢复。可当这些能力被逐一补齐,一个新的问题浮出水面:系统越来越会执行,却未必越来越会计算;越来越能完成任务,却未必能把完成变成能力。

不急着给旧能力换一个新名字,而是想回答一个更朴素的问题:当模型、工具和环境都在场,系统怎样才能不只完成一次任务,还能在下一次做得更好。

一、先划清一个误区

Intelligence Runtime 不能只是给 Agent Runtime 换一个名字,也不能把模型编排、上下文、记忆、工具调用、工作流和可观测性简单装进一个盒子。若只是这些能力的集合,它更接近现有 Agent Infrastructure 的一次系统集成。

真正值得建立的创新边界是:把模型、Agent、环境和反馈组织成一个持续运行的智能计算系统,使智能能力能够跨模型、跨任务、跨环境进行组合、执行、验证和积累。创新重点不在组件数量,而在计算组织方式的变化。

现有技术解决的问题与 Intelligence Runtime 的关系
Model Serving模型如何被调用使用模型计算能力
Agent FrameworkAgent 如何规划和调用工具管理 Agent 执行
Agent RuntimeAgent 如何运行和管理生命周期扩展到系统级智能运行
Context Infrastructure如何管理上下文和记忆提供持续状态
Workflow Engine如何执行预定义流程支持动态生成和调整流程
MCP 与 A2A如何连接工具和 Agent利用连接协议接入环境
Observability 与 Evaluation如何监控和评价执行结果将评价转化为反馈信号
RSI 与 Self-improvement如何持续改进模型提供外部反馈和迭代条件

这里有一个重要区别:现有技术通常围绕某个对象展开,例如模型、Agent、工具、工作流或上下文。Intelligence Runtime 需要围绕完整的智能行为闭环建立统一运行机制。对象思维回答谁被管理,闭环思维回答智能如何持续发生。

用一个直观公式表达这种差别,它不是严格数学定理,而是一把便于普通人理解的尺子:

有效智能 ≈ 模型能力 × 环境可计算性 × 验证可信度 × 经验复用率

四项中任何一项接近零,系统都很难持续变强。堆叠组件可以放大第一项,却无法自动补齐后三项。

二、从执行 Runtime 到 Intelligence Runtime

Agent Runtime 的核心问题是:如何让 Agent 正确、可靠地执行一个任务。它需要调用模型、组织上下文、调用工具、保存状态、恢复执行、管理权限、记录执行轨迹。

Intelligence Runtime 的核心问题更进一步:如何让智能体在持续变化的环境中理解状态、分解目标、动态选择计算资源、组织跨 Agent 与跨工具行动、根据真实结果调整策略,并把验证过的经验转化为可复用能力。

一句话说,执行让任务完成一次,演化让能力留下。

五项核心创新可以收敛如下。

创新边界核心问题关键机制
环境原生计算环境只是工具集合,还是计算系统的一部分统一环境状态与行动抽象,使不同模型能利用同一个外部计算环境
异构智能组织当前任务的哪一部分应由什么计算单元完成动态拆分任务、选择计算单元、组合结果,并按反馈重新分配计算
持续状态系统如何跨模型、跨任务保持连续性管理世界状态、任务状态、认知状态和执行状态,并区分真实状态、模型推断与未验证假设
闭环验证结果由谁证明,反馈如何进入计算用环境、编译器、测试、传感器、数据库约束、实验结果和专家评价验证行动
能力演化这次成功或失败能否让下一次更好将知识、经验、技能和训练数据分层沉淀,形成可复用能力

环境原生计算的关键,不是把 Git 仓库、编译器、测试系统、运行环境、数据库逐一接进来,而是让 Runtime 理解环境是什么、当前处于什么状态、能观察到什么、可执行哪些操作、操作会引起什么状态变化、哪些状态和操作受到约束、如何判断行动结果。环境不只提供输入,也参与任务计算。

异构智能组织也不等同于多 Agent 编排。多 Agent 编排关注参与者如何协作;异构智能组织关注整个任务的计算结构如何形成,以及计算资源如何动态分配。专业知识识别可以交给特化小模型,开放式推理可以交给通用大模型,数值计算可以交给确定性计算引擎,复杂搜索可以交给 Search Agent,软件操作可以交给 Coding Agent,真实环境控制可以交给专用控制器,结果判断可以交给独立验证器。

持续状态需要超越传统 Context Share。Context 主要解决信息如何被获取和共享;Intelligence Runtime 要管理的是一个持续演化的状态系统。系统不仅要能持久化、跨模型共享、跨 Agent 更新、保持来源与版本可追溯、支持并发读写、支持回滚和分支试错,还要特别区分真实环境状态、模型推断状态和未经验证的假设。否则,模型生成的错误判断可能被写入共享状态,逐渐成为整个系统的错误认知。

闭环验证是最值得拉开差距的地方。传统 Agent 的执行结果通常是模型输出、工具返回或工作流完成状态。Intelligence Runtime 应建立独立的结果验证机制:

目标 → 行动 → 观察 → 验证 → 状态更新

验证结果还要进一步影响下一步行动、任务规划、模型选择、经验记录和后续训练数据。独立验证不意味着必须由另一个大模型完成。编译器、物理传感器、数据库约束、实验结果和专家评价往往更可靠。不能验证的结果,只是消息;能验证的结果,才是计算。

能力演化则是长期技术壁垒。普通 Runtime 完成任务后可以保存执行记录;Intelligence Runtime 还要回答:这次任务的成功或失败,能否让系统下一次完成类似任务时变得更好。经验可以分为三层:Context 形成知识、事实与历史,供检索与共享;Experience 形成成功路径、失败原因与验证记录,供策略参考;Capability 形成可执行技能、策略与专用模型,供直接调用。这里需要明确边界:经验积累不等于自动修改模型参数。Runtime 可以管理经验、技能和训练数据,模型权重更新属于独立的训练与发布流程。

三、哪些东西不应纳入核心范围

创新边界必须有排除项,否则概念会无限膨胀。

技术或产品是否属于核心范围原因
LLM 与 SLM否模型是计算资源
Model Serving否提供推理服务
Context 与 Memory基础能力提供状态和信息
MCP 与 A2A基础协议提供连接和通信
Agent Framework基础组件提供开发和编排抽象
Workflow Engine基础组件提供流程执行
Vector Database基础组件提供信息检索
Observability基础能力提供监控和追踪
Environment Adapter核心组成将外部环境转化为可操作、可观测的对象
Feedback 与 Verification核心组成建立真实结果反馈
Intelligence Orchestration核心组成动态组织异构计算
Capability Evolution核心组成将验证经验转化为可复用能力

原则可以压成一句话:Intelligence Runtime 不必重新发明底层组件,它要定义这些组件如何共同参与智能计算。

四、三个新的系统级抽象

真正的技术创新应落在三个系统级抽象上。

抽象回答的问题管理对象
Intelligence State系统知道什么模型认知状态、任务状态和外部环境状态,哪些信息已经验证,哪些仍是假设
Intelligence Computation系统能做什么模型推理、Agent 行动、工具执行和环境计算,当前任务需要什么计算,由谁完成,如何动态组合
Intelligence Evolution系统如何变得更好结果验证、经验沉淀、能力复用和模型改进,这次运行产生了什么新信息,如何转化为下一次能力

状态回答系统知道什么,计算回答系统能做什么,演化回答系统如何变得更好。三者共同构成 Intelligence Runtime 的核心。

五、与现有产品的竞争边界

需要客观看待,现有产品已经在向这个方向演进。

产品与项目已覆盖的能力差距或待验证方向
LangGraph状态图、持久化、长任务执行更广泛的环境计算和跨任务能力演化
Microsoft Agent FrameworkAgent、Workflow、Harness、状态和集成系统级智能计算抽象及能力积累
Temporal持久化执行、重试、状态恢复智能决策、环境认知和能力演化
MCP模型与工具、资源连接不负责整个智能行为闭环
A2A跨 Agent 通信与协作不负责整体计算和反馈机制

现阶段,Intelligence Runtime 可以作为更高层的架构方向,但不宜宣称现有产品没有这些能力。真正的差异需要通过新的系统接口、状态模型、执行语义和跨任务能力积累机制来证明。

六、建议的产品边界

若把它作为创业项目或 AI Infra 产品,可分三个阶段推进。

阶段产品形态目标
P0Intelligence Execution Runtime建立可运行闭环:模型无关接入,统一状态与上下文,接入 Agent、工具与环境,动态任务编排,行动与观察,独立结果验证,持久化执行
P1Intelligence Coordination Runtime形成核心差异化:异构模型与计算资源动态分配,跨 Agent 任务协作,环境状态同步,并发状态管理,任务分支、回滚与恢复,跨任务经验复用
P2Intelligence Evolution Runtime建立长期壁垒:经验自动提取,技能生成和验证,反馈数据生产,模型持续评估,特化模型训练与更新,RSI 支持

P0 让不同模型能够共享状态、调用环境并持续完成任务。P1 让复杂任务能够动态组织计算,而非依赖固定工作流。P2 让系统通过持续运行,积累可验证、可迁移的能力。

七、最终定义与验收标准

Intelligence Runtime,智能系统运行时。面向模型与智能体的原生计算运行基础设施。通过统一的状态、计算和反馈机制,将异构模型、Agent、工具及外部环境组织成持续运行的智能系统,实现任务的动态执行、结果的独立验证和能力的持续积累。

它带来的变化可以压缩为五句话:从模型调用转向异构智能计算组织;从上下文共享转向统一的智能状态管理;从工具调用转向模型与环境的双向计算;从执行记录转向独立验证和经验积累;从单次任务执行转向跨任务能力演化。

最重要的边界,可以用一句话划定:Agent Runtime 解决智能体如何可靠地运行,Intelligence Runtime 解决不同智能能力如何与外部世界共同完成计算,并在持续反馈中形成新的能力。

验收标准也可以写成两个普通人能理解的公式:

有效智能 ≈ 模型能力 × 环境可计算性 × 验证可信度 × 经验复用率

能力增量 = 已验证经验 × 可复用次数

最终的产品竞争力,应体现为:相同模型资源下,系统能够完成更复杂的任务、更长的任务链,并且能够从过去的执行中获得可验证的能力增量。这三项应成为 Intelligence Runtime 是否真正成立的验收标准。

果蝇的神经系统、身体和环境共同完成飞行计算。未来的 AI 系统也需要模型、Agent、Harness、工具和环境协同,才能突破单个模型的计算边界。Intelligence Runtime 的意义,正在于把一次运行变成可验证的进步,把一次完成变成可复用的能力。

标签 无
C.01 1 条评论
  1. 把执行与计算分开看这点很清醒,完成变能力的关键确实不在换个名字。

C.02 发表评论 取消回复