0

0

Volcano 发布 AgentCube:高性能 AI Agent 编排层

碧海醫心

碧海醫心

发布时间:2026-01-12 21:25:01

|

116人浏览过

|

来源于php中文网

原创

volcano 社区正式发布全新子项目 agentcube——一个基于 volcano 构建的高性能 ai agent 编排平台。它通过深度扩展 kubernetes api,将 agent 实例与各类工具(如代码解释器、浏览器操作模块等)抽象为集群中的一等资源。“这不仅是一组 crd,更是一个专为 agent 设计的 serverless 操作系统。”

AgentCube 定义了两类关键 CRD,用于描述不同场景下的 Agent 工作负载:

1. AgentRuntime: 专为长周期、多轮交互式对话 Agent 设计。

  • 支持配置会话生命周期策略、资源限制(CPU / 内存配额)以及状态持久化机制。

2. CodeInterpreter: 面向短时、高频、单次执行类任务的代码运行环境。

  • 倡导“即用即弃”理念,具备强安全隔离能力,原生兼容 MicroVM 运行时(如 Kuasar、Kata Containers、Firecracker)。

未来,AgentCube 还将持续拓展对 BrowserUse、ComputerUse、MobileUse 等多样化工作负载的抽象支持。

AgentCube 核心技术特性

1. 超低延迟启动

为彻底规避冷启动瓶颈,AgentCube 引入 Warm Pool(预热池)机制。系统预先拉起并挂起一批已加载基础运行环境的 MicroVM 沙箱。当新 Agent 请求抵达时,AgentCube 采用 “Claim-and-Go” 模式,在毫秒级内完成沙箱分配与唤醒,提供接近零感知的启动体验。

2. 高效智能调度

依托 Volcano 自研的 Agent Scheduler,AgentCube 在调度吞吐量与时延方面实现显著突破。

LongCat AI
LongCat AI

美团推出的AI对话问答工具

下载
  • 高并发低延迟:针对 Agent 流量突发性强的特点,采用乐观并发控制与轻量化调度逻辑,大幅拉升每秒调度事务数(TPS)。
  • 多负载协同调度:Volcano Agent Scheduler 可与现有 Batch Scheduler 无缝共存,在统一调度框架下兼顾 Agent 类任务与传统批处理作业,兼顾资源利用率与核心业务 SLA。

3. 内置会话感知路由与管理

AgentCube 以 Session ID 为核心标识,构建端到端的会话上下文保障体系。

  • 智能请求分发:AgentCube Router 自动解析请求头中的 x-agentcube-session-id 字段,并精准路由至对应活跃沙箱。
  • 沙箱按需唤醒:若目标会话所绑定的沙箱当前处于休眠状态,Router 将自动触发其恢复运行。
  • 会话级资源隔离:每个 Session 独占一个沙箱实例,在计算、内存及文件系统层面实现硬隔离,杜绝跨租户数据泄露风险。

4. Serverless 式弹性扩缩容

AgentCube 动态感知会话活跃度,自主调控沙箱生命周期。闲置沙箱将被自动回收或转入休眠状态,释放底层物理资源,交由更高优先级任务使用,真正达成资源按需供给与极致复用。

AgentCube 整体架构示意

AgentCube 采用标准的控制面与数据面分离架构,兼顾系统稳定性、可维护性与横向扩展能力:

Volcano 发布 AgentCube:高性能 AI Agent 编排层

  • 数据面:由 AgentCube Router 承担。作为统一入口网关,负责身份校验、流量限速及基于 Session ID 的动态路由。对于新建会话,它向控制面发起资源申请;对于已有会话,则直接转发请求至对应 Sandbox(MicroVM)。
  • 控制面:核心组件 Workload Manager 全权管理沙箱全生命周期。它持续监控 Warm Pool 容量水位,按需扩容 MicroVM 实例,并依据 TTL 等策略执行沙箱回收与清理。
  • 调度层:集成 Volcano Agent Scheduler,借助异步并行调度与乐观锁机制,在高并发场景下实现毫秒级资源分配。

源码地址:点击下载

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

307

2023.10.17

session失效解决方法
session失效解决方法

session失效通常是由于 session 的生存时间过期或者服务器关闭导致的。其解决办法:1、延长session的生存时间;2、使用持久化存储;3、使用cookie;4、异步更新session;5、使用会话管理中间件。

732

2023.10.18

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

88

2025.08.19

Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务
Golang云原生微服务Kubernetes_Golang怎么集成Kubernetes开发云原生服务

Golang云原生微服务Kubernetes (K8s) 是指 使用 Go 语言(Golang)编写的云原生微服务,并利用 Kubernetes 平台进行容器化部署、自动化管理、弹性伸缩和高效编排的一整套现代应用架构方案。

23

2025.12.22

Java 项目构建与依赖管理(Maven / Gradle)
Java 项目构建与依赖管理(Maven / Gradle)

本专题系统讲解 Java 项目构建与依赖管理的完整体系,重点覆盖 Maven 与 Gradle 的核心概念、项目生命周期、依赖冲突解决、多模块项目管理、构建加速与版本发布规范。通过真实项目结构示例,帮助学习者掌握 从零搭建、维护到发布 Java 工程的标准化流程,提升在实际团队开发中的工程能力与协作效率。

10

2026.01.12

c++主流开发框架汇总
c++主流开发框架汇总

本专题整合了c++开发框架推荐,阅读专题下面的文章了解更多详细内容。

106

2026.01.09

c++框架学习教程汇总
c++框架学习教程汇总

本专题整合了c++框架学习教程汇总,阅读专题下面的文章了解更多详细内容。

64

2026.01.09

学python好用的网站推荐
学python好用的网站推荐

本专题整合了python学习教程汇总,阅读专题下面的文章了解更多详细内容。

139

2026.01.09

学python网站汇总
学python网站汇总

本专题整合了学python网站汇总,阅读专题下面的文章了解更多详细内容。

13

2026.01.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 3.6万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号