AWS 于11月12日宣布更新 AgentCore 运行时,将会话容量提高到8个 vCPU 和32 GB。发布文章还介绍了面向长时间运行智能体的内存回收、空闲缩容和文件系统支持。
此次更新针对一个实际部署问题:智能体等待模型、工具和人员时,执行环境可能继续消耗资源。AWS 希望在保持独立执行环境的同时,减少空闲开销。
这些是 AWS 的产品和性能主张。公告并不能证明每种工作负载都能获得最高幅度的启动或内存改善。
更大会话仍保留微型虚拟机边界
AgentCore 运行时是 Amazon Bedrock AgentCore 的托管计算层。AWS 称,每个会话仍在独立、硬件隔离的 Firecracker 微型虚拟机内运行,并具有独立的身份、策略和审计记录。
新的会话限制达到上一版本计算容量的四倍,即8个 vCPU 和32 GB 内存。容器镜像最大可达10 GB。目标负载包括大型代码库编译、浏览器工作流和本地模型推理。
AWS 表示,无论镜像大小或并发情况如何,会话都能在两秒内启动,并称启动速度最高提升至原来的15倍。这些是供应商报告的表现,不是本文进行的测量。
架构上的取舍并不陌生:预先配置环境可以减少等待,却会在空闲时消耗资源;按需环境可以节省容量,却可能带来启动延迟。AWS 将新运行时定位为减少这种取舍的方式,让客户不必自行维护预热池或集群。
内存节省取决于暂停和资源释放
据 AWS 介绍,运行时现在可在智能体释放内存后的几分钟内将其回收,空闲智能体会缩容至零。对于存在自然停顿的多轮智能体,AWS 报告每个会话的内存消耗最高减少68%。
这个条件很重要。68%指有停顿负载的内存消耗,并非总运营成本无条件降低。模型调用、工具、存储和工作负载行为都会影响整体账单。
对于持续运行的负载,承诺基线定价为每个会话设置最低计费内存量。会话可以突增至该基线的四倍。最低承诺和空闲缩容服务于不同负载模式,不能视为相同的经济安排。
公告还将恢复已完成初始化的环境列为效率变化的一部分。评估服务的团队仍需基于自身初始化工作、活跃期和停顿进行测量。
客户报告使用不同基线
Mission Cloud 报告了不同运行时版本对相同负载的初步比较:推理冷启动提速35%,健康检查启动提速77%,测得的每次调用运行时成本降低17%。这些是 AWS 引用的客户报告结果。
Zuora 则单独报告,在许多用例中每次调用的内存消耗减少约60%,同时在延迟稳定的情况下处理更多流量。这是不同指标和负载,不能与 Mission Cloud 的单次调用成本结果合并为通用节省数字。
定性案例也覆盖不同应用。Coinbase 描述隔离的编码智能体会话。Rescale 描述智能体验证模拟输入、排查作业、选择硬件并生成报告,工程师保留控制权。Thomson Reuters 描述用运行时托管和扩展 CoCounsel 法律工作流,同时保持对运行和集成的控制。
这些例子解释了托管隔离为什么有用,但并未独立认证公告中的每项安全或可靠性主张。
存储也进入控制范围的讨论
长时间运行的会话会积累文件、凭据和工具输出。仅隔离计算,不能决定这些数据如何存储、谁有权访问。
AWS 称,智能体可以动态挂载文件系统并保存工作,包括通过 FUSE 支持保存至 Amazon S3 存储桶。公告将其描述为在同一套控制下,把信任边界扩展至数据。
这里有一个重要时间限制。同一公告称,将会话绑定至专属存储文件夹、使用带会话标签凭据的逐会话范围控制,计划在 re:Invent 前实现。不能把这项未来承诺写成11月12日已经可用。
因此,会话隔离仍需与配置的身份和数据访问策略一并考虑。硬件隔离本身不能证明应用权限设置正确。
可用范围与下一项核验节点
AWS 称,更新后的运行时在北美、南美、欧洲和亚太地区的区域可用。公告的可用性段落没有提供逐区域的完整清单。
即刻变化是更大的隔离会话、据称更快的初始化,以及更灵活的内存使用。下一项明确的存储里程碑是承诺的逐会话文件夹范围控制。对部署团队而言,基于自身负载检查延迟、内存与权限,仍是判断这些变化是否满足需求的方式。
