AWSは11月12日、AgentCoreランタイムを更新し、セッションの上限を8 vCPU、32 GBへ引き上げました。発表記事では、長時間動作するエージェント向けにメモリ回収、アイドル時の縮退、ファイルシステム対応も説明しています。

エージェントはモデル、ツール、人の応答を待ちますが、その間も実行環境が資源を消費し続けることがあります。AWSは、実行環境の分離を維持しつつ、この待機時の負荷を減らそうとしています。

これらはAWSによる製品・性能上の主張です。すべてのワークロードが、起動時間やメモリ使用量で最大の改善を得られるとは示されていません。

大きくなっても維持されるmicroVMの境界

AgentCoreランタイムはAmazon Bedrock AgentCoreのマネージド計算基盤です。AWSによると、各セッションは引き続き、個別のID、ポリシー、監査記録を持つ、ハードウェアで分離されたFirecrackerマイクロ仮想マシン内で動作します。

新しいセッション上限は旧版の4倍で、8 vCPUと32 GBメモリに達します。コンテナイメージは最大10 GBです。大規模リポジトリのコンパイル、ブラウザを使う処理、ローカルモデル推論などを想定しています。

AWSは、イメージの大きさや同時実行数にかかわらず2秒未満で起動し、起動が最大15倍高速になったと説明しています。これは提供元が報告した挙動であり、本記事で測定した値ではありません。

設計上のトレードオフは従来と同様です。事前確保した環境は待ち時間を減らせますが、待機中も資源を使います。オンデマンド環境は容量を節約する一方、起動待ちが生じます。AWSは、利用者がウォームプールやクラスタを自分で管理せずに、この折り合いを改善できると位置づけています。

メモリ削減は休止と資源解放に依存

AWSによると、エージェントがメモリを解放すると、ランタイムが数分以内に回収します。アイドル状態のエージェントはゼロまで縮退します。対話の間に自然な休止があるマルチターンエージェントでは、セッション当たりのメモリ消費が最大68%減るとしています。

この条件は重要です。68%は休止のある処理のメモリ消費を指し、総運用費が無条件に同率下がるという意味ではありません。モデル呼び出し、ツール、ストレージ、処理の動作が請求全体に影響します。

常時稼働する処理向けのコミット型ベースライン料金では、セッションごとに最低課金メモリ量を設定します。必要時にはその4倍までバーストできます。最低利用量のコミットとアイドル時の縮退は異なる利用形態に対応しており、同じ料金の仕組みとして扱えません。

発表では、効率改善の一部として初期化済み環境の復元も説明しています。評価するチームには、自分たちの初期化処理、稼働時間、休止時間に基づく測定が必要です。

顧客の報告は比較基準が異なる

Mission Cloudは、同一ワークロードでランタイムの新旧を比較した初期結果として、推論要求のコールドスタートが35%、ヘルスチェックの起動が77%速くなり、測定した1呼び出し当たりランタイム費用が17%下がったと報告しています。AWSが紹介した顧客の測定結果です。

Zuoraは別途、多くのユースケースで呼び出し当たりのメモリを約60%減らし、遅延を維持しながら処理量を増やせたとしています。指標も処理も異なります。Mission Cloudの呼び出し単価と組み合わせ、普遍的な削減率にはできません。

定性的な事例も用途が異なります。Coinbaseはコーディングエージェントの分離セッションを挙げています。Rescaleは、技術者が制御を保ちながら、シミュレーション入力の検証、ジョブの問題解決、ハードウェア選択、レポート作成を行うエージェントを説明しています。Thomson Reutersは、運用や連携の制御を維持しつつ、CoCounselの法律業務をホストし拡張するとしています。

これらはマネージドな分離環境が役立つ理由を示します。ただし、発表中のすべての安全性・信頼性の主張を独立に保証するものではありません。

ストレージも制御の対象へ

長時間動くセッションにはファイル、認証情報、ツール出力が蓄積します。計算環境を分離するだけでは、保存方法やアクセス権は決まりません。

AWSによると、エージェントはファイルシステムを動的にマウントして作業を保存でき、FUSE対応でAmazon S3バケットも利用できます。発表は、共通の制御を通じてデータにも信頼境界を広げるものと位置づけています。

ただし時期に注意が必要です。同じ発表では、セッションのラベルを持つ認証情報で各セッションを専用フォルダに結びつけるスコープ設定は、re:Inventまでに提供する計画としています。11月12日に利用可能だった機能として報じるべきではありません。

セッションの分離は、設定されたIDやデータアクセスポリシーと併せて考える必要があります。ハードウェアによる分離だけでアプリケーションの権限設定が正しいとはいえません。

提供地域と次の確認点

AWSは、更新版を北米、南米、欧州、アジア太平洋のリージョンで提供しているとしています。ただし提供状況の段落に、個別リージョンの完全な一覧はありません。

今回の変更は、分離セッションの拡大、初期化の高速化という報告、柔軟なメモリ利用です。次の具体的なストレージ上の節目は、予告されたセッション別フォルダのスコープ設定です。導入チームは、自分たちの処理で遅延、メモリ、権限を検証することで、要件に合うか判断する必要があります。

関連記事
参考資料

ツールディレクトリを見る →