AIエージェントアーキテクチャの解説
AIエージェントのアーキテクチャは、連携する四つの主要部分から成ります。言語モデルは目標を解釈し行動を選ぶ脳として働きます。ツールは外部情報へ到達したりデータを変えたりする手段を与えます。メモリは過去のステップと結果を保存し、ターンごとのやり直しを防ぎます。制御ループは停止・継続の時点を決めます。
これらは無作為に追加されたものではありません。ループは現在の状態を読み、メモリを含むプロンプトをモデルへ送り、モデルにツール呼び出しか最終回答を出させ、結果でメモリを更新します。このサイクルを繰り返します。
まずモデルは現在状態と目標への推論を示します。次にツール名と引数を指定します。システムがツールを実行して結果を観察として返し、モデルはそれを読んで次の思考を始めます。
ツール使用とメモリ設計
ツールは三つの一般的なカテゴリに分かれます。検索ツールは外部の事実を取得し、コード実行ツールは計算やデータ変換を行い、ファイルツールはローカル文書を読み書きします。ユーザーが毎回要求を書かずにこれらを呼べると、エージェントは力を得ます。
設計者は、エージェントに何を忘れさせるかも決める必要があります。メモリが多すぎればプロンプトが膨らみ、少なすぎればエージェントを有用にする継続性が失われます。
実世界の限界と人の監督
優れたアーキテクチャでも、エージェントは予測可能な形で失敗します。ツール出力にはノイズがあり、モデルは観察を誤読して誤った枝へ進むことがあり、長いタスクでは計画の逸脱が増えて元の目標を見失います。
監督はエージェントの価値を消しません。基盤となるループとメモリが時間とともに改善する間、システムを安全な境界内に保つだけです。
Q: エージェントが永遠に動くのを何が止めますか？ R: 実装は最大ターン数を設定するか、モデルが次のサイクルを始める前に明示的な停止条件を要求します。