AI 에이전트 아키텍처 설명
네 가지 주요 부분이 함께 작동합니다. 언어 모델은 목표를 해석하고 행동을 고르는 두뇌입니다. 도구는 외부 정보에 접근하거나 데이터를 바꾸게 합니다. 메모리는 과거 단계와 결과를 저장해 매 턴 처음부터 시작하지 않게 합니다. 제어 루프는 계속할지 멈출지 결정합니다.
이 부분들은 무작위로 덧붙은 것이 아닙니다. 루프가 현재 상태를 읽고 메모리를 포함한 프롬프트를 모델에 보내면, 모델은 도구 호출이나 최종 답을 출력합니다. 이어 결과로 메모리를 갱신하고 이 주기를 반복합니다.
먼저 현재 상태와 목표에 대한 추론을 밝힙니다. 그런 다음 도구와 인수를 지정합니다. 시스템이 도구를 실행하고 결과를 관찰로 돌려주면 모델은 이를 읽고 다음 생각을 시작합니다.
도구 사용과 메모리 설계
도구는 흔히 세 범주로 나뉩니다. 검색 도구는 외부 사실을 가져오고, 코드 실행 도구는 계산하거나 데이터를 변환하며, 파일 도구는 로컬 문서를 읽고 씁니다. 사용자가 매번 요청을 작성하지 않아도 이를 호출할 수 있을 때 에이전트의 힘이 커집니다.
설계자는 에이전트가 무엇을 잊어도 되는지도 정해야 합니다. 메모리가 너무 많으면 프롬프트가 비대해지고 너무 적으면 유용성을 만드는 연속성이 사라집니다.
현실적 한계와 인간 감독
좋은 아키텍처에서도 에이전트는 예측 가능한 방식으로 실패합니다. 도구 출력에는 잡음이 있고, 모델은 관찰을 잘못 읽어 틀린 분기로 갈 수 있습니다. 긴 작업에서는 계획 이탈이 커져 원래 목표를 놓칩니다.
감독은 에이전트의 가치를 없애지 않습니다. 기반 루프와 메모리가 개선되는 동안 시스템을 안전한 범위 안에 두는 역할을 합니다.
질문: 에이전트가 영원히 실행되는 것을 무엇이 막나요?
답변: 구현에서 최대 턴 수를 정하거나 모델이 다음 주기를 시작하기 전에 명시적인 중지 조건을 충족하게 합니다.