AI 에이전트는 목표를 이루기 위해 여러 번 판단하고 행동하는 소프트웨어입니다. 대규모 언어 모델을 사용하는 경우 모델은 요청을 해석하고 다음 단계를 고르는 데 도움을 줍니다. 도구를 사용하면 대화 밖의 정보를 읽거나, 허용된 범위에서 외부 시스템을 변경할 수 있습니다. 각 행동 뒤에는 결과를 확인하고 계속 진행할지, 다시 시도할지, 사람에게 도움을 요청할지 결정합니다. Lilian Weng의 자율 에이전트 해설은 계획, 기억, 도구 사용을 흔한 구성 요소로 설명합니다. AWS Agentic AI Lens의 정의도 맥락 파악, 여러 단계의 행동, 명확한 목표에 맞춘 조정을 강조합니다.
구체적인 예
다음 주에 30분짜리 회의 시간을 찾아 달라고 요청한다고 가정해 봅시다. 채팅 화면은 캘린더를 비교하는 방법을 설명할 수 있습니다. 캘린더 접근 권한이 있는 에이전트라면 빈 시간을 읽고, 후보 두 개를 제안하고, 충돌을 확인한 뒤 초대장을 준비할 수 있습니다. 실제로 초대장을 보내기 전에는 조직 규칙에 맞는 승인이 여전히 필요합니다. 화면이 채팅처럼 보이는지보다 사용할 수 있는 도구와 권한, 수행 가능한 행동이 더 중요합니다.
작업이 진행되는 과정
- 목표와 맥락 이해: 요청, 제약 조건, 읽도록 허용된 정보를 받습니다.
- 다음 단계 선택: 큰 작업을 나누고, 부족한 정보를 찾거나 추가 설명을 요청합니다.
- 도구 사용: 권한에 따라 검색하고, 파일을 읽고, API를 호출하거나 변경안을 준비합니다.
- 결과 확인: 결과를 목표와 비교하고, 오류를 고치거나 사람의 판단이 필요한 지점에서 멈춥니다.
이 순환 과정은 이해를 돕는 틀일 뿐, '에이전트'라는 이름을 붙인 모든 제품이 안정적으로 계획하고 스스로 오류를 고친다는 보장은 아닙니다. 정해진 절차의 한 단계에서만 모델을 쓰는 제품도 있고, 모델이 여러 차례 도구를 고르는 제품도 있습니다. 이름만으로 실제 권한이나 신뢰성을 알 수 없습니다.
에이전트, 챗봇, 고정 자동화의 차이
'챗봇'은 먼저 대화 방식의 인터페이스를 뜻합니다. 챗봇도 도구를 호출할 수 있으므로 챗봇과 에이전트는 서로 배타적이지 않습니다. 고정 자동화는 매주 월요일 보고서를 보내는 것처럼 미리 정한 규칙을 따릅니다. 목표는 분명하지만 새 정보에 따라 수행 경로가 달라질 때 에이전트가 유용할 수 있습니다. 규칙이 안정적인 반복 작업이라면 고정된 절차가 테스트와 유지 관리에 더 쉬울 수 있습니다.
제품을 고를 때는 무엇을 읽고 바꿀 수 있는지, 완료를 어떻게 판단하는지, 사람이 어디에서 중단할 수 있는지 물어보세요. 회의 시간을 제안하는 도우미와 초대장을 보내거나 예약을 바꾸는 도우미는 필요한 통제가 다릅니다.
적합한 작업과 실패 가능성
허용된 여러 자료에서 정보를 모으고, 출처를 붙여 초안을 만들고, 기록을 대조하거나 일상적인 절차를 조정하는 등 범위가 뚜렷한 여러 단계의 작업에 적합합니다. '출처 링크가 있는 초안' 또는 '초대장은 보내지 않고 시간 충돌만 나열'처럼 확인 가능한 완료 조건을 제시하세요.
그래도 지시를 잘못 이해하거나, 잘못된 자료를 믿거나, 엉뚱한 도구를 선택하거나, 효과 없는 단계를 반복할 수 있습니다. 설명이 유창하다고 실제 작업이 성공한 것은 아닙니다. 영향이 큰 작업에서는 결과를 직접 확인하고 필요하면 도구 기록을 살펴보세요. 되돌릴 수 없는 행동 전에는 사람이 판단해야 합니다. 읽기 전용 권한과 대표적인 작업부터 시험하고, 실패 유형을 파악한 뒤 권한을 넓히는 편이 좋습니다.
선택 전 확인할 질문
- 목표가 분명하고 결과를 검증할 수 있나요?
- 여러 단계의 판단이 필요한가요, 아니면 고정 절차로 충분한가요?
- 어떤 도구와 데이터가 필요하며, 어떤 행동에 승인이 필요한가요?
- 도구가 실패하거나 데이터가 충돌하거나 시스템이 확신하지 못하면 어떻게 되나요?
- 결과를 쓰기 전에 출처와 최종 산출물을 확인할 수 있나요?
핵심은 '에이전트'라는 이름이 아니라, 주어진 권한으로 어떤 구체적인 일을 안정적으로 끝낼 수 있는지입니다. 범위를 제한한 자신의 작업에서 먼저 그 행동을 검증하세요.