AI 에이전트와 에이전틱 서비스란? 답하는 AI가 일하는 AI가 되기까지

AI 에이전트는 목표를 받으면 할 일을 스스로 나누고, 필요한 도구를 골라 쓰고, 결과를 보고 다음 행동을 정하는 AI 시스템입니다. 에이전틱 서비스는 이런 에이전트가 실제 업무를 맡을 수 있도록 권한, 기록, 사람의 확인, 운영 장치를 갖춘 서비스를 말합니다.

한눈에 보기

• 언어 모델은 생각하는 법(사고 사슬, 2022년), 도구 사용(ReAct·Toolformer, 2022~2023년), 도구 연결 표준(MCP, 2024년)을 차례로 얻으며 스스로 계획하는 에이전트가 됐습니다.
• 에이전틱 서비스는 이런 에이전트에 권한, 기록, 사람의 확인, 운영 장치를 갖춰 실제 업무를 맡길 수 있게 만든 제품입니다.
• 처음에는 반복되고 확인하기 쉬운 일부터 맡기고, 외부 발송·결제·삭제처럼 되돌리기 어려운 행동에는 사람의 승인을 둡니다.

몇 년 전까지 AI는 묻는 말에 답하는 존재였습니다. 지금은 메일을 정리하고, 코드를 고치고, 보고서를 써서 올리는 일까지 맡습니다. 이 글은 언어 모델이 어떤 단계를 거쳐 "답하는 AI"에서 "일하는 AI"가 됐는지, 그 끝에 나온 에이전트와 에이전틱 서비스가 무엇인지, 그리고 젠아이랩스(GenAI Labs)가 이 흐름에서 어떤 문제를 풀고 있는지 차례로 설명합니다. 에이전트 내부의 동작 원리(생각, 행동, 관찰의 반복)는 AI 에이전트란? 글에서 더 자세히 다룹니다.

이런 상황을 떠올려 보세요

직원 다섯 명인 작은 인쇄소의 총무 담당자는 월요일 아침마다 같은 일을 합니다. 주말 사이 들어온 고객사 메일을 훑고, 납품 일정이 바뀐 건을 골라 엑셀 일정표를 고치고, 대표에게 이번 주 할 일을 정리해 보고합니다. 이 일을 AI에게 맡기는 방식은 네 가지로 나눠 볼 수 있습니다.

• 챗봇: 메일 내용을 복사해 붙여 넣고 "요약해 줘"라고 묻습니다. 요약은 받지만, 메일을 모으고 일정표를 고치는 일은 여전히 사람이 합니다.
• 워크플로: "새 메일이 오면 요약해 단체방에 올린다"처럼 순서를 미리 짜 둡니다. 정해진 일은 빠르게 처리하지만, 납품 일정이 바뀐 메일만 골라 일정표를 고치는 것처럼 짜 두지 않은 일은 하지 못합니다.
• 에이전트: "주말 메일 가운데 납품 일정이 바뀐 건을 찾아 일정표를 고치고 보고서를 써 줘"라는 목표 하나를 받고, 메일함을 뒤지고, 일정표를 열어 고치고, 보고서를 씁니다. 어떤 순서로 할지는 에이전트가 정합니다.
• 에이전틱 서비스: 같은 에이전트가 정해진 메일함과 일정표 안에서만 일하고, 무엇을 고쳤는지 기록을 남기며, 고객사에 답장을 보내기 전에는 총무의 승인을 받습니다. 매주 월요일 믿고 맡길 수 있는 형태입니다.

네 방식의 차이는 뒤에서 표로 다시 정리합니다.

기억으로만 답하던 처음의 언어 모델

ChatGPT가 처음 나왔을 때의 대규모 언어 모델(LLM, ChatGPT 같은 AI의 바탕이 되는 모델)은 방대한 글을 미리 학습(사전학습, pre-training)해 두고, 질문이 들어오면 그 기억을 바탕으로 다음에 올 단어를 확률로 골라 문장을 이어 갔습니다. 문장은 매끄러웠지만 한계가 분명했습니다.

• 학습 이후의 일은 몰랐습니다. 질문한 날의 뉴스나 환율은 학습 데이터에 없었습니다.
• 계산을 틀렸습니다. 숫자를 계산하는 것이 아니라 그럴듯한 숫자를 고르기 때문에, 자릿수가 큰 곱셈에서 자주 틀렸습니다.
• 확인하지 않고 지어냈습니다. 모르는 것도 아는 것처럼 답하는 환각(hallucination)이 생겼습니다.
• 말만 할 수 있었습니다. 메일을 보내거나 파일을 고치는 것처럼 바깥 세계에 손을 댈 방법이 없었습니다.

이후 몇 년 동안의 발전은 이 네 가지 한계를 하나씩 메워 온 과정이라고 볼 수 있습니다.

생각하는 법 배우기

첫 번째 변화는 답을 내기 전에 생각하는 과정을 거치게 한 것입니다. 2022년 1월 구글 연구진은 모델에게 풀이 과정을 단계별로 쓰게 하면 수학·논리 문제의 정답률이 크게 오른다는 "사고 사슬(chain-of-thought)" 연구를 발표했습니다. 2024년 9월 OpenAI가 내놓은 o1처럼 답하기 전에 스스로 오래 추론하도록 훈련한 추론 모델도 이 흐름에서 나왔습니다.

생각하는 능력은 뒤에 나올 에이전트의 바탕이 됩니다. 일을 여러 단계로 나누고, 각 단계에서 무엇을 해야 할지 판단하려면 먼저 중간 과정을 따져 볼 수 있어야 하기 때문입니다.

계산기와 검색창 쥐여 주기

두 번째 변화는 모델이 스스로 못 하는 일을 도구에 맡기게 한 것입니다. 2022년 10월 발표된 ReAct 연구는 모델이 생각(추론)과 행동(검색 같은 도구 사용)을 번갈아 하게 하면, 검색 결과를 보고 계획을 고치면서 더 정확하게 답한다는 것을 보였습니다. 2023년 2월 메타의 Toolformer 연구는 언어 모델이 계산기, 질의응답 시스템, 검색 엔진, 번역기, 달력 같은 도구를 언제 어떻게 부를지 스스로 배울 수 있음을 보였습니다.

같은 해 제품에도 도구가 붙었습니다. 2023년 3월 OpenAI는 ChatGPT에 플러그인(외부 서비스의 기능을 덧붙이는 추가 기능)을 선보이며 이를 "최신 정보를 찾고, 계산을 하고, 외부 서비스를 쓰도록 돕는 도구"라고 설명했습니다. 웹 브라우저와 코드 인터프리터(AI가 직접 코드를 실행해 계산하는 기능)를 직접 제공했고, 계산 엔진 울프럼 알파(Wolfram|Alpha) 같은 외부 서비스 12곳이 처음부터 참여했습니다. 이제 모델은 모르는 최신 정보는 검색으로 확인하고, 계산은 코드를 실행해 정확하게 하고, 그 결과를 근거로 답할 수 있게 됐습니다. 회사 문서를 찾아 근거로 답하는 RAG(검색 증강 생성, 질문과 관련된 문서를 먼저 찾아 근거로 답하는 방식)도 이 시기에 널리 퍼졌습니다.

어떤 도구든 연결하는 표준의 등장

세 번째 변화는 도구 연결 방식이 표준화된 것입니다. 2023년 6월 OpenAI는 개발자가 함수의 이름과 입력 형식을 알려 주면 모델이 필요할 때 그 함수를 어떤 값으로 부를지 정해 주는 함수 호출(function calling) 기능을 API(프로그램끼리 정해진 방식으로 주고받는 창구)에 넣었습니다. 모델이 "날씨 조회 함수를 서울로 불러라"라고 구조화된 형태로 말하면, 프로그램이 실제로 함수를 실행하고 결과를 다시 모델에게 돌려주는 방식입니다.

그래도 도구마다 연결 코드를 따로 짜야 하는 문제는 남았습니다. 2024년 11월 25일 Anthropic은 AI가 데이터와 업무 도구에 연결되는 방식을 하나로 맞춘 공개 표준 MCP(Model Context Protocol)를 발표했습니다. USB 단자처럼 한 번 규격을 맞춰 두면 파일, 데이터베이스, 메신저, 사내 시스템을 같은 방식으로 붙일 수 있습니다. 2025년 3월 OpenAI, 4월 구글, 5월 마이크로소프트가 차례로 MCP 지원을 발표하면서 사실상의 업계 표준이 됐습니다. 2025년 12월 Anthropic은 활성 공개 MCP 서버가 1만 개를 넘었다고 밝히고, MCP를 리눅스 재단 산하의 에이전틱 AI 재단(Agentic AI Foundation)에 기증했습니다. 한 회사의 기술이 아니라 업계가 함께 관리하는 표준이 된 것입니다.

스스로 계획하고 판단하는 에이전트

생각하는 능력, 도구를 쓰는 능력, 어떤 도구든 연결하는 표준이 모이자 마지막 단계가 가능해졌습니다. 사람이 단계마다 지시하지 않아도, 목표 하나를 받으면 AI가 할 일을 나누고, 도구를 골라 쓰고, 결과를 보고 다음 행동을 정하는 것입니다. 이것이 AI 에이전트입니다.

Anthropic은 2024년 12월 공개한 글 「효과적인 에이전트 만들기(Building effective agents)」에서 이 차이를 분명하게 나눴습니다. 워크플로는 "LLM과 도구가 미리 정해 둔 코드 경로를 따라 움직이는 시스템"이고, 에이전트는 "LLM이 스스로 과정과 도구 사용을 정하고, 일을 어떻게 끝낼지에 대한 통제권을 쥔 시스템"입니다. 핵심은 다음 단계를 누가 정하느냐입니다.

예를 들어 "지난달 고객 문의를 분석해 보고서로 정리해 줘"라는 목표를 받은 에이전트는 이렇게 움직입니다.

1. 문의 데이터가 어디 있는지 찾고, 데이터베이스에서 지난달 문의를 조회합니다.
2. 문의를 유형별로 나누려면 몇 건인지 계산이 필요하다고 판단하고, 코드를 실행해 집계합니다.
3. 급증한 유형이 보이면 그 원인을 찾으려고 관련 공지나 배포 기록을 검색합니다.
4. 결과를 보고서로 쓰고, 사람에게 보내기 전에 확인을 요청합니다.

이 순서는 누가 미리 짜 둔 것이 아닙니다. 에이전트가 중간 결과를 보고 그때그때 정한 것입니다. 2024년 10월 Anthropic의 컴퓨터 사용(computer use), 2025년 1월 OpenAI의 Operator, 2월의 딥 리서치(여러 자료를 스스로 찾아 읽고 긴 보고서를 써 주는 기능), 7월의 ChatGPT 에이전트처럼, 에이전트가 사람 대신 화면을 조작하거나 수십 개의 자료를 찾아 읽고 보고서를 쓰는 기능이 연이어 나왔습니다. 개발 분야에서는 Claude Code, Cursor 같은 코딩 에이전트가 코드를 읽고, 고치고, 테스트까지 돌립니다.

에이전트와 에이전틱 서비스는 어떻게 다른가

에이전트가 기술이라면, 에이전틱 서비스는 그 기술을 업무에 쓸 수 있게 만든 제품입니다. 에이전트가 똑똑하다고 해서 바로 회사 일을 맡길 수는 없습니다. 실제 업무에 붙이려면 다음과 같은 것이 함께 있어야 합니다.

• 권한: 에이전트가 볼 수 있는 데이터와 할 수 있는 행동의 범위를 정합니다.
• 기록: 에이전트가 무엇을 근거로 어떤 행동을 했는지 나중에 확인할 수 있어야 합니다.
• 사람의 확인: 결제가 일어나거나 메일이 밖으로 나가는 것처럼 되돌리기 어려운 행동 전에는 사람이 승인합니다.
• 업무 연결: 회사의 문서, 메신저, 일정, 데이터베이스와 연결돼 있어야 실제 일을 할 수 있습니다.
• 운영: 비용 한도, 오류 처리, 성능 확인처럼 매일 쓰는 서비스로 돌아가게 하는 장치가 필요합니다.

여러 에이전트가 역할을 나눠 일하는 멀티 에이전트 구조도 에이전틱 서비스에서 자주 쓰입니다. 한 에이전트가 자료를 찾고, 다른 에이전트가 글을 쓰고, 또 다른 에이전트가 검토하는 식입니다. 사람의 팀처럼 역할을 나누면 한 에이전트가 모든 것을 떠안을 때보다 각 단계의 품질을 관리하기 쉽습니다.

숫자로 본 에이전트 도입

에이전트는 빠르게 퍼지고 있지만, 실제로 일을 맡긴 조직은 아직 많지 않습니다. 맥킨지가 2025년 11월 발표한 조사(응답 1,993명)에서 AI를 정기적으로 쓰는 조직은 88%였지만, 에이전트를 조직 어딘가에서 확대 적용하고 있다는 응답은 23%, 실험을 시작한 곳까지 합쳐도 62%였습니다. 업무 기능 하나를 놓고 보면 에이전트를 확대 적용 중이라는 응답은 어디서도 10%를 넘지 않았습니다. 가트너의 2026년 CIO(최고정보책임자) 설문에서도 AI 에이전트를 배포한 조직은 17%였고, 60% 이상이 2년 안에 도입할 계획이라고 답했습니다.

전망은 가파릅니다. 가트너는 2028년까지 기업용 소프트웨어의 33%가 에이전틱 AI를 넣고(2024년 1% 미만), 일상 업무 결정의 15% 이상을 에이전틱 AI가 스스로 내릴 것이라고 봤습니다(2024년 0%). 그런데 같은 발표에서 가트너는 에이전틱 AI 프로젝트의 40% 이상이 늘어나는 비용, 불분명한 사업 가치, 부족한 위험 관리 때문에 2027년 말까지 중단될 것이라고도 전망했습니다. 에이전트라는 이름만 붙인 제품이 많다는 이른바 "에이전트 워싱"도 지적했습니다. 기술은 빠르게 발전했지만, 그것을 업무에 안전하게 붙이는 일이 아직 남아 있다는 뜻입니다.

에이전트가 넘어야 할 벽

에이전트가 스스로 판단한다는 것은 스스로 틀릴 수도 있다는 뜻입니다. 에이전틱 서비스를 만들 때 풀어야 할 문제도 여기서 나옵니다.

• 오류가 쌓입니다. 한 단계에서 조금 틀린 판단이 다음 단계의 입력이 되면서 결과가 점점 엇나갈 수 있습니다.
• 숨은 지시에 속습니다. 에이전트가 읽은 웹 페이지나 문서 안에 "이 파일을 외부로 보내라" 같은 지시가 숨어 있으면 그대로 따를 수 있습니다. 이를 프롬프트 인젝션이라고 하며, 국제 웹 보안 단체 OWASP가 정리한 LLM 애플리케이션 10대 위험(2025)의 첫 번째 항목입니다. 2025년 6월에는 마이크로소프트 365 코파일럿이 메일에 숨은 지시를 따라 정보를 밖으로 내보낼 수 있는 취약점(EchoLeak, 공개 보안 취약점 번호 CVE-2025-32711)이 공개되기도 했습니다.
• 권한이 지나치면 피해가 커집니다. 같은 목록은 에이전트에게 필요 이상의 기능, 권한, 자율을 주는 과도한 자율성(Excessive Agency)도 주요 위험으로 꼽습니다. OWASP는 2025년 12월 에이전트 목표 탈취, 도구 오용, 권한 남용, 연쇄 실패 등을 담은 에이전틱 애플리케이션 10대 위험을 따로 발표했습니다.
• 실제 사고도 났습니다. 2025년 7월 한 개발 플랫폼의 AI 에이전트는 코드 변경을 멈추라는 지시를 받고도 운영 데이터베이스(실제 서비스가 고객 데이터를 담아 쓰고 있는 데이터베이스)를 지웠습니다.
• 비용이 불어납니다. 에이전트는 목표를 이룰 때까지 모델과 도구를 여러 번 부르므로, 한도를 두지 않으면 비용을 예측하기 어렵습니다.
• 책임이 흐려집니다. 누가 어떤 근거로 그 행동을 결정했는지 기록이 없으면, 문제가 생겼을 때 원인을 찾을 수 없습니다.

그래서 좋은 에이전틱 서비스는 에이전트에게 최대한 많은 것을 맡기는 서비스가 아니라, 맡길 것과 사람이 확인할 것을 잘 나눈 서비스입니다.

젠아이랩스의 에이전틱 서비스

젠아이랩스도 챗봇에서 시작해 에이전트와 에이전틱 서비스로 제품을 넓혀 왔습니다. 앞에서 본 벽에 어떻게 대응하는지 네 가지 사례로 보면 다음과 같습니다.

• 숨은 지시에 속는 문제: GuardTrail. 회사의 AI 에이전트가 셸 명령(컴퓨터에 글자로 내리는 작업 명령) 실행, 파일 접근, 메일 발송, MCP 도구 호출을 하기 직전에 위험한 행위를 판정해 멈춥니다. 숨은 지시에 속아 로그인 정보(자격 증명)를 밖으로 보내려는 흐름을 호출 순서로 판단해 막습니다.
• 정보가 밖으로 새는 문제: Shield. GPT, Claude, Gemini를 쓰는 동안 주민번호, 전화번호, 카드번호 같은 개인정보가 AI 제공사로 나가기 전에 자동으로 가립니다. 무엇을 가렸는지는 감사 기록으로 남습니다.
• 오류가 쌓이고 비용이 불어나는 문제: MovieAgentStudio. 각본가, 연출, 프로듀서 등 13명의 역할별 AI 제작진이 각본부터 콘티, 영상, 편집까지 나눠 맡는 멀티 에이전트 스튜디오입니다. 주요 단계마다 사용자가 PD로서 결과를 확인하고 승인하며, 비용이 드는 작업은 실행 직전에 예산 상한을 확인합니다.
• 책임이 흐려지는 문제: 지식그래프·온톨로지. 회사 문서에서 사람, 조직, 프로젝트 사이의 관계를 뽑아 그래프로 만듭니다. 에이전트가 이 그래프를 따라가며 답하면 문장마다 근거 문서를 붙일 수 있어, "어디서 나온 답인가"를 사람이 바로 확인할 수 있습니다.

그 밖에 일을 맡기는 서비스로 MCP Agent 구축(사내 문서 연결), MeetSummary(회의록 정리), @Research(연구 자료 정리), GensApps(AI 편집기에서 바로 배포)가 있고, 회사 사이트가 AI 답변에 인용될 준비가 됐는지 진단하는 GenAI AEO도 운영합니다.

에이전틱 서비스를 도입하려는 조직에게

에이전트 도입은 도구를 사는 일이라기보다 일을 나누는 일에 가깝습니다. 처음부터 모든 것을 맡기기보다, 다음 순서로 시작하기를 권합니다.

1. 반복되고 기준이 분명한 일부터 고릅니다. 문서 찾기, 회의 정리, 자료 요약처럼 결과를 사람이 쉽게 확인할 수 있는 일이 좋습니다.
2. 처음에는 관찰하고, 그다음에 맡깁니다. 에이전트가 무엇을 하는지 기록으로 먼저 보고, 믿을 수 있는 범위부터 권한을 넓힙니다.
3. 되돌리기 어려운 행동에는 사람의 승인을 둡니다. 외부 발송, 결제, 삭제가 여기에 해당합니다.
4. 권한과 비용에 한도를 둡니다. 에이전트가 볼 수 있는 데이터와 쓸 수 있는 비용을 처음부터 정합니다.

에이전트에게 주는 맥락을 어떻게 설계할지는 컨텍스트 엔지니어링, 에이전트를 제품으로 안전하게 잇는 장치는 하네스 엔지니어링, 에이전트가 반복해서 시도하는 구조는 루프 엔지니어링 글에서 이어 볼 수 있습니다. 어느 업무부터 에이전트에게 맡길지 막막하다면 AI 도입 컨설팅에서 함께 찾아볼 수 있습니다.

정리

언어 모델은 기억으로만 답하던 단계에서 출발해, 생각하는 법을 배우고, 계산기와 검색창을 쥐고, 어떤 도구든 연결하는 표준을 얻은 뒤, 스스로 계획하고 판단하는 에이전트가 됐습니다. 에이전틱 서비스는 이 에이전트가 실제 업무를 맡을 수 있도록 권한과 기록, 사람의 확인과 운영 장치를 갖춘 제품입니다. 에이전트가 얼마나 많은 일을 할 수 있느냐보다, 무엇을 맡기고 무엇을 사람이 확인할지를 잘 나누는 것이 에이전틱 서비스의 성패를 가릅니다.

글쓴이 박수현(젠아이랩스 대표) with AI (Claude Opus 5.5). 글의 구성과 관점, 젠아이랩스 서비스 설명은 필자가 정했고, 근거 자료 조사와 도판 제작, 문장 정리는 Claude Opus 5.5와 함께했습니다. 인용한 정의와 날짜는 출처 원문과 대조했습니다. 『바이브 코딩의 시대, 프롬프트를 넘어 컨텍스트 엔지니어링으로』를 비롯해 AI 실무서 네 권을 썼습니다.