에이전트 경제학의 시대: AI 경쟁은 이제 '벤치마크'가 아니라 '손익계산서'에서 결정된다

2년간 AI 경쟁은 '누가 더 똑똑한 모델을 만드는가'를 두고 벌어졌다. 그러나 에이전트가 실제 업무를 위임받아 스스로 작동하기 시작하면서, 승부의 축은 성능(capability)에서 운영 가능성(operability) — 즉 비용·컨텍스트·신뢰성 — 으로 급격히 이동하고 있다. 이 리포트는 오피니언 리더와 산업 현장의 신호를 엮어, '에이전트가 정말 그 값을 하는가'라는 질문이 왜 지금 AI 전략의 핵심 좌표가 되었는지를 논증한다.

벤치마크 1등의 함정: 리더보드 왕관이 사업 성공을 보장하지 않는다

AI 업계의 헤드라인은 여전히 '벤치마크 최고 성능'을 외친다. NVIDIA는 Nemotron이 LangChain Deep Agents 하니스에서 벤치마크 선도 성능을 달성했다고 발표했고, 이런 성능 경쟁은 매주 갱신된다. 그러나 이 성능 지표가 곧바로 기업의 손익으로 번역되지 않는다는 사실이 점점 분명해지고 있다. 문제는 '모델이 얼마나 똑똑한가'가 아니라 '그 똑똑함을 반복적으로, 저렴하게, 믿을 수 있게 굴릴 수 있는가'로 옮겨가고 있다. ¹

이 전환의 상징적 경고는 CIO.com이 던진 명제에서 드러난다. 통제 장치 없이 배치된 AI 에이전트는 직원 한 명보다 더 많은 비용을 낼 수 있다는 것이다. 에이전트는 인간과 달리 잠들지 않고, 한 번의 작업을 위해 수십·수백 번의 모델 호출을 연쇄적으로 수행한다. 성능이 높아질수록 추론 호출이 늘어나고, 늘어난 호출은 곧 비용으로 청구된다. '똑똑함'과 '경제성'이 정면으로 충돌하기 시작한 것이다. ²

맥킨지가 던진 질문 — '그 AI 에이전트는 그만한 값어치를 하는가(Is that AI agent worth it?)' — 은 이 리포트의 테제를 정확히 압축한다. 맥킨지는 이를 '에이전트 경제학(agentic economics)'과 '현대적 운영 모델(modern operating model)'의 문제로 재정의한다. 즉 에이전트는 이제 기술 프로젝트가 아니라 재무·운영 의사결정의 대상이 되었다는 선언이다. AI 경쟁의 전장이 연구실에서 손익계산서로 이동했다. ³

성능은 이미 평준화됐다: 이제 승부처는 '얼마나 잘 굴리느냐'

왜 하필 지금 이 전환이 일어나는가. 첫째 이유는 성능의 상향평준화다. VentureBeat가 보도한 새 에이전트 프레임워크는 인간이 정교하게 설계한 AI 시스템과 대등한 성능을 내면서 배포 시 추론 비용을 추가하지 않는다고 한다. 성능 자체가 더 이상 희소한 차별화 요소가 아니게 되면, 경쟁은 자연히 '같은 성능을 얼마나 싸고 안정적으로 뽑아내는가'로 내려간다. ⁴

둘째, 추론 비용의 급락이 '에이전트 상시가동'이라는 새로운 사용 패턴을 현실화했다. OpenAI가 추론 비용을 절반으로 낮추는 움직임을 보였고, DeepSeek는 새 모델로 큰 폭의 추론 비용 절감을 제시했다. 비용이 내려가면 단발성 질의응답을 넘어, 에이전트가 백그라운드에서 지속적으로 도구를 호출하며 업무를 수행하는 모델이 경제적으로 가능해진다. 역설적으로 이 저비용화가 오히려 '전체 운영 비용' 관리를 더 어렵게 만든다 — 싸진 만큼 더 많이 쓰기 때문이다. ⁵⁶

셋째, 업무 위임이라는 사용 방식 자체가 주류 담론이 되었다. 와튼스쿨의 에단 몰릭은 'AI에 일을 위임하지 않는다면 충분히 실험하고 있지 않은 것'이라고 단언한다. 그는 에이전트가 인간의 업무를 대신 수행하는 방향을 강하게 밀어붙인다. 그러나 위임이란 곧 '통제권의 일부를 넘긴다'는 뜻이고, 위임된 에이전트가 얼마나 예측 가능하게 비용과 결과를 산출하느냐가 위임의 성패를 가른다. 몰릭의 낙관은 필연적으로 운영·비용 문제와 짝을 이룬다. ⁷⁸

토큰 단가는 잊어라, 진짜 청구서는 '작업 한 건당 총비용'

첫 번째 핵심 쟁점은 비용의 재정의다. 오랫동안 AI 비용은 '토큰당 단가'로 이야기됐지만, 에이전트 시대의 진짜 지표는 '하나의 업무를 완결하는 데 드는 총비용'이다. 에이전트는 한 작업을 위해 계획을 세우고, 도구를 호출하고, 결과를 검증하고, 실패 시 재시도한다. 이 연쇄 과정에서 호출 횟수가 폭증한다. CIO.com의 경고 — 통제 없는 에이전트가 직원보다 비싸질 수 있다 — 는 바로 이 '작업당 누적 호출' 구조에서 나온다. ²

이 지점에서 추론 비용 절감 경쟁이 전략적 의미를 갖는다. OpenAI의 추론 비용 절반화와 DeepSeek의 비용 절감 모델은 단순한 가격 인하가 아니라, '에이전트를 상시 가동해도 수지가 맞는 임계점'을 낮추는 인프라 변화다. 같은 워크플로도 토큰 단가가 절반이 되면 ROI 계산의 부호가 뒤집힐 수 있다. 따라서 기업은 특정 모델의 성능 순위가 아니라, 자사 워크플로에서의 '작업당 비용 곡선'을 직접 측정해야 한다. ⁵⁶

비용은 모델 선택 이전에 아키텍처에서 결정된다. VentureBeat가 소개한 '배포 시 제로 추론 비용'을 표방하는 프레임워크나, AAAI에 발표된 AutoTool처럼 LLM 에이전트의 도구 선택을 효율화하는 연구는 '더 큰 모델을 쓰지 않고도 비용을 통제하는' 방향을 가리킨다. 불필요한 도구 호출과 잘못된 도구 선택은 그 자체가 비용이며, 도구 선택의 효율성이 곧 운영 경제학의 지렛대가 된다. ⁴⁹

모델 내부의 계산 효율 연구도 이 흐름의 하부구조다. SEAP(Sparse Expert Activation Pruning)는 희소 전문가 활성화 가지치기로 대형 언어모델의 연산을 줄이는 접근을 제시하고, 활성화 함수의 선택(Sigmoid vs ReLU)조차 기하학적 맥락 손실이라는 형태로 추론 비용에 영향을 준다는 분석이 나온다. 즉 '운영 비용'은 프롬프트 레벨부터 활성화 함수 레벨까지 전 스택에 걸쳐 있는 통합 문제다. ¹⁰¹¹

현장을 모르는 천재는 무용지물: 팹과 도면 앞에 선 특화 에이전트

두 번째 쟁점은 컨텍스트다. 범용 성능이 높아도, 특정 업무 맥락을 이해하지 못하는 에이전트는 값을 하지 못한다. 그래서 경쟁의 무게중심이 '현장형 에이전트'로 옮겨간다. 국내 사례로 알티엠이 반도체 팹 현장에 특화된 LLM 에이전트를 공개한 것은, 범용 챗봇이 아니라 팹이라는 고도로 특수한 운영 맥락에 에이전트를 밀착시키려는 시도다. ¹²

LG전자 ES사업부가 AWS와 함께 에이전틱 워크플로로 전문 엔지니어처럼 도면을 분석한 사례는 컨텍스트의 가치를 더 선명하게 보여준다. 도면 분석은 도메인 지식·규격·현장 관행이라는 두꺼운 컨텍스트가 있어야 의미 있는 결과가 나오는 업무다. 여기서 에이전트의 가치는 '얼마나 똑똑한 모델인가'가 아니라 '얼마나 이 회사의 업무 맥락을 정확히 파악하는가'에서 나온다. ROI는 범용 성능이 아니라 맥락 적합도에 비례한다. ¹³

컨텍스트 문제는 워크플로 설계 방식과도 직결된다. Meta의 WebXR 개발용 에이전틱 워크플로 사례나, Perplexity가 경쟁사의 여러 AI 모델을 하나의 에이전틱 워크플로 시스템으로 묶어 월 200달러에 제공하는 방식은, '단일 최강 모델' 대신 '작업 맥락에 맞는 여러 모델·도구의 조합'으로 문제를 푸는 접근이다. 컨텍스트 시대의 경쟁력은 최고 모델 소유가 아니라, 맥락에 맞춰 자원을 오케스트레이션하는 능력에서 나온다. ¹⁴¹⁵

권한을 준 만큼 뚫린다: 자율성이 열어젖힌 새로운 공격의 문

세 번째 쟁점은 신뢰성과 보안이다. 에이전트에 자율성과 도구 접근권을 줄수록, 그 자율성은 곧 새로운 위험 표면이 된다. The Hacker News는 공격자들이 Marimo CVE-2026-39987 취약점 익스플로잇 이후 LLM 에이전트를 후속 침투(post-exploitation)에 활용한 사례를 보도했다. 즉 에이전트는 방어 자산이자 동시에 공격 도구가 될 수 있으며, 이는 운영 신뢰성의 방정식을 근본적으로 복잡하게 만든다. ¹⁶

역으로, 에이전트를 방어에 투입하는 흐름도 뚜렷하다. Anvilogic은 AI SOC(보안운영센터)를 위한 에이전틱 워크플로 자동화를 출시했다. 보안 운영처럼 반복적이고 대량인 업무는 에이전트 자동화의 대표적 적용처지만, 동시에 오탐·과탐, 잘못된 조치가 곧바로 리스크가 되는 영역이기도 하다. 신뢰성 없이 자율성만 높이면 자동화의 이득이 사고 비용으로 상쇄된다. ¹⁷

결국 신뢰성은 비용 문제로 되돌아온다. CIO.com이 지적하듯 '통제(controls)'가 없으면 에이전트는 비싸질 뿐 아니라 위험해진다. 가드레일, 권한 관리, 도구 호출 감사, 예산 상한 같은 통제 장치는 그 자체가 운영 비용이지만, 이 비용을 지불하지 않으면 에이전트의 ROI는 사고 한 번으로 음수가 된다. '에이전트 경제학'의 손익계산서에는 반드시 통제 비용 항목이 들어가야 한다. ²¹⁶

'운영이 전부'라는 착각: 프런티어 성능은 아직 질주 중이다

물론 '성능은 이미 충분하니 운영이 전부'라는 명제에는 반론이 있다. NVIDIA Nemotron의 벤치마크 선도 성능이나 새로운 에이전트 프레임워크의 성능 향상이 보여주듯, 프런티어 성능은 여전히 빠르게 전진하고 있고 성능의 도약이 새로운 업무 자체를 가능케 하기도 한다. 성능이 정체됐다고 단정하는 것은 이르며, 다음 성능 도약이 운영 방정식을 다시 뒤집을 수 있다. ¹⁴

또한 비용 하락 추세를 낙관적으로만 읽는 것도 위험하다. OpenAI의 추론 비용 절반화와 DeepSeek의 절감 모델은 단가를 낮추지만, 저렴해진 만큼 에이전트 호출량이 폭증하는 '제본스 역설'적 상황이 벌어질 수 있다. 단가가 내려가도 총비용은 오히려 늘 수 있으며, 이 경우 ROI 개선은 착시일 수 있다. 비용 지표를 단가가 아닌 총비용으로 봐야 한다는 앞선 논지가 여기서 다시 확인된다. ²⁵⁶

불확실성의 또 다른 축은 인프라와 지정학이다. NVDA를 둘러싼 시장 신호 — H200의 중국 관련 보도와 마이클 버리의 NVDA 공매도 개시 — 는 AI 인프라 투자 사이클과 밸류에이션에 대한 회의가 존재함을 보여준다. 에이전트 경제학의 전제인 '저렴하고 풍부한 컴퓨트'가 지정학·투자 사이클에 의해 흔들리면, ROI 계산의 바닥 자체가 이동한다. 운영 중심 전략도 인프라 리스크라는 상수 위에서만 성립한다. ¹⁸

마지막으로 몰릭식 '적극적 위임' 낙관론과 CIO식 '통제 우선' 신중론 사이의 긴장은 아직 해소되지 않았다. 실험을 게을리하면 뒤처지지만, 통제 없이 위임하면 비용과 사고가 폭증한다. 이 균형점은 기업마다 다르며, 업무의 위험도·반복성·감사 가능성에 따라 최적점이 달라진다는 사실 자체가 지금 단계의 근본적 불확실성이다. ²⁷⁸

모델은 없어도 이긴다: 한국 제조 현장이 만드는 '측정 가능한 승부수'

한국 기업에 주는 첫 번째 함의는 명확하다. 프런티어 모델을 소유하지 못해도 에이전트 경제학의 승자가 될 수 있다는 점이다. LG전자의 도면 분석 워크플로와 알티엠의 반도체 팹 현장형 에이전트는, 한국의 강점인 제조·산업 현장의 두꺼운 도메인 컨텍스트를 무기로 삼는 정공법을 보여준다. 범용 성능 경쟁이 아니라 '우리 현장에서만 나오는 데이터와 맥락'에 에이전트를 밀착시키는 것이 현실적 승부처다. ¹²¹³

두 번째 제언은 지표의 전환이다. 도입 평가에서 벤치마크 순위 대신 맥킨지가 말한 '에이전트 경제학'의 관점 — 작업당 총비용, 통제 비용, 실패율까지 포함한 ROI — 을 표준 의사결정 프레임으로 삼아야 한다. 파일럿 단계부터 토큰 단가가 아니라 '한 업무 완결당 비용'과 '자동화로 절감된 인건비·시간'을 나란히 측정하는 손익계산서를 만들어야 한다. ²³

세 번째는 아키텍처와 오케스트레이션 역량이다. Perplexity가 여러 모델을 하나의 워크플로로 묶어 정액제로 제공하듯, 그리고 AutoTool·SEAP 같은 연구가 도구 선택과 연산을 최적화하듯, 한국 기업도 '단일 모델 종속'을 피하고 모델·도구를 상황에 맞게 갈아끼우는 오케스트레이션 계층을 내재화해야 한다. 이는 특정 벤더의 가격·성능 변동 리스크를 흡수하는 방어막이기도 하다. ⁹¹⁰¹⁵

시나리오로 분기해보면 세 갈래다. ① '통제된 확장' 시나리오 — 추론 비용 하락(A4, A7)이 계속되고 기업이 통제 장치를 갖추면, 에이전트는 특정 업무에서 명확한 양(+)의 ROI를 낸다. ② '비용 함정' 시나리오 — 단가 하락이 호출량 폭증으로 상쇄되고 통제가 부재하면, 에이전트는 직원보다 비싼 애물단지가 된다(A12). ③ '리스크 전이' 시나리오 — 자율 에이전트가 보안 사고의 매개가 되어(A5) ROI가 사고 비용으로 붕괴한다. 세 시나리오를 가르는 변수는 모델 성능이 아니라 전부 '운영 능력'이다. ²⁵⁶¹⁶

결론적으로 AI 경쟁의 질문은 '가장 똑똑한 에이전트는 누구인가'에서 '가장 싸고 믿을 수 있게 일을 끝내는 에이전트는 누구인가'로 이동했다. 몰릭이 촉구한 과감한 위임(A6)과 CIO가 경고한 통제(A12) 사이에서, 한국 기업이 취해야 할 자세는 '측정하며 위임하라'다. 벤치마크 헤드라인이 아니라 자사 워크플로의 손익계산서 — 이것이 에이전트 경제학 시대의 진짜 리더보드다. ²³⁷