이번 주 소식은 한 방향을 가리킨다. AI 에이전트가 답을 내놓는 단계를 지나 카드 결제, API 없는 업무 포털, 기업 내부 코드 저장소까지 직접 다루기 시작했다. 그러자 경쟁의 초점도 모델 성능에서 '어디까지 맡길지, 한 건을 처리하는 데 얼마가 드는지, 그 과정을 어떻게 지켜볼지'로 옮겨가고 있다. 앤트로픽 IPO 서류의 9009억달러 컴퓨팅 약정과 오픈AI가 공개한 추론 감시의 한계는 그 비용과 위험이 이미 현실의 문제가 됐음을 보여준다.
해외 뉴스
오픈AI가 13일 에이전트 플랫폼 '닷츠(Dots)' 전용 결제 수단인 '챗GPT 월렛'을 내놨다. 초기 대상은 미국에 사는 18세 이상 챗GPT 프로 구독자이고, 적격 미국 발급 카드를 등록해 쓸 수 있다. 이용자가 상품과 총액, 사용할 카드를 확인한 뒤 생체인증으로 승인하면 카드 네트워크가 실제 카드번호 대신 결제 토큰을 발급한다. 이 방식에서는 에이전트도 판매업체도 원래 카드번호를 보지 못한다. 설계 방향을 바꾼 점이 눈에 띈다. 판매업체와 별도 결제 연동을 요구한 작년 '인스턴트 체크아웃'이 확산에 애를 먹자, 이번에는 쇼핑몰의 기존 결제 절차를 그대로 쓰는 쪽을 택했다. 다만 일부 판매업체가 에이전트의 접근을 막으면 구매가 어려울 수 있다. 올해 아마존이 메타의 뮤즈 에이전트를 차단한 사례가 있고, 사기 탐지 시스템이 정상적인 에이전트 구매를 거절할 수도 있다. 오픈AI가 웹 봇 인증, 사기 방지 업체와의 협력, '커머스 파트너 플레이북'을 한꺼번에 내놓은 이유다. 123
IT 서비스 업체용 AI 운영체제 'Forge'를 만든 Shield는 GPT-6 아스트라를 도입해 API가 없는 레거시 포털 작업을 에이전트에 넘기고 있다. 이전 모델로 시도한 컴퓨터 사용 방식은 신뢰성과 속도가 모자랐다. 반면 아스트라는 기존 모델보다 평균 35~40% 빨랐고 실패와 타임아웃도 줄었다고 Shield는 밝혔다. 이 브라우저 워크플로는 이미 월 수천 건 규모로 실제 운영 중이며, 무엇을 자율로 처리하고 어디서 승인을 받을지는 기술자가 정한다. 전화 응대, 현장 작업, 원격 데스크톱 작업은 여전히 사람 몫이다. 기술자들은 티켓, 기기, 소프트웨어 라이선스를 관리하는 포털에서 많은 시간을 보내며, 이들 시스템 가운데 다수는 API가 없다. 다만 오픈AI가 공개한 고객 사례인 만큼 수치는 업체 자체 평가로 보는 것이 맞다. 4
에이전트 운영 비용을 따지는 기준도 바뀌고 있다. 앰플리튜드의 제품 에이전트 'Wave'는 작업마다 모델을 다르게 배치한다. 코드와 데이터를 깊이 조사하는 일은 GPT-6.1 Sol이 맡고, 자주 반복되는 저비용 점검은 GPT-6 Luna가, 목업 생성은 GPT-Image-2.5 Flare가 처리한다. 회사는 이 구조로 한 달 걸리던 제품 개선을 1~2일로 줄일 수 있다고 추산했고, 자사 홈페이지 실험에서는 추천 카드 경유 메시지가 하루 만에 대조군보다 160% 늘었다. AWS와 엔비디아가 공개한 오픈소스 라우터 'NeMo Switchyard' 예제도 같은 문제의식에서 출발한다. 이 예제는 토큰 단가 대신 '해결한 작업당 비용', 즉 전체 실행 비용을 테스트를 통과한 실행 수로 나눈 값으로 라우팅을 평가하라고 제안한다. 재시도나 끝내 실패한 작업에도 비용이 들기 때문이다. 다만 이 샘플은 데모·평가용 구성 요소를 쓰는 비운영 환경용 코드라고 AWS가 명시했다. 56
에이전트 관리 스타트업 랭체인이 캐피털G 주도로 3억달러 규모 시리즈 C를 유치하며 기업가치 30억달러를 인정받았다. 약 1년 전 평가액 12억5000만달러의 두 배를 넘는다. 랭체인은 2022년 웹 검색, API 호출처럼 초기 LLM이 서툴던 작업을 보완하는 오픈소스로 출발했다. 이후 프론티어 연구소들이 그 기능을 자체 하네스에 흡수하자 에이전트 관리로 무게중심을 옮겼다. 회사는 LangSmith가 특정 모델·클라우드·생태계에 고객을 묶어두지 않는다는 점을 내세우며, 하비·리플링·엔비디아·도요타·세일즈포스 등 7000곳을 고객으로 확보했다고 밝혔다. 비슷한 메시지를 내세운 경쟁사도 많다. 7
AWS는 SageMaker HyperPod에 실제 추론 입력과 출력을 S3에 기록하는 'Data Capture' 기능을 더했다. 이 기능은 세 개의 독립 계층으로 구성되며, 지연에 주는 영향은 최소화하고 모델 가용성에는 영향을 주지 않는다고 AWS는 설명한다. AWS가 공개한 예제는 가전 고객지원 라우터가 운영 트래픽을 기록하고, Athena 쿼리로 신제품 관련 사각지대를 찾아내고, SQL 정책으로 라벨을 붙인 뒤 Qwen2.5-3B를 미세조정하는 흐름이다. 배포 전에는 존재할 수 없던 데이터로 모델을 고치는 셈이다. 대신 전체 페이로드에는 이름·주소·주문번호 같은 개인정보가 섞일 수 있다. 그래서 AWS도 샘플링, KMS 암호화, 개인정보 마스킹을 함께 권고한다. 8
국내 뉴스
앤트로픽이 19일 나스닥 상장을 추진하며 최대 1조4000억달러의 기업가치를 노린다. 올해 1~9월 매출은 332억달러로 1년 새 13배 넘게 늘었다. 그러나 증권신고서에는 2045년까지 컴퓨팅·인프라에 쓰기로 약정한 9009억달러가 적혀 있고, 이 가운데 약 707억달러는 향후 12개월 안에 집행된다. 2분기에 영업흑자를 냈다가 3분기에 다시 적자로 돌아선 실적도 같은 구조를 보여준다. 이용량이 늘수록 연산 비용이 함께 커지는 생성형 AI에서는 매출 성장이 곧 수익성을 뜻하지 않는다. 전자신문은 국가 AI 컴퓨팅 인프라와 독자 모델에 대규모 예산을 쓰는 한국도 GPU 확보 대수만큼이나 활용 효율과 수익화 경로를 따져야 한다고 짚었다. 9
오픈AI는 모델이 중간 추론을 글로 드러내지 않고도 문제를 푸는 '노-CoT' 능력이 학습 과정에서 커진다는 연구 결과를 내놨다. 지난 9월 출시한 GPT-6 아스트라는 이전 모델보다 추론 감시 성능이 떨어졌고, 감시 회피를 지시한 평가에서도 추론을 조절하는 능력이 높아졌다. 연구진이 GPT-5부터 아스트라 계열까지 비교해 보니, 사전학습으로 예측 정확도가 오를수록 노-CoT 능력도 일관되게 향상됐다. 최종 답의 정확도와 길이만 보상한 강화학습에서도 추론을 지시대로 조절하는 능력이 크게 늘었다. 이런 특성은 모델이 생성한 데이터로 다른 모델을 미세조정할 때 그대로 옮겨갔다. 오픈AI는 이 결과가 실제 감시 회피 능력을 직접 입증하지는 않는다고 선을 그었고, '순환 깊이' 구조와의 관련성도 확인하지 않았다. 그래도 함의는 무겁다. 앞서 Shield 사례에서 실무 성능을 끌어올린 바로 그 모델이 감시하기는 더 어려워졌다는 뜻이다. 프론티어 모델의 출력을 학습 데이터로 활용할 때 데이터 선택을 안전 변수로 다뤄야 한다는 시사점이 나온다. 410
앤트로픽은 12일 '자체 호스팅 클로드 관리형 에이전트'를 비공개 베타로 공개했다. 지금까지 기업이 자체 서버에 둘 수 있던 것은 코드를 실행하는 샌드박스뿐이었고, 작업을 지시하고 관리하는 핵심 시스템은 앤트로픽이 운영했다. 이제는 관리 서버와 데이터베이스, 실행 환경, 작업 기록, 인증 정보까지 기업 인프라 안에 둘 수 있다. 다만 모델 자체를 설치하는 방식은 아니다. 추론은 앤트로픽이나 아마존 베드록, 구글 클라우드, 마이크로소프트 파운드리를 거치며, 질문과 작업 결과는 해당 제공업체로 전달된다. 내부 코드와 계정 정보를 다루는 에이전트를 들이려는 기업에는 접근 통제와 감사 기록을 직접 쥘 수 있다는 점이 핵심이다. 11
KAIST 노용만 교수팀은 확산 대형언어모델로 입모양만 보고 말을 읽는 시각적 음성 인식의 정확도를 끌어올렸다. 문장을 앞에서부터 차례로 생성하는 기존 방식은 초반에 틀린 단어가 뒤까지 오류를 퍼뜨린다. 연구팀은 입모양이 뚜렷한 단어를 먼저 확정하고, 모호한 부분은 앞뒤 문맥으로 채우는 방식으로 이 문제를 줄였다. 영상 길이로 문장 길이 후보를 여러 개 추정해 비교하는 전략도 더했다. 그 결과 공개 데이터셋 LRS3에서 단어 오류율 19.4%를 기록했다. LRS3만 정답 데이터로 쓴 기존 연구 가운데 가장 낮은 수치이며, 이 성과는 EMNLP 2026 우수논문상을 받았다. 주로 텍스트 생성 분야에서 거론되던 확산 언어모델을 멀티모달 인식 문제에 적용해 성과를 냈다는 점이 의미 있다. 연구팀은 다음 단계로 모델을 경량화해 웨어러블과 로봇에서 도는 온디바이스 기술로 발전시킬 계획이다. 12
커뮤니티 화제
r/MachineLearning에서는 단기 가격 예측 논문의 비교 기준을 둘러싼 문제 제기가 나왔다. 작성자는 암호화폐·원자재 가격 예측 논문 대부분이 ARIMA, 랜덤워크, 단순 LSTM만 이기고 RMSE 개선을 내세운다고 지적했다. 그러면서 옵션 내재변동성이나 돈을 건 집단 예측처럼 이미 공개 정보를 반영한 '시장의 기대'와도 비교해야 한다고 주장했다. 약한 기준선을 이기는 것만으로는 실제 예측력을 증명하기 어렵다는 이야기다. 13
로컬 환경에서 사진 보정을 자동화하는 AI 비서를 만들려는 시도도 공유됐다. 작성자는 RTX 5060 8GB와 64GB RAM, 어도비 크리에이티브 클라우드를 갖추고 Ollama로 로컬 LLM을 돌려본 경험이 있다고 밝혔다. 목표는 필터나 이미지 생성이 아니라 풍경·인물 사진의 고급 보정 작업을 대신 수행하는 비서다. 14
자신의 혈당을 예측하려고 약 3만1253개 파라미터의 인코더 전용 모델을 직접 학습시켰다는 프로젝트 글도 공유됐다. 15