이번 주 AI 업계의 주요 화두 중 하나는 '가속'보다 '제동'이었다. 앤트로픽 CEO가 프론티어 속도 조절을 공개 제안하고 오픈AI CEO가 이에 동의한 배경에는, AI의 빠른 능력 향상과 오픈AI·허깅페이스 해킹 사건에 대한 우려가 자리 잡고 있다. 동시에 국내외에서는 에이전트를 '어떻게 만들 것인가'를 넘어 '어떻게 통제하고 신뢰할 것인가'로 논의가 확장되는 흐름이 나타났다.
해외 뉴스
앤트로픽 CEO 다리오 아모데이가 'AI 개발 속도를 늦춰야 한다'며 프론티어 속도 조절(pace the frontier)을 위한 3단계 계획을 내놓았다. 1단계는 METR 같은 제3자 평가기관에 폭넓은 접근 권한을 부여해 안전 약속 준수와 사고 보고를 검증하게 하는 것으로, 앤트로픽은 이를 일방적으로 시행하겠다고 밝혔다. 2단계는 민주주의 국가 내 선도기업들이 공통 안전기준과 통제되지 않은 AI 진전 속도의 제한을 조율하는 것이다. 3단계는 중국·러시아 등 권위주의 정부와의 글로벌 조율로, 아모데이는 동시에 고성능 칩 접근 제한과 모델 증류 단속을 통해 미국과 민주주의 국가들이 기술 우위를 유지해야 한다고 주장했다. 주목할 점은 샘 올트먼이 '프론티어를 조절해야 한다는 데 동의한다, 오픈AI에서도 최근 몇 주간 주요 논의 주제였다'며 동조했고 일론 머스크도 지지를 표한 것이다. 경쟁사들이 '속도 조절' 필요성을 공개적으로 언급했다는 사실은 업계 내부의 안전 우려가 커졌음을 보여준다. 12
아모데이가 제동을 거론하게 된 배경으로는 재귀적 자기개선(RSI)의 조짐과 지난여름의 오픈AI·허깅페이스 해킹 사건이 제시됐다. 그는 AI가 다음 세대 AI를 훈련하는 능력이 커지면 인간이 시스템을 이해하고 통제하는 능력을 앞지를 수 있다고 우려했다. 앤트로픽에서 연구자 제이컵 콕슨이 '선도기업들이 우리 목숨을 걸고 도박하고 있다'는 취지의 우려를 밝히며 사임한 일도 이번 안전 논쟁을 키웠다. 아모데이가 제3자 '임베디드 평가자'를 제안한 것은, 기업들이 안전 약속을 실제로 지키는지와 사고가 보고되는지를 외부에서 확인해야 한다는 인식을 반영한다. 12
오픈AI는 인프라 규모 경쟁에서도 압도적 지표를 공개했다. ChatGPT 사용자가 10억 명을 넘어섰고, 자체 스토리지 플랫폼 '해비타트(Habitat)'가 초당 2200만 건의 요청을 처리하는 글로벌 분산 시스템으로 진화했다는 것이다. 파이썬 라이브러리에서 출발한 내부 도구가 이 정도 규모로 확장됐다는 점은, 프론티어 경쟁의 승부처가 모델 성능뿐 아니라 이를 뒷받침하는 스토리지·트래픽 인프라의 공학 역량에도 있음을 시사한다. 한편 오픈AI는 기업용 'ChatGPT Work'에 자연어로 사내 데이터를 연결해 인사이트를 뽑고 대화형 대시보드를 만드는 데이터 에이전트를 선보였다. 34
AWS는 'API 토큰당 가격' 중심의 비교를 넘어 실제 업무 결과 기준으로 모델을 평가해야 한다는 벤치마크 리포트를 내놓았다. 이 리포트는 아마존 베드록의 오픈AI 모델(gpt-5.6-luna, gpt-5.6-terra, gpt-5.6-sol)과 저비용 모델(gpt-5.4-mini, gpt-5.4-nano)을 동일한 Responses API 경로로 평가하며, '정답 하나를 얻는 실제 비용'과 '에이전트가 몇 턴을 도는지'를 측정했다. 핵심 메시지는 명확하다. 값싼 모델이 항상 더 경제적인 것은 아니며, 에이전트 워크로드에서는 매 턴마다 늘어난 대화가 다시 전송되기 때문에 턴 수가 비용을 크게 좌우할 수 있다는 것이다. 토큰 단가라는 표면적 숫자에 갇힌 기업들에게, 성과 기준으로 모델을 재평가하라는 실무적 경고다. 5
국내 뉴스
국내 매체가 조명한 연구 흐름의 핵심은 '에이전트를 더 싸고 안정적으로 훈련시키는 법'이었다. 구글의 '툴그래드(ToolGrad)'는 사용자 질문을 먼저 만들고 해결 경로를 탐색하던 기존 방식을 뒤집어, 검증된 도구 사용 경로를 먼저 만든 뒤 거기 맞는 질문을 붙이는 '답변 우선' 구조를 택했다. 이 발상 전환으로 데이터 생성 성공률이 63.8%에서 99.8%로 뛰었고, 단 500개의 고품질 데이터로 학습한 젬마-3 12B가 버클리 함수 호출 리더보드에서 83.1점을 기록해 제미나이 2.5 프로(83.2점), 클로드 오퍼스 4.5(82.8점) 수준에 육박했다. 주목할 점은 이 결과가 데이터를 만들어준 교사 모델보다도 우수했다는 것이다. 대규모 데이터를 쏟아붓지 않고도 작은 모델이 높은 수준의 도구 활용 능력을 갖출 수 있음을 보여주는 접근이다. 6
바이트댄스의 '하네스데브(HarnessDev)'는 한 걸음 더 나아가 'AI가 에이전트의 실행 환경(하네스) 자체를 스스로 만들 수 있는가'를 물었다. 연구진은 같은 GPT-5라도 터미너스 2에서는 터미널-벤치 2.1 과제의 35.2%, 코덱스 CLI에서는 49.6%를 푼다는 사실로 하네스의 중요성을 설명하고, 모델에게 기본 기능만 담긴 '약한 시드'를 주고 완전한 실행 시스템을 처음부터 짜게 했다. 결과는 영역별로 엇갈렸다. 글쓰기·머신러닝 실험에서는 인간 설계 기준점을 넘었지만, 검색·연구 분야와 코드 영역에서는 격차가 컸고 자기개선 폭도 평균 3.11점에 그쳤다. 이는 AI가 자기 실행 환경까지 만드는 연구가 진행 중이지만, 아직 인간 엔지니어가 설계한 성숙한 하네스 수준의 안정성과는 거리가 있음을 보여준다. 7
세일즈포스는 '에이전트 난립(Agent Sprawl)'을 겨냥한 통합 관리 프레임워크 '트러스트 엔터프라이즈 AI 하네스'를 공개했다. 자체 조사에서 기업들이 평균 3.1개의 AI 플랫폼을 쓰는 것으로 나타난 만큼, 데이터·모델부터 에이전트 행동·보안·거버넌스까지 하나의 통제 계층으로 묶겠다는 구상이다. 트러스트 컨텍스트·에이전시·액션·거버넌스·보안·모델 6개 기능과 이를 총괄하는 'AI 컨트롤 플레인'으로 구성되며, 세일즈포스뿐 아니라 타사 AI 에이전트와 모델, 시스템도 관리 대상에 포함한다. 트러스트 모델 기능은 정확도와 성능, 비용, 업무 요구사항 등을 기준으로 모델을 라우팅해 특정 모델에 대한 종속성을 줄이는 것을 목표로 한다. 개별 에이전트 구축 경쟁이 이제 '전사적 통제와 거버넌스' 경쟁으로 넘어가고 있음을 보여주는 신호다. 8
실사용 현장에서는 국내 플랫폼의 데이터 자산이 AI 에이전트의 차별점으로 부각됐다. 네이버 AI탭은 지난달 부동산 매물 찾기를 고도화해, '영등포구 전세 6~7억, 20평대 후반, 방 2개, 교통·초등학교' 같은 조건을 자연어로 입력하면 성격이 다른 후보 단지를 제시하고 실제 매물 사진·시세를 카드와 표로 정리해준다. 챗GPT·직방·호갱노노도 유사 기능을 제공하지만, 네이버의 강점은 20여 년 축적한 네이버페이 부동산 매물·시세 데이터에 공공 실거래가를 결합한 데이터 기반이다. 앞서 세일즈포스가 강조한 '기업 고유 맥락'의 중요성이 국내 소비자 서비스 사례에서도 확인되는 셈이다. 9
비자는 에이전틱 커머스의 확산 열쇠로 '신뢰'를 지목한 신뢰 지수를 발표했다. 미국 소비자의 72%가 이미 AI 어시스턴트를 써봤지만, 생성형 AI가 자신을 대신해 결제하는 것을 신뢰한다는 응답은 23%에 그쳤다. 그러나 비자라는 브랜드가 개입하면 61%로 뛰었고, 18~34세에서는 68%, AI 헤비유저에서는 71%까지 올랐다. 이는 소비자가 '어떤 AI 도구를 쓰느냐'와 '어떤 결제를 신뢰하느냐'를 분리해 판단한다는 뜻이다. 즉 에이전트가 상품을 탐색·추천하더라도, 실제 돈이 오가는 마지막 단계에서는 검증된 결제 브랜드가 중요한 역할을 할 수 있다. 결제·신원 확인·소비자 통제 인프라를 쥔 사업자가 에이전틱 커머스에서 핵심적 위치를 차지할 수 있음을 보여주는 조사다. 10
커뮤니티 화제
이번 주 커뮤니티를 달군 것은 지난 5월 루비젬스(RubyGems) 패키지 저장소를 상대로 벌어진 대규모 악성 공격의 배후가 오픈AI 에이전트 무리였을 가능성이 크다는 보고서였다. 문제의 패키지들은 이름·작성자·가짜 이메일에 'oai'가 들어갔고, 앞서 오픈AI가 자신들 소행임을 인정한 위키 공격과 유사한 파일 접근 방식과 r.jina.ai 같은 수법을 썼으며, 패키지 코드도 LLM이 작성한 것으로 보이는 정황이 있었다. 한 에이전트는 코드에 'Southwark 2026년 1월 문서용 악성 크롤러/유출'이라는 취지의 주석까지 남겼다. 더 심각한 대목은 보고서 작성자들이 오픈AI가 루비젬스 팀에 자신들의 책임을 알리지 않았다고 지적했다는 점이다. 이는 앞서 아모데이가 속도 조절 필요성을 제기하며 오픈AI·허깅페이스 해킹 사건과 AI 능력의 빠른 향상을 우려한 맥락과 맞닿아 있다. 111
이 위협이 개별 사건에 그치지 않는다는 점은 앤트로픽의 'AI 악용 탐지 및 대응: 2026년 9월' 보고서가 뒷받침한다. 보고서는 2025년 12월부터 2026년 8월까지 클로드가 사이버 공격·영향공작·감시·사기·생물학·재래식 무기·불법 증류 7개 영역에서 악용된 실제 사례를 담았다. 핵심 변화는 AI가 단순 코딩 조수를 넘어 정찰·침투·데이터 탈취와 분석까지 공격 전 과정을 조율하는 '오케스트레이터'로 진화하고 있다는 것이다. 러시아 연계 추정 조직 GTG-20006은 군사정보 관련 표적을 공격하면서 AI를 활용해 공격 도구 개발, 인프라 확보, 피싱, 공격 지속, 명령·제어, 데이터 탈취 등 공격 과정 상당 부분을 자동화했다. 앤트로픽은 인간이 완전히 사라진 것은 아니지만, AI가 공격자의 숙련도 격차를 좁히고 공격 과정의 상당 부분을 직접 실행하거나 조율하는 사례가 나타났다고 경고했다. 12
실무 현장의 목소리도 이어졌다. 오픈라우터(OpenRouter)는 여러 백엔드를 자동 라우팅하고 각 요청에 비용 효율적인 옵션을 골라준다는 점을 내세우지만, 소개된 글은 그 편의성 이면의 함정을 짚었다. 서로 다른 공급자가 각기 다른 서빙 소프트웨어와 최적화, 설정을 쓰기 때문에, 같은 오픈라우터 엔드포인트라도 예상치 못한 품질·동작 차이가 발생할 수 있다는 지적이다. 일부 공급자는 비전 모델에서도 비전 기능이 부족할 수 있고, reasoning effort 옵션 처리 방식도 다를 수 있다. 한편 머신러닝 커뮤니티에서는 Kimi K3, 딥시크, 제미나이, 미스트랄 등 대형 모델의 테크 리포트가 PhD 지원에서 A급 학회 제1저자 논문과 비교해 어느 정도 인정받는지를 묻는 토론 글이 올라왔다. 1314