표현 기하학부터 추론 다양성, 추론 인프라까지 — LLM을 다시 뜯어보는 한 주

이번 주 연구들은 모델의 겉으로 드러난 출력이 아니라 그 안쪽에서 무슨 일이 벌어지는지에 시선을 모은다. 헌법 조건 사후학습이 남긴 잠재 기하 구조, 프롬프트의 정보 밀도, 탐색을 잃지 않는 강화학습, 그리고 대규모 추론의 병목인 KV 캐시와 다중 에이전트 디버깅까지, 성능 숫자 뒤에 감춰진 메커니즘을 파헤치려는 시도가 두드러진다.

헌법 조건화가 모델 내부에 남기는 잠재 기하의 흔적을 추적하다

ATLAS 연구는 헌법(constitution) 조건 사후학습을 학습된 표현 기하에 가해진 구조적 섭동으로 보고, 헌법이 유도한 은닉 상태 구조를 차트, 모델, 기질(substrate)을 넘나들며 추적하려 한다. ¹

핵심 단위를 단일 행동, 뉴런, 벡터, 패치가 아니라 접선 구조·점유 분포·행동 결합을 함께 측정할 수 있는 국소 차트(chart)로 잡은 것이 방법론의 요체다. 연구진은 Gemma에서 소스 국소 차트를 고정하고, 어댑터를 전이하지 않은 Phi 모델에서 타깃 국소 실현을 다시 식별했으며, ALM8 생쥐 전두피질 섭동 데이터를 홀드아웃 생물학적 검증으로 사용했다. ¹

Gemma에서 앵커링된 소스 국소 차트는 검토한 소스 행 320개 중 310개, 점수 반전 행 84개 전부를 포착했다. 다만 압축된 정확 패치의 충분성은 닫히지 않아, 내보낼 수 있는 단위는 단일 패치가 아니라 소스가 정의한 더 넓은 계열(family)로 잡혔다. 이 계열을 동결한 뒤 Phi에서 다시 식별하자 확정 대조는 AUC 0.984, 평균 갭 5.50으로 분리됐고, ALM8 홀드아웃에서는 5개 폴드 모두에서 지지를 받아 평균 AUC 0.72, 평균 폴드 갭 4.50을 기록했다. ¹

저자들은 이 대응이 좌표 동일성이나 부위 동일성, 타깃 측 매개 정리가 아니라 '재분배 하의 기하적 재발'이라고 선을 긋는다. 즉 국소 좌표와 점유, 행동 표현은 이동하지만 조직 구조 자체는 모델과 기질을 넘어도 탐지된다는 것이다. 다지선다 분석에서 소스 충실한 닫힘 없이도 가까운 타깃 국소 신호가 나타날 수 있다는 경계도 명시했다. ¹

토큰당 정보 밀도를 높이면 정확도가 오른다는 경험 법칙

기존 프롬프트 최적화는 대부분 토큰을 더하거나 재배치하는 방향으로 움직였다. 사고 연쇄는 추론 단계를 덧붙이고, 프롬프트 반복은 입력을 복제하며, 지시 위치 조정은 구성요소 순서를 바꾼다. 이 연구는 반대 방향을 제안한다. 정보량이 낮은 토큰을 제거하거나 대체해 의미 신호를 보존하거나 더 날카롭게 다듬는 방식이다. ²

저자들은 이를 의미 밀도 효과(Semantic Density Effect, SDE)로 정의한다. SDE는 전체 프롬프트 토큰 대비 의미가 실린 토큰의 비율로, 중복성과 구체성을 보정해 계산한다. 밀도가 높은 프롬프트가 주요 LLM 계열 전반에서 더 정확하고 초점이 뚜렷하며 환각이 적은 출력과 관련된다는 것이 핵심 주장이다. ²

다섯 개의 프런티어 모델과 일곱 개 벤치마크에서 평가한 결과, SDE가 0.80을 넘는 초고밀도 프롬프트는 희석된 프롬프트보다 평균 8.4%포인트 높은 성능을 냈다. 이때 토큰을 추가하지도, 지연을 늘리지도 않았다. 지시 위치 효과(IPE)와 결합하면 향상 폭은 11.7%포인트까지 커졌다. ²

추가 토큰과 지연 없이 프롬프트를 압축하는 것만으로 성능 이득을 얻었다는 점이 강조된다. 다만 제공된 자료로는 의미 밀도 산정에 필요한 중복성·구체성 보정의 구체적 절차나 모델·벤치마크별 편차가 확인되지 않는다. 밀도를 어디까지 올려야 신호가 훼손되지 않는지의 경계도 본문 초록 수준에서는 드러나지 않는다. ²

다중 에이전트의 실패 원인을 스스로 진단하며 진화하는 프레임워크

LLM 기반 다중 에이전트 시스템은 긴 상호작용 기록, 에이전트 간 의존성, 지연된 오류 발현 탓에 디버깅이 까다롭다. 기존 진단은 값비싼 전문가 주석에 기대거나 'LLM을 심판으로 쓰는' 방식에 머물렀는데, 후자는 긴 맥락에서 결정적 오류 단계를 짚어내지 못했다. ³

ErrorProbe는 세 단계 파이프라인으로 이 문제를 다룬다. 먼저 MAS 실패 분류체계를 실행 가능한 형태로 만들어 국소 이상을 탐지하고, 증상에서 거슬러 올라가는 역추적으로 무관한 맥락을 잘라낸다. 그다음 전략가·조사관·중재자로 구성된 전용 에이전트 팀이 도구 실행에 근거해 오류 가설을 검증한다. 검증된 일화 메모리는 실행 가능한 증거로 오류 패턴이 확인될 때만 갱신되므로, 주석 없이도 운용된다. ³

TracerTraj와 Who&When 벤치마크에서 평가한 결과, ErrorProbe는 기준선을 뚜렷이 능가했으며 특히 단계 수준 위치 파악에서 강했다. 검증된 메모리 덕분에 재학습 없이 도메인 간 전이도 견고했다. 다만 제공된 자료로는 구체적 수치가 확인되지 않는다. ³

주석 없이 검증된 일화 메모리를 갱신하며 개선되는 진단 루프를 제시했다는 점이 핵심이다. 이는 책임 에이전트와 오류가 시작된 단계를 찾는 의미론적 실패 귀속 문제를 다루는 접근이다. ³

탐색과 활용의 시너지를 직접 최적화하는 강화학습

탐색은 경험에서 배우는 데 핵심적인 요소로, 복잡한 문제의 해법을 찾고 새로운 문제에 일반화하며 테스트 시점 연산 확장에 따라 성능을 높이는 데 필요하다. 이 연구는 사후학습 언어모델에서 낙관적 탐색을 명시적으로 장려하고 탐색과 활용의 시너지를 촉진하는 프레임워크를 제시한다. ⁴

이 연구는 집합 강화학습(set RL)을 언어모델에 확장한다. 정책이 개별 응답이 아니라 응답 집합을 최적화하도록 하되, 어드밴티지 계산을 수정해 표준 강화학습 알고리즘을 이 설정에 맞게 조정할 수 있게 만든 것이 핵심이다. 그 위에서 제안한 Poly-EPO는 집합이 보상 함수 아래 집단적으로 정확하면서도 추론 전략에서 탐색적이도록 하는 목적을 최적화한다. ⁴

여러 추론 벤치마크에서 Poly-EPO는 더 높은 pass@ 커버리지로 일반화를 개선했고, 생성 다양성을 더 크게 보존했으며, 테스트 시점 연산 확장에도 효과적으로 반응했다. 다만 제공된 자료로는 벤치마크별 구체적 수치가 확인되지 않는다. ⁴

탐색과 활용의 시너지를 명시적으로 학습 목표에 넣었다는 점이 방법론적 차별점이다. 테스트 시점 연산 확장과 일반화를 위해 다양한 추론 전략을 생성하도록 훈련한다는 점이 이 접근의 핵심이다. ⁴

예측 기반 다계층 메모리로 KV 캐시 병목을 다시 설계하다

대규모 GPU 추론에서 처리량과 비용 효율의 병목은 KV 캐시 메모리다. 저자들은 세 가지 비효율이 겹쳐 있다고 진단한다. 어텐션 아키텍처 전반을 포괄하는 통합 KV 캐시 사이징이 없고, 특히 MLA가 일반 프레임워크에서 지원되지 않으며, 캐시가 GPU HBM 단일 계층에 갇혀 있고, 반응적 축출 정책이 재사용 가능한 상태를 버려 재계산을 강요한다는 것이다. ⁵

해법은 세 문제를 동시에 다루는 통합 시스템이다. 아키텍처 변형 인지 사이징 엔진이 어텐션 유형별 정확한 메모리 요구량을 계산해 더 큰 배치 크기를 가능하게 한다. GPU HBM, CPU DRAM, CXL 부착 메모리, GPUDirect Storage 기반 NVMe, RDMA 패브릭, 병렬 파일시스템에 이르는 6계층 메모리 위계로 노드당 유효 캐시 용량을 40GB에서 38TB 이상으로 확장하면서도 핫 엔트리의 TTFT를 밀리초 미만으로 유지한다. 여기에 Beta 켤레 사전분포를 16개 블록 유형·전이 유형 쌍에 얹은 베이지안 재사용 예측기, EMA 점수 기반 헤드 단위 축출, RoPE 인지 프리페칭을 결합한다. ⁵

ShareGPT, LMSYS-Chat-1M, 에이전틱 워크로드 트레이스 재생으로 검증한 결과 캐시 적중률은 70~84%였다. 검증된 컴포넌트 동작과 공개 하드웨어 사양을 결합한 해석적 추정으로는 TTFT 감소, 처리량 개선, 그리고 최신 기준선 대비 47% 비용 절감을 제시한다. ⁵

다만 처리량·비용 이득의 상당 부분은 컴포넌트 검증과 공개 하드웨어 사양을 결합한 해석적 추정에 기반한다. 컴포넌트 단위 검증은 트레이스 재생으로 이뤄졌으므로, 실제 6계층 하드웨어 위에서 종단 성능이 추정치를 따라가는지는 제공된 자료만으로는 확인되지 않는다. 그럼에도 이기종 메모리 계층과 MLA를 포함한 통합 KV 캐시 관리를 함께 다뤘다는 점이 핵심이다. ⁵

예측-배치-피드백 순환에서 공정성을 강제한 예측 치안 파이프라인

예측 치안 시스템은 예측된 범죄 위험만으로 순찰 자원을 배분하다 인종 격차를 되풀이하고 증폭할 위험이 있다. FASE는 시공간 범죄 예측, 공정성 제약 순찰 배치, 닫힌 고리 배치 피드백 시뮬레이터를 결합한 파이프라인으로 이 문제를 다룬다. ⁶

FASE는 볼티모어를 25개 ZCTA 그래프로 표현하고 2017~2019년 Part-1 범죄 139,982건을 1시간 해상도로 모델링한다(특징 텐서 희소도 83.21%). 예측 엔진은 공간 확산과 주기성을 잡는 Graph WaveNet 계열 시공간 그래프 신경망에 자기 여기 시간 군집을 잡는 GPU 벡터화 다변량 Hawkes 여기 층을 결합하고, 과분산·영과잉 시간별 카운트에 적합한 영과잉 음이항(ZINB) 헤드로 디코딩한다. 순찰 배치는 소수인종 대 비소수인종 ZCTA의 평균 순찰 강도를 비교하는 인구통계 영향 비율(DIR) 제약을 건 선형계획으로 위험 가중 커버리지를 최대화한다. ⁶

최적 모델은 91에폭에서 검증 ZINB 손실 0.4800, 홀드아웃 테스트 손실 0.4857을 기록했다. 여섯 번의 시뮬레이션 배치 주기에 걸쳐 배치 DIR은 제약 범위 안에 머물렀고 위험 가중 커버리지는 0.876에서 0.936 사이였다. ⁶

그러나 소수인종과 비소수인종 ZCTA 사이 탐지율 격차가 모든 주기에서 약 3.5%포인트로 지속됐다. 저자들은 배치 수준 공정성 제약이 재학습 데이터에 스며든 피드백 유발 관측 편향을 완전히 없애지 못한다는 점을 명시적으로 분석한다. 이는 예측 치안에서 배치 단계의 공정성 제약만으로는 데이터 피드백 편향을 모두 제거하기 어렵다는 경고로 읽힌다. ⁶