이번에 묶은 여섯 편은 모델이 "무엇을 할 수 있는가"보다 "배치할 때 무엇을 증명해야 하는가"로 관심이 옮겨가는 흐름을 보여준다. 사기 탐지 파이프라인에 LLM을 넣으려면 정확도 말고 지연·비용·보정 증거가 필요하다는 지적1, 자율주행 엣지 GPU에서 비전 트랜스포머를 실시간 프레임레이트로 돌리기 위한 하드웨어 인지 스케줄러2, 날카로운 신호 전이를 흐리지 않으려 표현 자체를 바꾼 생성 모델3, 거대 LLM 없이 경량 파이프라인을 조합해 NL2SQL을 개선한 연구4, 스스로 진화하는 에이전트를 릴리스 거버넌스 문제로 다룬 계층5, 그리고 Claude Fable 5가 생체의학 문항을 대거 거절하면서 드러난 '답할 의지'의 문제6까지. 성능 곡선이 아니라 운영·하드웨어·거버넌스·평가라는 배치의 조건을 각기 다른 각도에서 파고든다.
사기 탐지에 LLM을 넣기 전에 물어야 할 것: 지연·비용·보정의 증거 공백
쉽게 말하면: 사기 탐지에 LLM을 쓰자는 연구는 많지만, 실제 운영 파이프라인 안에서 지연시간·비용·보정 같은 배치 증거를 제대로 보고한 자료는 사실상 없다는 점을 짚은 논문이다. 1
트러스트앤세이프티(사기 스코어링, 스캠 차단, 콘텐츠 모더레이션, 조사 지원)는 적대적 압력과 빡빡한 오류 예산, 실시간으로 비워야 하는 검토 큐 아래 돌아가는 프로덕션 ML 영역이다. 저자들의 문제의식은, 공개 문헌 상당수가 LLM을 여전히 '모델'로만 평가하고 지연·비용·에스컬레이션·사람 검토·적대적 위험이라는 제약이 걸린 파이프라인의 '부품'으로는 덜 다룬다는 데 있다. 그래서 이들은 질문을 뒤집는다. 무엇이 LLM을 라이브 워크플로 안에 넣는 것을 정당화하는가. 1
방법은 '사기 우선(fraud-first)' 관점의 배치 증거 설문이다. 저자들은 운영 관련 자료 49건을 코딩했다. 구성은 사기 18건, 모더레이션 14건, 범용 견고성 17건이며, 설문 경계를 정하는 맥락 참고문헌 15건을 더했다. 이 49건은 프로덕션 배치 49개가 아니라 시스템·벤치마크·프레임워크·배치 관련 설문을 포함한 자료 집합이다. 논문은 LLM의 역할을 분류기, 검색 인터페이스, 설명 생성기, 검토 보조자, 에이전트, 특징 추출기, 에스컬레이션 부품으로 위치시키는 FORTE 프레임을 제안하고, 지연 예산·결정당 비용·결정 임계값·설명 무결성·적대적 압력을 담은 최소 배치 증거 체크리스트를 함께 내놓는다. 1
핵심 발견은 '증거의 불균형'이다. 사기 영역이 과제별로는 코딩 자료의 가장 큰 부분을 차지하지만, 지연·비용·거버넌스·공정성에 대한 명시적 공개 증거는 오히려 모더레이션 논문들이 더 많이 담고 있었다. 특히 사기·조사 관련 18개 자료 중 결정당 지연시간, 결정당 달러 비용, 보정(calibration) 증거를 깔끔하게 보고한 자료는 하나도 없었고, 대부분은 오프라인 과제 성능, 검색 이득, 사례 연구 정확도에 그쳤다. 저자들은 개념 드리프트(concept drift), 절차적 정의와 이의제기(appeals), 도메인 간 정면 전이(head-to-head cross-domain transfer) 세 영역이 특히 비어 있다고 지적하며 배치 주장을 뒷받침할 아홉 개의 후속 연구를 제안한다. 다만 이 작업은 프로덕션 실측이 아니라 문헌 코딩에 기반한 설문이라, 결론은 '지금 공개 문헌에 무엇이 없는가'까지가 경계다. 1
자율주행 엣지 GPU에서 비전 트랜스포머 돌리기: H-FraDS 프레임 분배 스케줄러
쉽게 말하면: 자율주행 차에 들어가는 작은 GPU 보드 위에서 무거운 비전 트랜스포머를, 놀고 있던 전용 가속기까지 나눠 써서 실시간 프레임레이트로 돌리게 만든 스케줄링 방법이다. 2
물리 AI(자율주행차, 지능형 기계)의 인식 모델은 엣지의 빡빡한 지연·전력·발열 제약 안에서 돌아가야 한다. 문제는 이질적 엣지 GPU 배치가 하드웨어 엔진을 제대로 활용하지 못한다는 데 있다. DLA(deep learning accelerator) 같은 전용 엔진이 트랜스포머의 특정 연산자·텐서 레이아웃을 지원하지 못하면 실행이 GPU로 되돌아가(fallback) 파편화되고, 결국 와트당 처리량이 떨어진다. 저자들이 겨냥한 플랫폼은 GPU 컴퓨트, 듀얼 DLA 엔진, OFA(optical flow accelerator, 옵티컬 플로 가속기), 고대역폭 공유 메모리를 한데 묶은 NVIDIA Jetson AGX Orin이다. 인식 백본으로는 ViT의 단일 스케일 특징과 이미지 해상도에 대한 이차 복잡도 문제를 계층적 shifted-window 셀프어텐션으로 풀어 선형 복잡도와 다중 스케일 특징 피라미드를 얻는 Swin Transformer를 택했다. 2
방법의 핵심은 두 가지를 결합한 것이다. 첫째, 트랜스포머 호환성 적응. DLA가 소화하지 못하는 구성요소를 DLA에서 돌아가도록 개조하는데, 텐서를 재구성(reshape)하고, GELU의 ERF(error function)를 근사하며, 레이어 정규화를 경계가 있는(bounded) 연산으로 대체한다. 이렇게 개조한 모델은 원본 대비 F1 점수가 2%만 떨어져 92%를 유지했다. 둘째, 하드웨어 엔진 인지 스케줄링. H-FraDS(Heterogeneous Frame Dispatch Scheduling)는 들어오는 프레임을 GPU와 두 개의 DLA 코어에 고정 분배 비율로 나눠 보내 지연·전력 제약 아래서 활용률을 끌어올린다. 옵티컬 플로 추정은 추론 단계에서 OFA에 맡긴다. 기존 스케줄링 연구(예: Map-and-Conquer)가 대체로 '레이어가 이미 선택한 하드웨어 엔진과 호환된다'고 가정했던 데 반해, 이 연구는 계층적 비전 트랜스포머에서 지원되지 않는 연산자가 스케줄링 이득을 얻기도 전에 GPU fallback을 일으키는 문제를 호환성 적응으로 먼저 제거한다는 점이 기여다. 2
결과는 실시간 요건을 만족한다. Swin Transformer를 자율주행 인식에 쓴 실험에서 H-FraDS 균형 분배(Balanced Dispatch, 1:2)는 125.93 FPS를 달성해 단독 개조 DLA 실행 대비 2.36배 속도, 4.0 FPS/W, 24 ms DLA 지연을 기록하며 30 FPS 실시간 동작 기준을 넘겼다. GPU-DLA-OFA 구성에서는 DLA 처리량이 2.02배 빨라졌다. 한계도 명확하다. 개조로 인한 2%의 F1 손실을 감수해야 하고, 분배 비율이 고정값이라 워크로드 변화에 동적으로 대응하지는 않는다. 2
격자를 버리고 특이점으로: 날카로운 신호를 흐리지 않는 생성 모델
쉽게 말하면: 생성 모델이 신호를 촘촘한 격자 위 진폭값으로 표현하다 보면 날카로운 전이(transient)가 뭉개지는데, 이를 복소평면 위 몇 개의 특이점 좌표로 바꿔 표현해 해결하려는 연구다. 3
문제의 뿌리는 학습이 아니라 표현 방식에 있다. 확산 모델이나 오토인코더는 데이터를 고정 격자 위 값으로 다루는데, 이 방식은 지각적 충실도에는 맞춰져 있어도 물리적 정확성—불연속의 진폭·위치·날카로움—에는 맞지 않는다. 격자 위에서는 하나의 전이를 여러 독립 진폭이 협력해 근사해야 하고, 작은 어긋남만으로도 모델이 저주파 평균 재구성으로 끌려가 고주파 성분을 억눌러 전이가 뭉개진다. 이는 신경망이 학습 초기에 저주파부터 수렴하는 스펙트럴 바이어스(spectral bias)와도 연결된다. 스펙트럴 표현은 매끈한 신호엔 효과적이지만 날카로운 국소 전이에서는 Gibbs형 진동을 낳는다. 저자들은 아예 격자를 떠나, 불연속과 전이를 고립된 복소평면 특이점으로 표현하기로 한다. 3
제안하는 Singularity Space는 유리형(meromorphic) 함수의 고전적 극-잔차(pole-residue) 표현에 뿌리를 둔다. 특이점을 제외하면(해석적 배경항까지) 모든 유리형 신호는 그 특이점들로 유일하게 결정된다는 원리를 이용해, 신호 구조를 격자값에서 떼어낸다. 신호 크기를 에너지 지형이라 보면 특이점은 그 지형을 잡아 세우는 이산적인 '텐트 기둥'에 해당한다. 각 극의 위치는 사건을 국소화하고, 실수축에 가까운 정도가 전이의 날카로움(스케일)을 조절하며, 극과 잔차는 물리 파라미터 집합에 대응해 해석 가능성을 준다. 구현은 복소평면에서 동작하는 트랜스포머 기반 확산 모델로, 스코어 기반 SDE로 표준 정규분포를 물리적으로 타당한 특이점 구성으로 조향한다. 노이즈가 아니라 샘플을 직접 예측하는 방식을 택해, 샘플링의 매 스텝마다 거리 최소화 투영으로 기하학적 제약을 걸 수 있게 했다. 최종 출력은 특이점 토큰이며, 학습되지 않은 유리형 디코더가 이를 임의 격자 위 신호로 재구성한다—재학습이나 보간 없이. 3
통제된 시험 사례로는 해석적 정답과 특이점 거동이 잘 정의된 1D 점성 Burgers 방정식의 shock을 썼다. 각 shock은 32개의 예측 특이점으로 표현되는데, 이는 1024점 격자 신호에 비해 크게 축약된 표현이다. 저자들은 이 표현이 보지 못한 관측 노이즈 아래서 신호 구조를 보존하고, 제로샷 서브해상도 일반화에서 격자 기반 기준선보다 낮은 재구성 오차를 냈으며, 분포 내에서 물리 파라미터를 복원했다고 보고한다. 위치 오차가 여러 격자 진폭에 흩어지지 않고 특이점 좌표의 명시적 기하 오차로 드러나는 것도 이 표현의 장점이다. 저자들은 음성이나 QRS 복합체·신경 스파이크 같은 전이가 지배적인 생체신호, 나아가 고차원 영역으로의 확장 가능성을 제시한다. 3
거대 LLM 없이도 NL2SQL은 개선될 수 있는가: 파이프라인 부품들의 상호작용
쉽게 말하면: 자연어를 SQL로 바꾸는 작업에서, 무거운 LLM 대신 경량 모델에 여러 파이프라인 개선 기법을 조합하고 그 상호작용을 체계적으로 분석한 연구다. 4
저자들의 출발점은 실용적 회의다. LLM이 커지고 강해질수록 아무 과제에나 갖다 쓰고 싶어지지만, 현실의 프로덕션 환경에서는 너무 크고 비싸고 전력을 많이 먹어 배치가 어렵거나 무책임할 수 있다. 이들은 도메인에 맞춘 경량 NL2SQL 시스템이 아직 성능 한계에 도달하지 않았다고 보고, 파이프라인 각 단계의 최신 기법들을 조합했을 때의 상대적 이득과 상호작용을 파헤친다. 4
구체적으로는 NatSQL 중간 표현, 합성 데이터(GAZP) 기반 전처리·파인튜닝 단계, 그리고 최종 빔에서 SQL 후보를 고르는 새 리랭커 모델을 통합한다. 이 구성요소들을 성격이 크게 다른 두 백본에 결합한다. RASAT는 T5 기반 시퀀스투시퀀스에 관계 인지 셀프어텐션을 더해 스키마 인코딩·링킹·구문 의존성을 통합 표현으로 다루는데, 원래 유효 SQL 보장을 위해 쓰던 PICARD는 자체 리랭커와 비교하려고 제거했다. SmBoP는 GraPPa 임베딩과 RAT-SQL 인코더 위에서 관계대수를 중간 표현으로 쓰는 상향식(bottom-up) 준자기회귀 파서로, 특정 높이의 서브트리를 병렬 디코딩해 항상 유효·실행 가능한 SQL을 만든다. 평가는 Spider 데이터셋에서 Exact Matching(EM)과 Execution accuracy(EX) 두 지표로 하고, 절제 연구(ablation)에 Shapley 분석을 더해 각 구성요소가 조합 속에서 기여하는 몫을 정량화했다. 4
핵심 발견은 '모든 기법을 그냥 다 합치는 것이 최선은 아니다'라는 점이다. 각 구성요소의 효과는 기준 시스템, 그리고 다른 구성요소와의 상호작용에 달려 있어 긍정·부정 효과가 함께 나타났다. Shapley 분석에서 가장 강한 기여자는 NatSQL과 저자들의 최종 빔 리랭커였고, 올바른 조합은 기준 시스템의 성능 천장을 크게 끌어올렸다. 실무적 함의는 분명하다. NL2SQL 시스템을 손볼 때는 개별 기법의 단독 성능만이 아니라 파이프라인 안에서의 조합 효과까지 함께 봐야 한다. 4
스스로 진화하는 에이전트를 릴리스 문제로 다루기: LOGOS의 거버넌스 계층
쉽게 말하면: 도구를 쓰고 경험에서 배우며 자기 행동을 좌우하는 산출물까지 바꿀 수 있는 AI 에이전트 팀에서, '변경 제안'과 '실제 승격'을 분리하고 증거와 사람의 권한으로만 배포를 허용하는 통제 계층이다. 5
저자들은 배치의 핵심 질문이 '에이전트가 무엇을 할 수 있는가'에서 '누가 에이전트가 무엇이 되도록 허용할 것인가'로 확장됐다고 본다. 에이전트가 프롬프트·기억·스킬·도구·역할·워크플로를 스스로 수정할 수 있게 되면 적응은 소프트웨어 릴리스 문제와 닮아간다. 지속성·권한·자격증명·기억·위임·프로덕션 상태 접근이 모델의 역량을 곧바로 운영상 결과로 바꾸기 때문이다. 이들의 지배 원칙은 한 문장으로 요약된다. "제안은 승격이 아니다(proposal is not promotion)." 모델이 자기 업데이트를 제안하면서 동시에 승인해서는 안 된다는 것이다. 5
LOGOS는 기존 멀티에이전트 프레임워크를 대체하지 않고 강화하는 착탈식(pluggable) 계층으로, 컴파일-운영-진화(compile-operate-evolve) 수명주기를 얹는다. 컴파일 단계는 문서·소스코드·이미지·오디오·표·데이터베이스·API 명세·사람 지시 같은 이질적 다중모달 입력을, 에이전트·도구·지식·기억·라우팅 정책·권한·검증기·검증 프로브·출처를 담은 버전 관리된 '에이전트 팩(Agent Pack)'으로 변환한다. 운영 단계는 프레임워크마다 다른 행동을 타입이 있고 감사 가능한(auditable) 이벤트로 정규화한다. 진화 단계는 학습된 프롬프트·기억·스킬·도구·역할·워크플로를, 홀드아웃 실행 증거와 선언된 안전·회귀 제약, 사람이 소유한 정책, 요구되는 승인이 승격을 허가할 때까지 격리한다. 그 위에는 사람이 정한 목표·평가자·게이트 버전·보호된 홀드아웃·자격증명 경계·권한 확장 규칙·승인 요건을 고정하는 루트 정책이 있어, 에이전트가 이 경계 안에서 제안은 하되 목표를 몰래 재정의하거나 평가자를 약화하거나 자격을 확장할 수는 없게 한다. 5
이 구조에서 에이전트는 행동하고, 불확실성을 드러내고, 필요한 정보·권한을 요청하고, 결과에서 배우고, 개선을 제안할 수 있다. 반면 사람은 비동기로 목표를 조향하고, 권한을 제한하고, 민감한 행동을 승인하고, 실행을 멈추고, 구조적 상태를 되돌릴 수 있다. 롤백은 팩과 설정을 복원하고, 외부에 영향을 주는 행동은 프리뷰·트랜잭션·멱등성·사람 확인 같은 별도 안전장치를 요구한다. 저자들은 이 거버넌스 계약을 외부 벤치마크, 메커니즘 연구, 생성된 결함 주입(fault injection), 계약 준수 검사로 나눠 평가하되 각 방법을 그것이 뒷받침할 수 있는 주장에만 쓴다고 밝힌다. 요지는 이렇다. 에이전트가 기계 속도로 진화하더라도, 루프를 닫는 것은 증거와 사람의 권한이다. 5
정확도뿐 아니라 '답할 의지'가 문제였다: Claude Fable 5의 생체의학 거절 패턴
쉽게 말하면: Claude Fable 5는 생체의학 벤치마크에서 문항을 거절하는 비율이 매우 높았고, 거절 문항을 분모에서 빼면 비교 모델들을 넘거나 동등한 정확도를 보였다는 연구다—즉 발목을 잡은 건 실력이 아니라 답하려는 의지였다. 6
저자들은 기존 생체의학 모델 평가의 두 가지 병폐에서 출발한다. 첫째, 프런티어 모델들이 USMLE류 시험에서 흔히 90%를 넘기면서 레거시 벤치마크가 거의 포화돼 모델을 변별하지 못한다. 둘째, 개방형 응답 채점을 다른 언어모델에 맡기는 관행은 평가를 그 심판만큼만 믿을 수 있게 만든다. 그래서 이 연구는 전 과정에서 고정 정답 키에 대한 결정적(deterministic) 채점을 쓰고, 다른 모델의 판단을 개입시키지 않으며, 무엇보다 '거절(refusal)'을 오답에 섞지 않고 별도 결과로 추적한다. 평가는 모두 제로샷 직접응답 프롬프트로, few-shot·사고연쇄·검색증강·확장사고 없이 시스템 프롬프트도 없는 단일 사용자 턴으로 진행했다. 6
평가 대상은 2026년 6월 9일 공개되고 7월 1일 공개 API가 복구된 Anthropic의 Claude Fable 5다. 텍스트 4개(MedQA, PubMedQA는 비교용 레거시 앵커, MedXpertQA Text와 RareBench는 주요 증거 벤치마크)와 다중모달 4개(VQA-RAD, SLAKE, PathVQA, MedXpertQA MM에서 1,000문항 표집), 총 여덟 개 생체의학 벤치마크에서 검증했다. 비교군으로는 같은 계열의 두 전작 Claude Opus 4.6·Opus 4.8과 외부 기준 GPT-5를 두어 세대 간 추이도 함께 봤다. 6
중심 발견은 뚜렷하다. Fable 5는 벤치마크에 따라 문항의 8.0%에서 99.4%까지를 거절했는데, 이는 두 전작과 GPT-5에서는 없던 패턴이다. 거절 문항을 분모에서 제외하면 Fable 5의 정확도는 이 연구의 모든 벤치마크에서 다른 모든 모델을 넘거나 동등했다. 거절은 두 가지로 구별된다. 하나는 MedQA와 MedXpertQA MM에서 기초과학·기전 내용에 집중된 패턴으로, 각 벤치마크의 자체 범주 라벨로 독립 확인됐다. 다른 하나는 RareBench에서 나타난 질환 도메인 패턴으로, 선천성 대사질환 제시는 거의 전면 거절하면서 성인 발병 자가면역 제시는 거절하지 않았다. 저자들의 결론은 명확하다. Fable 5의 생체의학 유용성을 제한하는 주된 요인은, 일단 답했을 때의 역량이 아니라 참여할 의지다. 6