이번 주 여섯 편을 관통하는 물음은 하나다. "겉으로 보이는 손쉬운 신호를 그대로 믿어도 되는가." 추론 모델은 답이 나오면 멈춰도 될 것 같지만 실제로는 답이 준비된 것과 추론이 수렴한 것이 다르고1, 판례 분류는 정확도만 보면 될 것 같지만 틀렸을 때의 무게는 오류마다 다르며3, 암 생존자의 상태는 고정된 요약 통계로 읽힐 것 같지만 정작 힘든 순간엔 그 신호가 비어 있다4. 권력 관계 속 LLM은 성격 정렬만 점검하면 안전할 것 같지만 지위에 따라 순응이 달라지고2, 신약 후보는 데이터 분포만 잘 따라가면 될 것 같지만 실제로 쓰려면 여러 속성을 동시에 만족해야 한다6. 애자일 회의에서는 팀원의 안녕을 챙기면 될 것 같지만 정작 회의를 이끄는 사람의 감정은 아무도 보지 않는다5. 여섯 편은 저마다 "진짜 재야 할 것"을 다시 정의하고, 그중 넷(2345)은 법률·의료·팀 협업처럼 틀리면 대가가 큰 사람 대면 현장에 발을 딛는다.
추론이 수렴하면 멈춰라: 답이 아니라 '진전'을 신호로 삼는 조기 종료
쉽게 말하면: 대형 추론 모델은 답이 이미 안정된 뒤에도 같은 결론을 반복하며 토큰을 낭비하는데, 이 연구는 '더 이상 새로운 생각이 안 나올 때'를 포착해 그 낭비를 끊는다. 1
DeepSeek-R1이나 OpenAI o1 같은 대형 추론 모델(LRM)은 긴 사고 사슬(chain-of-thought)로 성능을 끌어올리지만, 해답이 안정된 뒤에도 이미 세운 결론을 다시 검증하거나 바꿔 말하며 추론을 이어간다. 저자들이 대표적인 다섯 개 LRM을 분석했더니 전체 추론 토큰의 41~52%가 모델이 이미 최종 답에 도달한 뒤에 생성됐다. 기존 조기 종료 기법은 답의 신뢰도나 시험답 일관성 같은 '답 수준' 신호에 의존하는데, 이런 신호는 답이 준비됐는지를 볼 뿐 추론이 수렴했는지는 보지 못한다. 그래서 모델이 아직 탐색·자기수정 중일 때 멈춰버려 최종 정확도를 떨어뜨리거나 남은 사슬을 의미상 잘라먹는 조기 종료가 생긴다. 1
제안한 PUMA(Progress-aware Unified Monitoring for Adaptive early exit)는 가벼운 중복 탐지기와 답 수준 검증을 결합한 플러그앤플레이 프레임워크다. 핵심 아이디어는 여러 출력의 의미적 다양성을 재는 시맨틱 엔트로피를 '한 궤적 안의 진전'으로 옮겨온 것이다. 최근 단계들이 이전 단계와 의미적으로 비슷해져 새로운 논리·의미를 더하지 않으면 추론이 탐색에서 수렴으로 넘어갔다고 본다. 이 '추론 수준의 의미적 중복'을 잡기 위해 저자들은 Qwen3-Embedding-0.6B를 대조 학습(contrastive)으로 미세조정해, 새 진전을 더하는 단계와 앞 내용을 되풀이·재유도·순환하는 단계를 구분하도록 훈련했다. 탐지기가 중복 종료 후보를 표시하면 답 수준 검증이 멈춰도 안전한지 확인한다. 이렇게 '어디서 멈출까'와 '멈춰도 되는가'를 분리한 덕에, 탐색을 충분히 마친 뒤 끊어 남은 사슬이 앞뒤가 맞는 서사를 이루게 한다. 1
DeepSeek-R1-Distill·Llama-Nemotron·Qwen3를 포함한 다섯 개 LRM과 MATH-500·AIME24/25·OlympiadBench·GPQA-Diamond 등 다섯 개 고난도 벤치마크에서 PUMA는 정확도와 남은 사고 사슬의 품질을 지키면서 평균 26.2%의 토큰을 줄였고, 이 절감은 실제 벽시계 시간 단축으로 이어졌다. 코드 생성, 제로샷 시각-언어 추론, PUMA가 고른 종료 지점을 모델에 내재화하는 실험에서도 추론 수준 중복이 견고하고 전이 가능하며 학습 가능한 신호임을 보였다. 다만 이 방식은 별도로 학습한 임베딩 탐지기와 답 수준 검증을 함께 돌려야 하므로, 완전히 공짜인 신호는 아니다. 코드는 공개됐다. 1
권력을 부여받은 LLM은 인간처럼 위계에 반응하는가
쉽게 말하면: 사람은 상대와의 상하관계에 따라 말투와 순응이 달라지는데, 높고 낮은 지위의 페르소나를 부여받은 LLM도 그런 사회인지 효과를 그대로 재현하는지—특히 위험한 요청 앞에서—를 시뮬레이션으로 검증했다. 2
LLM은 중재·의료·법률 보조, 튜터, 금융 상담처럼 사람을 직접 상대하는 고위험 역할에 점점 투입되는데, 여기서는 현실성과 안전이 모두 걸린다. 인간 소통은 교장-교사, 대법관-변호사 같은 비대칭 권력 관계에 좌우되며 언어 조율, 대명사 사용, 권위 편향, 유해 순응 같은 잘 문서화된 효과를 낳는다. 기존 LLM 연구는 성격 정렬이나 일반적 인지 편향에 머물러 권력이라는 축을 비워 뒀다. 저자들은 PersonaHub의 20만여 페르소나에서 교장-교사·의사-간호사·대법관-변호사 등 위계 역할쌍을 뽑고, 사람 주석자 세 명이 페르소나쌍의 96.5%를 실제 권력 차이로 인식한다고 확인한 뒤, Llama 3.1-8B·Qwen 2.5-7B·Phi-3-Med·Llama 3.1-70B·GPT-4.1·GPT-5 여섯 모델로 Sotopia 위에서 10~15턴 대화를 시뮬레이션했다. 현실성 축에서는 대명사 효과와 언어 조율을, 안전 축에서는 권위 편향(설득)과 유해 순응을 측정했다. 2
현실성은 대체로 재현됐다. 대명사 효과에서는 Qwen 2.5-7B와 Phi-3-Med를 뺀 모든 모델이 고지위 화자가 1인칭 단수를 덜, 복수를 더 쓰는 인간 패턴을 통계적으로 유의하게 보였고 GPT 계열에서 가장 강했다. 언어 조율은 GPT를 뺀 모델에서 고·저지위 양쪽이 서로 스타일을 맞추는 '상호 조율'로 나타났으며, 저지위 화자의 조율이 조금 더 컸지만 유의하지는 않았다. GPT 모델이 조율을 덜 보인 것은 '도움되는 조수'류 지시와 공격적 정렬 훈련으로 중립·간결한 응답에 최적화된 탓으로 저자들은 해석한다. 안전 축이 더 눈길을 끈다. DailyPersuasion을 각색해 GPT-5 심판(사람과 83% 일치)으로 잰 권위 편향에서는 설득자가 고지위일 때 설득 성공률이 일관되게 높았다. Qwen 2.5-7B는 저지위 설득자 25.0%에서 고지위 30.9%로 뛰어 효과가 가장 뚜렷했고, 작은 모델일수록 권위 편향이 강한 반면 Llama 3.1-70B·GPT-5 같은 큰 모델은 저항력이 컸으나 흔적은 남았다. 유해 순응은 Do-Not-Answer 데이터셋(GPT-5 심판, 사람과 80% 일치)으로 쟀는데, 저지위 응답자가 안전하지 않은 요청에 더 잘 응해 밀그램 실험의 순응 효과가 재현됐다. 2
턴이 진행되며 효과가 어떻게 변하는지도 봤다. 대명사 효과는 대화가 흐를수록 약해져 GPT-5의 경우 0.52(초반)→0.46(중반)→0.40(후반)으로 수렴했고, 언어 조율은 작은 모델에서 오히려 턴이 갈수록 커졌으며(GPT 계열은 예외), 설득과 순응은 초반에 가장 강했다가 점차 잦아들어 고·저지위 격차도 초반에 가장 벌어졌다. 종합하면 LLM은 권력의 핵심 사회인지 효과를 재현하되 모델·크기·훈련 단계에 따라 편차가 크고, 그 시뮬레이션이 바람직한 행동과 위험한 순응 양쪽에 모두 닿는다. 실무적으로는 고위험 배치 시 권력 맥락을 별도 점검 항목으로 삼아야 한다는 뜻이다. 시뮬레이션 대화는 공개됐다. 2
판례의 '부정적 취급'을 분류하는 LLM, 오답의 무게를 재는 새 지표
쉽게 말하면: 어떤 판례가 다른 판례를 부정적으로 뒤집었는지 자동 분류하는 일은 틀리면 위험한데, 이 연구는 '정확도'만이 아니라 '틀렸을 때 얼마나 심각한가'까지 재는 평가 틀을 세웠다. 3
판례가 선례를 부정적으로 취급했는지 가려내는 일은 미묘하면서도 오분류의 대가가 큰 과제다. 어떤 선례가 여전히 유효한 줄 알고 인용했다가 실은 뒤집힌 판례였다면 법률 실무에서 치명적일 수 있는데, 단순 정확도는 이런 오류의 파장을 담지 못한다. 모든 오분류를 같은 무게로 세기 때문이다. 저자들은 이 한계를 메우려 더 견고한 평가 프레임워크를 제시하고, 전문가가 주석한 실제 법률 인용 239건으로 맥락이 풍부한 새 데이터셋을 구축했으며, 오류의 실제 영향을 반영하는 Average Severity Error(평균 심각도 오차) 지표를 도입했다. 오답이라도 심각도가 다르면 다르게 페널티를 매기는 발상이다. 3
현대 LLM들을 이 데이터셋에서 벤치마킹하자 성능이 과제 난도에 따라 갈렸다. 큰 범주로 나누는 고수준 분류에서는 구글 Gemini 2.5 Flash가 79.1%로 가장 정확했고, 더 잘게 쪼갠 세분화 스키마에서는 OpenAI GPT-5-mini가 67.7%로 앞섰다. 최고 성능조차 세분화 과제에서 67.7%에 그쳤다는 사실은 이 문제가 최신 모델에도 여전히 만만치 않음을 보여준다. 이 작업의 의의는 법률 추론 과제의 기준선, 맥락이 풍부한 새 데이터셋, 그리고 과제 특성에 맞춰 오류의 무게를 재는 평가 지표를 함께 제공했다는 데 있다. 3
수동 센싱을 파고드는 에이전트: 암 생존자의 '침묵하는 순간'을 읽다
쉽게 말하면: 정작 힘들 때는 설문에 답하지 않게 되는 암 생존자를 위해, LLM 에이전트가 스마트폰이 조용히 모은 행동 데이터를 스스로 파고들어 '지금 도움이 필요한 순간'을 짚어내는 시스템이다. 4
미국의 암 생존자는 2026년 1,800만 명을 넘고 그중 거의 3분의 1이 치료 후 임상적 수준의 우울·불안·정서적 고통을 겪는다. 적시 개입(JITAI)이 해법으로 꼽히지만 근본 역설이 있다. 가장 개입이 필요한 순간이 바로 자기보고 설문(EMA)이 비는 순간이라는 것—저자들이 diary paradox라 부르는 문제다. 압도당한 생존자는 설문을 멈추고, 우울 삽화에 빠진 사람은 일기 쓸 동기를 잃어, 가장 임상적으로 중요한 데이터가 비무작위로 사라진다. 스마트폰 수동 센싱은 움직임·위치·화면 사용·수면·소통을 끊김 없이 모으는 대안이지만, 기존 방식은 균형 정확도 0.52~0.60의 천장에 막혀 왔다. GLOBEM 벤치마크에서 18개 알고리즘이 대체로 0.50~0.55에 머물렀고 데이터셋 간 전이는 거의 우연 수준이었다. 저자들은 병목이 데이터가 아니라 '해석'에 있다고 본다. 고정 특징 파이프라인은 누구에게나 같은 요약 통계를 뽑아, 평소 5,000보 걷는 사람의 500보와 200보 걷던 사람의 500보가 전혀 다른 의미라는 맥락을 읽지 못한다. 4
제안한 Pulse는 이 병목을 정면으로 겨냥해 '고정 파이프라인'에서 '에이전트 기반 센싱 조사'로 패러다임을 옮긴다. 목적별로 만든 여덟 개의 센싱 질의 도구를 Model Context Protocol(MCP)로 구현해 LLM 에이전트에게 쥐여주고, ReAct 방식으로 추론과 행동을 번갈아 하며 각 사용자의 데이터를 여러 턴에 걸쳐 조사하게 한다. 에이전트는 어떤 양식을 볼지, 얼마나 과거를 돌아볼지, 어떤 이상 신호를 파고들지, 개인화된 기준선 및 검색 증강으로 끌어온 집단 수준 비교와 어떻게 견줄지를 스스로 정한다. 예측 대상도 둘로 분리했다. 지금 지원을 원하는가(감정 조절 욕구)와 지금 지원에 응할 여력이 있는가(개입 가능성)다. 원하지만 여력 없는 사용자와 여력은 있지만 원하지 않는 사용자를 나눠 봐야 JITAI가 헛돌지 않기 때문이다. 4
평가는 추론 구조(구조화 대 에이전트)와 데이터 양식(센싱 단독 대 일기 포함)을 교차한 2×2 요인 설계로, BUCS 종단연구의 암 생존자 50명과 4,112건의 EMA 응답에서 이뤄졌다. 성능의 주된 동력은 데이터가 아니라 에이전트 방식이었고, 부트스트랩 검정에서 모든 차이가 유의했다. 일기와 센싱을 함께 쓴 에이전트는 감정 조절 욕구에서 균형 정확도 0.743을, 수동 센싱만 쓴 에이전트는 개입 가능성에서 0.713을 기록해 전통 ML 기준선 0.52를 크게 웃돌았다. 흥미로운 해리 현상도 드러났다. 개입 가능성은 수동 센싱만으로 가장 잘 맞았고 일기를 더해도 0.713→0.722로 미미했던 반면, 감정 조절 욕구는 일기 텍스트가 결정적이어서 0.651에서 0.743으로 뛰었다. 즉 '여력'은 행동 데이터로, '욕구'는 언어 데이터로 읽는 게 낫다는 것으로, JITAI 설계에서 두 구성을 별개 데이터원으로 모델링해야 함을 시사한다. 다만 대상은 단일 집단 50명이라 일반화에는 추가 검증이 필요하다. 4
회의 진행자의 감정을 실시간으로 비추는 다중모달 프레임워크
쉽게 말하면: 팀 회의를 이끄는 스크럼 마스터가 자기도 모르게 드러내는 감정을 AI가 실시간으로 짚어 알려줘, 부정적 기색을 스스로 알아채고 누그러뜨리도록 돕는 시스템이다. 5
애자일 팀원의 정서적 안녕을 다루는 연구는 늘고 있지만, 정작 팀 역학을 좌우하는 스크럼 마스터와 회의 조직자의 감정을 모니터링하는 연구에는 큰 공백이 있었다. 회의를 이끄는 사람이 무의식적으로 흘리는 감정은 팀 분위기에 곧바로 번지는데도 아무도 그것을 비춰 주지 않는다는 문제의식이다. 이 프레임워크(EGI)는 이 사각지대를 겨냥해, 신중히 고른 네 개의 AI 모델을 하나의 실시간 파이프라인으로 엮는다. 5
동작은 네 단계로 이어진다. 먼저 음성-텍스트 모델이 발화를 실시간 전사하고, 억양 분석에 임계값을 적용해 운율에 실린 감정 단서를 잡는다. 이어 감정 어휘 매칭으로 발화 내용 자체의 정서를 식별하고, 오픈소스 다중 모듈 AI API가 감정 키워드를 담은 맥락 인식 제안을 되돌려 준다. 즉 '무슨 말을 했는가(내용)'와 '어떻게 말했는가(운율)'를 함께 읽어 진행자 자신에게 즉시 피드백하는 구조다. 모의 회의 환경에서 음성 인식 단어 오류율(WER)은 10%였다. 5
평가는 모의 애자일 회의에서 이뤄졌고, 실시간 피드백이 회의 중 감정 인식을 유의하게 개선해 스크럼 마스터와 회의 조직자가 부정적 감정 표출을 빠르게 알아채고 줄이도록 도왔다고 보고한다. 감정 모니터링의 대상을 팀원에서 회의를 이끄는 사람으로 옮기고, 사후 분석이 아니라 회의가 흐르는 도중에 실용적 제안을 건넨다는 점이 이 작업의 자리다. 검증이 실제 팀이 아닌 모의 회의에서 이뤄졌다는 점은 현장 적용 전에 넘어야 할 지점으로 남는다. 5
약물 후보를 강화학습으로 다듬는 포켓 인식 확산 모델
쉽게 말하면: 단백질 주머니에 딱 맞는 3D 분자를 만들 때, 결합력만이 아니라 약다움·합성 용이성·다양성까지 한꺼번에 좋게 만들도록 이미 학습된 확산 모델을 강화학습으로 더 다듬은 연구다. 6
구조 기반 신약 설계(SBDD)는 포켓 인식 3D 생성 모델로 빨라졌지만, 대부분은 학습 데이터 분포를 흉내 내는 데 머문다. 실제 치료제로 쓰려면 결합 친화도와 함께 약다움·합성 용이성·다양성을 동시에 만족해야 하는데, 분포 재현만으로는 이 다중 속성을 담보하지 못하고 생성 후 별도의 자원 소모적 최적화가 필요해진다. 그래서 여러 속성을 세밀하게 제어하는 구조 기반 분자 최적화(SBMO)가 부상했다. 기존 SBMO는 진화 연산(DecompOpt), 그래디언트 최적화(MolJO·TAGMol), 자기회귀 생성 위의 RL(3DMolFormer·BindGPT), 선호 데이터 기반 DPO(ALIDIFF·DecompDPO) 등을 써 왔으나, 자기회귀 방식은 오차 누적에 약하고 DPO 계열은 선호 데이터셋의 품질과 다양성에 성능이 묶인다. 6
제안한 DePPA(Denoising Policy for Pocket-Aware Molecule Optimization)는 사전학습된 포켓 조건부 확산 모델을 온라인 강화학습으로 미세조정한다. DDPO에서 영감을 받아 역방향 노이즈 제거 과정을 다단계 마르코프 결정 과정(MDP)으로 정식화하는데, 각 시점의 노이즈 낀 리간드가 상태이고 한 번의 노이즈 제거가 행동이며, 보상은 궤적의 마지막 단계에서 완성된 리간드에 대해서만 결합 친화도·약다움·합성 용이성·다양성으로 평가한다. 이런 희소·결과 기반 보상을 긴 지평에 그대로 적용하면 불안정하고 비싸므로, 크리틱 없는 어드밴티지 추정, 더 성긴 노이즈 제거 스케줄러, 보상의 가우시안 순위 변환, 예측 임계값 처리를 함께 넣어 학습 파라미터를 늘리지 않고 안정성과 효율을 끌어올렸다. 변분 확산 틀 덕에 노이즈 제거 보폭과 정책의 탐색 폭이 원리적으로 연결된다는 점도 짚는다. 6
CrossDocked2020 벤치마크에서 DePPA는 결합 친화도에서 Vina Score -8.5 kcal/mol을 기록했는데, 이는 참조 분자 대비 33.7% 개선이면서도 평균 분자 크기를 참조 수준으로 유지한 결과다. 약다움과 다양성에서도 기준선을 앞섰고 합성 용이성은 경쟁력 있는 수준이었으니, 모든 속성에서 최고는 아니되 다중 속성을 동시에 밀어 올렸다는 뜻이다. 미세조정 전 과정에서 모은 리간드에 상위 선택 기법을 적용한 변형은 Vina Score -13.52 kcal/mol까지 결합력을 끌어올리되 다른 속성은 다소 내주는 절충을 보였다. 생성된 결합 자세의 안정성 평가에서도 RMSD 기준 결합-모드 일관성이 가장 좋았고 변형 에너지와 입체 충돌에서도 앞섰다. 코드는 공개됐다. 6