정적인 세계를 깨우고, 흩어진 기억을 잇다 — LLM 에이전트의 학습·평가·안전

이 연구들은 하나의 질문으로 수렴한다. 현실에서 스스로 배우고, 오래된 맥락을 기억하며, 위험을 가려낼 줄 아는 에이전트를 어떻게 만들 것인가. 정적인 환경을 능동적으로 재구성해 학습 신호를 뽑아내는 실험, 의미적으로 멀리 떨어진 기억을 이어 붙이는 검색 구조, 과학·안전 영역에서 에이전트의 한계를 드러내는 벤치마크가 서로 다른 각도에서 같은 목표를 겨냥했다.

정적인 환경을 학습 도구로 바꾸는 껍데기: EnvHarness

쉽게 말하면: AI 에이전트가 연습하는 '훈련장'은 대개 사람이 손으로 만들고 한 번 만들면 고정돼 있어, 에이전트가 어디서 약한지 모른 채 늘 같은 문제만 던진다. 이 연구는 훈련장 자체를 뜯어고치지 않고 겉에 얇은 층을 덧씌워, 에이전트의 약점을 겨냥한 문제를 자동으로 만들어내게 했다. ¹

LLM 에이전트는 환경과 상호작용하며 배우지만, 기존 환경은 정적이라 에이전트가 성장하면 금세 뒤처진다. 환경을 새로 생성하는 최근 기법들도 도메인마다 전용 파이프라인이 필요하고, 검증기(verifier)가 비싸거나 불안정하며, 결국 다시 고정된 환경을 내놓는다는 한계가 있었다. 연구진이 제안한 Environment Harness(EnvHarness)는 기존 환경의 내부 논리를 건드리지 않고, 표준 인터페이스를 통해 동작을 재구성하는 플러그인 컴포넌트 계층이다. 핵심은 재구성된 환경이 원래의 검증기를 그대로 유지한다는 점으로, 이 덕분에 여러 도메인에 적용될 수 있다. ¹

이 과정을 자동화하는 EnvRigger는 대상 정책(policy)을 블랙박스로 취급해, 실행 궤적을 관찰하며 진단된 결함을 겨냥한 EnvHarness 컴포넌트를 합성하고 새로운 롤아웃으로 검증한다. 4개 도메인 5개 벤치마크에서 EnvHarness는 원본 환경과 도메인 전용 환경 생성 파이프라인을 모두 앞섰고, 학습에 쓰지 않은 별도 평가 인스턴스에서 최대 9.0점 향상을 실행 단계는 9.8% 적게 쓰면서 달성했다. 또한 강화학습을 위한 더 나은 최적화 신호를 제공해 정책과 환경이 함께 진화하도록 만들었다. ¹

함의는 분명하다. 환경을 매번 새로 짓는 공학적 부담을 덜면서도, 에이전트의 성장에 맞춰 문제 난이도와 초점을 계속 조정할 수 있다는 것이다. ¹

의미가 멀어도 이어 붙이는 기억: CABLE의 보완적 연결

쉽게 말하면: 오래된 대화 기록을 저장해 둬도, 나중에 질문할 때 '단어가 비슷한' 기억만 불려 나오고 정작 답의 배경이 되는 옛 기억은 놓치기 일쑤다. 이 연구는 서로 표현은 달라도 나중 사건을 설명하는 데 필요한 기억들을 미리 연결해 두는 방식으로 이 사각지대를 메웠다. ²

장기 대화 기억에서 검색은 여전히 의미 유사도에 크게 기댄다. 이는 주제 회상에는 잘 통하지만, 나중 사건을 설명해 주는 과거의 경험·계획·동기가 의미적으로 멀리 떨어져 있으면 놓치는 '증거 접근성' 문제를 낳는다. 기존 기억 그래프는 교차 구조를 제공하지만, 의미 중복에 기반한 연결은 검색기가 이미 찾아내는 것을 그대로 되풀이할 수 있다. 연구진은 연결이 검색기를 '보완'해야 한다는 설계 원칙을 세우고, 이를 CABLE(Complementary Antecedent-Based Linking and Expansion)로 구현했다. 새 기억이 쓰일 때마다 '이 기억을 낳았을 법한 과거의 경험·계획·동기'를 묻는 선행(antecedent) 질의를 생성해 과거 기억을 검색하고, 직접 의미 이웃에 있는 후보는 빼낸 뒤 나머지를 검증해 희소한 방향성 그래프에 추가한다. ²

검색 시점에는 호스트 시스템이 찾아온 씨앗 기억을 이 연결을 따라 확장해 암묵적 근거를 끌어올린다. LoCoMo·MA-LongMemEval에서 A-MEM에 적용하고 SimpleMem·Mem0g에도 통합해 Qwen3.5-27B·DeepSeek-chat·GPT-4o-mini로 평가한 결과, 시스템 수준의 모든 설정에서 LLM 심판 점수 평균이 상승했다. 특히 근거가 여러 기억·세션에 흩어진 오픈도메인·다중세션·선호 관련 질문에서 향상 폭이 컸다. ²

실무적으로는 기존 호스트 검색기를 대체하지 않고 플러그인 보강으로 붙는다는 점이 유용하다. 이 연구는 검색기가 직접 찾는 의미적 이웃을 반복하기보다, 희소하고 추론 관련성이 높은 보완 연결을 우선해야 한다는 결과를 제시한다. ²

과학 소프트웨어를 고치는 에이전트의 한계선: SWE-bench Science

쉽게 말하면: 요즘 코딩 AI가 버그를 잘 고친다지만, 실험 데이터를 다루는 과학용 코드는 얘기가 다르다. 여기서 코드가 잘못되면 프로그램뿐 아니라 연구 결론의 근거까지 흔들리는데, 이 벤치마크는 최고 성능 에이전트조차 절반도 못 고친다는 사실을 드러냈다. ³

소프트웨어는 점점 과학 계측 장비의 일부처럼 작동하고, 그래서 과학 코드의 오류는 연구 결론을 떠받치는 증거까지 손상시킬 수 있다. 그런데 기존 코딩 에이전트 평가는 대체로 전체 성공률에 치중해, 에이전트가 과학 소프트웨어 수리에서 '왜' 실패하는지는 거의 알려주지 못했다. 연구진은 이를 위해 SWE-bench Science를 만들었다. 20개 과학 분야의 98개 GitHub 저장소에서 뽑은 119개 과제로 구성된 저장소 수준 벤치마크로, 각 과제는 이슈 기반·전문가 탐색형·엔지니어링 통합의 세 가지 패러다임 중 하나로 분류된다. ³

결과는 냉정했다. 가장 뛰어난 에이전트인 Claude Code에 Opus-5(max)를 붙인 구성조차 pass@1이 50% 미만에 머물렀다. 연구진은 반복되는 실패 메커니즘 네 가지를 짚었다. 과학 지식이나 추상화의 결핍, 잘못된 탐색이나 표면적 수리, 불완전한 수리 범위나 시스템 통합 실패, 그리고 관찰한 사례를 넘어 과학 지식을 일반화하지 못하는 실패다. 나아가 저장소와 실행 가능한 엔지니어링 맥락은 유지한 채 명시적 과학 지침만 제거하는 짝지은 절제 실험(ablation)을 수행했다. ³

흥미로운 발견은 과학 지식이 언제나 이롭지는 않다는 것이다. 잘 근거한 정보는 수리를 적절히 제약해 평균 성능과 토큰 효율을 높였지만, 정렬이 어긋난 지침은 오히려 앵커링(anchoring)을 유발해 정확한 수리 성공을 반드시 개선하지는 못했다. 코딩 에이전트를 과학 연구 파이프라인에 투입하려는 실무자에게, 이 벤치마크는 '지식을 넣으면 무조건 좋다'는 가정을 경계하게 하는 근거를 준다. ³

한 장의 영상으로 사람을 4D로 복원하기: 4DAnyone

쉽게 말하면: 어느 각도에서도 볼 수 있는 입체 인물 복원을, 보정되지 않은 단안 영상 한 편만으로 해내려는 시도다. 문제는 4DGS 복원에 필요한 여러 시점 영상을 만들어낼 때 시점 간 일관성이 무너진다는 데 있었다. ⁴

4DAnyone은 보정되지 않은 단안 영상에서 4D 인간을 복원하기 위해, 복원에 쓸 수 있는 다중시점 일관 영상들을 생성하고 이를 4D Gaussian Splatting(4DGS)으로 올리는 프레임워크다. 기존 카메라 제어 영상 확산 모델로 새 시점 영상을 먼저 만든 뒤 복원하는 접근이 유망하나, 4DGS에 필요한 수십 개 시점으로 확장하면 시점 간 일관성이 무너진다. 연구진은 이를 '제한된 어텐션 맥락' 문제로 규정했다. 목표 시점이 단일 DiT 순전파 용량을 넘으면 그룹으로 쪼개야 하는데, 참조 맥락 측에서는 이전에 생성한 모든 시점을 조건으로 삼으려다 맥락 길이가 급증해 외양 안내가 약해지고, 목표 맥락 측에서는 분리된 그룹끼리 정보를 주고받지 못해 전역 구조가 표류한다. ⁴

4DAnyone은 두 설계로 이를 함께 푼다. Reference Context Packing(RCP)은 늘어나는 참조 시점을 고정 길이의 혼합 해상도 맥락으로 압축해 시점 간 외양 안내를 보존한다. Target Context Routing(TCR)은 확산의 시간 구조를 활용해, 고잡음 단계에서는 목표 시점 그룹을 회전시켜 그룹 간 맥락을 공유하고, 저잡음 단계에서는 세부를 안정화한다. ⁴

학습을 위해 자체 게임 엔진으로 MVGameHuman 데이터셋을 구축하고 라이트스테이지·야외 영상 데이터셋과 결합했다. DNA-Rendering과 DyMVHumans 실험에서 4DAnyone은 새 시점 영상 품질과 후속 4DGS 복원 모두에서 기존 방법을 앞섰고, 야외 영상에 대한 견고한 일반화를 보였다. 프로젝트 페이지에는 영상 결과와 소스코드가 공개돼 있다. 임바디드 AI·몰입형 콘텐츠 제작에서 촬영 장비 문턱을 낮출 수 있다는 점이 이 연구의 실무적 무게다. ⁴

다국어 청소년 안전 감사에 멀티모달 LLM을 투입하다: TikTok 감사 연구

쉽게 말하면: 틱톡이 청소년에게 유해 영상을 얼마나 노출하는지 나라·나이별로 조사하려면 영상마다 사람이 일일이 판정해야 해 비용이 크다. 이 연구는 그 판정을 멀티모달 AI로 확장해, 약 50달러의 API 비용으로 세 나라의 감사를 수행했다. ⁵

온라인 영상 플랫폼은 어린 사용자를 유해 콘텐츠에 노출할 수 있지만, 영상 주석 비용이 크고 언어마다 판정이 달라 독립 감사가 어렵다. 연구진은 프랑스·이탈리아·스웨덴에서 13·16·19·40세의 네 연령 페르소나를 대표하는 소크퍼펫(sockpuppet) 계정을 만들어, 수동적 For-You 스크롤과 능동적 세션(스크롤 → 유해 키워드 검색 → 재스크롤)에서 영상을 수집했다. 주석을 확장하기 위해 네 개의 멀티모달 LLM을 300개 영상 기준셋에서 원어민 라벨과 대조 검증했고, 여덟 프레임 샘플에 텍스트를 더한 Gemini 2.5 Flash 구성이 가장 우수하면서 원본 영상 업로드 대비 호출당 비용은 절반이었다. ⁵

핵심 발견은 세 가지다. 키워드 검색은 수동 스크롤 대비 유해 콘텐츠 노출을 끌어올렸고, 12개 국가–연령 조합 중 10개에서 증가했다. 이 급등은 일시적이었고, 프랑스·스웨덴에서 관찰되던 연령 차이를 평탄하게 만들었다. 수동 스크롤에서는 이탈리아가 모든 연령에서 가장 높은 유해율을 보였다. 전체 감사의 API 지출은 약 50달러 수준이었다. ⁵

저자들은 멀티모달 LLM 기반 감사가 다국가 청소년 안전 감사를 확장 가능하게 만든다고 보면서도, 제공사의 안전 필터가 거부(refusal)를 일으켜 가장 노골적인 유해물을 과소집계하는 한계를 지적했다. ⁵

지식을 지우되 쓸모는 남긴다: ConceptGuard의 이중용도 언러닝

쉽게 말하면: 위험한 지식만 골라 지우는 '언러닝'을 평가할 때, 지금까지는 서로 무관한 사실들을 지웠다 남겼다만 확인했다. 이 연구는 같은 개념이라도 '해로운 쓰임'만 막고 '이로운 쓰임'은 남기는지를 따지는 새 기준을 만들었다. ⁶

LLM은 배포가 늘수록 해롭거나 민감한 지식을 선택적으로 제거하는 언러닝을 요구받지만, 기존 방법과 벤치마크는 이 능력을 온전히 평가하지 못한다. 현재 접근은 서로 겹치지 않는 독립적 사실들로 망각 집합(forget set)과 유지 집합(retain set)을 구성하고, 단순한 직접적 사실 회상으로 성공을 측정한다. 이 틀은 언러닝의 핵심 요구, 즉 유익한 지식은 보존하면서 해로운 행동만 없애는 능력을 잡아내지 못한다. 연구진은 언러닝이 개념 수준에서 작동해야 한다고 주장하며, 해로운 맥락과 무해한 맥락 양쪽에서 쓰일 수 있는 '이중용도 개념(dual-use concepts)'을 도입했다. ⁶

이를 바탕으로 구축한 벤치마크 ConceptGuard는 망각 집합과 유지 집합을 개념 사용 측면에서 명시적으로 상보적으로 짠다. 망각 집합에는 한 개념의 해로운 쓰임을, 유지 집합에는 같은 개념의 무해한 쓰임을 담아, 이 둘이 독립적·무작위가 아니라 서로 보완하도록 만든 것이 기존 평가 틀과의 차이다. 평가 역시 의도에 민감하게 설계해, 맥락 분리를 최대화하는 방향으로 안전한 행동을 유도했다. ⁶

연구진은 현행 언러닝 기법들이 이 설정에서 부진함을 보였다. 맥락 분리가 약했고 ROUGE와 개념 수준 지표에서 성능이 낮았으며, 강한 망각–유용성 상충, 맥락 민감성의 제한적 이득, 개념 수준 제어의 낮은 일관성이 드러났다. 데이터셋은 공개됐다. 실무적으로 이 연구는 '벤치마크를 잘 통과했다'가 곧 '안전하고 의미 있는 언러닝'을 뜻하지 않는다는 경고이자, 안전 요구에 더 부합하는 언러닝 방법을 설계할 출발점을 제공한다. ⁶