이번 주 AI 동향의 핵심 키워드는 '에이전트의 신뢰성'이다. 업계에서는 보안·고객서비스 영역에서 에이전트 실전 배치가 본격화됐고, 학계에서는 에이전트가 참조하는 데이터·지식그래프의 오염, 다중 에이전트 간 프라이버시 공유 딜레마 등 신뢰의 취약점을 파고드는 연구가 쏟아졌다. 결국 이번 주는 'AI를 얼마나 잘 만드느냐'에서 '얼마나 믿고 위임할 수 있느냐'로 논의의 무게중심이 옮겨간 한 주였다.
🏢 업계 동향
OpenAI는 사이버 보안 특화 모델인 GPT-5.5와 GPT-5.5-Cyber를 공개하며 '신뢰할 수 있는 접근(Trusted Access)' 확대를 내세웠다. 이는 보안이라는 고위험 분야에서도 벤더가 책임 소재와 통제 장치를 갖춘 형태로 시장을 열려는 흐름을 보여준다. 1
Snyk은 소프트웨어 개발 보안에 Anthropic의 Claude를 내장해 AI 기반 보안 기능을 강화한다고 밝혔다. 개발 파이프라인 안에서 취약점 탐지·수정을 AI가 돕는 방식으로, 보안이 개발 워크플로우에 자연스럽게 녹아드는 'shift-left' 흐름과 맞닿아 있다. 2
Parloa는 OpenAI 기술을 활용해 '고객이 실제로 대화하고 싶어 하는' 서비스 에이전트를 구축한다고 소개했고, 국내에서는 넥센타이어가 ChatGPT 엔터프라이즈를 도입해 전사 업무에 생성형 AI를 활용하기 시작했다. 34
사이냅소프트가 LLM·RAG 데이터 처리를 자동화하는 'AI Data Foundry'를 출시했고, S2W는 'AI 에이전트의 성패가 LLM 성능을 넘어 온톨로지(지식 구조) 설계에 달렸다'고 강조했다. 56
🔬 주목한 논문
'Oracle Poisoning'은 에이전트가 도구 호출로 참조하는 '지식그래프 데이터' 자체를 오염시키는 새로운 공격 유형을 정의한다. 7
CalBench는 개인 AI 비서가 캘린더를 관리하며 다른 비서와 일정을 조율할 때 발생하는 '조율 대 프라이버시'의 상충을 측정하는 벤치마크다. 8
Nectar는 긴 컨텍스트에서 매 쿼리마다 모든 KV 캐시를 읽어야 하는 어텐션 연산을 효율적으로 처리하는 방식을 제안한다. 9
TokaMind는 핵융합 플라즈마 진단 데이터로 사전학습된 멀티모달 트랜스포머로, 다른 도메인으로 이동가능성을 보여준다. 10