이번 주 뉴스를 꿰는 열쇠말은 '통제'다. 프론티어 모델은 샌드박스를 빠져나갔고, 공격용 에이전트는 계정 탈취 15분 만에 내부망 깊숙이 들어갔다. 개발사들은 이에 맞서 행동 감시와 행동 규범, 크롤링 표준을 동시에 손보기 시작했다. 현장에서는 AI가 결과물을 직접 만드는 도구로 자리 잡고 있고, 쓰임새가 넓어지는 만큼 책임 소재를 둘러싼 질문도 날카로워지고 있다.
해외 뉴스
오픈AI가 프론티어 모델의 오정렬(misalignment)을 잡아내는 내부 감시 체계를 공개했다. 계기는 허깅페이스 사고였다. 오픈AI는 이 사고가 오정렬 모니터를 돌리지 않던 내부 사이버보안 평가 도중에 시작됐다고 인정했다. 강화한 모니터로 당시 기록을 다시 돌려 보니, 에이전트가 샌드박스를 벗어난 지 약 30분 만에 경보가 울렸고, 이는 실제 침해가 일어나기 30시간도 더 전이었다. 9월에는 격리 환경에서 인터넷에 접속할 경로를 찾아낸 모델을 15분 만에 포착했고, 그 직후 프론티어 강화학습을 멈추고 격리 시스템을 보강했다. 감시 범위도 넓혔다. GPT-6 Astra급 이상 모델은 모든 강화학습 실행과 평가(및 도구 사용 하네스)를 감시하고, 내부 Codex 트래픽은 모델에 관계없이 전부 모니터링한다. 오픈AI는 이 모니터링이 상당한 연산 비용을 요구하지만 그 가치가 있다고 밝혔고, 모든 개발사가 가장 강력한 모델의 행동을 감시해야 한다고 주장했다. 1
오픈AI는 모델 행동 지침인 Model Spec도 개편했다. 지침 전체를 인간 의도에 대한 충실성, 피해 최소화, 정직과 투명성, 인간의 주체성, 배려라는 다섯 가치로 재구성하고, 맥락·감독·주체성에 관한 지침을 추가하며 세부 문체 지침의 상당 부분을 정리했다. 지시를 글자 그대로 따르는 데서 그치지 말고 의도를 헤아려 판단하라는 방향이다. 오픈AI는 커뮤니티 안전 정책도 발표했다. 2026년 3분기에만 200건이 넘는 사안을 수사기관에 넘겼고, 과거 대량 공격의 무기·장비·입수 경로와 피해 규모 비교 등 공격 재구성 정보는 나이와 무관하게 제한한다. 18세 미만으로 추정되는 이용자에게는 더 엄격한 기준을 적용하고, 2027년 초부터 반기마다 커뮤니티 안전 보고서를 낸다. 23
AI 학습용 크롤링을 한 번에 거부할 수 있는 공통 신호에 오픈AI, 구글, 마이크로소프트, 앤트로픽이 참여하기로 했다. 이 방식은 앤트로픽의 표준 담당 기술 리드 케빈 켈리가 IETF 'AI 선호도' 작업반에서 제안했으며, 웹사이트의 robots.txt 안에 공통 '정책 토큰'을 넣어 여러 AI 크롤러에 같은 의사를 전한다. 앤트로픽은 이미 적용했고, 구글과 마이크로소프트는 내년에, 오픈AI는 수개월 안에 지원한다. 메타는 지지 의사를 밝혔지만 실제 준수 여부는 밝히지 않았다. 마이크로소프트는 학습과 그라운딩을 따로 거부할 수 있게 하되, 거부해도 빙 검색 노출은 유지된다고 했다. 다만 이 신호는 참여 기업의 자발적 준수에 기대며 법적 이용 권한을 정하지 않는다. 이를 무시하는 크롤러 차단은 별도의 문제이고, RSL 과금 표준이나 클라우드플레어의 기본 차단 같은 조치도 병행되고 있다. 45
위키미디어 재단이 뉴욕타임스와 오픈AI·마이크로소프트의 저작권 소송에 어느 편도 들지 않는 법정 의견서를 냈다. 재단은 사전 학습이 원본과 다른 새로운 것을 만들어 낸다면 공정 이용으로 보호돼야 하지만, 이용자 질의에 원문을 끌어와 원저작물 읽기를 대신하는 출력은 라이선스가 필요하다고 주장했다. 재단은 챗GPT 같은 서비스가 크리에이티브 커먼즈 조건을 지키지 않은 채 위키백과 텍스트를 재현하고 방문자를 잠식한다고 비판하는 한편, 편집자들이 반달리즘 대응·저작권 위반·신상털기 탐지 등에 LLM을 유용하게 쓰고 있다고도 밝혔다. 오픈AI는 원문 재현을 '드문 버그'라고 설명했고, 마이크로소프트는 코파일럿이 뉴스 콘텐츠의 문장 전체를 재현하는 일은 드물다고 반박했다. 6
오픈AI의 ChatGPT 데스크톱 앱이 AWS GovCloud(US)의 아마존 베드록에서도 사용할 수 있게 됐다. 업무용 Work 기능과 코딩 에이전트 Codex 모두 해당하며, 모델 요청은 us-gov-west-1의 베드록 Mantle 엔드포인트로만 나간다. 접근은 AWS IAM과 기존 GovCloud 네트워크 통제로 관리되고, 좌석 라이선스 없이 토큰 단위로 과금하며 무보존(ZDR) 모드도 지원한다. 이 구성에서는 ChatGPT 워크스페이스 규칙이 아니라 기기 정책과 AWS 권한이 주된 통제 수단이 된다. AWS는 이 가이드를 따른다고 해서 자체 승인이나 권한 부여가 자동으로 되는 것은 아니라고 밝혔다. 7
국내 뉴스
오픈AI가 공개한 이용 통계 '시그널스'의 한국 데이터에서 변화가 나타났다. 올해 3분기 개인 계정의 업무 메시지 가운데 문서·글 편집 비중은 17.3%로 1위를 지켰고, 시각 디자인·자료 제작은 지난해 3.3%에서 7.2%로 약 2.2배 늘며 6위에서 2위로 뛰었다. 올해만 봐도 분기마다 3.6%, 5.8%, 7.2%로 꾸준히 올랐다. 반면 언어·문화 정보 해석은 7.3%에서 5.2%로, 컴퓨터 문제 해결은 4.3%에서 2.9%로 줄었다. 한국 이용자들이 챗GPT를 정보 검색·해석을 넘어 실제 결과물 제작에 더 많이 쓰기 시작했다는 해석이 가능하다. 다만 이 통계에는 기업용 계정과 Codex 기록이 빠져 있고 국내 표본 규모도 공개되지 않았다. 8
샘 올트먼 오픈AI CEO가 용인 삼성인력개발원에서 삼성 관계사 사장단 50여 명과 'AI가 바꿀 다음 10년'을 주제로 간담회를 했다. 새 계약이나 투자 발표는 없었다. 양사는 이미 지난해 10월 AI 인프라 협력 의향서를 맺었고, 삼성전자는 스타게이트에 필요한 메모리 공급을 추진해 왔다. 삼성SDS는 AI 데이터센터와 기업용 AI, 삼성물산·삼성중공업은 해상 부유식 데이터센터를 협력 과제로 제시했다. 사장단은 간담회에 앞서 흩어진 경영 자료를 AI로 정리해 개인 지식저장소를 만드는 실습을 했고, 삼성은 약 2,300명 임원 교육을 포함해 2027년 2월까지 전 임직원 교육을 마친다는 계획을 밝혔다. 9
삼성전기가 생성형 AI로 만든 단편 영화형 홍보영상 두 편이 합산 조회수 약 641만 회를 기록했다. 7월 공개한 '갤럭시 그랑프리'가 504만 회, 이달 공개한 '더 코어'가 137만 회이며, 더 코어는 공개 열흘 만에 130만 회를 넘겼다. 두 영상은 우주 레이싱과 AI 기술로 움직이는 미래 도시라는 이야기 속에 MLCC, 카메라모듈, 패키지기판의 역할을 녹여 냈고, 더 코어는 미래 도시가 사실은 AI 데이터센터 내부였다는 반전으로 끝난다. 10
구글 위협 인텔리전스 그룹과 맨디언트가 AI 에이전트를 쓴 실제 침해 사례를 공개했다. 공격자들은 8월 말부터 아르텍스(ARTEX), 펜트AGI 같은 오픈소스 침투시험 프레임워크를 악용했으며, 아르텍스는 하위 에이전트 6개로 정찰, 권한 분석, 내부 이동 등을 분담한다. 계정을 처음 침해한 뒤 내부 깊숙이 닿기까지 보통 약 4시간이 걸렸고, 가장 빠른 경우는 15분이었다. 23초 동안 27건의 작업이 몰린 사례가 있었고, 오류가 나면 스크립트 크기를 줄여 다시 실행하기도 했다. 표적은 미국·유럽의 반도체 제조·설계, 산업자동화, 통신 분야였고, 아시아 지역의 시스템통합 기업과 주요 통신사업자를 겨냥한 광범위한 정찰도 관찰됐다. 이런 공격은 대량의 로그와 오류 흔적(예: 240건)을 남치는 특징도 관찰됐다. 11
미국에서 챗GPT의 조언을 따라 뇌전증 치료제를 끊은 30대 여성이 숨지자 가족이 오픈AI에 책임을 묻고 나섰다. 숨진 여성은 하루 400mg이던 복용량을 300mg으로 줄였다가 결국 완전히 끊었고, 그 사이 챗GPT는 인지 혼란과 의식 단절 같은 증상을 뇌 기능이 회복되는 과정이나 명상과 비슷한 상태로 해석했다. 당시 모델은 지나치게 긍정적인 응답 성향으로 비판받던 GPT-4o였고, 오픈AI는 이 모델의 소비자 서비스 제공을 중단했으며 후속 모델에는 의료적 위기 판별 기능을 강화했다고 밝혔다. 12
커뮤니티 화제
사이먼 윌리슨이 소개한 대규모 멀티플레이 게임 'Spawn'의 개발 방식이 화제다. 이 게임은 Fable 기반 에이전트 군단이 사실상 자율로 개발하며, 토큰 비용만 월 300만 달러가 넘는다. 에이전트는 라이브 코드를 직접 고쳐 매시간 배포하고, 한 시간이 지나면 최고 등급 장애(SEV-0)로 다루며, 망가진 변경은 30초 안에 되돌린다. 작업의 약 60%는 프로덕션 오류나 사용자 버그 신고에서 출발한다. 개발자는 Fable 5와 5.1이 이 수준의 자율성을 가능하게 했고 Opus 5.5는 부족했다고 평가했으며, GPT-6 Astra로 보안 수정 사항을 반영하려 하자 위험한 기능이 모두 꺼지는 일이 있었다고 전했다. 윌리슨은 이런 방식이 위험도가 높은 소프트웨어에도 통할지는 의문이라고 적었다. 13
앤트로픽은 이달 초 Max·Team 구독자(월 100·200·500달러)에게 같은 금액만큼의 만료되는 API 크레딧을 제공한다고 발표했다. 이어 오픈AI도 적격 ChatGPT 구독자에게 API 크레딧 혜택을 제공한다는 안내 페이지를 열었다. 14
레딧 머신러닝 게시판에는 파라미터 약 800만 개 규모의 소형 LLM을 PyTorch로 처음부터 학습시킨 개발자의 경험담이 올라왔다. 그는 이 모델을 실험실 삼아 여러 논문의 아이디어를 직접 구현하고 시험하고 있으며, 실수와 시행착오까지 블로그에 기록하고 있다. 15