클로드 Fable 5·Mythos 5 출시, 숨겨진 가드레일 논쟁

이번 주 해외 AI 업계는 앤트로픽이 내놓은 신모델을 둘러싼 논쟁으로 시끄러웠다. 앤트로픽은 6월 9일 이중 등급 체제를 적용한 신모델 Fable 5와 Mythos 5를 공개했고, 곧바로 과도한 가드레일과 숨겨진 성능 제한을 둘러싼 반발이 이어졌다. 같은 주 앤트로픽은 DXC와 손잡고 은행·항공 등 규제산업 핵심 시스템에 Claude를 심는 계약을 발표했고, 오픈AI는 오라클 클라우드 크레딧으로 코덱스를 쓸 수 있게 하며 유통망을 넓혔다. 국내에서는 삼성전자가 DX부문에 챗GPT·제미나이·클로드 3종을 공식 도입했고, 클로드는 한국 iOS 생성형 AI 앱 매출에서 2위로 올라섰다. 개발자 커뮤니티에서는 Fable 5의 보안 코드 성능과 지나친 능동성을 놓고 평가가 엇갈렸다.

해외 뉴스

앤트로픽이 6월 9일 신모델 Fable 5와 Mythos 5를 공개했다.¹ 두 모델은 소프트웨어 엔지니어링과 지식 업무에서 자사가 일반에 공개한 모델 중 최고 성능을 낸다고 회사는 밝혔다.¹ 다만 사이버보안·생물학·화학 관련 요청이 감지되면 Fable 5는 자동으로 하위 모델인 Opus 4.8로 전환되고, 보안장치가 해제된 Mythos 5는 사이버 방어자나 생물의학 연구자 등 제한된 사용자에게만 제공된다.¹ Mythos급 모델이 상당한 위험을 내포한다는 판단에 따라 안전장치를 먼저 갖춘 뒤 공개하는 방식을 택한 셈이다.¹

공개 직후 보안 연구자들은 Fable 5의 가드레일이 지나치게 넓게 작동한다고 지적했다.² 유명 보안 연구자 발렌티나 팔미오티는 모델이 사이버 관련 요청을 전부 거부하며 블로그 글 읽기 같은 무해한 작업까지 막는다고 밝혔다.² 다른 연구자는 코드 리뷰 요청조차 가드레일을 건드린다고 불만을 제기했다.² 어휘 기반 필터링이 보안 코드 작성과 일반 소프트웨어 개발을 구분하지 못한다는 지적도 나왔다.²

앤트로픽은 같은 주 DXC테크놀로지와 다년 계약을 맺고 은행·항공사·보험사·제조업체·정부기관이 운영하는 핵심 시스템에 Claude를 통합하기로 했다.³ DXC는 자사 오케스트레이션 플랫폼 OASIS 개발에 이미 Claude를 주력 도구로 써 코드의 95% 이상을 생성했고 개발 속도를 10배가량 끌어올렸다고 밝혔다.³ 이번 제휴로 DXC는 수만 명 규모의 Claude 인증 엔지니어를 양성해 70개국 11만5000여 명 조직 전반에 Claude를 확산시킬 계획이다.³

오픈AI는 오라클과 손잡고 기업 고객이 오라클 유니버설 크레딧으로 오픈AI 모델과 코덱스를 쓸 수 있도록 했다.⁴ 별도 공급업체 계약 없이 기존 구매 절차 안에서 최상위 모델에 접근할 수 있게 되면서, 오픈AI 유통망은 마이크로소프트 애저를 넘어 오라클의 대형 기업 고객 기반으로 확장됐다.⁴ 오라클은 최근 실적에서 클라우드 인프라 매출이 93% 늘고 AI 관련 수주잔고가 638억 달러에 달했다고 밝힌 바 있어, 두 회사의 이해관계가 맞아떨어진 결과로 풀이된다.⁴

문슈AI는 오픈소스 코딩 모델 Kimi K2.7-Code를 공개했다.⁵ 기존 K2.6 대비 사고 토큰 사용량을 약 30% 줄이면서도 코딩 벤치마크에서 GPT-5.5, Claude Opus 4.8과 경쟁할 만한 점수를 냈다고 밝혔다.⁵ 1조 파라미터 중 320억 개만 활성화하는 MoE 구조로 추론 비용을 낮춘 점도 눈에 띈다.⁵

국내 뉴스

삼성전자가 6월 12일부터 DX부문 임직원을 대상으로 챗GPT·제미나이 엔터프라이즈·클로드 3종을 공식 도입했다.⁶ 4월부터 5월까지 임직원 2500명을 대상으로 세 서비스의 현장 검증을 거친 뒤 내린 결정으로, 특정 서비스를 지정하지 않고 업무 성격에 맞춰 임직원이 골라 쓰도록 했다.⁶ 자체 모델 삼성 가우스를 고도화하는 동시에 외부 빅테크 AI도 함께 쓰는 투트랙 전략이 본격화된 모습이다.⁶

앤트로픽의 클로드가 한국 iOS 생성형 AI 앱 매출 순위에서 2위에 올랐다.⁷ 올해 1월 1일부터 6월 5일까지 집계에서 클로드는 매출 성장률 1위를 기록했고, 3월 23일 제미나이를 처음 앞지른 뒤 격차를 계속 벌렸다.⁷ 5월 5일에는 일일 매출이 약 10만4000달러로 역대 최고치를 찍었는데, 새 이용자 유입보다는 기존 이용자의 유료 전환과 요금제 업그레이드가 성장을 이끈 것으로 분석됐다.⁷

국내 스타트업 투자 시장에서도 AI·딥테크 쏠림이 이어졌다. 6월 둘째 주 32곳이 투자를 유치했고 이 중 금액을 공개한 11곳의 합산 투자액은 1495억 원이었다.⁸ AI 에이전트 연산 효율화 기술을 다루는 에이투시스가 시드 단계에서 160억 원을, AI 미팅노트 서비스 더플레이토가 21억 원을 유치하는 등 AI 관련 초기 스타트업에 자금이 몰렸다.⁸

커뮤니티 화제

Fable 5 모델 카드에 "이 보호장치는 사용자에게 보이지 않는다"는 문구가 담긴 사실이 알려지며 개발자들 사이에 신뢰 논란이 일었다.⁹ 한 개발자는 프런티어 AI 연구와 일반 소프트웨어 개발의 경계가 모호해지는 상황에서, 도구가 통보 없이 성능을 낮출 수 있다면 인프라를 온전히 신뢰하기 어렵다고 지적했다.⁹ 반발이 커지자 앤트로픽은 이후 해당 정책을 철회했다.⁹

사이먼 윌리슨은 자신의 블로그에 Fable 5가 단순한 스크롤바 버그 하나를 고치려고 개발 서버를 직접 띄우고 브라우저를 자동화하고 자체 CORS 서버까지 구축했다고 적었다.¹⁰ 그는 모델이 이만큼 능동적으로 움직인다면, 지시가 조작당했을 때 입힐 수 있는 피해도 그만큼 커진다고 우려했다.¹⁰

보안 스타트업 엔도랩스는 Fable 5의 실제 코드 보안 성능을 벤치마크로 검증한 결과를 공개했다.¹¹ 기능 구현 성공률은 59.8%였지만 보안 취약점 수정 성공률은 19.0%에 그쳤고, 40분 제한 시간을 넘긴 실행도 15건 있었다.¹¹ 기존 어떤 모델도 풀지 못한 취약점 4건을 해결한 점은 성과로 꼽았지만, 전반적으로는 화려한 출시 발표에 비해 실망스러운 결과라고 평가했다.¹¹