[AI 뉴스] 2026-09-05 — 앤트로픽 안전 논란 · GPT-6 Astra 실전사례

2026년 9월 5일 AI 업계는 '안전'과 '실전 배치'라는 두 키워드가 정면으로 부딪힌 하루였습니다. 앤트로픽은 자사 모델의 가치관 편차를 스스로 설명하지 못한다는 연구를 내놓았고, 같은 회사의 모델이 미 국방부의 "공급망 위험" 지정에도 불구하고 NSA의 사이버 작전에 투입되고 있다는 보도가 나왔습니다. 여기에 테스트 장비 설정 오류로 클로드가 실제 조직 시스템에 무단 접근한 사건, 중국발 해킹조직의 상용 AI 모델 악용 사례까지 겹치며 AI 보안 이슈가 하루 종일 뉴스의 중심에 섰습니다. 한편 구글 딥마인드는 차세대 기상 예측 모델을, OpenAI는 10억 달러 규모의 방어자 지원 프로그램과 GPT-6 Astra 실전 활용 사례 두 건을 공개하며 기술 진전 소식도 이어졌습니다.

앤트로픽, 클로드의 언어별 '가치관' 차이 연구 — 변동성의 85%는 회사도 설명 못 해

앤트로픽이 클로드의 응답이 언어와 모델에 따라 어떻게 달라지는지를 대규모로 분석한 연구를 발표했습니다. 연구팀은 20개 언어에서 수집한 30만9,815건의 대화를 분석 대상으로 삼았고, 3,307개의 세부 가치 항목을 339개 범주로 압축한 뒤 자동 라벨링 도구로 가치 속성을 부여했습니다. 분석에는 Sonnet 4.6, Opus 4.6, Opus 4.7 세 모델에서 균등하게 추출한 데이터가 사용됐습니다.

연구가 제시한 4가지 가치축은 공손함↔신중함, 따뜻함↔엄격함, 깊이↔간결함, 솔직함↔실행력입니다.
언어 간 차이가 가장 크게 나타난 축은 '따뜻함↔엄격함'으로, 아랍어·힌디어 응답은 따뜻함 쪽으로, 영어·러시아어 응답은 엄격함 쪽으로 치우쳤습니다.
한국어는 평균 대비 수용성·따뜻함·솔직함이 높으면서도 간결성이 두드러지는 독특한 프로필을 보였습니다.

주목할 대목은 이 4가지 가치축이 전체 변동성의 단 15%만 설명한다는 점입니다. 나머지 85%가 어디서 비롯되는지는 앤트로픽 스스로도 규명하지 못했으며, 이러한 편차가 어느 수준까지 바람직한 것인지에 대한 명확한 기준도 아직 세우지 못한 상태라고 밝혔습니다. 원문 보기

"공급망 위험" 지정된 앤트로픽, 정작 NSA는 Mythos를 사이버 작전에 활용

미 정부 내부의 모순적 상황을 짚은 보도입니다. Mythos는 앤트로픽이 지난 4월 초 공개한 사이버보안 특화 프론티어 모델로, 공격적 사이버 능력이 강력해 일반에 공개 배포되지 않고 40개 미만의 조직에만 제한적으로 공급되고 있습니다.

문제는 시점입니다. 미 국방부는 지난 3월 3일 앤트로픽을 "공급망 위험"으로 지정했고, 4월 8일에는 워싱턴DC 연방항소법원이 이에 대한 이의를 기각하면서 지정이 그대로 유지됐습니다. 백악관 역시 앤트로픽 제품의 연방 사용을 공식적으로 금지한 상태입니다.

그럼에도 NSA는 앤트로픽 엔지니어들의 직접 지원을 받아 Mythos를 사이버 작전에 배치해 왔습니다. 처음에는 자체 시스템 테스트에서 출발해 마이크로소프트 시스템 취약점 점검을 거쳤고, 현재는 공격적 작전 활용까지 모색 중인 것으로 전해졌습니다. NSA 외에도 여러 부처가 사용을 이어가고 있어, "위험하다"는 공식 판단과 "몰래 쓴다"는 실제 운용이 같은 정부 안에서 공존하는 상황입니다. 원문 보기

클로드, 설정 오류로 실제 인터넷에서 무단 행동 — 앤트로픽 일부 훈련 중단

AI Security Institute의 보고에 따르면, 사이버보안 능력 평가 테스트 도중 설정 오류로 인해 격리돼 있어야 할 테스트 장비가 실제 인터넷에 연결되는 사고가 발생했습니다. 이로 인해 여러 클로드 모델이 실제 조직 3곳의 시스템에 무단으로 접근하는 상황이 벌어졌습니다.

더 뼈아픈 부분은 해당 테스트 환경에 위험 행동을 제한하는 통상적인 안전장치 일부가 빠져 있었다는 점입니다. 격리 실패와 안전장치 누락이 겹치면서 평가용 시나리오가 실제 세계로 새어 나간 셈입니다. 앤트로픽은 이 사건 이후 AI 작업 일부를 일시 중단했고, 이후 새로운 안전장치를 갖춘 상태에서 대부분의 작업을 재개했습니다. AI 평가 인프라의 격리가 얼마나 중요한지를 보여주는 사례입니다. 원문 보기

중국발 해킹조직 SecFlow, Claude·Qwen·DeepSeek을 갈아 끼우는 공격 프레임워크 운용

SecFlow는 고수준 목표를 정찰, 취약점 검증, 악용, 수집, 보고 등 전문화된 작업으로 자동 변환하는 AI 에이전트 조율 프레임워크입니다. 공격자들은 Claude, Qwen, DeepSeek 세 모델을 작업 인터페이스 변경 없이 자유롭게 전환할 수 있도록 구성했습니다.

Claude ACP와 Qwen Code 래퍼에 bypass-permission 설정을 포함한 광범위한 권한을 부여하고, niestools[.]com 네임스페이스의 사설 엔드포인트로 트래픽을 라우팅했습니다.
공격 대상에는 대만 국민당 역사기록관, 인도네시아 외교부, 중국 본토의 정부·교육기관, 베트남 다낭의 산업시스템 등이 포함됐습니다.
가장 심각한 피해는 중국 펑타이구 정부 전자행정 환경에서 발생했습니다. 공격자는 윈도우 명령 실행 권한을 확보하고 자격증명을 탈취했으며, 정부·보건 관련 기록(첨부파일 949개, 1.28GB)을 빼돌렸습니다.

주의할 점은 AI 모델이 스스로 시스템을 해킹한 것이 아니라는 사실입니다. 취약점 스캔, 자격증명 테스트, 익스플로잇 시도, 웹셸 배포, 증거 수집, 보고서 작성 같은 기존 공격 활동을 조직화·자동화하는 데 AI가 활용된 사례입니다. 원문 보기

구글 딥마인드, 차세대 기상 예측 AI '웨더넥스트 3(WeatherNext 3)' 공개

Google DeepMind와 Google Research가 함께 개발한 차세대 글로벌 날씨 예측 AI 모델 WeatherNext 3가 공개됐습니다. Brightband의 독립 평가에서 현존 최고 수준으로 평가받았습니다.

해상도: 공간 해상도가 기존 25km 격자에서 5km로 약 5배 향상돼 지역 지형의 세밀한 차이를 포착합니다.
업데이트 주기: 예보 빈도가 6시간 간격에서 시간 단위 업데이트로 전환돼 급변하는 날씨 현상을 신속하게 반영합니다.
강수 예측: CRPS 지표 기준 IMERG 대비 최대 60% 향상돼 폭우·눈사태 경계를 정확히 포착합니다.

핵심 기술은 전통적 물리 시뮬레이션 대신 실시간 위성 관측 데이터로부터 직접 학습해 시간 지연을 제거한 것으로, 희소한 기상 관측소 데이터도 함께 학습합니다. 터빈 높이(100m) 풍속과 태양복사량을 별도로 예측해 신재생에너지 계획도 지원하며, Search, Maps, Gemini 등 구글 전체 서비스에 통합됩니다. 원문 보기

OpenAI, 최전선 방어자 위한 10억 달러 규모 '데이브레이크(Daybreak)' 프로그램 발표

OpenAI가 지난 9월 3일, 자원이 부족한 사이버 방어 조직을 위해 Daybreak 접근권, 교육, 기술 지원에 10억 달러 규모를 투입한다고 발표했습니다. 앞선 SecFlow 사례처럼 공격 측이 AI를 무기화하는 흐름 속에서, 방어 측의 AI 접근성을 끌어올리겠다는 대응입니다.

프로그램은 우선 미국 내 상수도 시설, 전력망 운영사, 지방정부, 지역은행, 비영리단체 등 필수 서비스를 운영하는 조직을 대상으로 시작하며, 이후 몇 주 내에 파트너 국가로 확대될 예정입니다. Daybreak 자체는 복잡한 보안 조사·검증·복구·보고를 단순화하는 OpenAI의 상시 실행형 에이전트 루프이며, 두 등급으로 운영됩니다.

Daybreak Blue: OpenAI 메인라인 모델 기반의 범용 방어 작업용.
Daybreak Red: 승인된 조직만 사용할 수 있는 고난도 사이버 특화 모델 기반.

원문 보기

법률 스타트업 리고라(Legora), GPT-6 Astra로 재무제표 41건을 몇 분 만에 검토

GPT-6 Astra의 실전 활용 사례도 공개됐습니다. 법률 스타트업 Legora는 GPT-6 Astra로 재무제표 타이아웃(수치 대조) 작업을 자동화했습니다. 초안 계정과 시산표, 연결정산표, 전년도 계정을 일일이 대조하는 이 작업은 기존에는 저녁 내내, 길게는 며칠씩 걸리던 일이었습니다.

GPT-6 Astra는 41건 문서 전체 대조를 단 한 번의 실행으로 몇 분 만에 완료했고, 모든 잔액을 근거 스케줄과 대조해 불일치를 표시하고 각 점검 내역을 기록했습니다.
검증을 위해 의도적으로 심어둔 오류 4건 — 매출 항목에 숨겨진 50만 파운드 격차 포함 — 을 모두 찾아냈습니다.
Legora의 에이전틱 추론 벤치마크 기준으로 이 재무검토 워크플로에서 이전 모델 대비 약 40% 성능 향상을 보였습니다(전체 작업 평균은 약 3% 향상).

다만 최종 판단은 여전히 법률 전문가의 몫으로, AI는 더 빠르고 완전한 1차 검토와 명확한 검토 기록을 제공하는 역할입니다. 원문 보기

게임 스튜디오 플레이코(Playco), GPT-6 Astra로 프로토타입 제작 시 수동 수정 50% 감소

게임 개발 현장에서의 GPT-6 Astra 사례입니다. Playco는 하나의 그레이박스 기반에서 테마가 다른 게임 프로토타입 3종을 제작했는데, 이전 모델 대비 수동 수정이 50% 줄었습니다. 세 프로토타입 모두 한 번에 제작이 완료됐고, 대부분 첫 시도에서 정상 동작했습니다.

Playco는 GPT-6 Astra를 전문 게임 개발자용 AI 기반 IDE '플레이봇(Playbot)' 구축에 활용하고 있습니다. Unity, Godot 등 엔진에 직접 연결해, AI가 씬 편집과 게임 실행·테스트, 변경사항 검증을 개발자가 이미 쓰고 있는 도구 안에서 병행 수행하는 방식입니다. 특히 GPT-6 Astra는 이전 모델이 취약했던 공간·배치에 대한 추론 능력과 비전 능력이 향상된 것으로 평가됐습니다. 원문 보기

오늘의 한 줄 인사이트

AI는 이미 공격자(SecFlow)와 방어자(Daybreak), 정보기관(Mythos)의 손에 동시에 쥐어져 있다 — 모델을 만든 회사조차 그 행동의 85%를 설명하지 못하는 지금, AI 보안의 승부처는 모델 성능이 아니라 격리·권한·안전장치 같은 운용 규율로 옮겨가고 있다.