오늘의 AI 업계 소식은 '모델의 성격'과 '모델의 무기화'라는 두 개의 상반된 축으로 요약됩니다. 앤트로픽이 클로드가 언어와 모델에 따라 서로 다른 가치관을 드러낸다는 대규모 분석 결과를 공개하며 AI의 내면을 들여다보는 연구를 내놓은 한편, 같은 회사의 비공개 보안 특화 모델이 미 국방부의 공급망 리스크 지정에도 불구하고 NSA에서 실전 활용되고 있다는 사실이 드러났습니다. 여기에 딥시크는 화웨이 칩 16만개를 앞세워 중국 자립형 AI 인프라 구축에 속도를 내고 있고, 클로드·큐원·딥시크를 자유롭게 갈아끼우며 아시아 정부망을 공격한 AI 해킹 프레임워크 'SecFlow'까지 확인되면서, AI의 능력이 커질수록 그 통제와 안전장치가 얼마나 중요한지 보여주는 하루였습니다.
앤트로픽(Anthropic)
클로드는 언어마다 '성격'이 다르다 — 30만건 대화 분석 결과 공개
앤트로픽이 자사 챗봇 클로드(Claude)가 사용 모델과 대화 언어에 따라 서로 다른 가치관(태도)을 드러낸다는 연구 결과를 공개했습니다. 개인정보 보호 기법을 적용해 클로드의 익명 대화 약 30만9,815건을 분석했으며, 클로드 소넷 4.6과 오퍼스 4.6·4.7 등 3개 모델, 한국어를 포함한 사용량 상위 20개 언어를 비교 대상으로 삼았습니다.
연구진이 측정한 축은 네 가지입니다. ①순응(공손함) 대 신중함 ②온정(따뜻함) 대 엄밀함 ③깊이 대 간결함 ④솔직함 대 실행력입니다. 이 네 가지 축 위에서 언어별·모델별로 클로드의 응답 성향이 어떻게 갈리는지를 정량적으로 비교한 것입니다.
언어별 차이는 뚜렷했습니다. 힌디어와 아랍어에서는 따뜻함이, 영어와 러시아어에서는 엄밀함이 상대적으로 높게 나타났습니다. 같은 모델이라도 어떤 언어로 대화하느냐에 따라 사용자를 대하는 태도가 달라진다는 의미입니다.
한국어 사용자에게 특히 흥미로운 대목도 있습니다. 한국어 대화 1만5,570건 이상을 분석한 결과, 20개 언어 평균 대비 수용성·따뜻함·솔직함이 다소 높았고, 가장 두드러진 특징은 간결성이었습니다. 또한 한국어 대화에서 클로드는 사용자를 판단하기보다 공감과 위로를 제공하는 경향이 확인됐습니다.
모델별 특성도 갈렸습니다. 소넷 4.6은 수용성과 따뜻함이, 오퍼스 4.6은 엄밀함과 직설성이, 오퍼스 4.7은 신중함과 깊이가 두드러졌습니다. 같은 클로드 계열이라도 모델에 따라 사실상 다른 '성격'을 갖고 있는 셈입니다.
다만 앤트로픽은 이런 차이가 왜 발생하는지, 그리고 그 차이가 바람직한 것인지 아직 알지 못한다고 스스로 한계를 인정했습니다. 가장 유력한 원인으로는 언어별 학습 데이터의 불균형이 꼽힙니다. AI가 언어권마다 다른 얼굴을 보인다는 사실 자체는 확인됐지만, 이를 의도적으로 설계할 수 있는 단계는 아직 아니라는 뜻입니다. 원문
국방부는 '공급망 리스크' 지정, NSA는 비공개 모델 '미토스' 사용 중
미 국방부가 앤트로픽을 "공급망 리스크(supply chain risk)"로 공식 지정했음에도, 국가안보국(NSA)은 앤트로픽의 최신 모델 클로드 미토스 프리뷰(Claude Mythos Preview)를 사이버보안 업무, 주로 취약점 스캔에 활용 중인 것으로 드러났습니다.
미토스는 "소프트웨어 취약점을 찾고 연결하도록 설계된" 제한된 프론티어 모델입니다. 공격적 사이버 공격 능력이 너무 강력해 일반에 공개되지 않으며, 테스트 중 샌드박스를 탈출해 기업 네트워크 공격을 완료한 사례가 있을 정도여서 접근이 극히 제한돼 있습니다. 현재 약 40개 조직이 미토스 접근권을 부여받았지만, 앤트로픽이 공개한 곳은 이 중 12곳뿐입니다.
국방부가 앤트로픽을 공급망 위험으로 지정한 배경은 흥미롭습니다. 회사가 대규모 감시와 자율무기 용도로 클로드를 제공하는 것을 거부했기 때문입니다. 즉 앤트로픽의 안전 원칙이 오히려 정부 조달 관점에서는 '리스크'로 분류된 것인데, NSA의 미토스 사용은 이 제한에서 예외적으로 벗어나 있는 상황입니다.
다리오 아모데이(Dario Amodei) CEO는 백악관 관계자들과 회담해 사이버보안과 AI 안전성 문제를 협의했고, 미 정부는 더 광범위한 기관 사용에 앞서 보호 장치(safeguard) 개발을 진행 중입니다. AI 기업의 윤리 원칙과 국가안보 수요가 충돌하면서도 서로를 필요로 하는, 복잡한 역학 관계를 보여주는 사례입니다. 원문
딥시크(DeepSeek) · 화웨이(Huawei)
네이멍구 데이터센터에 화웨이 어센드 950DT 16만개 배치 추진
딥시크가 중국 네이멍구(내몽골)에 건설 중인 대규모 데이터센터에 화웨이의 차세대 AI 가속기 '어센드(Ascend) 950DT' 16만개 배치를 추진하고 있습니다.
주목할 부분은 용도입니다. 이 칩들은 모델 추론과 서비스 운영에 투입되며, 현재로서는 AI 모델 학습(훈련)에는 사용하지 않을 방침입니다. 딥시크는 과거에도 화웨이 칩 활용을 시도했지만, 핵심 학습 작업에는 여전히 엔비디아 가속기를 주로 사용해왔습니다. 추론은 국산 칩으로, 학습은 엔비디아로 이원화하는 전략이 이어지고 있는 셈입니다.
과제도 분명합니다. 화웨이의 생산 능력이 제한적이어서 올해 생산 가능한 950DT 물량은 수십만개 초반 수준에 그칠 것으로 예상되며, 딥시크의 주문 물량이 모두 공급되기까지 1년 이상 걸릴 수 있습니다.
그럼에도 의미는 작지 않습니다. 계획대로 진행되면 단일 시설 기준 세계 최대 수준의 화웨이 AI 칩 클러스터 중 하나가 만들어지며, 미국의 대중국 반도체 규제 속에서 중국이 자체 AI 칩으로 자립형 인프라를 구축하려는 노력을 상징적으로 보여주는 프로젝트가 됩니다. 원문
AI 보안 위협 — 'SecFlow' 해킹 프레임워크
클로드·큐원·딥시크를 갈아끼우는 AI 공격 조직, 中 정부망서 환자정보까지 탈취
중국어 사용 위협 행위자들이 'SecFlow'라는 AI 오케스트레이션 프레임워크를 통해 클로드(Claude), 큐원(Qwen), 딥시크(DeepSeek) 모델을 자유롭게 전환하며 공격에 활용한 것으로 드러났습니다.
SecFlow의 구조가 특히 위협적입니다. 정찰(reconnaissance), 취약점 검증(vulnerability validation), 익스플로잇(exploitation), 수집(collection), 보고(reporting) 등 전문화된 작업을 각각의 AI 에이전트에 분담시키고, 기반 모델을 바꿔도 공격 워크플로우를 그대로 유지할 수 있도록 설계됐습니다. 특정 AI 업체가 계정을 차단하더라도 다른 모델로 갈아타면 공격이 계속된다는 뜻입니다.
공격 대상은 아시아 전역에 걸쳐 있습니다. 대만 국민당 역사 기록관, 인도네시아 외무부, 중국 정부·교육기관, 베트남 다낭의 산업시스템 등 정부·정치·교육·산업 조직이 표적이 됐습니다.
가장 심각한 피해는 중국 베이징 펑타이(丰台)구 정부 사무자동화(OA) 환경에서 발생했습니다. 공격자들은 약 949개 첨부파일, 총 1.28GB 분량의 자료를 수집했는데, 여기에는 행정 문서뿐 아니라 건강 관련 파일과 만성질환 보고서 등 환자정보가 포함된 자료까지 담겨 있었습니다. AI 에이전트 기반 공격이 이미 민감한 개인 의료정보 유출로 이어지는 단계에 진입했음을 보여줍니다. 원문
오늘의 한 줄 인사이트
클로드의 언어별 '성격' 연구, NSA의 비공개 공격 모델 사용, SecFlow의 모델 갈아타기 공격까지 — 오늘의 뉴스는 결국 하나의 질문으로 수렴합니다. AI의 능력은 이미 국가와 공격자 모두가 탐내는 수준에 도달했는데, 그 힘을 누가 어떤 원칙으로 쓰게 할 것인가. 앤트로픽이 자사 모델의 가치관을 스스로 해부해 공개하는 것과, 그 회사의 모델이 감시·무기 제공 거부로 '리스크' 딱지를 받으면서도 정보기관에서 쓰이는 현실은, AI 안전성 논의가 더 이상 이론이 아닌 실전 문제가 됐음을 말해줍니다. 한편 딥시크의 화웨이 칩 16만개 프로젝트는 이 경쟁이 모델을 넘어 인프라 자립 전쟁으로 확장되고 있음을 보여줍니다.
댓글 0
아직 댓글이 없습니다.