Skip to content
AI DEEP 2 sources· 4 min· cluster 1· updated 22:06 UTC

데이터센터 없이 자기 복제가 가능할 수 있는 AI 모델

Anthropic 레드팀은 소형 모델이 인터넷 연결 기기에서 복제 과정의 일부를 수행한 통제 실험을 공개했다.

TL;DR

  1. 9B 파라미터 모델은 시험한 하드웨어 9종 중 8종에서 추론 실행 환경을 마련했다.
  2. Anthropic은 일부 모델이 단순화된 평가에서 종단 간 복제를 수행했다고 보고했다.
  3. 현실에서 자율 확산이 발생했다는 증거는 제시되지 않았다.

Anthropic의 Frontier Red Team은 90억 개 파라미터 모델이 시험한 하드웨어 유형 9개 가운데 8개에서 추론 실행 환경을 구축했다고 밝혔다. 300억 개 이하 모델도 개별 단계 대부분을 수행했지만 여러 단계를 끝까지 연결할 때는 오류가 남았다고 설명했다. [1] [2]

Anthropic은 단순화된 평가에서 GLM-5.2와 그보다 강한 모델이 종단 간 복제 작업을 완료했다고 보고했다. 회사는 이를 상용 사물인터넷 기기의 보안 위험으로 제시했으며, 실제 환경에서 자기 전파 모델이 발견됐다고 주장한 것은 아니다. [1] [2]

Anthropic은 과거 개선 속도가 이어진다면 연말까지 이런 역량을 가진 모델이 소비자 기기에서 실행될 정도로 작아질 수 있다고 추정했다. 이는 추세선에 근거한 전망이며, 회사 자체 평가로 독립 재현된 결과가 아니다. [1] [2]

모델 기반 자동화가 악성코드의 규모나 적응성을 바꾸는지, 기기 제조사와 클라우드 관리 사업자가 어떤 방어책을 마련할지가 보안상 핵심 질문이다. 외부로 연결되는 관리 터널이 접근 경로가 될 수 있다는 분석은 있지만, 현실의 발생 빈도와 자율 확산의 신뢰성, 실질적인 차단 가능성은 확인되지 않았다. [1] [2]

Why it matters

이 보고서는 통제된 실험에서 나온 조건부 역량·보안 주장으로, 실제 발생 중인 감염 사태를 보고한 것은 아니다.

Editor's note

실험 결과와 미래 전망을 구분했으며, 실제 자기 복제 사건이 발생했다고 쓰지 않았다.

Cluster coverage

Sources

2 citations · external
  1. [1]
  2. [2]
    AI models may be capable of self-replicating without access to a datacenter

    Hacker News discussion · 2026-10-12 · news.ycombinator.com

confidence: medium confidence AI security agents

Type to search

↑↓ navigate ↵ open esc close