Anthropic의 AI 안전 법안 초안, 사망 50명 또는 피해액 $1 billion에 이르러야 발동하며 상무부만 모델 중단 가능

Politico의 최초 보도에 따르면 Anthropic 관계자들이 프런티어 AI 안전·보안 법안 초안을 US Congress 의원들에게 비공개로 제시했다. Tom’s Hardware와 Reuters도 같은 보도를 바탕으로 초안의 개입 기준을 전했다. [1] Tom’s Hardware Anthropic’s proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model ↗ tomshardware.com [2] Reuters via Investing.com Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports ↗ investing.com

보도된 초안은 50명을 초과하는 사망 또는 중상, 혹은 $1 billion를 초과하는 피해가 예견 가능하고 임박했다고 판단되는 경우에만 연방정부가 모델의 출시나 사용을 막을 수 있도록 한다. 이는 현재 법률이 아니라 초안에 관한 보도 내용이다. [1] Tom’s Hardware Anthropic’s proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model ↗ tomshardware.com [2] Reuters via Investing.com Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports ↗ investing.com

이 제안은 첨단 시스템의 개발·배치에 정부가 언제 개입할 수 있는지를 정하려는 것이다. 확인된 보도는 Anthropic의 제안과 초안의 제한을 설명하지만, 의회가 이를 받아들였거나 유일한 정책안으로 채택했다는 뜻은 아니다. [1] Tom’s Hardware Anthropic’s proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model ↗ tomshardware.com [2] Reuters via Investing.com Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports ↗ investing.com

초안의 입법 절차상 지위와 의원들의 반응은 아직 분명하지 않다. 법안이 공식 발의되고 심의되기 전까지 보도된 기준은 구속력 있는 정책이 아니라 Anthropic이 제시한 틀로 봐야 한다. [2] Reuters via Investing.com Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports ↗ investing.com