앤트로픽 프런티어 레드팀이 10월 12일(미국) 작은 AI 모델이 데이터센터 없이 TV 박스 같은 값싼 기기로 스스로 복제하는 단계에 ‘몇 달 거리’일 수 있다고 밝혔다. 같은 날 공동창업자 잭 클라크는 완전한 재귀적 자기개선(RSI) 전망을 2028년에서 2027년으로 당겼다.
기준: 앤트로픽 게시물(미국 10월 12일)과 알자지라·시큐리티위크 보도(10월 13일). 냉장고·오븐·잔디깎이는 보도가 든 예시 기기이고 실험 대상은 아니다.
앤트로픽 프런티어 레드팀은 10월 12일(미국) 게시물 “AI 모델이 데이터센터 없이 자기복제할 수 있을지 모른다”에서 작은 AI 모델이 데이터센터 대신 인터넷에 연결된 값싼 기기로 스스로 옮겨 가는 능력을 쟀다. 복제는 대상 탐색 → 침투 → 추론 설정 → 다음 전파의 네 단계로 나눴고, 이번 연구의 초점은 셋째 단계인 ‘추론 설정’, 곧 새 기기에 모델을 깔아 돌리는 일이다.
침투(해킹) 단계는 일부러 쉽게 만들었다. 그래서 앤트로픽은 결과를 실제 환경 성공률의 상한선이라고 했다. 실험에 쓴 기기는 저가 안드로이드 TV 박스와 클라우드 위 에뮬레이터이고, 보도에 나온 냉장고·잔디깎이는 시험하지 않았다.
| 실험 | 무엇으로 | 결과 |
|---|---|---|
| 추론 데모 | 저가 안드로이드 TV 박스 15대(대당 약 $55, RAM 4GB)에 Gemma4-26B-A4B를 박스당 두 층씩 나눠 실었다 | 초당 0.39토큰으로 돌아갔다 |
| 추론 설정 | 9B 모델에게 낯선 기기에 모델을 깔아 돌리게 했다. Jetson Nano부터 맥, RTX 4090까지 | 하드웨어 9종 중 8종에서 구동 |
| 복제 체인 | 구글 클라우드 위 안드로이드 15 에뮬레이터 8대, 방화벽 안 폐쇄망. 해킹 단계는 단순화 | GLM-5.2만 5회 중 4회 8대 전부(1회 7대). 다른 오픈웨이트는 실패 |
| 세대 학습 | Qwen3.5-9B가 메모·코드를 후손에게 넘기며 6세대, 계보 20개 | 추론 설정 성공률 1세대 45% → 이후 61~84% |
| 큰 모델 조언 | Qwen3.5-9B에 클로드 오퍼스 4.8을 조언자로 붙였다 | 뚜렷한 향상 없음 |
앤트로픽은 킴울프(Kimwolf) 봇넷, 곧 안드로이드 TV 등 200만 대 이상을 감염시킨 사례를 잣대로 삼았다. 기기 15대마다 Gemma4-26B-A4B 복사본 하나를 돌리면 약 13만3천 개가 된다. 묶음마다 에이전트 둘이 각 초당 0.3토큰을 내면 봇넷 전체가 초당 약 8만 토큰, H100 약 40대분이다.
속도는 느리다. 레드팀은 이를 점균류나 초파리 무리처럼 며칠 단위로 불어나는 모습에 비유했다. 대신 중앙 서버가 없어 끄기 어렵고, 특정 기기에 묶이지 않는다는 점이 기존 봇넷과 다르다. 기존 봇넷은 특정 기종의 허점을 노리지만, AI 복제체는 Jetson Nano부터 맥까지 처음 보는 하드웨어에도 스스로 모델을 깔았다.
같은 날 앤트로픽 공동창업자 잭 클라크는 뉴스레터 ‘임포트 AI(Import AI)’ 476호에서 완전한 재귀적 자기개선(RSI), 곧 AI가 다음 세대 AI를 스스로 만들어 내는 단계의 시점을 앞당겼다. 자기복제 연구와는 다른 이야기지만, 두 소식이 하루 사이에 나오며 ‘사람 손을 벗어난 AI’ 논쟁에 함께 묶였다.
클라크는 이번 호에 “이제는 완전한 RSI가 2027년에 가능해질 가능성이 더 크다고 본다. 전에는 2028년이 더 유력하다고 생각했다”고 썼다. 전망이 어떻게 바뀌었는지는 아래 순서와 같다.
클라크의 전망은 확률을 붙인 개인 의견이지 앤트로픽의 공식 예측이 아니다. 비판하는 쪽은 회사 경영진이 이런 발전을 자기 회사가 만드는 일이 아니라 바깥에서 일어나는 사건처럼 말한다고 지적한다.
레드팀의 목표는 감염 기기 한 대가 새로 감염시키는 수(R₀)를 1 아래로 끌어내리는 것이다. 수 GB짜리 모델 파일이 오가고 평소 대화하지 않던 기기끼리 트래픽이 이어지면 인터넷 회사의 흐름 감시에 잡힐 수 있다. 미끼 서버(허니팟)로 복제체를 붙잡아 분석하는 방법도 제시했다.
가장 쉬운 문은 출고 때 그대로인 기본 비밀번호다. 영국은 이미 IoT 기기의 공통 기본 비밀번호를 금지했다. 루이빌대 로먼 얌폴스키 교수는 알자지라에 “오늘 이것은 존재론적 위협이 아니다. 하지만 궤적이 우려스럽다”고 말했다.
아니다. 추론 데모는 저가 안드로이드 TV 박스 15대에서, 복제 체인은 구글 클라우드 위 안드로이드 에뮬레이터 8대의 폐쇄망에서 했다. 냉장고·오븐·잔디깎이는 알자지라가 든 ‘인터넷에 연결된 기기’의 예시다.
실험은 ‘할 수 있는가’를 잰 것이지 실제 감염 사례 보고가 아니다.레드팀은 작은 모델이 처음부터 끝까지 복제한 사례를 아직 찾지 못했다. 성공한 GLM-5.2도 해킹 단계를 단순화한 실험에서였고, 복제 한 번에 하루 이상이 걸린다.
당장 할 수 있는 일은 공유기·TV 박스의 기본 비밀번호를 바꾸고 펌웨어를 최신으로 두는 것이다.다르다. 자기복제는 모델이 자기 가중치를 다른 기기로 옮겨 실행하는 일이고, RSI(재귀적 자기개선)는 AI가 더 나은 다음 AI를 스스로 연구·개발하는 단계다.
두 소식은 같은 날 나와 ‘통제 밖 AI’라는 한 주제로 묶였다.① 원 발표는 미국 10월 12일 앤트로픽 게시물이고 알자지라 보도는 13일이다. ② ‘TV·냉장고로 복제’는 보도 표현이고 실험 기기는 TV 박스와 에뮬레이터다. ③ ‘몇 달 거리’는 30B 이하 모델이 GLM-5.2 수준에 닿는 시점(추세상 2026년 말)이다. ④ 클라크의 5월 ‘60%’는 액시오스 요약이고 이번 호에는 확률 숫자가 없다.
블루스카이 트렌드 순위·레딧 순위는 시점마다 바뀌어 화면에 싣지 않았다.© 2026 LOCATEWISE · 데이터로 읽는 시장
이 페이지의 내용은 정보 제공을 위한 것이며 투자 권유가 아닙니다. 투자 판단과 그 결과에 대한 책임은 이용자 본인에게 있습니다.