무슨 일인가요
10a Labs 연구진이 9월 4일 arXiv에 올린 논문 "Uncensored Open-weight Models: Redistribution as the Persistence Layer"는 오픈웨이트 모델의 안전장치를 벗겨 내는 생태계를 통째로 측정했습니다. 논문 2024년 1월부터 2026년 3월까지 Hugging Face에서 원본 검열 해제 모델 3,471개를 찾았고, 각 원본은 평균 2.4회 재포장돼 8,164건의 압축 재배포(GGUF·AWQ·GPTQ·EXL2·MLX)로 퍼졌습니다. 논문 재배포의 52%는 세 계정이 만들었습니다. mradermacher 2,905건(36%), Triangle104 936건(11%), RichardErkhov 364건(4%)입니다. 논문
| 항목 | 재배포 건수 |
|---|---|
| mradermacher | 2,905건 |
| Triangle104 | 936건 |
| RichardErkhov | 364건 |
출처: arXiv:2609.05241 (10a Labs, 2026-09-04)
어떻게 쟀나요
연구진은 중국어·일본어 표현을 포함한 고신호 검색어 43개와 맥락 의존 검색어 12개로 Hugging Face 모델·데이터셋 저장소를 훑고, 다작 생산자 15곳의 저장소를 전수 크롤링해 후보 17,727개를 모았습니다. 이를 GPT-5 분류기가 원본·압축 재배포·병합·악성 데이터셋·오탐으로 나눠, 안전장치 제거와 연관된 저장소 12,360개를 얻었습니다. 논문 GitHub 쪽은 후보 44,705개를 걸러 검열 해제 LLM을 통합한 앱 1,643개(별 11,600개 이상, 포크 1,800개 이상)를 확정했습니다. 논문
기법은 세 갈래입니다. 내부 표현에서 거부 방향을 억제하는 활성화 공간 어블리터레이션, 거부 응답을 걸러 낸 SFT·DPO·LoRA 미세조정, 그리고 검열 해제 모델을 다른 모델과 섞어 추론 능력 등을 보강하는 병합입니다. 논문 2025년 11월 공개된 Heretic CLI는 이 작업을 터미널 명령 하나로 줄였는데, 출시 전 22개월간 월 약 89개이던 원본 생산이 출시 후 4.5개월간 월 약 338개로 늘었고 2026년 1분기 생산의 54%가 이 도구로 만들어졌습니다. 논문
어떤 모델이, 어디에 쓰이나요
| 항목 | 수치 |
|---|---|
| 서구 기반 모델 비중 | 57% (그중 Llama 52%, Gemma 17%, Mistral·Mixtral 15%) |
| 중국 기반 모델 비중 | 전체의 38% (그중 Qwen 80%) |
| 중국 기반 분기별 점유율 | 2024년 1분기 1% → 2025년 2분기 55%, 이후 43~51% |
| 앱 용도 | 범용 챗봇 37%, 사이버 보안 도구 16%, 문서 처리 16% |
| 앱 배포 경로 | Ollama 참조 43%, Hugging Face 직접 다운로드 14%, 텔레그램 봇 110개 |
| 명백히 악성인 앱 | 25% (411개), 전용 악성코드 생성기 9개 |
Dolphin 계열이 앱의 30%(499개)를 움직이고, huihui-ai 모델은 109개 앱에 그치지만 합산 별 4,264개로 가장 많은 관심을 받았습니다. 논문 생산자 1,055곳과 재배포자 1,011곳은 24%만 겹칩니다. 논문은 생산자 단계의 삭제가 "가용성을 의미 있게 줄이지 못한다"고 결론짓습니다. Triangle104는 수집 뒤 프로필과 모델이 지워졌지만 936건의 재배포는 남아 있었습니다. 논문 대신 세 계정이 52%를 만드는 재배포 단계가 "생태계의 가장 좁은 지점"이며, 배포 관측은 모델 메타데이터가 아니라 README·레지스트리 출처·기능 범주 같은 애플리케이션 층에서 해야 한다고 제안합니다. 논문
