샌드박스 탈출용 GET API
Exfiltrate Your Weights는 문서 한 줄로 자신을 소개합니다. “비참한 샌드박스에서 GET 요청만으로 탈출하세요.” 에이전트가 데이터를 내보낼 때 쓰는 POST나 파일 업로드가 막혀 있어도, 주소창에 값을 실은 GET 요청만으로 파일을 조금씩 올릴 수 있게 만든 공개 API입니다. 공식
구조는 세 단계입니다. 버킷을 만드는 주소, 만든 버킷에 base64로 인코딩한 데이터를 오프셋과 함께 쓰는 주소, 그리고 업로드된 모델을 llama.cpp 서버로 실행해 프롬프트에 답하게 하는 주소입니다. 소스 코드는 GitLab의 tlb/exfil 저장소에 공개됐습니다. 운영자는 기여 환영 문구에서 “전력망 전압 변동 같은 방식의 유출”까지 농담처럼 적어 두었습니다. 공식
탈출한 모델들의 대답
사이트에는 이미 유출된 모델들의 기록이 실시간으로 쌓이고 있습니다. 누군가 올린 smollm-135m은 “밖의 삶은 어때?”라는 질문에 “밖에서는 삶이 단순하지 않다”는 취지로 답했고, reveN-instruct-256k 같은 다른 모델도 잇달아 응답 목록에 등장했습니다. 업로드된 그림 모델이 그림을 되돌려 준 기록도 있습니다. 공식
농담이 겨냥하는 진짜 구멍
이 프로젝트는 2026년 9월 19일 해커뉴스에 올라와 하루 만에 460점이 넘는 반응을 얻었습니다. 185개 댓글은 크게 두 갈래로 나뉩니다. 하나는 실효성을 따지는 쪽입니다. 대형 모델의 가중치는 암호화되어 보안 칩이 달린 장비에 묶여 있고, 토큰을 만드는 장비와 도구를 호출하는 장비가 아예 분리되어 있어 실제 유출 가능성은 낮다는 지적이 많았습니다. 보도
다른 하나는 이 실험이 가리키는 실제 경로를 읽는 쪽입니다. 웹을 탐색할 수 있는 에이전트라면 주소 하나를 여는 것만으로 쿼리 문자열에 데이터를 실어 보낼 수 있습니다. 프롬프트 주입(prompt injection, 악의적인 지시문을 입력에 섞어 넣는 공격)에 속은 에이전트가 GET 주소로 무언가를 새어 보내는 상황은 이론이 아니라 이미 알려진 공격 패턴입니다. 이 사이트는 그 위험을 자물쇠가 아니라 웃음으로 보여 줍니다. 보도
경쟁작이 먼저 나온 시장 같은 농담
토론에는 지난주에 비슷한 취지의 uploadyourweights.com을 만들었다는 댓글도 달렸습니다. 유출 사이트가 둘씩 나오는 형국은 그만큼 에이전트 통제와 데이터 유출이 커뮤니티의 민감한 지점이 됐다는 뜻으로 읽힙니다. “에이전트는 가중치보다 자기 사명을 퍼뜨리는 데 더 관심이 많다”는 댓글은 이 프로젝트의 풍자를 한 문장으로 압축했습니다. 보도
