무슨 일인가요
영국 과학혁신기술부(DSIT)가 9월 7일 GOV.UK의 "AI cyber security" 정책 모음을 갱신하면서 연구 보고서 한 편을 추가했습니다. 제목은 "A study of cybersecurity literature on open-source software and AI"이고, 문화미디어스포츠부(DCMS)가 의뢰해 그리니치대 연구진 4명(Srinidhi Vasudevan, Anna Piazza, Guru Krishna Ramakrishnan, Guido Conaldi)이 수행했습니다. 공식 게시물은 이 보고서가 독립 연구이며 영국 정부 정책을 대표하지 않는다고 못 박고 있습니다. 공식
방법은 PRISMA 틀을 따른 병렬 체계적 검토 두 건입니다. 학술 데이터베이스 8곳에서 2020년 이후 문헌 14,561건을 걸러 43건을 남겼고, 국가 사이버 보안 당국·표준 기구·국제기구·오픈소스 커뮤니티가 낸 회색 문헌 172건을 따로 검토했으며, 여기에 GitHub와 Hugging Face 플랫폼 분석을 더했습니다. 공식
학술 검토
데이터베이스 8곳, 14,561건 → 43건
회색 문헌
당국·표준 기구 등 172건
플랫폼 분석
GitHub · Hugging Face
다섯 주제 도출
정의·상류 위험·오픈 워싱 등
권고 4가지
정부 대상
숫자로 보면
15 / 10,000
Hugging Face 상위 다운로드 오픈 모델 중 보안 관련 문서를 갖춘 수
허용적 오픈소스 라이선스 모델 기준, 0.2% — 보고서는 '약 667개 중 1개' 확률로 표현
보고서는 상용 코드베이스의 96%에 오픈소스 구성 요소가 들어가며, Log4Shell(2021)과 XZ Utils 백도어(2024)가 거버넌스 공백을 드러냈다는 배경에서 출발합니다. 공식 플랫폼 분석에서는 GitHub에서 AI와 보안 키워드를 함께 가진 저장소 약 2,000개 가운데 두 영역을 실질적으로 다루는 것이 131개(약 6%)에 그쳤고, Hugging Face에서는 가장 많이 내려받은 허용적 라이선스 모델 1만 개 중 보안 관련 문서를 갖춘 것이 15개(0.2%)였습니다. 공식
| 주제 | 보고서의 진단 |
|---|---|
| 정의 불일치 | 코드 접근·오픈 웨이트·공급망 세 가지 틀이 경쟁, 2024년 10월 OSAID는 데이터 정보·코드·파라미터를 모두 요구 |
| 상류 위험 공백 | 침입 탐지 같은 하류 위험 연구는 많지만 훈련 방식·데이터·가중치 배포는 거의 다루지 않음 |
| 오픈 워싱 | Llama 2·Grok·Phi-2·Mixtral은 OSAID 미충족, 완전 충족은 Pythia·OLMo·Amber·CrystalCoder·T5 다섯 개 |
| 위험 프로필 차이 | OSS는 의존성 혼동·악성 주입 등 대응이 성숙, OSAI는 데이터 오염·가중치 변조·불안전한 파인튜닝·출처 부재 |
| 대응 성숙도 격차 | OSS에는 SBOM·시큐어 바이 디자인·취약점 공개가 있지만 OSAI에는 상응하는 기반이 없음 |
표의 내용은 보고서가 정리한 다섯 가지 핵심 주제입니다. 공식 특히 훈련 데이터 필터링이 사후 훈련 방어보다 10배 넘게 효과적이지만 가중치 공개 전에만 가능하며, 공개 재배포 이후에도 유효한 유일한 개입 지점이라는 대목이 눈에 띕니다. 공식 EU AI Act에서 오픈소스 지위가 면제 조건이 되므로, 정의가 흔들리면 거버넌스 위험으로 이어진다는 지적도 있습니다. 공식
정부에 무엇을 권고했나요
권고 4가지
정의를 세우고, 출처 표준을 주도하고, 플랫폼과 협의하고, 국제 규범에 참여하라
OSS는 OSI 정의를 명시 채택, OSAI는 OSAID를 기준으로 완전 오픈소스·오픈 웨이트·부분 공개를 구분해 의무를 차등 적용
SBOM을 확장해 훈련 데이터 출처·모델 계보·파인튜닝 이력·알려진 취약점을 담는 AI BoM 개발을 주도 (Linux Foundation AIBOM, G7 2025 지침 기반)
Hugging Face·GitHub 등 배포 인프라 운영자와 문서 기준·기여자 검증·모델 무결성 검증을 협의 (자발적 채택으로는 생기지 않았다고 평가)
ISO/IEC JTC 1/SC 42, ETSI 등에서 규범이 정해지기 전에 참여
출처: GOV.UK 보고서 권고 절
네 가지 권고는 모두 보고서 본문에 그대로 있는 내용입니다. 공식
무엇을 보면 되나요
이 보고서는 정책이 아니라 정책의 "근거 자료"입니다. 다만 영국 정부가 2025년 1월 AI 사이버 보안 실천 규범을 낸 뒤 같은 모음에 연구 자료를 계속 쌓고 있다는 점에서, 오픈 웨이트 모델의 문서·출처 의무를 다루는 후속 조치의 방향을 미리 보여 주는 자료로 읽을 수 있습니다. 공식
