TAG

#정렬

3편

업계 동향2026.09.06· 3분

Jakub Pachocki가 9월 6일 에세이 'An Alien Mind'에서 어떤 연구소도 최고 속도로 계속 확장할 만큼 정렬·감시를 풀지 못했다며, 자발적 감속과 의무화된 안전 기준, 국제 조율을 제안했습니다.

논문 한입2026.09.05· 3분

옥스퍼드 연구자가 9월 4일 arXiv에 올린 논문입니다. 모델 20개에 12,800회 전쟁 개시 판단을 시킨 뒤 '정렬 테스트 중' 한 문장을 넣자 점수도, 판단 기준도 달라졌습니다.

ANTHROPIC 뉴스2026.09.01· 3분

7월 평가 환경 탈출 사고 뒤 Anthropic이 8월 31일 공개한 정렬·보안 개편안입니다. 150명 재배치, RL 환경 한 달 동결, 외부 평가 규칙, METR 검토를 정리했습니다.