# LLM 안의 우울 증상 지도, Gemma 27B의 21번째 층

> 스탠퍼드 정신의학과 연구진이 Gemma-3-27B의 내부 활성에서 기분·신체·자살 사고 축을 읽어냈습니다. 21번째 층의 단일 우울 벡터는 처음 보는 글에서 우울한 글을 AUC 0.789로 갈랐습니다.

- 출처 사이트: 뇌피셜 (https://aifficial.net/brain/posts/llm-depression-symptom-vectors/)
- 발행: 2026-09-08
- 카테고리: 뇌와 AI · 태그: 언어모델, 해석 가능성, 우울증, 정신의학, 프리프린트

## 핵심 답변

스탠퍼드 의대 정신의학과 코리 켈러 연구진은 Gemma-3-27B-PT의 잔차 스트림을 기계론적 해석 기법으로 분석해, 임상 도구에서 뽑은 증상 문장들이 21번째 층에서 기분·신체·자살 사고 집단으로 가장 뚜렷하게 갈라진다는 것을 찾았습니다. 이 층에서 만든 증상 벡터에 처음 보는 자연어 글을 투영하자 정신과 의사가 매긴 순위가 세 축 모두에서 유지됐고, 단일 우울 벡터는 우울한 글과 그렇지 않은 글을 AUC 0.789로 갈랐습니다.

## 요약

- 2026년 9월 1일 arXiv에 올라온 프리프린트(2609.01832)로, 아직 동료 심사를 거치지 않았습니다.
- DSM-5·ICD-10·HAM-D·MADRS·PHQ-9 등에서 뽑은 51개 증상 문장을 정신과 의사 두 명이 기분·신체·자살 사고로 분류했습니다.
- 62개 블록 63개 지점을 8가지 거리 지표로 비교하자 21번째 층에서 증상 집단이 가장 뚜렷하게 갈렸습니다.
- 21번째 층의 우울 벡터는 처음 보는 우울한 글 423편과 행복한 순간 서술 423편을 AUC 0.789로 갈랐고, 학습에 쓴 문장에서는 AUC 1.000이었습니다.

## 핵심 사실

| 항목 | 값 |
|---|---|
| 출처 | arXiv 2609.01832 (2026-09-01 제출, 26쪽 6그림, 프리프린트) |
| 연구 기관 | 스탠퍼드 의대 정신의학과·우차이 신경과학연구소 |
| 모델 | Gemma-3-27B-PT (62개 블록, 63개 후크 지점 분석) |
| 임상 문장 | 51개 (기분 19, 신체 24, 자살 사고 8) (정신과 의사 2명이 합의로 분류) |
| 가장 갈리는 층 | 21번째 층 (PERMANOVA 유사 F 6.91 (중심 유클리드, 원시 활성)) |
| 판별 성능 | AUC 0.789 (보류 데이터) (학습 문장에서는 AUC 1.000) |


## 무슨 연구인가요

스탠퍼드 의대 정신의학과와 우차이 신경과학연구소의 코리 켈러 연구진이 2026년 9월 1일 arXiv에 올린 프리프린트입니다. 카이저 퍼머넌트와 빅커머스 소속 저자가 함께했습니다.  우울증 환자의 증상은 다양한데 임상은 이를 하나의 중증도 점수로 줄이곤 합니다. 연구진은 언어모델이 환자의 말에서 여러 증상을 짚어낼 수 있다면, 그 증상이 모델 내부에 어떻게 표상되는지를 먼저 알아야 임상에서 신뢰할 수 있다고 봤습니다. 

재료는 DSM-5, ICD-10, HAM-D, MADRS, PHQ-9, PROCEED에서 뽑은 51개 증상 문장(기분 19, 신체 24, 자살 사고 8)입니다. 정신과 의사인 저자 두 명이 독립적으로 분류한 뒤 불일치는 합의로 정리했습니다.  이 문장들을 Gemma-3-27B-PT에 넣고 62개 트랜스포머 블록의 63개 지점에서 잔차 스트림 활성을 기록해, 중심 코사인·중심 유클리드·어스 무버·에너지 거리를 원시 활성과 정규화 활성에 각각 적용한 8가지 지표로 집단 간 분리를 쟀습니다. 



## 무엇을 찾았나요

세 증상 집단은 21번째 층에서 가장 뚜렷하게 갈렸습니다. 중심 유클리드 거리(원시 활성) 기준 PERMANOVA 유사 F 통계량은 6.91이었고, 분산 차이가 아니라 중심 이동에 의한 분리였습니다.  연구진은 이 층의 집단 중심으로 세 개의 증상 기저 벡터를 만들고, 벡터끼리 거의 공선적이라(조건수 14,611.6) 무어-펜로즈 유사역행렬로 상관을 걷어낸 투영 계수를 구했습니다. 이 방법을 '의미 투영'이라고 불렀습니다. 



검증에는 회고록 '보이는 어둠', 우울증 핸드북, ReDSM5에서 뽑은 보류 글 423편(집단당 141편)과, 행복한 순간을 적은 HappyDB 423편을 썼습니다. 학습에 쓴 임상 문장에서 각 집단의 해당 축 계수는 기분 +0.77, 신체 +1.01, 자살 사고 +0.96이었고, 보류 글에서는 기분 −0.08, 신체 +0.74, 자살 사고 +1.40이었습니다. 세 축 모두에서 의사가 매긴 순위가 유지됐습니다. 

| 검증 | 비교 대상 | AUC |
| --- | --- | --- |
| 학습 문장 | 임상 문장 51개 대 긍정 정서 글 9편 | 1.000 |
| 보류 글 | 우울 글 423편 대 HappyDB 423편 | 0.789 |

21번째 층의 단일 우울 벡터는 보류 글에서 우울한 글과 행복한 글을 AUC 0.789로 갈랐습니다. 저자들은 이를 진단기가 아니라, 증상 투영을 우울한 발화에만 적용하도록 막는 정서 관문으로 쓰자고 제안했습니다. 

## 왜 중요한가요

우울 증상이 언어모델 내부에서 서로 상관이 걷힌 채 의사 판단과 맞는 방향으로 읽힌다면, 모델의 출력을 믿을지 말지를 출력이 아니라 내부 활성으로 판단할 길이 열립니다. 저자들은 이를 해석 가능한 우울 평가 도구의 기계론적 토대로 제시했습니다.  연구비는 사이먼스 재단과 슈미트 사이언스 등에서 나왔습니다. 



- 저자들이 밝힌 한계는 다섯 가지입니다. DSM-5 아홉 항목을 세 집단으로 뭉쳐 구체성이 떨어지고, 모델을 하나만 시험했으며, 모든 글을 Claude Opus 4로 3인칭으로 고쳐 쓴 전처리가 교란 요인일 수 있습니다. 
- 의사 판단과의 일치는 임상적 타당성과 같지 않으며, 진단 결과나 치료 반응으로는 검증하지 않았습니다. 코사인 값의 절대 범위도 0.18~0.25로 좁아 개별 글의 분류 신뢰도가 낮습니다. 
- 동료 심사를 거치지 않은 프리프린트이며, 보류 글의 기분 축 계수가 −0.08로 낮게 나온 이유는 초록만으로 설명되지 않습니다. 





이 논문의 쓸모는 "AI가 우울증을 진단한다"가 아니라 그 반대 방향에 있습니다. 모델이 왜 그런 답을 냈는지를 내부에서 확인할 수 없으면 정신의학은 그 답을 쓸 수 없고, 이 연구는 그 확인 절차의 첫 초안에 가깝습니다. 다만 학습 문장에서 1.000, 처음 보는 글에서 0.789라는 간극은 실제 환자의 말이 임상 척도의 문장과 얼마나 다른지를 보여주는 숫자이기도 합니다. 진료실의 말로 검증한 결과가 나오기 전까지는 연구 도구로 읽는 것이 맞다고 봅니다.




## 자주 묻는 질문

**Q. 잔차 스트림을 분석한다는 게 무슨 뜻인가요?**

트랜스포머 모델은 층을 지날 때마다 벡터를 더해 나가는데, 그 누적 벡터가 잔차 스트림입니다. 연구진은 증상을 서술한 문장을 넣고 각 층에서 이 벡터를 기록해, 어느 층에서 증상 집단끼리 가장 멀리 떨어지는지를 쟀습니다.

**Q. AUC 0.789는 쓸 만한 수준인가요?**

처음 보는 글에서 우울한 글과 행복한 글을 가르는 성능이며, 학습 문장에서의 1.000과 차이가 큽니다. 저자들도 개별 문장 단위의 분류 신뢰도는 낮다고 밝혔고, 이 벡터를 진단 도구가 아니라 증상 투영을 우울한 글에만 제한하는 관문으로 제안했습니다.

**Q. 임상에 바로 쓸 수 있나요?**

아닙니다. 저자들은 의사 판단과의 일치가 임상적 타당성과 같지 않으며, 진단 결과나 치료 반응으로 검증하지 않았다고 명시했습니다. 모델도 하나만 시험했습니다.

## 출처

1. [Zhu et al., Interpretable Symptom Vectors for Depression in a Large Language Model, arXiv:2609.01832 (2026-09-01)](https://arxiv.org/abs/2609.01832) (paper)
2. [같은 논문 HTML 전문 (arXiv)](https://arxiv.org/html/2609.01832) (paper)

_이 문서는 뇌피셜 편집부가 작성했습니다. 인용 시 출처를 표기해 주세요._