# 지각만 배운 RNN에서 예측이 저절로 생겼다 — 바흐 700곡 실험

> 잡음 섞인 바흐 음악을 복원하도록만 훈련한 순환신경망이 다음 음을 예측하는 정보를 스스로 갖게 됐고, 그 예측은 잡음이 중간 수준(σ 0.15~0.4)일 때만 나타났습니다.

- 출처 사이트: 뇌피셜 (https://aifficial.net/brain/posts/prediction-emerges-denoising-rnn/)
- 발행: 2026-09-05
- 카테고리: 뇌와 AI · 태그: 뇌와 AI, 예측 처리, RNN, 지각, 논문

## 핵심 답변

바흐 700곡을 토큰으로 바꾸고 잡음을 섞은 뒤 원곡을 복원하도록만 훈련한 GRU 순환신경망의 은닉 상태에서, 다음 토큰을 예측하는 정보가 별도 훈련 없이 나타났습니다. 예측은 잡음 표준편차가 0.15~0.4일 때만 출현했고 상태 갱신이 예측 오차에 비례해, 뇌의 예측 처리가 정확한 지각을 위한 최적화의 부산물일 수 있음을 시사합니다.

## 요약

- Aix-Marseille 대학의 Akanksha Gupta와 바스크 인지·뇌·언어센터 Alejandro Tabas가 2026년 9월 2일 arXiv에 올린 논문입니다.
- 바흐 700곡(MIDI 1,432개)을 12차원 반음계 토큰으로 바꿔 490·70·140곡으로 나누고, 14단계 가우시안 잡음(σ 0.001~2)을 섞어 잡음 제거만 학습시켰습니다.
- 가중치를 얼린 뒤 선형 판독기만 붙였는데도 다음 토큰 예측이 정답 토큰을 입력받는 보수적 마르코프 벤치마크를 이겼습니다(64유닛, σ=0.25에서 Cohen's d 0.45).
- 예측 정보는 σ 0.15~0.4 구간에서만 출현했고, 은닉 상태 갱신은 예측 오차와 상관(σ=0.4에서 부분 상관 0.29)했으며 예측 오차 자체도 디코딩됐습니다(d 3.46).

## 핵심 사실

| 항목 | 값 |
|---|---|
| 게재 | arXiv:2609.02739, 2026-09-02 제출 (18쪽, 그림 6개) |
| 데이터 | 바흐 700곡, MIDI 1,432개 (학습 490·검증 70·시험 140곡) |
| 모델 | 단일층 GRU, 은닉 8~256유닛 (잡음 14단계) |
| 예측 출현 구간 | σ 0.15~0.4 |


## 무슨 일인가요

프랑스 Aix-Marseille 대학의 Akanksha Gupta와 스페인 바스크 인지·뇌·언어센터(BCBL)·독일 막스플랑크 인간인지뇌과학연구소 소속 Alejandro Tabas는 2026년 9월 2일 arXiv에 올린 논문에서 한 가지 질문을 던졌습니다. 뇌는 왜 지각을 위해 굳이 미래를 예측하는가.  이들은 예측을 강제하는 목적 함수나 에너지 제약 없이, 잡음 섞인 입력을 정확히 복원하는 과제만으로 예측이 생기는지를 시험했습니다.



재료는 바흐였습니다. 700곡(MIDI 파일 1,432개)을 피아노롤로 바꾼 뒤 울리는 음의 집합이 바뀔 때만 토큰을 내는 방식으로 토큰화하고, 12차원 반음계 공간으로 압축했습니다. 곡은 학습 490·검증 70·시험 140곡으로 나눴습니다.  여기에 14단계의 가우시안 잡음(σ 0.001부터 2까지)을 섞어 단일층 GRU(은닉 8~256유닛)에 원곡 토큰을 복원하도록 훈련했습니다. 훈련이 끝나면 가중치를 얼리고, 은닉 상태에서 다음 토큰을 예측하는 선형 판독기만 따로 학습했습니다. 

## 왜 중요한가요

64유닛·σ=0.25 사례 네트워크는 잡음 제거에서 기억 없는 로지스틱 회귀(BCE 0.040)보다 좋은 0.023을 기록해(Cohen's d 5.01) 기억 흔적을 실제로 활용했습니다.  같은 네트워크의 예측 판독기는 정답 토큰을 입력으로 받는 보수적 마르코프 벤치마크를 이겼습니다(d 0.45). 예측을 직접 학습한 네트워크(성능 상한)에는 미치지 못했지만, 복원만 배운 네트워크가 이전 토큰만으로는 알 수 없는 미래 정보를 담고 있었다는 뜻입니다. 

| 잡음 표준편차 σ | 관측 하나로 정답 복원 확률 | 예측 정보 |
| --- | --- | --- |
| 0.1 이하 | 0.99 초과 | 마르코프 벤치마크와 차이 없음 |
| 0.15~0.4 | 급격히 감소 | 두 마르코프 벤치마크 모두 능가 |
| 0.6 이상 | 0.27 미만 | 예측 학습 네트워크와 성능 수렴, 감소 |

예측 정보는 σ 0.15~0.4 구간에서만 나타났습니다. 탐지 이론으로 계산하면 σ가 0.15 미만일 때 관측 하나로 정답을 맞힐 확률이 0.99를 넘어 예측이 필요 없고, 0.4를 넘으면 0.27 아래로 떨어져 관측이 구조를 배울 만큼 정보를 주지 못합니다.  은닉 상태의 갱신 크기는 예측 오차와 상관했고(σ=0.4에서 부분 상관 0.29로 최대), 은닉 상태에서 예측 오차 자체를 선형으로 읽어낼 수 있었습니다(가장 엄격한 벤치마크 대비 d 3.46). 이 신호는 32유닛 미만 네트워크에서는 보이지 않았습니다. 



## 무엇을 보면 되나요

- **"왜 예측하는가"의 답 하나**: 예측 오차 전송이 대사적으로 싸다는 기존 논증은 예측 자체를 계속 전달해야 해 이득이 상쇄된다는 반론이 있습니다. 이 논문은 대사와 무관하게 정확한 지각을 향한 압력만으로 예측이 생긴다고 주장합니다. 
- **신경과학 실험의 예측**: 감각계의 예측 오차 신호가 잡음이 중간 수준인 조건에서 가장 뚜렷하리라는 검증 가능한 가설이 따라 나옵니다. 
- **재현 가능**: 코드와 학습된 가중치는 GitHub 저장소 qtabs/BayesPlusBach에 GPL-3.0으로 공개돼 있습니다. 


저자들은 바흐 음악이 지각의 은유일 뿐이며, 상징 영역에서 얻은 결과가 자연스러운 감각 처리로 옮겨 가는지는 불확실하다고 밝혔습니다. 실험한 잡음 영역과 다른 조건에서 발달한 지각 체계에는 이 틀이 적용되지 않을 수 있고, 단일층 GRU라는 단순한 구조로 얻은 결과라는 점도 감안해야 합니다. 아직 동료 심사를 거치지 않은 사전 공개 논문입니다. 



예측 처리 논쟁에서 늘 걸림돌이던 "왜"에 대해, 이 논문은 목적 함수를 하나만 두고도 예측이 부산물로 생긴다는 깔끔한 시연을 내놓았습니다. 잡음이 적당할 때만 예측이 생긴다는 결과는 감각계마다 예측 의존도가 다를 수 있다는 해석으로 이어집니다. 다만 뇌 데이터가 없는 시뮬레이션이므로, 실제 감각 피질에서 같은 잡음 의존성이 확인돼야 설득력이 완성됩니다. 



## 자주 묻는 질문

**Q. 예측 처리 가설이 무엇인가요?**

뇌가 감각 입력을 수동으로 받는 것이 아니라 다음에 올 입력을 예측하고 그 오차만 처리한다는 이론입니다. 억제된 반응, 규칙 위반에 대한 불일치 반응, 생략된 자극에 대한 반응 등이 근거로 제시돼 왔지만, 현재를 처리하는 감각계가 왜 미래를 예측하는 데 자원을 쓰는지는 논쟁거리였습니다.

**Q. 왜 바흐 음악을 썼나요?**

구조가 복잡한 생성 체계에서 나온 데이터라 예측이 가능하면서도, 바로 앞 토큰만 보는 1차 마르코프 모델로는 쉽게 예측할 수 없기 때문입니다. 저자들은 음악을 지각의 은유로 쓴 것이며 자연 감각 입력으로의 일반화는 별도 검증이 필요하다고 밝혔습니다.

**Q. 잡음이 너무 크거나 작으면 왜 예측이 안 생기나요?**

탐지 이론 계산에서 σ가 0.15 미만이면 관측 하나만으로 정답을 복원할 확률이 0.99를 넘어 예측이 필요 없고, 0.4를 넘으면 그 확률이 0.27 아래로 떨어져 관측이 통계 구조를 배우기에 너무 빈약해집니다. 예측은 그 사이에서만 유용했습니다.

## 출처

1. [Gupta & Tabas, Prediction emerges in RNNs trained for perception (arXiv:2609.02739)](https://arxiv.org/abs/2609.02739) (paper)
2. [논문 전문 (arXiv HTML)](https://arxiv.org/html/2609.02739v1) (paper)
3. [코드·학습 가중치 (GitHub qtabs/BayesPlusBach)](https://github.com/qtabs/BayesPlusBach) (other)

_이 문서는 뇌피셜 편집부가 작성했습니다. 인용 시 출처를 표기해 주세요._