감정 있는 대화를 들으면서 AI에 CT 스캔을 해봤다

언어 모델의 내부를 들여다볼 수 있는 '활성화 랩(Activation Lab)'이라는 도구를 만들었어요. 이건 AI의 MRI 기계라고 보면 돼요. 대화를 처리할 때 신경망의 모든 계층 스냅샷을 캡처합니다. 대형 언어 모델(LLM)의 모든 내부 상태를 기록함으로써 이 모델들이 실제로 어떻게 생각하는지 완전히 이해할 수 있어요. 첫 번째 실험에서는 Qwen 2.5(3B)에 20턴의 대화를 입력했는데, 사용자의 감정 톤이 극적으로 변합니다. 그 결과는 AI가 인간의 감정을 어떻게 처리하는지에 대한 놀라운 통찰력을 보여줍니다.