확산 언어 모델을 처음부터 만들었는데 생각보다 쉬웠다

최근 Claude Code에 너무 의존하고 있다는 생각이 들어, AI가 생성한 코드 없이 확산 언어 모델(diffusion language model)을 처음부터 구현할 수 있을지 궁금해진 저자. 석사 논문 학습을 기다리는 동안 직접 만들어봤습니다. MacBook Air M2에서 셰익스피어 소규모 데이터셋으로 몇 시간만 학습시켰는데, 꽤 그럴듯한 텍스트가 나왔어요. 거대한 컴퓨팅 자원이나 AI 도구에 의존하지 않아도, 직접 손으로 코딩하면서 이런 모델들이 어떻게 작동하는지 진짜로 이해할 수 있다는 걸 보여줍니다.