아래로 당겨서 돌아가기
AI 연구가 수학을 포기하고 있는 건 아닐까?

AI 연구가 수학을 포기하고 있는 건 아닐까?

Is AI research ditching heavy math for quick wins?

AI 커뮤니티가 LLM이 등장하기 전부터 이미 수학 중심의 이론 연구에서 멀어지고 있는 것 같습니다. 요즘 논문들은 엄밀한 수학적 기초보다는 실험 결과, 새로운 아키텍처 설계, 손실 함수(loss function) 조정에 초점을 맞추고 있습니다. 물론 이런 연구들도 수학이 필요하지만, 더 이상 주인공이 아닙니다. LLM 시대가 되면서 기존 시스템을 단순히 조합하기만 하는 논문들이 늘어났고, 새로운 수학적 기여는 거의 없습니다. 강화학습(reinforcement learning)과 최적화(optimization) 분야는 여전히 수학을 중시하지만, 점점 소수파가 되어가고 있습니다. 당신은 어떻게 생각하세요——이게 실용적인 진전일까요, 아니면 뭔가 중요한 걸 잃고 있는 걸까요?

키워드

mathematicsempirical researcharchitecture designloss functionsreinforcement learningoptimizationLLM papersresearch trends