아래로 당겨서 돌아가기
Marul V7: 2.58억 개 파라미터를 가진 처음부터 훈련된 터키어 LLM

Marul V7: 2.58억 개 파라미터를 가진 처음부터 훈련된 터키어 LLM

Meet Marul V7: A Turkish LLM Built From Scratch With 258M Parameters

개발자가 Marul V7을 출시했습니다. 이것은 완전히 처음부터 훈련된 터키어 언어 모델입니다. 기존 아키텍처를 빌려 쓰지 않고, 자체 개발한 토크나이저와 모델 아키텍처로 구축되었습니다. 2.58억 개의 파라미터를 가지고 있으며, 사전 훈련 단계에서는 순수한 터키어 텍스트만 사용했고, 그 후 인스트럭션 튜닝을 거쳤습니다. 즉, 다른 모델의 미세 조정 버전이 아니라 터키어를 진정으로 이해하는 모델이 탄생했다는 뜻입니다. 언어의 미묘한 뉘앙스를 소중히 여기는 AI에 관심이 있다면 확인할 가치가 있습니다.