아래로 당겨서 돌아가기
VicVibin/ML_Engine — CUDA C++로 처음부터 구축한 머신러닝 라이브러리로 확산 모델과 LLM 학습
opensourcegithub

VicVibin/ML_Engine — CUDA C++로 처음부터 구축한 머신러닝 라이브러리로 확산 모델과 LLM 학습

VicVibin/ML_Engine — Created a Machine Learning Library from Scratch using CUDA C++ to train a Diffusion and LLM model

⭐ 1 스타 | CUDA | CUDA C++를 활용해 처음부터 개발한 머신러닝 라이브러리로 확산 모델(Diffusion Model)과 대규모 언어모델(LLM) 학습 지원

원문 보기 →

키워드

ML libraryCUDAC++diffusion modelslanguage modelsfrom scratchdeep learning framework

관련 기사

TRELLIS.2 이미지-3D 변환이 Mac(Apple Silicon)에서 실행 - NVIDIA GPU 불필요
오픈소스읽음

TRELLIS.2 이미지-3D 변환이 Mac(Apple Silicon)에서 실행 - NVIDIA GPU 불필요

Microsoft의 TRELLIS.2를 PyTorch MPS를 통해 Apple Silicon에서 실행되도록 포팅했습니다. 원본은 CUDA 전용 컴파일 확장 5개(flex_gemm, flash_attn, o_voxel, cumesh, nvdiffrast)에 의존하는데 Mac에는 대응 버전이 없습니다. 처음부터 대체 백엔드를 작성했습니다: 순수 PyTorch 희소 3D 합성곱(flex_gemm 대체), 공간 해싱을 사용한 Python 메시 추출(o_voxel의 CUDA 해시맵 연산 대체), 희소 Transformer용 SDPA 어텐션(flash_attn 대체), GPU 가속 삼선형 보간(cumesh와 nvdiffrast 대체)입니다.

Reddit
Show HN: Apple Silicon에서 TRELLIS.2 이미지-3D 생성 네이티브 실행
오픈소스읽음

Show HN: Apple Silicon에서 TRELLIS.2 이미지-3D 생성 네이티브 실행

마이크로소프트의 TRELLIS.2(40억 파라미터 이미지-3D 모델)를 PyTorch MPS를 통해 Apple Silicon에서 네이티브로 실행하도록 포팅했습니다. 원본은 CUDA, flash_attn, nvdiffrast, 커스텀 희소 합성곱 커널이 필요한데 Mac에서는 작동하지 않습니다. CUDA 특화 연산을 순수 PyTorch 대안으로 교체했습니다. 구체적으로는 gather-scatter 희소 3D 합성곱, 희소 Transformer용 SDPA 어텐션, CUDA 해시맵 연산을 대체하는 Python 기반 메시 추출입니다. 총 9개 파일에서 수백 줄의 변경사항이 있습니다.

Hacker News
157
M5 Pro 24GB 메모리에서 Qwen 3.6 어떤 버전을 써야 할까?
오픈소스읽음

M5 Pro 24GB 메모리에서 Qwen 3.6 어떤 버전을 써야 할까?

M5 Pro 머신에 24GB 메모리를 갖춘 사용자가 Ollama를 통해 Qwen 3.6 대형언어모델(LLM)을 실행하려고 합니다. Q4 양자화(4비트 양자화) 버전을 사용해야 할지 확실하지 않고, 적절한 Q3 양자화 솔루션을 찾지 못했습니다. 자신의 하드웨어에서 부드럽게 작동하면서도 모델 품질을 과도하게 손상시키지 않는 버전에 대한 추천을 찾고 있습니다.

Reddit