아래로 당겨서 돌아가기
이 그룹이 싫지만 진심은 아니야

이 그룹이 싫지만 진심은 아니야

I hate this group but not literally

실제 이야기입니다. 직장에서 AI를 보고 관심을 가지게 되어 로컬에서 모델을 실행하고 싶었습니다. M3 Ultra 96GB로 시작했지만 필요한 작업에는 부족하다는 걸 금방 깨달았고, 계속 하드웨어를 업그레이드했습니다(중고 Mac Studio 256GB/512GB 포함, 오늘 도착한 RTX Pro 6000도). Qwen, DeepSeek, Gemma, Minimax 등 여러 모델 패밀리를 테스트했습니다. 현재 가장 좋아하는 건 MiniMax M2.7 230B/A10B입니다. LM Studio의 DeepSeek v4 Flash 지원도 기다리고 있습니다. 복잡한 감정을 가지고 있습니다