
OpenAI 라이브스트림
OpenAI가 라이브스트림 이벤트를 개최합니다. 방송 중에 구체적인 발표, 신제품 출시 또는 시연이 공개될 예정입니다.
The last time OpenAI did an unannounced livestream, they dropped GPT-4 Turbo and changed pricing overnight

b8858 버전부터 사용 가능합니다. 이 최적화된 CPU 버전은 토큰 생성 속도가 훨씬 빨라졌습니다. 구형 노트북(16GB DDR3 RAM)에서 테스트한 결과 0.3 t/s에서 1.7 t/s로 개선되었습니다. 다만 AVX/AVX512 미지원으로 인해 예상만큼의 성능 향상은 아니었습니다. 이번 주에 신형 노트북에서 추가 테스트 예정입니다. 참고로 Metal, Vulkan, CUDA 버전도 이 최적화를 지원하며, 1비트 양자화 버전도 있습니다. 아직 시도하지 않았다면 확인해볼 가치가 있습니다.