
OpenAI 라이브스트림
OpenAI가 라이브스트림 이벤트를 개최합니다. 방송 중에 구체적인 발표, 신제품 출시 또는 시연이 공개될 예정입니다.
The last time OpenAI did an unannounced livestream, they dropped GPT-4 Turbo and changed pricing overnight

nvidia-smi, htop, vLLM 메트릭 엔드포인트를 3개 터미널에서 동시에 봐야 하는 게 너무 불편해서 하나의 대시보드로 만들었습니다. 1초 간격으로 GPU, CPU, 통합 메모리, 디스크, 네트워크를 실시간 모니터링합니다. vLLM의 핵심 통계(토큰/초, 첫 응답 시간, 큐 대기 시간, KV 캐시 사용률, 프리픽스 캐시 히트율)도 한눈에 확인 가능합니다. 프로세스 스캔과 Docker를 통해 실행 중인 엔진을 자동 감지하며, 여러 엔진 실행 시 탭으로 전환할 수 있습니다. 15분 롤링 히스토리와 열 스로틀링, 전력 제한 감지 기능도 포함되어 있습니다. Rust 백엔드, React 프론트엔드, WebSocket 스트리밍으로 구성되어 있습니다. 한번 써보시고 피드백 주시면 감사하겠습니다!