
OpenAI 라이브스트림
OpenAI가 라이브스트림 이벤트를 개최합니다. 방송 중에 구체적인 발표, 신제품 출시 또는 시연이 공개될 예정입니다.
The last time OpenAI did an unannounced livestream, they dropped GPT-4 Turbo and changed pricing overnight

구축이 완료되었습니다. 16개의 DGX Spark가 모두 네트워크에 연결되어 최대 속도로 작동 중입니다. 셋업은 시간이 걸렸지만 예상보다 훨씬 순조로웠습니다. 각 Spark는 Nvidia 커스텀 Ubuntu를 탑재하고 있으며 대부분의 소프트웨어가 사전 설치되어 있습니다. 셋업 과정에서는 랙 설치, 전원 켜기, 모든 노드에 동일한 사용자/비밀번호 설정, 각 노드당 약 20분의 업데이트 대기, 그 후 비밀번호 없는 SSH, 점보 프레임, IP 설정 등을 수행했습니다. 이러한 설정들은 스크립트로 자동화하여 시간을 절약했습니다. 각 Spark는 FS N8510 스위치에 연결되어 있습니다.
테크 블로거 관점
누군가 16개 GPU 클러스터를 주말 프로젝트처럼 만들어버렸음. 미래는 이미 여기 있고, 그리고 개비싼 상황임.
한 빌더가 DGX Spark 16개를 랙에 꽂아버렸는데 — 대략 240만 달러어치의 AI 하드웨어 — 마치 IKEA 가구 조립하는 것처럼 얘기하고 있음. 각 Spark는 기본적으로 엔비디아 커스텀 우분투가 미리 깔려있고 대규모 모델 학습에 필요한 모든 게 다 들어있는 슈퍼컴퓨터 수준임. 셋업 과정? 랙에 꽂고, 부팅하고, 네트워킹 스크립트 짜고, 끝 — 그럼 당신의 노트북이 울고 싶어할 정도의 AI 워크로드를 처리할 수 있는 인프라가 완성됨. 뭐가 미친 건지 알아? 이게 얼마나 자연스럽게 얘기되고 있다는 거. 노드당 20분 정도면 업데이트 끝나고, SSH 설정 좀 하고, 네트워크에 점보 프레임(jumbo frames) 설정하면 — 갑자기 대부분의 회사들이 꿈꾸기만 하는 인프라를 운영하게 되는 거임. 이게 어떤 거대 기술 회사의 데이터센터도 아님. 그냥 누군가의 빌드 로그임.
AI 분석
AI 인프라
high지금 당장 멀티노드 셋업 예산을 짜기 시작해야 함 — 싱글 GPU 학습은 이제 기본 중의 기본이 되어버림
누군가 엔터프라이즈급 AI 워크스테이션 16개를 마치 홈랩 구축하듯이 배포해버렸음
지금 당신이 겪고 있는 학습 병목 현상은 앞으로 올 것들에 비하면 정말 귀여운 수준이 될 거임
직무 영향 분석
ML 엔지니어
역할 변화멀티노드 클러스터가 럭셔리한 셋업이 아니라 표준 인프라가 되어가고 있음
분산 학습 프레임워크를 지금 배워야 함 — 싱글 GPU 경험만으로는 더 이상 안 됨
DevOps 엔지니어
기회회사들이 ML 운영을 확장하면서 AI 인프라 배포가 핵심 스킬이 되고 있음
GPU 클러스터 관리를 직접 해봐야 함 — 인프라 일자리의 미래가 여기 있음