아래로 당겨서 돌아가기
Google, TPU 8t와 8i 공개—AI 칩이 학습과 추론으로 분화

Google, TPU 8t와 8i 공개—AI 칩이 학습과 추론으로 분화

Google Splits AI Chips Into Two Specialists: New TPU 8t and 8i Target Training vs. Inference

Google이 Cloud Next에서 8세대 텐서 처리 장치(TPU)를 발표했는데, 가장 주목할 점은 TPU 라인업을 처음으로 학습용(TPU 8t)과 추론용(TPU 8i)으로 나눴다는 것입니다. 쉽게 말해, 이제까지의 '만능 칩'에서 벗어나 용도별 전문화된 칩으로 전환한 거죠. 특히 자율적으로 판단하고 행동하는 에이전트 AI의 수요가 늘어나면서 빠른 처리 속도와 낮은 지연 시간이 중요해졌기 때문입니다. Google이 AI 인프라에 얼마나 진지한지 잘 보여주는 발표입니다.