아래로 당겨서 돌아가기
Anthropic이 3월 6일 캐시 유효기간을 몰래 단축했다—API 비용에 영향을 미칠 수 있어

Anthropic이 3월 6일 캐시 유효기간을 몰래 단축했다—API 비용에 영향을 미칠 수 있어

Anthropic just quietly reduced how long your API cache lasts—here's why that matters

Anthropic의 Claude API를 사용 중이라면 놓친 변화가 있을 수 있습니다. 3월 6일에 캐시된 요청의 유효기간(TTL)을 단축했거든요. 쉽게 말해서, API 응답 속도를 높이고 비용을 절감해주던 임시 저장 데이터가 이제 더 빨리 만료된다는 뜻입니다. 냉장고의 유통기한이 짧아진 것처럼, 계속 새로운 요청을 보내면 큰 문제가 아니지만 캐시 히트로 비용을 절감하던 사람들은 청구액이 올라갈 수 있습니다. 문제는 새로운 TTL 값을 명확하게 공지하지 않았다는 것입니다. API 로그를 확인해서 이 변화가 당신의 사용 패턴에 영향을 미치는지 살펴보는 것이 좋습니다.

키워드

cache TTLdowngradeAPI changeprompt caching