에이전트는 작업을 이어 갈 때 이전 지침과 도구, 대화 내용을 반복해서 읽고, 30분 안에 같은 내용을 다시 쓰면 캐시가 적용돼 입력 토큰 비용을 최대 90% 아낄 수 있습니다.
캐시 적중률을 보여 주는 대시보드와 실패 원인을 찾는 진단 도구가 추가됐습니다.
캐시를 유지한 채 GPT-6의 추론 강도를 바꿀 수도 있습니다.
Choi
깃허브는 이 개선으로 새로 처리하는 토큰이 절반 넘게 줄었다고 밝혔고, 90% 할인은 캐시된 입력에만 붙어 출력과 도구 실행 비용은 그대로입니다.
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.
