자본지출
CapEx · 설비투자
데이터센터와 GPU처럼 오래 쓰는 설비에 미리 들이는 돈입니다. 매출보다 이 숫자가 먼저 커지는 구조여서, CoreWeave는 분기 매출 26억 달러에 자본지출 71억 달러를 썼습니다. 메타는 올해 설비투자를 1,250억에서 1,450억 달러로 잡았습니다.
‘자본지출’ 이 나오는 글3
팟캐스트AI
"10만 칩이면 한 시간에도 여러 번 고장" 구글 AI 인프라 총괄의 굿풋론
구글 AI 인프라를 총괄하는 아민 바흐다트가 10월 6일 Training Data에서 가속기 10만 개면 한 시간에도 여러 번 고장 난다며 FLOPS 대신 굿풋을 잰다고 말했습니다. 6개월마다 두 배인 토큰 용량, TPU 8i·8t 분리, 전력망을 기다리는 이유도 설명했습니다.

1시간 4분Amin Vahdat
소식AI
중국에선 못 사는 AI 칩 10만 개, 텐센트가 오라클 동남아에서 빌립니다
텐센트가 오라클 동남아 데이터센터의 첨단 AI 칩 약 10만 개를 5년 동안 빌리는 약 70억 달러 계약을 맺었다고 FT가 10월 1일 보도했습니다. 칩 한 개를 한 시간 쓰는 값으로 약 1.6달러이고, 해외 임차를 막는 미국 법안은 상원에 있습니다.
10분
팟캐스트AI
새 AI 연산 30%가 오픈AI·앤트로픽으로, 딜런 파텔 "2028년엔 대부분"
세미애널리시스의 딜런 파텔이 8월 25일 Dwarkesh Podcast에서 오픈AI와 앤트로픽이 올해 새 AI 연산의 약 30%, 내년 40~50%를 가져간다고 추정했습니다. 2029년까지 AI 설비투자 11조 달러 가운데 5조 달러 이상을 빚으로 댈 것으로 봤습니다.

1시간 17분Dylan Patel
함께 나오는 용어5
- 추론학습이 끝난 모델을 실제로 돌려 답을 만드는 단계입니다. 비용·속도·지연 시간 이야기는 대부분 여기서 나옵니다.
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 추론 칩학습보다 서비스 단계의 연산에 맞춰 설계한 전용 칩입니다. 범용 GPU보다 전력당 처리량을 높이는 쪽에 초점이 있고, 모델 가중치를 회로에 새기는 극단적 설계까지 나왔습니다.
- TPU구글이 브로드컴과 함께 설계한 자체 AI 가속기입니다. 엔비디아 GPU를 사지 않고도 학습과 서빙을 돌릴 수 있어서, 구글은 7세대까지 이어 가며 2031년까지 공급 계약을 연장했습니다. 하이퍼스케일러가 자체 칩으로 옮겨 가는 흐름에서 가장 오래된 사례입니다.
- 굿풋전체 처리량 중 목적과 품질 기준을 만족해 유효한 결과로 남은 양입니다. 네트워크에서는 실제 유용한 데이터 전송량, AI 운영에서는 실패·재작업 등을 구분한 성과를 볼 수 있습니다. 무엇을 유효하게 셀지와 시간 단위를 함께 정해야 합니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.
