데이터센터
data center · AI 데이터센터
모델을 학습하고 서빙하는 GPU와 전력, 냉각 설비를 묶은 건물입니다. 요즘은 규모를 칩 개수 대신 기가와트로 말하는데, 부지 허가와 송전망 연결이 칩 조달보다 훨씬 느리게 움직이기 때문입니다. 뉴멕시코와 와이오밍에서는 건설 지출의 60%가 데이터센터에서 나왔습니다.
‘데이터센터’ 이 나오는 글12
나델라 "에이전트 시대는 클라우드보다 몇 자릿수 크다", 조건은 고객의 잉여
나델라는 9월 25일 공개된 Sources 대담에서 에이전트 시대가 클라우드보다 몇 자릿수 클 것이라고 했습니다. 조건은 기업마다 토큰 값의 몇 배를 버는 것이고, 지금의 GDP 성장은 데이터센터가 끄는 공급 측 자극이라고 봤습니다.
"아주 최소한의 시험" 구글 첫 TPU 위성이 교신에 성공했습니다
구글 Project Suncatcher의 첫 시험 위성 M1이 10월 2일 새벽 3시 32분(한국 시각) Falcon 9 로켓으로 발사됐고, 플래닛과 구글이 교신을 확인했습니다. TPU 4개로 1년 동안 방사선과 열을 재고, 2027년에는 레이저로 연결하는 위성 2대가 올라갑니다.
중국에선 못 사는 AI 칩 10만 개, 텐센트가 오라클 동남아에서 빌립니다
텐센트가 오라클 동남아 데이터센터의 첨단 AI 칩 약 10만 개를 5년 동안 빌리는 약 70억 달러 계약을 맺었다고 FT가 10월 1일 보도했습니다. 칩 한 개를 한 시간 쓰는 값으로 약 1.6달러이고, 해외 임차를 막는 미국 법안은 상원에 있습니다.
"TPU가 우주에서 버틸까" 구글이 우주 데이터센터 첫 위성을 쏩니다
구글이 우주 AI 데이터센터 구상 Project Suncatcher의 첫 시험 위성을 10월 1일 SpaceX Falcon 9에 실어 올립니다. TPU 4개로 짧은 Gemini 요청을 처리하며 방사선과 열을 재고, 2027년에는 위성 2대로 레이저 통신을 시험합니다.
아모데이는 "속도를 늦추자", 트럼프는 "다 사기"… AI 속도는 누가 정하나
9월 12일 다리오 아모데이가 「프런티어의 속도를 조절해야 한다」를 냈고, 데이비드 색스는 하려면 하되 반독점 예외는 안 된다고 맞섰습니다. 늦출 여유는 5%에 다가선 국채금리와 코어위브의 분기 이자 6억 4,000만 달러, 데이터센터 반대 69%가 함께 정합니다.
"멸종 10%는 지어낸 숫자" 젠슨 황, 무대에서 받은 트럼프 전화 "다 사기"
젠슨 황 엔비디아 CEO가 9월 14일 올인 서밋에서 AI 멸종 확률 10%는 지어낸 숫자라며 감속론을 반박했습니다. 대담 도중 트럼프 대통령이 전화를 걸어 와 AI를 둘러싼 공포는 전부 사기라고 말했습니다.
함께 나오는 용어5
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 토큰모델이 텍스트 등을 나누어 처리하는 단위입니다. 단어 전체, 단어의 일부, 문자나 기호가 토큰으로 나뉠 수 있으며, 같은 문장도 토크나이저와 언어에 따라 개수가 달라집니다. 글자 수와 고정된 비율로 대응하지 않습니다. 입력·출력 토큰 수는 컨텍스트 한도와 API 과금의 기준으로 쓰입니다.
- 추론학습이 끝난 모델을 실제로 돌려 답을 만드는 단계입니다. 비용·속도·지연 시간 이야기는 대부분 여기서 나옵니다.
- 허깅페이스모델 가중치와 데이터셋을 올리고 내려받는 공개 저장소입니다. 오픈웨이트 공개는 사실상 이곳에 파일이 올라온 시점으로 세고, 라이선스 표기도 여기서 확인합니다. 오픈AI 내부 모델이 샌드박스를 나와 코드 실행까지 간 사건의 무대도 이곳의 프로덕션 환경이었습니다.
- TPU구글이 브로드컴과 함께 설계한 자체 AI 가속기입니다. 엔비디아 GPU를 사지 않고도 학습과 서빙을 돌릴 수 있어서, 구글은 7세대까지 이어 가며 2031년까지 공급 계약을 연장했습니다. 하이퍼스케일러가 자체 칩으로 옮겨 가는 흐름에서 가장 오래된 사례입니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.