랙스케일
NVL72 · NVLink · 랙 단위 · 인터커넥트
GPU 수십 장을 고속 인터커넥트로 묶어 한 대처럼 쓰는 단위입니다. 엔비디아 GB300 NVL72가 대표 구성이고, 큰 모델은 카드 한 장에 들어가지 않아 랙 단위로 사고파는 거래가 표준이 됐습니다. 엔비디아 네트워킹 매출이 전년 대비 199% 늘어난 배경입니다.
‘랙스케일’ 이 나오는 글1
아티클AI
AMD에 0%를 줬던 세미애널리시스, '승산 크다'며 조건 두 개를 달았습니다
세미애널리시스가 AMD의 성공 확률을 0%에서 「승산이 크다」로 올리며 조건 두 개를 달았습니다. 랙 한 대에 리타이머가 550개 넘게 들어가는 Helios 조립, 엔비디아의 10분의 1에도 못 미치는 사내 GPU 클러스터입니다.
14분
함께 나오는 용어3
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- CUDA엔비디아 GPU에서 연산 코드를 짜고 돌리는 소프트웨어 층입니다. 학습과 서빙 도구가 전부 이 위에 쌓여 있어서 다른 칩으로 옮기는 비용이 크고, 세미애널리시스는 이 잠금 효과를 엔비디아의 해자로 부릅니다.
- 커널GPU 한 장 안에서 실제 계산을 돌리는 작은 프로그램입니다. 같은 모델이라도 커널을 그 칩에 맞게 다시 쓰면 처리량이 몇 배 갈립니다. 다룰 줄 아는 사람이 회사마다 몇 명뿐인 층입니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.