국내 최대 688B 모델은 무료, SK는 메모리와 데이터센터로 돈을 법니다

한 그룹에서 나온 발표를 날짜순으로 적으면 다음과 같습니다. 엔비디아와의 의향서가 먼저였고, 모델 공개와 SK하이닉스 실적 발표가 같은 날 뒤따랐습니다.

6월 22일 SK하이닉스가 2000년 이후 처음으로 삼성전자를 제치고 코스피 시가총액 1위에 오른 뒤 한 달 만에 나온 발표들입니다. 메모리를 만드는 회사와 그 메모리가 든 서버로 데이터센터를 채울 회사, 그 데이터센터에서 돌릴 모델을 만든 회사가 모두 SK 안에 있고, 이번 주에는 그 가운데 모델이 무료로 풀렸습니다.

6,880억 개 가운데 토큰마다 330억 개만 계산합니다

A.X K2는 MoE(전문가 혼합) 구조입니다. 모델 안에 전문가 네트워크 256개와 공용 전문가 1개를 두고, 토큰마다 전문가 8개를 골라 공용 전문가와 함께 계산합니다. 그래서 토큰 하나에 쓰는 매개변수는 전체의 약 4.8%인 330억 개입니다.

직전 모델 A.X K1(5,190억 개)과 견주면 켜지는 매개변수 330억 개는 그대로 두고 전문가 수만 192개에서 256개로 늘렸습니다. 문맥은 12만 8,000토큰까지 학습했고, 추론할 때 위치 정보를 늘려 읽는 YaRN 기법으로 25만 6,000토큰까지 받습니다.

아파치 2.0이라 매출 상한도, 별도 사용 허가 요청도 없습니다. 가중치를 받아 회사 서버에 올리고 제품에 붙여 팔아도 되는데, 국내 대기업이 이 규모의 모델을 이 조건으로 푼 적은 없었습니다. SKT는 이미지를 읽는 A.X K2 VL 라이트 프리뷰(210억 개)와 음성 모델 A.X K2 ALM(220억 개)을 함께 냈고, 크래프톤이 자체 개발한 음성 모델 A.X K2 라온 스피치(210억 개)도 함께 공개됐습니다.

딥시크 V3.2 설계 위에 세 가지를 바꿨습니다

허깅페이스 트랜스포머스 라이브러리 문서는 A.X K2를 딥시크 V3.2 구조(MLA와 딥시크 희소 어텐션)에 SKT의 수정 세 가지를 더한 모델로 설명합니다. 세 가지는 희소 게이트 어텐션(SGA), 게이트를 단 정규화(Gated RMSNorm), 어텐션 출력 게이트입니다. 뼈대 숫자도 겹쳐서 은닉 차원 7,168, 61개 층, 전문가 256개는 딥시크 V3와 같고, 어텐션 헤드를 128개에서 64개로, 앞단 밀집층을 3개에서 1개로 줄인 점이 다릅니다.

어텐션은 모델이 글을 읽을 때 어느 단어를 참고할지 고르는 계산입니다. SGA에서는 가벼운 선별기(인덱서)가 질문마다 관련 있는 토큰 2,048개만 골라 그것만 계산하는데, 12만 8,000토큰 문맥이라면 1.6%만 보는 방식입니다. 여기에 출력 게이트를 달아 쓸모없는 토큰에 주의가 몰리는 현상(어텐션 싱크)을 줄였습니다.

선별기를 가르치는 방식도 다릅니다. 딥시크 V3.2와 GLM-5는 선별기를 먼저 전체 어텐션 분포에 맞춰 예열한 뒤 희소 선택을 켜는데, A.X K2는 처음부터 자기가 고른 2,048개만으로 예열했습니다. 리포트는 이 방식이 비용이 덜 들고, 적응 단계 전후 LongBench 점수가 62.80에서 62.99로 거의 그대로였다고 적었습니다.

저는 계보를 리포트에 밝혀 둔 쪽이 산업에 남기는 것이 많다고 봅니다. 공개된 설계에서 무엇을 바꿨는지 적혀 있으면 다음 팀이 같은 설계에서 출발해 다른 부분을 고칠 수 있고, 처음부터 다 만들었다고 말하는 모델보다 검증도 쉽습니다.

수학과 한국어는 1위, 웹 검색은 9.3점입니다

SKT가 보도자료에 그린 막대는 A.X K2가 1위를 한 다섯 과제였습니다. AIME26과 Apex, KMMLU-Pro, CLIcK, τ²-Bench 통신이고, 비교 상대는 큐원3.5, 딥시크 V4 플래시, GLM-5.1, Kimi K2.6처럼 최근 6개월 사이 나온 오픈웨이트 모델입니다.

같은 모델 카드에 실린 다른 줄까지 더하면 순서가 달라지는 과제가 나옵니다. 비교 모델 가운데 가장 높은 점수와 함께 적으면 다음과 같습니다.

국제수학올림피아드 2025 문제로는 42점 만점에 35점을 받아 금메달 기준선에 닿았고, 한국수학올림피아드 2차 8문제의 증명도 모두 맞혔다고 SKT는 밝혔습니다. 반대편 숫자는 BrowseComp입니다. 검색을 10회 이하로 제한하고 웹에서 답을 찾게 하는 이 시험에서 A.X K2는 9.3점으로 GLM-5.1(29.1점)의 3분의 1에 못 미쳤고, 리포트는 사후 학습에서 에이전트 강화학습을 적게 돌렸다고 스스로 적었습니다.

이 표는 대부분 SKT가 직접 돌린 결과입니다. 공개 당시 모델 카드에서 외부 기관인 아티피셜 애널리시스가 채점한 줄은 별표가 붙은 τ²-Bench 하나였고, 공개 당일 기준으로 아티피셜 애널리시스 지수와 아레나 순위표에 A.X K2는 올라와 있지 않았습니다. 전작은 외부 시험을 거친 적이 있습니다. KAIST가 2026년 한국수학올림피아드 문제로 국내외 11개 모델을 돌렸을 때 A.X K1이 정답률 83.75%로 1위였습니다.

데이터는 1.8조 토큰, GPU는 K1 최대치의 3분의 1로 줄였습니다

사전학습 데이터는 약 8조 2,000억 토큰으로, 약 10조 토큰을 쓴 K1보다 적습니다. 그런데도 SKT는 국내외 14개 벤치마크 평균이 K1보다 32.2%포인트 올랐고, 장문 이해와 에이전트 평가에서는 약 83.9%포인트 올랐다고 밝혔습니다.

줄인 방법은 거르기였습니다. 후보로 모은 16조 2,000억 토큰을 교육적 가치와 난이도로 채점해 절반 남짓만 남겼고, 일반 지식 6조 4,000억 토큰, 추론용 고품질 1조 4,000억 토큰, 긴 문맥 3,600억 토큰 순으로 어려워지는 3단계 커리큘럼을 짰습니다. 1단계 언어 구성은 영어 72.7%, 한국어 15.4%, 코드 8.3%이고, 한국어 웹 텍스트 약 1조 3,700억 토큰은 SKT가 직접 수집했습니다.

학습에는 엔비디아 B200 512장(8장짜리 노드 64대)을 약 70일 동안 썼습니다. K1은 H200을 1,024장에서 시작해 1,536장까지 늘려 73일을 돌렸으니, 장수로는 K1 최대치의 3분의 1입니다. B200 한 장의 메모리가 H200보다 커서 파이프라인 병렬 단계를 16에서 8로 줄였고, 전문가 병렬 통신은 한 노드 안의 GPU 8장 사이로 묶었습니다.

국내 팀이 쓸 수 있는 GPU 규모도 이 숫자에 남았습니다. 정부가 독자 AI 파운데이션 모델 사업 1차 때 민간 GPU를 빌려 각 팀에 댔는데, SKT를 통해 공급된 물량이 B200 1,024장이었습니다.

그 GPU에 쌓인 HBM은 같은 그룹이 팝니다

A.X K2가 공개된 7월 29일 SK하이닉스는 2분기 매출 79조 3,187억 원, 영업이익 60조 5,426억 원을 발표했습니다. 영업이익률은 76%로 1분기 72%에서 4%포인트 더 올랐고, HBM4는 2분기에 양산 출하를 시작했으며, 주요 고객을 포함한 10여 개 고객과 장기공급계약 협상을 마무리했다고 밝혔습니다.

다만 메모리 한 단계만 보면 간격은 좁아지고 있습니다. SK하이닉스의 HBM 매출 점유율은 2025년 1분기 69%에서 2026년 1분기 58%로 내려왔고, 같은 기간 삼성전자는 13%에서 21%로 올라 마이크론과 나란히 섰습니다. 삼성전자도 2월에 HBM4 상업 출하를 시작했습니다.

전기를 끌어오는 일은 SK하이퍼가 맡습니다

그래서 SK는 메모리 밖으로 사업을 넓힙니다. SK텔레콤은 7월 23일 이사회에서 AI 데이터센터 사업개발 법인 SK하이퍼를 100% 자회사로 세우고 2030년까지 7,500억 원을 나눠 출자하기로 의결했습니다. SK하이퍼는 부지 확보와 변전소 구축·운영, 고객 유치를 맡고, 2029년까지 5GW를 단계적으로 연 뒤 2035년 15GW로 늘리는 것이 목표입니다. 울산의 GW급 클러스터에서 시작해 충청권과 서남권으로 넓힐 계획입니다.

다음 날인 7월 24일(현지 시각) 샌프란시스코 K-AI 서밋에서 SK그룹과 엔비디아는 5,000억 달러 이상 규모의 AI 인프라 협력 의향서(LOI)를 썼습니다. SK텔레콤은 엔비디아의 AI 팩토리 플랫폼 DSX를 바탕으로 SK하이닉스 HBM4가 들어간 베라 루빈 시스템을 들여 최대 2GW 규모 AI 팩토리를 2027년부터 단계적으로 가동하기로 했습니다. 같은 행사에서 SK텔레콤은 앤트로픽과 국내 GW급 AI 데이터센터 협력 MOU를 맺었고, SK하이닉스는 마이크로소프트와 메모리 장기 공급 협력을 추진하기로 했습니다.

AI 시대의 경쟁력은 AI를 얼마나 잘 활용하느냐를 넘어, 얼마나 많은 지능을 만들어내는지에 달려 있습니다.— 최태원, SK그룹 회장 (7월 24일 K-AI 서밋)

아직 구속력 있는 구매계약은 아닙니다. 엔비디아와 쓴 문서는 의향서이고, 가동 일정도 2027년부터 단계적으로라는 계획까지만 나왔습니다. SK하이퍼 의결과 이튿날 나온 서밋 총액을 어떻게 따질지는 샌프란시스코 서밋의 발표액을 다룬 글에 적었습니다.

이번 주 발표를 단계별로 놓으면 SK가 쥔 부분과 밖에서 사 오는 부분이 갈립니다. 단계마다 7월 마지막 주에 나온 숫자를 붙였습니다.

이 표에서 SK 바깥에서 사 오는 단계는 학습용 가속기입니다. 삼성전자는 메모리와 파운드리에서 경쟁하지만 자체 모델은 사내용에 머물러 있어서, 자기가 파는 부품으로 자기 모델을 돌려 자기 고객에게 파는 순환은 SK 쪽이 더 촘촘합니다.

아티클·12분 읽기AI반도체가 수출의 40%인데, 한국만 각개전투로 협상합니다7월 24일 샌프란시스코에서 9,500억 달러 반도체 협력이 발표됐지만 가격·물량·선수금은 공개되지 않았습니다. 같은 주 중국 부총리는 국산 칩을 거부하는 기업을 매국노라 불렀고, 창신메모리는 상장으로 579억 위안을 모았습니다.읽기

학습 칩은 엔비디아에서 사고, 추론 칩은 국산으로 시험합니다

학습을 엔비디아 B200으로 했으니 이 단계는 여전히 밖에서 사 옵니다. 그래서 SK는 추론에 국산 칩을 붙이고 있습니다. 기술 리포트는 A.X K2가 리벨리온 아톰맥스에서 엔비디아 L40S 대비 전력당 성능 107%를 냈다고 적었고, 리벨리온은 SK의 사피온을 흡수한 회사입니다. 합병 당시 기업가치 비율은 사피온 대 리벨리온 1대 2.4였고, SK텔레콤의 유효 지분율은 35.3%로 공시됐습니다.

다만 107%는 SKT가 자기 리포트에 실은 수치입니다. 리벨리온이 7월 23일 공개한 시연도 5,190억 개짜리 K1을 서버 한 대에서 돌린 것이었고, 실제 상용 트래픽 사례는 에이닷 통화 요약 기능을 약 1년 운영한 것이 대표적입니다. 국산 NPU는 연산 성능보다 작업을 나눠 주는 배분기, 장비 상태를 보는 관측 도구, 저장·전력·장애 복구 같은 운영 도구에서 더 오래 막힙니다.

국내 최대, 같은 달 네 배 큰 모델이 먼저 풀렸습니다

A.X K2의 6,880억 개는 국내에서 공개된 모델 가운데 가장 큽니다. 해외 오픈웨이트까지 넣으면 순서는 이렇습니다.

Kimi K3는 A.X K2의 네 배가 넘습니다. 문샷은 7월 27일 가중치와 함께 어텐션 커널과 MoE 통신 라이브러리, 에이전트 환경 실행 시스템까지 풀었고, 이 과정은 문샷의 풀스택 공개를 다룬 글에 정리했습니다. SKT도 보도자료에서 후속 모델을 조 단위 매개변수로 키우겠다고 밝혔고, 리포트는 다음 과제로 네이티브 멀티모달과 조 단위 확장을 꼽았습니다.

정부 사업에서는 아직 경쟁 중입니다. 독자 AI 파운데이션 모델 사업은 2025년 8월 15개 신청 팀 가운데 5팀으로 시작했고, 2026년 1월 1차 평가에서 네이버클라우드와 NC AI가 떨어졌습니다. SKT는 LG와 함께 통과했고 2월에 모티프가 합류해 지금 4팀이 겨루며, 2차 평가는 8월이고 최종 2팀 선정은 2027년 2월로 조정됐다는 보도가 나왔습니다.

아티클·11분 읽기AI스마트공장 3만 개 다음은 독자 AI, 정부 목표는 '최신 모델의 95%'독자 AI 사업의 목표는 6개월 안에 나온 최신 글로벌 모델 대비 95% 성능이고, 네 팀이 8월 초 2차 평가를 앞두고 있습니다. 앞서 보급한 스마트공장은 도입 기업 78.7%가 기초 수준이었고, 중소 제조기업 AI 도입률은 1%였습니다.읽기

무료 모델을 돌리려면 80GB 카드 12장이 필요합니다

가중치가 무료여도 그 가중치를 돌리는 장비는 무료가 아닙니다. 모델 카드는 FP8 가중치가 디스크에서 약 647GiB이고, KV 캐시와 활성값까지 합치면 GPU 메모리가 최소 800GiB 필요하다고 적었습니다. 검증에는 275GiB짜리 B300 네 장을 썼고, 80GB 카드라면 12장 이상이 있어야 합니다.

4비트로 줄이면 부담이 내려갑니다. 리포트가 적은 최소 서빙 메모리는 다음과 같고, 전문가 가중치만 4비트로 줄인 NVFP4 모델은 11개 과제 평균에서 FP8 정확도의 99.0%를 유지했습니다.

문서가 길수록 구조의 효과가 커집니다. B200 한 노드에서 K1과 같은 조건으로 재면 입력 3만 2,000토큰에서는 매개변수가 많은 K2가 총 처리량에서 18.2% 뒤지지만, 6만 4,000토큰부터 앞서고 12만 토큰에서는 35.4% 더 처리합니다. 수백 쪽짜리 계약서와 설계도, 공정 기록을 한꺼번에 넣는 기업 업무를 겨냥한 설계입니다.

그래서 이 공개로 바로 이득을 보는 곳은 카드 열두 장을 들일 수 있는 중견기업 이상이거나, 이 모델을 올려 주는 국내 클라우드를 빌려 쓰는 조직입니다. 대학 연구실과 초기 스타트업 대부분은 뒤쪽을 택하게 되고, SK도 그 설비를 짓는 회사 가운데 하나입니다. 반대로 업스테이지는 2,500억 개 가운데 150억 개만 켜는 Solar Open 2를 양자화하면 H200 두 장에 올라가게 만들었고, 이 선택은 Solar Open 2의 온프레미스 전략에서 다뤘습니다.

모델은 무료로 풀고 수요는 데이터센터로 모읍니다

가중치를 열면 제조·국방·바이오 고객이 자기 서버에서 시험합니다. SKT는 KG스틸 당진공장의 냉간 압연 라인과 코넥의 주조·가공 공정에 하반기 제조 특화 AI 에이전트 데모를 적용할 예정이고, 국방부와는 A.X K1 기반 양자화 모델 3종을 만들어 육·해·공군과 해병대에서 쓰기로 했습니다. SK바이오팜에서는 1~2년 걸리던 신약 초기 연구 기간이 5개월로 줄었다고 회사가 밝혔습니다.

이런 시험이 늘수록 연산 수요가 늘고, 그 수요가 국내 데이터센터와 메모리로 돌아올 때 SK의 회수가 일어납니다. 조건이 하나 붙습니다. 가중치를 받아 간 기업이 추론까지 국내 서버에서 돌려야 하고, 해외 클라우드에 올려 쓰면 SK에 남는 것은 사용 사례뿐입니다. 그래서 저는 이 전략의 성과를 다운로드 수보다 국내 데이터센터 임대 계약 건수로 재 보려 합니다.

남은 변수는 전력과 시점입니다

부지와 변전소는 SK하이퍼가 맡지만 계통 연결과 인허가는 정부가 정합니다. 2024년 8월부터 올해 3월까지 수도권 데이터센터가 신청한 전력계통영향평가 522건 가운데 최종 승인은 10건이었습니다. 엔비디아 합의도 2027년 가동을 목표로 한 의향서 단계이고, HBM4 물량과 가격은 고객마다 협상이 이어지고 있습니다.

제가 확인할 일정은 두 가지입니다. 8월 2차 평가에서 SKT가 어떤 결과를 받는지, 그리고 2027년 2GW 팩토리의 첫 단계에 실제로 전기가 들어오는지입니다. 2차 평가 결과가 나오면 다시 전하겠습니다.

읽어 주셔서 고맙습니다.

초이 드림