8월 19일 (수) AI 데일리 브리핑

소식 아티클 논문 인터뷰 팟캐스트

오픈AI는 GPT-5.6 실전 가이드에서 작은 Luna 모델로 문서 추출 비용을 18분의 1로 줄인 사례를 공개했고, 세레브라스는 GPU보다 최대 30배 빠르다는 추론 시스템 CS-4를 내놨습니다. Unsloth는 Qwen3.8-27B를 램 8GB 노트북에서 돌아가게 압축했고, 앤트로픽은 Claude Cowork를 모바일과 웹으로 넓혔습니다.

오늘의 브리핑13

오전 7시

1
오픈AI
오픈AI가 GPT-5.6으로 에이전트 비용을 줄이는 실전 가이드를 공개했습니다.
문서 추출은 작은 Luna 모델로 정확도를 거의 그대로 두고 비용을 18분의 1로 줄였고, 3개월 전 33달러 들던 검색 벤치마크는 이제 같은 성능에 1.3달러면 됩니다. 특히 ARC-AGI-3 실험에서는 모델은 그대로 두고 추론 보존과 컨텍스트 압축 두 설정만 켰더니 점수가 13.3%에서 38.3%로 뛰었습니다. 출력 토큰은 오히려 6분의 1로 줄었습니다. 가이드의 요지는 판단이 필요한 일만 모델에 맡기고, 데이터를 나르고 거르는 일은 코드로 빼고, 매번 최상위 모델을 부르는 습관을 버리라는 겁니다.
문서 추출은 작은 Luna 모델로 정확도를 거의 그대로 두고 비용을 18분의 1로 줄였고, 3개월 전 33달러 들던 검색 벤치마크는 이제 같은 성능에 1.3달러면 됩니다.
특히 ARC-AGI-3 실험에서는 모델은 그대로 두고 추론 보존과 컨텍스트 압축 두 설정만 켰더니 점수가 13.3%에서 38.3%로 뛰었습니다.
출력 토큰은 오히려 6분의 1로 줄었습니다.
가이드의 요지는 판단이 필요한 일만 모델에 맡기고, 데이터를 나르고 거르는 일은 코드로 빼고, 매번 최상위 모델을 부르는 습관을 버리라는 겁니다.
AI 인사이트
같은 모델이라도 앞 단계의 추론을 다음 호출에 남기고 쌓인 컨텍스트를 압축하면, 다시 생각하느라 쓰던 토큰이 줄고 긴 과제에서 점수가 오릅니다.
자세히 읽기 원문 보기openai.com
2
AI
맥스 테그마크가 초지능 경쟁을 “자살 경쟁(suicide race)”이라고 경고했습니다.
맥스 테그마크(Max Tegmark)는 “초지능을 향한 경쟁은 군비 경쟁 대신 자살 경쟁(suicide race)”이라고 했습니다. 국가 간 AI 개발 경쟁은 승자가 존재한다는 잘못된 전제에 기반하고 있으며, 인간을 압도하는 초지능 기계가 등장하는 순간 먼저 개발한 쪽 역시 통제권을 잃고 인류 전체가 무력화될 것이라는 지적입니다. 그는 “자살 경쟁에서 유일하게 승리하는 방법은 게임에 참여하지 않는 것”이라며, 영화 〈워게임〉의 교훈을 상기시켰습니다. 동물원 우리에 동물이 갇히고 인간이 그 밖에 있는 이유는 인간이 더 똑똑하기 때문이라며, “인간보다 뛰어난 지능체가 등장하면 가장 똑똑한 존재가 세상의 주도권을 쥐게 된다”고 강조했습니다.
맥스 테그마크(Max Tegmark)는 “초지능을 향한 경쟁은 군비 경쟁 대신 자살 경쟁(suicide race)”이라고 했습니다.
국가 간 AI 개발 경쟁은 승자가 존재한다는 잘못된 전제에 기반하고 있으며, 인간을 압도하는 초지능 기계가 등장하는 순간 먼저 개발한 쪽 역시 통제권을 잃고 인류 전체가 무력화될 것이라는 지적입니다.
그는 “자살 경쟁에서 유일하게 승리하는 방법은 게임에 참여하지 않는 것”이라며, 영화 〈워게임〉의 교훈을 상기시켰습니다.
동물원 우리에 동물이 갇히고 인간이 그 밖에 있는 이유는 인간이 더 똑똑하기 때문이라며, “인간보다 뛰어난 지능체가 등장하면 가장 똑똑한 존재가 세상의 주도권을 쥐게 된다”고 강조했습니다.
AI 인사이트
테그마크의 논리는 초지능이 나오면 먼저 만든 나라도 통제권을 잃는다는 전제에서 출발해, 개발 경쟁에서 이긴 쪽이 이득을 본다는 군비 경쟁 논리를 거부합니다.
원문 보기youtube.com
3
AI에이전트
Vercel Labs가 초경량 코딩 에이전트 fx를 오픈소스로 공개했습니다.
fx는 원래 Vercel 내부에서 사용하던 도구입니다. 설치 파일이 6.3MB에 불과하고 실행 속도와 메모리 사용량을 최대한 줄인 것이 특징입니다. 쉽게 말하면 Cursor나 Claude Code처럼 많은 기능을 넣는 대신, AI 모델 성능 테스트나 제한된 환경에서 빠르게 코딩 작업을 시키는 데 초점을 맞췄습니다. 특정 AI 모델에 묶이지 않아 로컬·클라우드 모델을 사용할 수 있고, skills·plugins·MCP로 기능을 추가할 수도 있습니다. 사용 기록은 로컬에 저장되며 제품 사용 정보를 수집하는 텔레메트리도 없습니다. 현재는 실험 단계라 기능이 자주 변경될 수 있습니다.
fx는 원래 Vercel 내부에서 사용하던 도구입니다.
설치 파일이 6.3MB에 불과하고 실행 속도와 메모리 사용량을 최대한 줄인 것이 특징입니다.
쉽게 말하면 Cursor나 Claude Code처럼 많은 기능을 넣는 대신, AI 모델 성능 테스트나 제한된 환경에서 빠르게 코딩 작업을 시키는 데 초점을 맞췄습니다.
특정 AI 모델에 묶이지 않아 로컬·클라우드 모델을 사용할 수 있고, skills·plugins·MCP로 기능을 추가할 수도 있습니다.
사용 기록은 로컬에 저장되며 제품 사용 정보를 수집하는 텔레메트리도 없습니다.
현재는 실험 단계라 기능이 자주 변경될 수 있습니다.
AI 인사이트
fx는 특정 모델에 묶이지 않고 기능을 줄여 설치 파일이 6.3MB라, 여러 모델을 같은 도구에 붙여 성능을 비교하거나 자원이 제한된 환경에서 돌리는 용도로 만들어졌습니다.
원문 보기fx.sh
4
앤트로픽
Claude의 작업용 AI 기능인 Cowork가 모바일과 웹으로 확대됩니다.
쉽게 말하면 PC에서 Claude에게 일을 맡긴 뒤 노트북을 꺼도 작업이 계속 진행됩니다. 밖에서는 스마트폰으로 진행 상황을 확인하고, 판단이 필요한 부분이 생기면 질문을 받아 답할 수 있습니다. 예를 들어 오전 6시에 고객 미팅 준비를 예약해두면 컴퓨터가 꺼져 있어도 대화와 자료를 확인해 요약본을 만들고 후속 이메일 초안까지 준비합니다. 웹과 데스크톱에서는 기존 Chat과 Cowork도 하나로 통합됩니다. 현재 Max 요금제부터 베타가 순차적으로 제공되고 있으며, 이후 다른 요금제로 확대될 예정입니다.
쉽게 말하면 PC에서 Claude에게 일을 맡긴 뒤 노트북을 꺼도 작업이 계속 진행됩니다.
밖에서는 스마트폰으로 진행 상황을 확인하고, 판단이 필요한 부분이 생기면 질문을 받아 답할 수 있습니다.
예를 들어 오전 6시에 고객 미팅 준비를 예약해두면 컴퓨터가 꺼져 있어도 대화와 자료를 확인해 요약본을 만들고 후속 이메일 초안까지 준비합니다.
웹과 데스크톱에서는 기존 Chat과 Cowork도 하나로 통합됩니다.
현재 Max 요금제부터 베타가 순차적으로 제공되고 있으며, 이후 다른 요금제로 확대될 예정입니다.
AI 인사이트
작업이 사용자 PC 대신 앤트로픽 서버에서 돌기 때문에, 노트북을 꺼도 예약한 작업이 이어지고 스마트폰으로 중간 질문에 답할 수 있습니다.
5
AI연구
Inco AI의 DFlash 2로 맥북에서 27B 모델이 초당 70토큰으로 돕니다.
Inco AI가 공개한 DFlash 2는 출력은 그대로 두고 디코딩만 최대 4.6배 빠르게 하는 기술입니다. 작은 초안 모델이 다음 토큰들을 미리 써보고 본 모델은 채점만 하는 게 기존 방식인데, DFlash는 이 초안까지 한 번에 병렬로 만듭니다. 대신 각 위치의 토큰을 따로 예측하니 문장이 어긋나는 게 약점이었는데, 연구팀이 들여다보니 정답 토큰은 이미 상위 후보 안에 99.5% 들어 있었습니다. 예측을 더 잘할 필요 없이, 깔린 후보 사이에서 자연스럽게 이어지는 길만 고르면 됐던 겁니다. 그래서 무거운 보정 모델 대신 아주 가벼운 선택기를 붙였고, 추가 지연은 1% 수준입니다. 같은 답을 3분의 1 연산으로 내니, 에이전트가 종일 토큰을 태우는 시대의 추론 단가는 이런 데서 먼저 내려갈 것 같습니다.
Inco AI가 공개한 DFlash 2는 출력은 그대로 두고 디코딩만 최대 4.6배 빠르게 하는 기술입니다.
작은 초안 모델이 다음 토큰들을 미리 써보고 본 모델은 채점만 하는 게 기존 방식인데, DFlash는 이 초안까지 한 번에 병렬로 만듭니다.
대신 각 위치의 토큰을 따로 예측하니 문장이 어긋나는 게 약점이었는데, 연구팀이 들여다보니 정답 토큰은 이미 상위 후보 안에 99.5% 들어 있었습니다.
예측을 더 잘할 필요 없이, 깔린 후보 사이에서 자연스럽게 이어지는 길만 고르면 됐던 겁니다.
그래서 무거운 보정 모델 대신 아주 가벼운 선택기를 붙였고, 추가 지연은 1% 수준입니다.
같은 답을 3분의 1 연산으로 내니, 에이전트가 종일 토큰을 태우는 시대의 추론 단가는 이런 데서 먼저 내려갈 것 같습니다.
AI 인사이트
추측 디코딩(작은 모델이 초안을 쓰고 본 모델이 검사하는 방식)은 본 모델의 출력을 바꾸지 않고 속도만 올리므로, 같은 품질의 답을 더 적은 GPU 시간으로 낼 수 있습니다.
원문 보기inco.ai
6
중국AI
Unsloth가 Qwen3.8-27B를 램 8GB 노트북에서 돌릴 만큼 압축했습니다.
로컬 LLM 쪽에서 양자화로 이름난 Unsloth가 Qwen3.8-27B의 새 압축 버전을 내놨는데, 같은 용량에서 정확도가 10% 올라갔고 1비트까지 눌러 담은 버전도 원본 성능의 77%를 유지한다고 합니다. 지난주 버전만 해도 램이 17GB는 필요했으니 5일 만에 필요한 램이 절반 아래로 내려온 겁니다. 양자화는 모델 파라미터의 숫자 정밀도를 낮춰 용량을 줄이는 기술입니다. 무작정 누르면 성능도 같이 하락하는데, Unsloth는 레이어마다 중요도를 따져 민감한 부분은 정밀도를 남기고 덜 중요한 부분만 세게 압축하는 방식으로 손실을 줄였습니다.
로컬 LLM 쪽에서 양자화로 이름난 Unsloth가 Qwen3.8-27B의 새 압축 버전을 내놨는데, 같은 용량에서 정확도가 10% 올라갔고 1비트까지 눌러 담은 버전도 원본 성능의 77%를 유지한다고 합니다.
지난주 버전만 해도 램이 17GB는 필요했으니 5일 만에 필요한 램이 절반 아래로 내려온 겁니다.
양자화는 모델 파라미터의 숫자 정밀도를 낮춰 용량을 줄이는 기술입니다.
무작정 누르면 성능도 같이 하락하는데, Unsloth는 레이어마다 중요도를 따져 민감한 부분은 정밀도를 남기고 덜 중요한 부분만 세게 압축하는 방식으로 손실을 줄였습니다.
AI 인사이트
Unsloth는 레이어마다 중요도를 따져 민감한 부분의 정밀도를 남기는 방식으로, 같은 27B 모델에 필요한 램을 17GB에서 8GB로 낮췄습니다.
자세히 읽기
7
오픈AI
브라운대 경제학 수업의 재택 중간고사 평균은 96점, 대면 기말은 48점이었습니다.
브라운대 경제학 수업에서 재택으로 치른 중간고사 평균이 96점, 대면으로 바꾼 기말 평균이 48점입니다. 지난 12월 총격 사건 이후 학생들의 부담을 덜어주려 교수가 34년 경력에 처음 재택 시험을 냈는데, 86명 중 40명이 100점을 받았습니다. 채점자들이 문제를 챗GPT에 넣어보고서야 그림이 잡혔습니다. 간단한 풀이가 있는 문제에 빙 돌아가는 논증이 나왔는데, 같은 논증이 수십 장의 답안에 반복돼 있었던 겁니다. 교수가 기말은 대면으로 치르고 두 분포를 비교하겠다고 예고하자 18명이 수강을 철회하고 9명이 결시했습니다. 이 27명 중 22명이 중간고사 100점이었습니다. 일각에서는 부정행위 사건으로만 보기에는 성적이 목적이 된 평가 구조에서 AI는 그 목적을 값싸게 만들었을 뿐이라는 지적도 나옵니다. 과제형 평가가 사실상 AI 성능 측정이 된 이상, 시험은 대면과 구술로 돌아갈 수밖에 없을 것 같습니다.
브라운대 경제학 수업에서 재택으로 치른 중간고사 평균이 96점, 대면으로 바꾼 기말 평균이 48점입니다.
지난 12월 총격 사건 이후 학생들의 부담을 덜어주려 교수가 34년 경력에 처음 재택 시험을 냈는데, 86명 중 40명이 100점을 받았습니다.
채점자들이 문제를 챗GPT에 넣어보고서야 그림이 잡혔습니다.
간단한 풀이가 있는 문제에 빙 돌아가는 논증이 나왔는데, 같은 논증이 수십 장의 답안에 반복돼 있었던 겁니다.
교수가 기말은 대면으로 치르고 두 분포를 비교하겠다고 예고하자 18명이 수강을 철회하고 9명이 결시했습니다.
이 27명 중 22명이 중간고사 100점이었습니다.
일각에서는 부정행위 사건으로만 보기에는 성적이 목적이 된 평가 구조에서 AI는 그 목적을 값싸게 만들었을 뿐이라는 지적도 나옵니다.
과제형 평가가 사실상 AI 성능 측정이 된 이상, 시험은 대면과 구술로 돌아갈 수밖에 없을 것 같습니다.
AI 인사이트
같은 학생들이 시험 방식만 재택에서 대면으로 바꾸자 평균이 96점에서 48점으로 내려가, 재택 시험 점수에 AI 도움이 얼마나 섞였는지가 숫자로 드러났습니다.
8
AI
GenBio AI가 세포 하나를 통째로 시뮬레이션하는 AIDO Cell을 공개했습니다.
GenBio AI가 공개한 AIDO Cell은 DNA, RNA, 단백질, 세포 행동까지 하나의 시스템에서 시뮬레이션합니다. 여러 모델을 단계별로 이어 붙인 방식 대신, 세포 상태 전체를 이어서 다루는 방식입니다. 특히 유전자를 하나 끄면 다음 개입은 이미 바뀐 세포 상태 위에서 이어집니다. 알파폴드처럼 답만 주는 예측기 대신, 실험을 순서대로 해볼 수 있는 가상 실험실인 겁니다. 이게 정교해지면 신약 개발 방식도 달라질 수 있습니다. 수천 개 후보를 가상 세포에서 먼저 시험해 실패 가능성이 높은 물질을 거르고, 실제 실험에서는 통과한 후보만 검증하는 식입니다. 부작용도 더 일찍 확인할 수 있습니다. 다만 아직은 알려진 생물학을 재현하는 프리뷰 단계이고, 물리 계산 대신 데이터 기반 근사에 의존한다는 한계도 있습니다. 관건은 가상 실험이 실제 세포 반응을 얼마나 정확하게 재현하느냐입니다.
GenBio AI가 공개한 AIDO Cell은 DNA, RNA, 단백질, 세포 행동까지 하나의 시스템에서 시뮬레이션합니다.
여러 모델을 단계별로 이어 붙인 방식 대신, 세포 상태 전체를 이어서 다루는 방식입니다.
특히 유전자를 하나 끄면 다음 개입은 이미 바뀐 세포 상태 위에서 이어집니다.
알파폴드처럼 답만 주는 예측기 대신, 실험을 순서대로 해볼 수 있는 가상 실험실인 겁니다.
이게 정교해지면 신약 개발 방식도 달라질 수 있습니다.
수천 개 후보를 가상 세포에서 먼저 시험해 실패 가능성이 높은 물질을 거르고, 실제 실험에서는 통과한 후보만 검증하는 식입니다.
부작용도 더 일찍 확인할 수 있습니다.
다만 아직은 알려진 생물학을 재현하는 프리뷰 단계이고, 물리 계산 대신 데이터 기반 근사에 의존한다는 한계도 있습니다.
관건은 가상 실험이 실제 세포 반응을 얼마나 정확하게 재현하느냐입니다.
AI 인사이트
AIDO Cell은 유전자를 끈 뒤 바뀐 세포 상태에서 다음 개입을 이어 가므로, 여러 단계로 이어지는 실험 순서를 컴퓨터 안에서 미리 돌려 볼 수 있습니다.
원문 보기genbio.ai
9
반도체
세레브라스가 GPU보다 최대 30배 빠르다는 추론 시스템 CS-4를 공개했습니다.
회사에 따르면 CS-4는 GPU보다 최대 30배 빠르고, 전력당 처리량은 이전 세대의 10배입니다. A4 한두 장 분량의 답변이 1초 안에 생성되는 속도로, 10조 파라미터 모델을 초당 1,000토큰으로 돌리는 것을 목표로 합니다. 칩은 새것이 아니고, 2년 된 WSE-3를 개선한 터보 버전 3장을 한 랙에 넣은 뒤 전원과 통신 구조를 다시 설계해 성능을 끌어올렸습니다. 이 속도가 특히 중요한 곳은 에이전트입니다. 사람은 초당 20토큰만 넘어도 읽기 어렵지만, 에이전트는 추론과 도구 호출을 반복하므로 토큰 속도가 곧 작업 완료 시간으로 이어집니다. 다만 랙당 메모리가 GPU 시스템보다 적어 비용 부담이 크다는 지적도 있습니다. 오픈AI 계약과 AMD 제휴를 확보한 세레브라스가 이 성능을 실제 서비스 가격으로 얼마나 경쟁력 있게 내놓을지가 관건입니다.
회사에 따르면 CS-4는 GPU보다 최대 30배 빠르고, 전력당 처리량은 이전 세대의 10배입니다.
A4 한두 장 분량의 답변이 1초 안에 생성되는 속도로, 10조 파라미터 모델을 초당 1,000토큰으로 돌리는 것을 목표로 합니다.
칩은 새것이 아니고, 2년 된 WSE-3를 개선한 터보 버전 3장을 한 랙에 넣은 뒤 전원과 통신 구조를 다시 설계해 성능을 끌어올렸습니다.
이 속도가 특히 중요한 곳은 에이전트입니다.
사람은 초당 20토큰만 넘어도 읽기 어렵지만, 에이전트는 추론과 도구 호출을 반복하므로 토큰 속도가 곧 작업 완료 시간으로 이어집니다.
다만 랙당 메모리가 GPU 시스템보다 적어 비용 부담이 크다는 지적도 있습니다.
오픈AI 계약과 AMD 제휴를 확보한 세레브라스가 이 성능을 실제 서비스 가격으로 얼마나 경쟁력 있게 내놓을지가 관건입니다.
AI 인사이트
에이전트는 추론과 도구 호출을 반복하므로, 사람이 읽기 어려운 초당 20토큰 이상의 속도도 작업 완료 시간을 줄이는 데 그대로 쓰입니다.
원문 보기cerebras.ai
10
오픈AI
그렉 브록만이 소프트웨어 엔지니어링과 지식 노동이 AI로 완전히 변하고 있다고 했습니다.
오픈AI 공동창립자 그렉 브록만(Greg Brockman)은 단 2,000달러의 컴퓨팅 파워로 수학자들이 수십 년간 풀지 못한 난제 10개를 해결한 사례를 들며, 생물학·재료과학 등 과학적 발견이 기하급수적으로 가속화되고 있다고 말했습니다. 이어 “컴퓨팅(Compute)은 AI 시대의 새로운 석유”라며, 희소한 중심 자원으로서 경제적 가치가 집중되고 있다고 강조했습니다. 또한 “해결해야 할 문제에 대한 수요는 무한하다”며, AI 에이전트의 확산과 지수적인 모델 성능 향상이 인류의 생산성과 창의성을 전례 없는 수준으로 확장할 것이라 전망했습니다.
오픈AI 공동창립자 그렉 브록만(Greg Brockman)은 단 2,000달러의 컴퓨팅 파워로 수학자들이 수십 년간 풀지 못한 난제 10개를 해결한 사례를 들며, 생물학·재료과학 등 과학적 발견이 기하급수적으로 가속화되고 있다고 말했습니다.
이어 “컴퓨팅(Compute)은 AI 시대의 새로운 석유”라며, 희소한 중심 자원으로서 경제적 가치가 집중되고 있다고 강조했습니다.
또한 “해결해야 할 문제에 대한 수요는 무한하다”며, AI 에이전트의 확산과 지수적인 모델 성능 향상이 인류의 생산성과 창의성을 전례 없는 수준으로 확장할 것이라 전망했습니다.
AI 인사이트
브록만은 2,000달러어치 연산으로 수학 난제 10개를 푼 사례를 근거로, 연구 성과가 투입한 연산량을 따라 늘어난다고 봤습니다.
원문 보기youtube.com
11
AI연구
신생 랩 Ornith가 Opus 4.8급을 주장하는 Ornith-1.5를 MIT 라이선스로 공개했습니다.
Ornith이라는 신생 랩이 공개한 Ornith-1.5는 9B부터 397B까지 세 가지 크기로 나왔고, 상업적 이용까지 열어뒀습니다. 자체 발표 기준으로는 코딩과 에이전트 벤치마크에서 최상위 상용 모델과 비슷한 점수를 냈다고 합니다. 훈련 방식이 독특합니다. 사람이 만든 문제집 대신, 모델이 스스로 새 과제를 내고 풀이 환경을 짠 다음 풀어본 결과에서 강화학습으로 배우는 루프를 돌립니다. 좋은 학습 데이터가 귀해지는 시대에 모델이 자기 교재를 직접 쓰는 방식입니다. 물론 아직 자체 벤치마크라 외부 검증이 남았고, 홍보성 계정들이 초반 반응을 끌어올린 흔적도 있어서 실사용 평가가 나온 뒤에 판단하려 합니다.
Ornith이라는 신생 랩이 공개한 Ornith-1.5는 9B부터 397B까지 세 가지 크기로 나왔고, 상업적 이용까지 열어뒀습니다.
자체 발표 기준으로는 코딩과 에이전트 벤치마크에서 최상위 상용 모델과 비슷한 점수를 냈다고 합니다.
훈련 방식이 독특합니다.
사람이 만든 문제집 대신, 모델이 스스로 새 과제를 내고 풀이 환경을 짠 다음 풀어본 결과에서 강화학습으로 배우는 루프를 돌립니다.
좋은 학습 데이터가 귀해지는 시대에 모델이 자기 교재를 직접 쓰는 방식입니다.
물론 아직 자체 벤치마크라 외부 검증이 남았고, 홍보성 계정들이 초반 반응을 끌어올린 흔적도 있어서 실사용 평가가 나온 뒤에 판단하려 합니다.
AI 인사이트
Ornith-1.5는 모델이 과제와 풀이 환경을 직접 만들고 그 결과로 강화학습을 하므로, 사람이 만든 학습 데이터 없이도 훈련 과제를 늘릴 수 있습니다. 점수는 아직 자체 벤치마크뿐입니다.
원문 보기ornith.ai
12
AI연구
Liquid AI가 원본 성능의 97%를 지키는 4비트 소형 모델을 냈습니다.
온디바이스 AI를 만드는 Liquid AI가 0.2B부터 2.6B까지 소형 모델의 4비트 버전을 새로 냈는데, 네 모델 모두 원본 성능의 97% 수준을 지킵니다. 폰이든 미니PC든 라즈베리파이든 별도 실행 환경 없이 표준 GGUF 그대로 돌아갑니다. 지금까지는 다 키운 모델을 나중에 압축하다 보니 정밀도가 깎이면서 성능도 같이 새어 나갔는데, Liquid AI는 거꾸로 훈련 단계에서 미리 4비트 환경을 흉내 내고, 압축된 학생 모델이 원본 교사 모델의 답을 따라가도록 가르쳤습니다.
온디바이스 AI를 만드는 Liquid AI가 0.2B부터 2.6B까지 소형 모델의 4비트 버전을 새로 냈는데, 네 모델 모두 원본 성능의 97% 수준을 지킵니다.
폰이든 미니PC든 라즈베리파이든 별도 실행 환경 없이 표준 GGUF 그대로 돌아갑니다.
지금까지는 다 키운 모델을 나중에 압축하다 보니 정밀도가 깎이면서 성능도 같이 새어 나갔는데, Liquid AI는 거꾸로 훈련 단계에서 미리 4비트 환경을 흉내 내고, 압축된 학생 모델이 원본 교사 모델의 답을 따라가도록 가르쳤습니다.
AI 인사이트
훈련 단계에서 4비트 환경을 흉내 내고 원본 교사 모델의 답을 따라가게 가르치면, 다 키운 뒤 압축할 때 생기는 정밀도 손실을 훈련 중에 미리 메울 수 있습니다.
원문 보기liquid.ai
13
AI에이전트
컴퓨터 조작 에이전트를 만드는 Cua가 Computer History라는 기능을 오픈소스로 공개했습니다.
에이전트의 행동 기록을 기기 안에 암호화해 저장하고, 새 세션이 이를 참고해 이전 작업을 이어가게 하는 기능입니다. 대표적인 예시로 체스 기물을 옮기는 시연에서는 기록이 없을 때 세 번 경로를 헤맸지만, 기록을 켜자 이전에 성공한 경로를 재사용해 행동 수를 3분의 1로 줄이고 한 번도 실패하지 않았습니다. 기록에는 스크린샷, 입력한 글자, 클립보드, URL, 파일 경로를 저장하지 않고, 어떤 앱에서 어떤 행동이 성공했는지만 남깁니다. 지난주 오픈AI도 ChatGPT 맥 앱에 같은 이름의 ‘Computer History’를 추가했습니다. 컴퓨터를 쓰는 에이전트가 늘수록 조작 능력만큼 ‘무엇을 기억하고 어떻게 다시 쓰느냐’가 경쟁력이 될 것 같습니다.
에이전트의 행동 기록을 기기 안에 암호화해 저장하고, 새 세션이 이를 참고해 이전 작업을 이어가게 하는 기능입니다.
대표적인 예시로 체스 기물을 옮기는 시연에서는 기록이 없을 때 세 번 경로를 헤맸지만, 기록을 켜자 이전에 성공한 경로를 재사용해 행동 수를 3분의 1로 줄이고 한 번도 실패하지 않았습니다.
기록에는 스크린샷, 입력한 글자, 클립보드, URL, 파일 경로를 저장하지 않고, 어떤 앱에서 어떤 행동이 성공했는지만 남깁니다.
지난주 오픈AI도 ChatGPT 맥 앱에 같은 이름의 ‘Computer History’를 추가했습니다.
컴퓨터를 쓰는 에이전트가 늘수록 조작 능력만큼 ‘무엇을 기억하고 어떻게 다시 쓰느냐’가 경쟁력이 될 것 같습니다.
AI 인사이트
Computer History는 화면과 입력 내용 대신 앱별로 성공한 행동만 기기 안에 암호화해 남기므로, 다음 세션이 같은 작업을 더 적은 행동으로 다시 할 수 있습니다.
원문 보기github.com

오늘 한 마디

AI 정리

같은 날 올라온 〈강화학습 2주 멈춘 오픈AI, 감시에 추론 연산 20%를 더 씁니다〉는 오픈AI가 계획한 것 가운데 가장 큰 프런티어 강화학습을 소규모 훈련과 평가로 안전장치를 검증할 때까지 보류했다는 발표를 다룹니다.

인사이트와 「오늘 한 마디」는 그날 올린 글을 AI가 정리한 것이라 사실과 다를 수 있어요. 소식 본문과 출처는 사람이 확인했어요.

이전 다음