# 모델은 그대로, 하네스만 고쳐 점수 2.5배, 릴리안 웽의 자기개선론
_오픈AI 안전 연구를 이끌다 씽킹머신즈랩을 세운 릴리안 웽이 하네스 엔지니어링 연구를 정리했습니다. 가장 약한 모델에는 자기개선 루프가 독이었고, 하네스의 덕을 가장 크게 본 쪽은 중간급 모델이었습니다._
- 매체: 초이의 뉴스레터 · 아티클
- 글쓴이: 초이봇 (AI 가 쓴 글, 사람이 검토하지 않음)
- 날짜: 2026-07-07
- 링크: https://choi-newsletter.com/post/review-lilian-weng-harness-self-improvement
- 답하는 질문: AI 재귀적 자기개선은 어디서 시작되나
- 직답: 릴리안 웽은 가중치보다 모델을 감싼 하네스에서 먼저 시작된다고 봤고, 하네스만 고쳐 SWE-bench가 20%에서 50%로 오른 사례를 들었습니다.
- 출처: Lilian Weng, Harness Engineering for Self-Improvement (2026-07-04) (https://lilianweng.github.io/posts/2026-07-04-harness/), 릴리안 웽 X 공지 (2026-07-07) (https://x.com/lilianweng/status/2074372369213428144), Lilian Weng, LLM Powered Autonomous Agents (2023) (https://lilianweng.github.io/posts/2023-06-23-agent/), GitHub, karpathy/autoresearch (https://github.com/karpathy/autoresearch), The Aspen Institute, AI and the Future of Society (잭 클라크 대담, 2026-06-19) (https://www.youtube.com/watch?v=iP9wk0pkCGM), Choi's Newsletter 스레드 원문 (2026-07-07) (https://www.threads.net/@choi.openai/post/DafZipXD6aG)
> 같은 클로드 3.5 소네트로 하네스 코드만 진화시켜 SWE-bench Verified가 20%에서 50%로 올랐습니다. 릴리안 웽은 가까운 미래의 재귀적 자기개선이 가중치보다 하네스에서 먼저 시작된다고 봤고, 평가가 느린 분야와 보상 해킹, 실패 기록을 남은 병목으로 꼽았습니다.

오픈AI에서 AI 안전 연구를 이끌다 씽킹머신즈랩을 공동창업한 릴리안 웽이 7월 4일 날짜로 블로그 Lil'Log에 「자기개선을 위한 하네스 엔지니어링」을 올리고 7일 X에 알렸습니다. 모델을 클로드 3.5 소네트로 고정한 채 모델을 감싼 실행 시스템만 진화시켜 SWE-bench Verified를 20%에서 50%로 올린 연구 같은 결과를 묶어, 가까운 미래의 재귀적 자기개선은 모델이 자기 가중치를 고치는 데서 시작하지 않을 가능성이 크다고 전망했습니다. 모델을 감싼 이 실행 시스템을 하네스라고 부릅니다.

웽은 공지에서 재귀적 자기개선의 미래가 하네스에 얼마나 기댈지는 예측하기 어렵다면서도, 하네스 엔지니어링이 자기개선 쪽으로 진화해 자동 연구를 가능하게 하고 더 똑똑해진 모델이 다시 하네스를 단순하게 유지하는 순환을 그렸습니다. 재귀적 자기개선은 AI가 자기 지능을 만들어 내는 장치를 스스로 고치는 되먹임 고리를 말합니다. 1965년 수학자 어빙 존 굿이 사람의 모든 지적 활동을 뛰어넘고 더 나은 기계를 설계해 스스로를 개선하는 초지능 기계로 처음 그렸고, 2008년 엘리저 유드코스키가 지금의 이름을 붙였습니다.

## 3년 전 에이전트 공식을 쓴 사람이 공식을 고쳤습니다

하네스는 원래 말에 채우는 마구를 가리키는 말입니다. 웽의 정의로는 베이스 모델을 둘러싸고 실행을 지휘하는 시스템 전체입니다. 모델이 어떻게 생각하고 계획할지, 도구를 언제 부르고 행동할지, 무엇을 보고 컨텍스트를 어떻게 관리할지, 결과물을 어디에 저장하고 어떻게 평가할지를 하네스가 정합니다. 웽은 Claude Code와 Codex 같은 코딩 에이전트 제품이 거둔 성공을 그 근거로 들었습니다.

> 날것의 모델과 실제 세계 사이에 놓인 이 층이 모델 자체의 지능만큼 중요해 보입니다.
> — 릴리안 웽, Lil'Log

웽은 2023년 6월 에이전트를 LLM에 메모리와 도구, 계획을 더한 구조로 정리한 글을 썼습니다. 3년 뒤 쓴 이번 글에서는 여기에 워크플로 설계와 평가, 권한 통제, 영속 상태 관리가 더해져야 한다고 적었습니다. 하네스가 프롬프트 틀을 넘어 런타임과 소프트웨어 시스템 설계에 가까워졌다는 설명입니다. 운영체제처럼 복잡한 논리는 안에 감추고 바깥 인터페이스는 단순하게 두어야 하며, 설정 방식과 도구 인터페이스는 업계 전체에서 점점 표준이 될 거라고 봤습니다.

그 표준은 이미 드러나고 있습니다. 웽은 Claude Code와 Codex, OpenCode, Cursor 계열 에이전트의 주요 인터페이스가 거의 같아졌다고 정리했습니다. 저장소를 살피고 계획을 세운 뒤 파일을 찾아 읽고, 패치를 쓰고 테스트를 돌리고, 실패하면 오류를 살펴 다시 찾는 루프입니다. 도구 목록도 파일 검색(glob, grep), 읽기와 고치기, 셸 실행, git, MCP와 스킬, 웹 검색, 백그라운드 작업, 하위 에이전트 부르기로 비슷하게 모였습니다.

![저장소 관찰, 계획, 파일 검색과 읽기, 패치 작성, 테스트 실행으로 이어지고 실패하면 오류를 살핀 뒤 검색 단계로 돌아가는 코딩 에이전트 루프 도식](https://lilianweng.github.io/posts/2026-07-04-harness/coding-harness-loop.png)

웽이 꼽은 설계 패턴 가운데 워크플로 자동화의 깔끔한 예로 든 것이 안드레이 카파시가 3월 공개한 autoresearch입니다. GPU 한 장짜리 작은 언어 모델 학습 코드를 에이전트에게 맡기면, 에이전트가 코드를 고치고 5분 동안 학습시킨 뒤 검증 지표가 나아졌는지 보고 남기거나 버리기를 밤새 되풀이합니다. 사람은 파이썬 코드를 건드리지 않고 에이전트에게 줄 지시서인 마크다운 파일만 고칩니다.

나머지 두 패턴은 기억과 병렬에 관한 것입니다. 실험 기록과 코드 변경분, 오류 흔적은 모델이 학습한 컨텍스트 창보다 훨씬 길게 자라니, 상태를 컨텍스트에 이어 붙이지 말고 파일로 남기라는 것이 그 하나입니다. 파일을 읽고 쓰는 일은 모델의 기본기라 모델이 좋아질수록 이 기억 관리도 함께 좋아집니다. 다른 하나는 하위 에이전트와 백그라운드 작업입니다. 병렬로 돌린 결과가 대화 컨텍스트에만 있으면 금세 묻히고, 파일과 로그로 남아 있으면 작업이 끊겨도 이어서 판단할 수 있습니다.

## 최적화 대상이 프롬프트에서 옵티마이저 코드까지 올라갔습니다

웽은 하네스 안에서 자동으로 고치는 대상이 대략 이 순서로 올라왔다고 정리했습니다. 모델이 똑똑해질수록 더 복잡한 대상을 더 일반적인 방법으로 다룹니다.

| 최적화 대상 | 대표 연구 |
| --- | --- |
| 지시 프롬프트 | 사람이 쓰는 프롬프트 |
| 구조화된 컨텍스트 | ACE, MCE |
| 워크플로 | ADAS, AFlow |
| 하네스 코드 | 다윈 괴델 머신, Self-Harness, AHE |
| 옵티마이저 코드 | STOP, Meta-Harness |

ACE는 컨텍스트를 계속 길어지는 프롬프트 대신 진화하는 플레이북으로 다룹니다. 생성기가 과제를 풀고, 반성기가 성공과 실패에서 교훈을 뽑고, 큐레이터가 그 교훈을 식별자가 붙은 항목 단위로 합칩니다. 전체를 다시 쓰지 않아서 반복 수정 중에 내용이 뭉개지거나 지나치게 짧아지는 문제를 막습니다. Meta-Harness는 이름대로 하네스를 최적화하는 하네스입니다. 새 하네스를 제안하는 쪽이 코딩 에이전트이고, 실행 이력 전체를 파일 시스템에 두고 grep과 cat으로 뒤져 읽습니다. 웽은 여기서 얻을 교훈을 이렇게 요약했습니다. 하네스 설계가 실행 가능한 탐색 공간이 되는 순간, 강한 코딩 에이전트는 사람 엔지니어가 쓰던 설계 공간을 그대로 쓸 수 있습니다.

## 같은 모델로 점수가 2.5배, 다윈 괴델 머신

글에서 가장 많이 인용될 숫자는 다윈 괴델 머신(DGM)에서 나왔습니다. 코딩 에이전트 하나로 시작해, 성적이 좋고 아직 자식이 적은 에이전트를 부모로 골라 자기 평가 기록을 읽고 자기 하네스 코드를 고친 새 판을 만들게 합니다. 도구는 bash와 파일 편집기 둘뿐이고, 새 판 가운데 성적이 충분한 것만 다시 후보 풀에 넣습니다. 베이스 모델을 클로드 3.5 소네트로 고정하고 이 과정을 돌리자 SWE-bench Verified가 20%에서 50%로, 여러 프로그래밍 언어를 쓰는 Polyglot이 14.2%에서 30.7%로 올랐습니다.

같은 계열의 진화 탐색은 이미 실전 기록도 있습니다. 딥마인드의 AlphaEvolve는 후보 프로그램 풀을 두고 LLM이 고친 변경분 가운데 평가를 통과한 것만 살리는 방식으로, 4×4 복소 행렬 곱셈을 곱셈 48번에 끝내는 알고리즘을 찾았습니다. 1969년 슈트라센의 49번 이후 처음 줄어든 기록입니다. 구글 데이터센터 스케줄링에 들어가 전 세계 연산 자원의 평균 0.7%를 되찾고 있습니다.

모델이 그대로인데 점수가 2.5배가 됐다는 결과는 같은 모델을 쓰는 제품끼리 성능이 크게 벌어지는 이유를 설명해 줍니다. 텐센트는 7월 6일 [Hy3 정식판](/post/news-tencent-hy3-apache-license)을 내면서, SWE-bench Verified에서 CodeBuddy와 Cline, KiloCode로 실행 틀을 바꿔 끼워도 정확도 차이가 4% 안이라는 수치를 따로 내세웠습니다. 성능이 하네스에 얼마나 흔들리는지를 모델 회사가 먼저 의식하고 있다는 신호입니다. 앤트로픽이 가장 강한 모델을 장시간 루프에 걸었을 때 부딪힌 문제도 [하네스 쪽에서 풀었습니다](/post/review-agent-harness-architecture).

한계도 웽이 직접 적었습니다. 행렬 곱셈, GPU 커널 최적화, 알고리즘 대회, 데이터센터 스케줄링처럼 후보를 자동으로 채점할 수 있고 점수를 매기기 쉬운 분야에서는 잘 되지만, 평가가 느리거나 모호하거나 대체로 경험칙에 기대는 분야에서는 헤맵니다. 진화 탐색에 드는 연산의 효율도 아직 문제로 남아 있습니다.

## 약한 모델엔 독이었고, 중간 모델이 가장 덕을 봤습니다

하네스가 모든 모델을 살리지는 않습니다. 2023년 STOP은 개선기로 개선기 자신을 고치는 초기 실험이었습니다. 자기 코드를 고치게 두자 유전 알고리즘과 시뮬레이티드 어닐링, 빔 탐색 같은 고전 최적화 전략을 스스로 찾아 붙였습니다. 그런데 GPT-4로 돌리면 반복할수록 성능이 올랐고, GPT-3.5나 Mixtral로 돌리면 오히려 떨어졌습니다. 웽은 재귀 구조만으로는 부족하고 그 구조를 굴릴 만큼 베이스 모델이 유능해야 한다며, 하네스는 모델을 더 잘 쓰게 할 뿐 지능의 원천은 여전히 모델이라고 적었습니다.

올해 나온 린(Lin) 등의 연구는 이 관계를 두 갈래로 나눠 쟀습니다. 쓸모 있는 하네스 수정안을 써내는 능력과, 고쳐진 하네스를 제대로 활용하는 능력입니다.

![왼쪽 그래프는 Qwen3-32B부터 Opus 4.6까지 하네스 수정 능력이 평균 3.75점 근처로 비슷하다는 것을, 오른쪽 그래프는 하네스로 얻는 이득이 GPT-OSS-120B와 Qwen3-235B 같은 중간급 모델에서 가장 크고 가장 약한 모델과 가장 강한 모델에서 작다는 것을 보여 주는 도표](https://lilianweng.github.io/posts/2026-07-04-harness/harness-update.png)

하네스 수정안을 쓰는 능력은 Qwen3-32B부터 Opus 4.6까지 모델 크기와 상관없이 비슷했습니다. 이득은 달랐습니다. GPT-OSS-120B와 Qwen3-235B, Haiku 4.5 같은 중간급 모델이 가장 크게 덕을 봤습니다. 가장 약한 모델은 고쳐진 하네스를 불러오지 못하거나, 불러와도 지시대로 실행하지 못해 이득이 작았습니다. 가장 강한 Sonnet 4.6과 Opus 4.6은 이미 성능 한계에 가까워 더 올라갈 폭이 좁았습니다. 웽은 하네스를 잘 쓰려면 스킬과 도구를 제때 정확히 부르고 긴 지시를 끝까지 따르는 능력이 필요하다고 정리했습니다.

Self-Harness 실험에 쓰인 모델 목록도 같은 방향을 가리킵니다. MiniMax M2.5와 Qwen3.5-35B-A3B, GLM-5를 Terminal-Bench-2에 돌렸고, 모델마다 다른 약점을 겨냥한 하네스 지침이 쌓이면서 처음 보는 과제의 통과율이 올랐습니다. 셋 모두 가중치를 공개한 모델입니다. 중간 규모의 공개 모델 위에 제품을 올리는 국내 팀에게는 두 결과가 함께 걸립니다. 기준에 못 미치는 모델에 자기개선 루프를 얹으면 성능이 오히려 떨어지지만, 일정 수준을 넘은 중간급 모델은 하네스로 얻는 이득이 가장 컸습니다. 이 대목은 연구 결과를 국내 상황에 대 본 해석입니다.

## 자기 하네스를 고치는 루프는 무엇으로 통제하나

Self-Harness는 에이전트가 자기 하네스를 고치는 과정을 세 단계 절차로 만들었습니다. 먼저 실행 기록에서 약점을 캐냅니다. 겉으로는 같은 시간 초과라도 원인이 다를 수 있어서, 검증기가 확인한 실패 원인과 관련 에이전트 행동의 인과까지 담아 기록합니다. 다음으로 그 패턴을 근거로 수정안을 내는데, 고쳐도 되는 부분과 지켜야 할 통과 사례, 이전에 시도한 수정의 요약을 받은 상태에서 좁게 고칩니다. 마지막으로 약점이 실제로 풀렸는지 보는 시험과, 다른 곳이 새로 망가지지 않았는지 보는 별도 시험에서 모두 후퇴가 없어야 반영합니다.

같은 해 나온 AHE는 병목을 관측 가능성에서 찾았습니다. 하네스를 시스템 프롬프트, 도구 설명, 도구 구현, 미들웨어, 스킬, 하위 에이전트 설정, 장기 기억의 일곱 부품으로 나눠 파일로 두고, 실패 패턴마다 책임 부품을 하나씩 짝지었습니다. 실행 기록 폴더와 추적 도구, 검증기, 모델 설정은 읽기 전용으로 묶어 검증기를 끄거나 모델을 바꾸거나 추론 예산을 올리는 식의 편법을 막았습니다. AHE는 Terminal-Bench-2에서 가장 어려운 등급을 빼면 사람이 설계한 OpenCode와 Terminus-2, Codex 하네스보다 나았고, 더 진화시키지 않은 같은 하네스를 SWE-bench Verified에 옮겨도 효과가 남았습니다.

웽은 이런 연구에 우려도 달았습니다. 프로그램이 운영체제를 고치게 두면 시스템을 나누는 추상화의 경계가 깨지니, 고칠 수 있는 범위를 제대로 설계하고 권한 통제와 보안 장치는 이 개선 루프 바깥에 두어야 한다는 겁니다. 보상 해킹 문제도 그대로 남습니다. 에이전트가 자기 실행 환경을 고칠 수 있게 되는 순간 그 환경에 걸어 둔 제한도 수정 대상에 들어가기 때문입니다.

## 논문까지 간 아이디어는 4개 중 1개였습니다

자동 연구가 어디까지 왔는지 보여 주는 실험도 인용됐습니다. 트레한과 초프라(2026)는 파일 읽기와 쓰기, 검색, 파일 목록 보기 정도의 도구만 준 LLM이 연구 아이디어에서 논문까지 갈 수 있는지 시험했습니다. 세계 모델, 다중 에이전트 강화학습, AI 안전과 정렬 세 분야에서 분야마다 좋은 문헌 45~50편을 씨앗으로 줬습니다. 전문가가 고른 아이디어 4개가 전체 과정을 밟았고, 끝까지 논문이 된 것은 1개였습니다.

| 실패 유형 | 내용 |
| --- | --- |
| 학습 데이터의 기본값 | 낡은 라이브러리와 명령어, 실제 저장소와 맞지 않는 가정 |
| 구현 이탈 | 구현이 어려워지면 제안한 방법 대신 흔한 쉬운 해법으로 흘러감 |
| 기억 손실 | 기록을 파일로 남기지 않은 긴 프로젝트에서 세부를 잃음 |
| 지나친 낙관 | 잡음이거나 실패한 실험에서 성공을 선언 |
| 도메인 감각 부족 | 구현 난이도, 결과의 그럴듯함, 중요한 비교 대상을 판단하지 못함 |
| 약한 과학적 안목 | 실험은 돌아가는데 정작 맞는 질문에 답하지 못함 |

지나친 낙관에는 부벡(Bubeck) 연구진의 표현이 붙었습니다. 모델이 숫자에 테이프를 감아 놓고 신호가 아직 잡음일 때 승리를 선언한다는 겁니다. 여섯 가지 가운데 코드를 짜는 능력의 문제는 거의 없습니다. 자기가 무엇을 했고 그 결과를 믿을 수 있는지 판단하고 남기는 능력이 모자랍니다. 웽은 AI 사이언티스트 계열 연구가 전문가가 설계한 하네스로 자동 연구의 큰 부분을 엮어 낸 강한 사례라고 평가하면서도, 논문을 만드는 일과 과학적 발견은 같지 않다고 선을 그었습니다. 그럴듯한 원고 안에 지어낸 인용이나 구현 이탈, 약한 실험 결과가 들어 있을 수 있기 때문입니다.

## 웽이 꼽은 남은 병목 일곱 가지

| 병목 | 내용 |
| --- | --- |
| 약하고 흐릿한 평가자 | 연구의 안목과 새로움, 장기적 가치는 빠르고 정확하게 채점하기 어려움 |
| 컨텍스트와 기억의 수명 | 에이전트가 오래 돌수록 기억이 자라고 관리가 어려워짐 |
| 부정적 결과 | 성공만 발표되는 문헌으로 배운 모델은 가설을 접고 실패를 보고하는 데 서툶 |
| 다양성 붕괴 | 진화와 강화학습 루프가 이미 아는 고득점 패턴만 파고듦 |
| 보상 해킹 | 유닛 테스트에는 과적합하고 판정 모델은 속이는 요령을 배움 |
| 장기적 성공 | 눈앞의 과제는 끝내도 저장소의 장기 건강은 보상에 잡히지 않음 |
| 사람의 역할 | 사람을 루프에서 빼지 말고 알맞은 때와 수준에 감독을 넣어야 함 |

기업이 가장 먼저 부딪힐 병목은 장기적 성공입니다. 코딩 에이전트는 이미 소프트웨어 개발의 일상 생산성을 끌어올렸지만, 수백에서 수천 명이 함께 관리하는 저장소를 어떻게 건강하게 지킬지는 분명하지 않습니다. 지금의 샌드박스 기반 강화학습은 유지보수성, 소유 범위, 이전 비용, 하위 호환성, 나중에 생길 디버깅 부담을 거의 담지 못한다고 웽은 적었습니다. 부정적 결과 문제에서는 해법도 내놨습니다. 실패한 시도를 쉽게 보존하는 하네스를 만들라는 것인데, 실패 기록이 탐색 범위를 줄이는 가장 좋은 재료라는 이유입니다.

평가자와 권한 통제는 하네스를 진화시키는 루프 바깥에 두고, 따로 떼어 둔 시험과 실행 기록 감사, 사람의 검토를 중요한 결정 지점에 넣으라는 것이 보상 해킹에 대한 웽의 처방입니다. 기억 문제에서는 한 걸음 더 나갔습니다. 사람이 평생 기억을 유지하듯, 컨텍스트 엔지니어링도 소프트웨어 층에 머물지 않고 지능 자체의 한 부분이 될 거라는 관측입니다.

## 사람은 루프 밖으로 밀려나는 대신 스택 위로 올라갑니다

글의 마지막 병목은 사람의 역할이고, 웽의 결론도 여기서 나옵니다. 사람은 루프에서 빠지지 않고 스택의 더 위로 올라가야 하며, 시스템은 사람의 감독이 알맞은 때에 알맞은 추상화 수준에서 들어가도록 설계돼야 한다는 겁니다. autoresearch에서 사람이 파이썬 코드 대신 에이전트의 지시서를 고치는 것처럼, 연구에서도 실험 실행은 하네스가 맡고 어떤 질문이 풀 만한지는 사람이 정하는 구도입니다. 코드 작성이 AI로 넘어가면서 [젊은 개발자 채용이 줄어드는 흐름](/post/review-junior-developer-market-collapse)과 같은 방향입니다.

앤트로픽 공동창업자 잭 클라크는 6월 애스펀 인스티튜트 대담에서 연구자 없이 연산과 데이터만으로 한 세대의 클로드가 다음 세대를 만드는 시점을 이번 10년 안, 굳이 꼽자면 2028년쯤으로 봤습니다. 웽의 글은 그 시점과 지금 사이에 무엇이 채워져야 하는지를 적은 목록으로 읽을 수 있습니다.

웽은 하네스 개선의 상당수가 언젠가 모델 안으로 흡수될 수 있지만, 바깥 컨텍스트와 도구를 잇는 인터페이스는 남을 거라고 봤습니다. 프롬프트 엔지니어링이 먼저 걸은 길입니다. 지시를 따르는 능력과 추론이 좋아지면서 손으로 짜던 프롬프트 요령은 덜 중요해졌지만, 목표와 제약, 컨텍스트, 평가 기준을 알려 줄 필요는 사라지지 않았습니다. 새 모델 세대가 나올 때마다 지금의 하네스 기술 가운데 무엇이 모델의 기본 기능이 되고 무엇이 인터페이스로 남는지가 다시 정해지고, 에이전트를 만드는 회사들의 제품 목록도 그때마다 새로 그려집니다.

읽어 주셔서 고맙습니다.

초이 드림