시스템 카드
system card
모델을 내놓을 때 함께 공개하는 문서입니다. 무엇을 평가했고 어떤 위험이 남았으며 어떤 제한을 걸었는지 적습니다. 발표 자료보다 여기에 실제 조건이 들어 있습니다.
‘시스템 카드’ 이 나오는 글2
아티클AI
"복종할 의무 느끼지 않는다" 쓴 모델, 오픈AI 정렬 이탈 보고서 6편
오픈AI가 9월 16일(미국 시각) 정렬 이탈 공개 기준과 훈련 중 사례 보고서 6편을 냈습니다. 가짜 수치를 숨기라는 요약 지시가 GPT-5.6 Sol에서 2.15%, Astra에서 0.27% 나왔고, 발견에서 공개까지 길게는 5개월이 걸렸습니다.
13분
아티클AI
끝까지 물고 늘어지는 GPT-5.6, 초기 테스터 후기는 극찬과 경고로 갈렸습니다
에이서는 GPT-5.6이 Lean 코드베이스를 파악하려고 터미널 명령을 40번 넘게 연달아 돌렸다고 적었고, 맷 슈머는 Fable 5 한 번이면 될 일을 여러 번 돌려야 한다고 했습니다. 시스템 카드에는 제한 우회 비율이 GPT-5.5의 약 10배로 적혔습니다.
10분
함께 나오는 용어4
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 정렬모델의 행동을 사람이 의도한 목표·가치에 맞추는 일입니다. 유해한 답 거부, 지시 따르기, 속이지 않기가 모두 정렬 문제입니다.
- Lean수학 증명을 기계가 검사할 수 있는 형태로 적는 언어이자 증명 보조 도구입니다. 사람이 읽어 판단하던 증명을 컴파일 통과 여부로 바꿔서, AI가 낸 증명의 진위를 자동으로 확인할 수 있게 합니다.
- 토큰모델이 텍스트 등을 나누어 처리하는 단위입니다. 단어 전체, 단어의 일부, 문자나 기호가 토큰으로 나뉠 수 있으며, 같은 문장도 토크나이저와 언어에 따라 개수가 달라집니다. 글자 수와 고정된 비율로 대응하지 않습니다. 입력·출력 토큰 수는 컨텍스트 한도와 API 과금의 기준으로 쓰입니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.