Andrej Karpathy는 자신의 AI를 3개의 역할로 나누었고, 각 역할이 자신의 작업을 평가하는 것을 금지했습니다. 한 역할이 스스로를 평가하면, 그...
1
Andrej Karpathy는 자신의 AI를 3개의 역할로 나누었고, 각 역할이 자신의 작업을 평가하는 것을 금지했습니다. 한 역할이 스스로를 평가하면, 그 루프는 쓰레기 같은 결과로 수렴합니다.
이 내용은 LOOPS.md에서 나온 것입니다. 이는 인간의 입력 없이 며칠 동안 실행되는 AI 에이전트를 구축하는 그의 무료 필드 노트입니다. 여기에는 그가 자신의 에이전트를 구축하고 실행하는 방식에서 나온 9가지 원칙이 포함되어 있습니다.
기반은 프롬프트에서 루프로의 전환입니다. 왜냐하면 프롬프트는 한 번 입력하고 잊어버리는 것이기 때문입니다. 루프는 수집하고, 추론하고, 행동하고, 검증하고, 반복합니다. Karpathy는 새벽 3시에 단일 프롬프트를 반복적으로 수정하고 있다면, 여전히 프롬프팅 시대에 머물러 있다고 말합니다.
그는 AI를 3개의 역할로 나누며, 각 역할은 자신의 컨텍스트 창에서 작동합니다.
→ 플래너는 모호한 지시를 스프린트 사양으로 변환하고 코드를 절대 건드리지 않습니다.
→ 제너레이터는 모든 것을 작성하지만 자신의 출력을 평가할 수 없습니다.
→ 에밸류에이터는 diff를 읽고, 앱을 실행하며, 모든 코드베이스를 증명될 때까지 깨진 것으로 취급합니다.
제너레이터가 한 줄이라도 작성하기 전에, 에밸류에이터와 계약을 협상합니다. 둘은 마크다운 파일을 통해 논쟁하며, 테스트 가능한 기준의 체크리스트에 동의할 때까지 계속합니다. Karpathy는 작은 앱의 경우 27가지 기준이 적절한 크기라고 하며, 10가지는 너무 적어서 에밸류에이터가 단순히 승인만 찍는다고 합니다.
상태는 디스크에 저장됩니다. 왜냐하면 컨텍스트 창은 거짓말을 하기 때문입니다. Karpathy는 feature_list.json, progress.md, contract.md, 그리고 추가 전용 log.md를 유지합니다. 모델이 충돌하면 3개의 파일을 읽고 중단된 지점부터 재개합니다.
가장 직관에 반하는 부분은 재시작에 관한 것입니다. 최고의 프론티어 모델은 실행이 잘못될 때 모든 것을 버리고 처음부터 재구축합니다. Karpathy는 이를 방해하지 말라고 합니다. 재시작이 바로 루프가 자신의 일을 하는 것입니다.
참고를 위해 이 내용을 저장하세요.
{{IMAGE_0}}
{{IMAGE_1}}
2
Turn Claude into 20+ different specialists for marketing & business.
Install real expertise, not just prompts.
Get my Claude skills bundle
3
Anthropic Applied AI lead, William Steuk:
"We simplified our system prompt to 15 lines and replaced all business logic with skills. Leave the system prompt only for the information Claude needs in its mind, regardless of the task."
400 lines down to 15. Eval scores jumped from
{{IMAGE_2}}
{{IMAGE_3}}