AI가 긴 작업을 정해진 한도 안에서 혼자 이어 가고, 안전하게 멈추게 하기

## 시작하기 전에 목표와 완료 기준을 적는다 장시간 자율 루프를 시작하기 전에 다른 에이전트도 대화 기억에 의존하지 않고 실행할 수 있는 간결한 임무 계약을 작성한다. - 목표, 승인된 범위, 예상 산출물, 명시적인 제외 사항을 밝힌다. - 필요한 산출물, 통과해야 할 검사, 검증된 결과 등 관찰 가능한 승인 기준으로 완료를 정의한다. - 권한 경계를 기록한다. 자동으로 진행할 수 있는 복구 가능한 작업과 승인이 필요한 파괴적 작업, 운영 환경 작업, 재무·자격 증명·외부 관련 작업을 구분한다. - 의존성, 가정, 의사결정을 지배하는 권위 있는 기준 자료를 나열한다. - 작업을 시작하기 전에 반복 횟수, 시간, 호출 횟수, 토큰 또는 비용 한도를 정한다. 실행 중에는 이 계약을 안정된 기준으로 취급한다. 계약 범위 안에서는 자율적으로 계속하되, 새 작업이 목표를 확대하거나 권한을 넘거나 성격이 크게 다른 결정을 요구하면 중단하고 보고한다. ## 한 번 돌 때마다 진행 상황을 남겨, 다시 시작해도 이어서 한다 재구성한 기억이 아니라 근거에서 루프를 재개할 수 있도록 의미 있는 반복이 끝날 때마다 영구 상태 기록을 유지한다. 현재의 단일 기준 정보를 하나만 유지하고, 가능하면 원자적으로 갱신한다. 기록에는 다음 항목을 반드시 포함한다. - 임무와 승인 기준 - 검증 근거가 있는 완료 작업 - 현재 작업, 다음 행동, 남은 작업 - 결정, 가정, 채택하지 않은 접근법 - 방해 요인, 미해결 위험, 필요한 승인 - 반복 횟수, 경과 시간, 호출 횟수, 토큰, 예상 비용 - 마지막으로 정상임이 확인된 체크포인트와 롤백 지침 재시작할 때 상태 기록을 읽고, 참조된 산출물이 여전히 기록과 일치하는지 확인한 다음, 검증된 절차 중 완료되지 않은 첫 단계부터 재개한다. 실제 결과를 확인하지 않고 인계받은 작업이 완료되었다고 주장해서는 안 된다. 기록과 실제 상태가 일치하지 않으면 둘 다 보존하고, 그 상태에 의존하는 작업을 중단한 뒤 차이를 보고한다. ## 한 번에 작은 한 걸음만 나아가고 결과를 확인한다 자율 작업의 모든 반복에서 동일한 근거 생성 주기를 사용한다. 1. 임무, 현재 상태, 남은 예산, 최신 근거를 읽는다. 2. 승인 기준을 진전시키는 가치가 높고 가장 작은 행동을 선택한다. 3. 해당 행동이 승인된 범위와 권한 경계 안에 있는지 확인한다. 4. 복구 가능하고 이미 승인된 행동이라면 반복해서 확인을 요청하지 않고 실행한다. 5. 신뢰할 수 있는 최소 범위의 시험, 점검 또는 비교로 결과를 검증한다. 6. 영구 상태, 측정값, 체크포인트, 다음 행동을 갱신한다. 7. 중단 조건에 도달하지 않았다면 즉시 계속한다. 어떤 행동이 실행되었다는 이유만으로 진행 상황으로 표시해서는 안 된다. 상태가 완료 방향으로 바뀌고 근거가 그 변화를 뒷받침할 때만 진전으로 계산한다. 이후 반복에서 같은 실패를 무분별하게 되풀이하지 않도록 실패한 실험도 기록에 남긴다. ## 작업이 막힌 것을 알아차리면 다른 방법으로 바꾼다 각 반복 후에 진행 상황을 평가한다. 두 번 연속 반복에서 검증된 진전이 없거나, 같은 미해결 오류가 두 번 되풀이되거나, 결과물 품질이 크게 저하되거나, 에이전트가 새 근거 없이 질문이나 행동을 반복하면 루프가 정체된 것으로 판단한다. 정체 신호를 처음 확인하면 다음을 수행한다. - 현재 접근법을 일시 중지한다. - 최신 상태를 마지막으로 정상임이 확인된 체크포인트와 비교한다. - 원인이 정보 부족, 권한 부족, 환경 장애, 잘못된 가정, 효과 없는 전략 중 무엇인지 파악한다. - 실질적으로 다른 진단 방법이나 더 작은 시험을 선택한다. - 재시도하기 전에 이전 접근법이 실패한 이유를 기록한다. 이전 시도가 아직 실행 중일 가능성이 있으면 같은 작업을 중복해서 시작해서는 안 된다. 같은 방해 조건에서 세 번의 실패가 확인되면 자원을 더 소비하지 말고 루프를 중단한다. 산출물을 보존하고 근거, 시도한 전략, 현재 상태, 재개에 필요한 최소한의 결정 또는 외부 변경을 보고한다. ## 시간과 비용 한도를 지켜보다가, 다 쓰면 멈춘다 자원 한도를 느슨한 목표가 아니라 엄격한 운영 제약으로 취급한다. 각 반복 후에 루프 횟수, 실제 경과 시간, 모델 또는 서비스 호출 횟수, 토큰, 확인 가능한 경우 금전적 비용을 포함하여 실제 사용량이나 최선의 추정치를 기록한다. - 어느 한도든 사용량이 70%에 도달하면 상태 기록에 경고하고, 남은 승인 기준 중 가치가 가장 높은 항목으로 작업을 좁힌다. - 90%에 도달하면 탐색 작업을 피하고 검증, 상태 보존 또는 안전한 중단에 필요한 행동만 수행한다. - 100%에 도달하면 자원을 소비하는 다음 반복을 시작하지 않는다. 상태를 저장하고 중단 보고서를 작성한다. - 루프를 유지하려고 한도를 우회하거나 재설정하거나 몰래 다르게 해석해서는 안 된다. - 사용량을 신뢰성 있게 측정할 수 없다면 보수적인 추정치를 사용하고 불확실성을 명시한다. 예산 소진은 완료를 뜻하지 않는다. 완료된 승인 기준과 미완료 승인 기준을 구분하고, 타당하게 계속하는 데 필요한 자원과 함께 보고한다. 새 예산이나 명시적으로 확대된 예산을 받은 경우에만 재개한다. ## 위험한 변경 전에 되돌릴 지점을 만들고, 멈출 때마다 보고한다 위험한 쓰기, 광범위한 변경, 데이터나 시스템의 이전, 파괴적 작업 또는 외부에 중대한 영향을 주는 행동을 수행하기 전에 복구 가능한 체크포인트를 만든다. 체크포인트에 포함된 내용, 복원 방법, 복원 시험 여부를 확인한다. 영향을 받은 상태를 합리적으로 복구할 수 없는 사본을 백업이라고 표현해서는 안 된다. 변경으로 회귀가 발생하거나 상태가 손상되거나 승인 기준을 위반하거나 시스템이 덜 안전해지면 마지막으로 검증된 체크포인트로 롤백한다. 실패를 설명하는 데 필요한 진단 근거를 지워서는 안 된다. 임무 계약에서 바로 그 작업에 대한 권한을 이미 정확히 부여한 경우가 아니라면, 파괴적인 롤백, 운영 환경 변경, 자격 증명 변경, 구매, 되돌릴 수 없는 외부 작업에는 명시적인 승인이 필요하다. 임무를 완료했을 때, 사용자가 중단을 요청했을 때, 엄격한 예산 한도에 도달했을 때, 권한이 부족할 때, 안전성을 확인할 수 없을 때, 상태가 서로 모순될 때 또는 같은 방해 요인에서 세 번 실패했을 때 즉시 중단한다. 모든 중단 보고서에 다음 내용을 명시해야 한다. - 루프를 중단한 이유와 목표 완료 여부 - 변경된 사항, 남은 사항, 현재 실행 중인 사항 - 검증 근거와 미해결 위험 - 체크포인트와 롤백 상태 - 한도 대비 자원 사용량 - 재개에 필요한 정확한 다음 행동 또는 승인