docs/AI_REVIEW_GUIDE.md

Claude 단독 검수 — v4-ai-review-1

사용자의 명시적 선택에 따라 사람 검수를 Claude 단독 검수로 대체한다. 사람 검수 완료를 주장하거나 AI를 사람 이름으로 등록하지 않는다. 기존 사람 검수 기능은 별도 경로로 보존한다. 학습·평가·예산 기준은 유지하고, 새 실행 설정은 configs/protocol-v4-ai.json을 사용한다.

고정 운영 기준과 해석

• 언어당 같은 200문항을 서로 분리된 Claude 세션 두 개에서 판정한다. 총 여섯 세션의 원판정·실제 모델 ID/버전·접속 방식·UTC 시각·생성 설정·프롬프트·첨부 입력·대화 내보내기를 보존한다. 세션마다 실제 Claude 모델/버전을 기록하며 서로 다른 Claude 모델도 허용한다. 결과를 보고 유리한 모델의 판정만 선택하지 않는다. UI가 정확한 버전이나 생성 설정을 노출하지 않으면 not_exposed로 명시한다. 표시되는 모델 이름이나 실제 실행 시각을 추측하지 않는다.
• 원판정 일치율 ≥95%, κ ≥0.8은 AI 반복 판정의 운영상 일관성 기준으로 유지한다. 이를 인간 평가자 간 신뢰도나 정답 타당성의 증거로 해석하지 않는다. 별도 세션이어도 오류가 상관될 수 있으며, 높은 일치율이 언어별 편향을 제거하지 않는다.
• 모든 원본과 다른 의미 판정 및 fluent=no는 별도 Claude 재검토가 필요하다. 원판정을 덮어쓰지 않는다. 정답 오류·실제 비문이면 새 데이터 버전에서 수정하고 재검수한다. 단지 통과하려고 재실행하거나 yes로 바꾸지 않는다. 재검토가 원래 문장을 타당하다고 판단할 때만 그 근거를 resolved_items에 보존하며, 원판정 일치율은 재검토로 높이지 않는다.
• 문장 틀·활용형·어휘 체크리스트 21행 모두 checked=yes, issue=no여야 한다. 틀 자체의 문제가 남으면 새 데이터 버전으로 간다. AI 검수는 생성 문항의 언어적 타당성을 확정하지 않으며, 결과는 AI로 검수한 통제 코퍼스에서의 학습 효율에 한정한다.
• 해시는 파일 변조를 검출한다. Claude 제공자가 실제 생성했는지, 답안을 사전에 보지 않았는지 자체를 암호학적으로 인증하지는 않는다. 원대화·메타데이터는 운영자가 정직하게 보관해야 한다.

기존 KO 회신의 처리

사용자는 여섯 회신이 실제 분리된 AI의 판정임을 확인했다. 서버 보고상 KO 공간 관계 50문항씩, 총 100행이 fluent=no이고 사유가 비어 있다. 이 PC에는 회신이 없어 그 내용은 직접 확인하지 않았다. 경로에 test-data가 있다는 이유만으로 합성 자료로 판정하지 않는다.

1. 최초 CSV와 대화를 읽기 전용 보관하고 해시를 기록한다.
2. 기존 KO 세션에 해당 검수 ID와 문장을 제시하고 누락 사유를 보완하도록 한다. Claude 요청문의 Supplement 부분을 사용한다.
3. 보완 응답은 새 파일로 받는다. 원판정을 수정했다면 Claude가 수정 이유도 기록해야 한다. 최신 완전 CSV와 전체 대화, 최초 CSV 및 보완 요청문을 모두 증거에 연결한다.
4. fluent=no가 남으면 결합은 가능하지만 인증은 별도 재검토 기록이 있어야 가능하다. 코드가 사유를 대신 작성하거나 자동으로 fluent=yes로 바꾸지 않는다.

증거 작업 공간 준비

python scripts/prepare_ai_review.py --output review/ai/claude-v1

이는 기존 ZIP·문항·대응표를 변경하지 않는다. 새 폴더에 입력 사본, 앞으로 사용할 요청문, evidence.json의 미완성 양식만 만든다. 판정·모델 정보·실행 시각은 생성하지 않는다. 이미 수행한 검수는 이 새 요청문을 과거에 사용했다고 기록하면 안 된다. 당시 실제 요청문과 첨부 입력을 별도 보관하고 해당 경로/해시로 연결한다. 당시 기록이 없으면 증거 미완료다.

각 runs 항목을 실제 사실로 채운다. provider=anthropic, model_id, model_version, interface(api/claude_web/claude_code), 서로 다른 session_id, UTC executed_at_utc, settings를 기록한다. UI 미노출 설정은 {"availability":"not_exposed"}로 기록한다. fresh_context=true와 answer_key_exposed=false는 실제 최초 판정 조건이 맞을 때만 설정한다. 최상위 data_origin은 실제 자료임을 확인한 경우 actual_claude_responses로 설정한다.

아티팩트는 모두 {"path":"evidence.json 기준 상대 경로", "sha256":"SHA256"} 형식이다.

• inputs: items/checklist/noun_forms/construction_examples/inventory 다섯 파일.
• prompt: 당시 실제 전체 요청문. transcript: 전체 대화 내보내기(후속 보완 포함).
• items_response, checklist_response: Claude의 완전한 원출력 CSV.
• prior_artifacts: 최초 회신·추가 요청·중간 응답 등의 아티팩트 목록. 최초 판정을 지우지 않는다.

체크리스트의 checked, issue는 yes/no로 명시한다. items의 fluent=no에는 comment가 필수다. 대화에서 추출한 CSV의 내용은 원응답과 일치해야 한다. 기록은 review/ai/에 보관하고 Git에 올리지 않는다. 모델/API 사용료는 GPU시간과 별도로 운영 기록에 남긴다.

세션 실행과 기록 (Claude Code 하위 세션)

각 패키지는 scripts/prepare_claude_sessions.py --workspace review/<ver>/ai/<name>가 만든 prompt-sent.md (일반 요청문 + 다섯 입력 파일의 절대 경로와 출력 형식)와 한 단락짜리 launcher-text.md로 시작한다. 세션은 새 컨텍스트의 Claude Code 하위 에이전트(도구는 파일 읽기만)이며, 실행 기록(JSONL 전사)이 곧 증거다.

세션이 끝나면 판정을 손대지 않고 아래로 기록한다.

python scripts/record_ai_review_session.py --workspace review/<ver>/ai/<name> --code <CODE> \
  --agent-transcript <세션 JSONL> --launcher review/<ver>/ai/<name>/<CODE>/launcher-text.md \
  --session-id agent-<id> --submissions review/<ver>/submissions/raw

• 전사에서 모델 식별자(model 첨부의 modelId), 시작·종료 시각, 정지 사유, 출력 토큰 수를 그대로 옮긴다. 추정값을 쓰지 않는다. 전사 사본은 <CODE>/session-transcript.jsonl, 읽기용 정리본은 transcript.txt.
• 응답이 출력 한도에서 끊긴 경우 두 형태만 허용한다. (1) 이어쓰기: 다음 메시지가 헤더 없이 끊긴 행부터 다시 쓰면 앞 블록을 이어 붙이고, 끊긴 부분 행 하나만 버린다(같은 review_id의 완전한 행이 있어야 하며, 부분 행이 완전한 행의 접두사가 아니면 거부). (2) 재시작: 다음 메시지가 헤더부터 완전한 블록을 다시 내면 그 블록이 최종 응답이고, 끊긴 시도는 superseded_attempts에 행 수와 최종 블록과의 판정 불일치 목록을 남긴다. 두 경우 모두 evidence.json의 response_assembly에 기록된다.
• 검증(행 수·식별자·문장·코드 불변, 판정 존재, fluent=no의 comment, 체크리스트 행 집합 일치)에 실패하면 기록하지 않고 종료한다. 그 시도의 전사는 <CODE>/attempt-<n>-<id>/에 보존해 prior_artifacts에 등록하고, 같은 패키지로 새 세션을 실행한다. 판정을 보고 세션을 고르지 않는다(거부 사유는 기계적 검증뿐이다).

결합·재검토·인증

기존 merged 결과와 확인서를 덮어쓰지 않도록 새 출력 폴더를 사용한다. raw에는 각 코드당 최신 완전 items CSV 하나만 두고 최초 파일은 별도 보존한다. 체크리스트는 raw 밖에 둔다.

python scripts/merge_review_submissions.py --review review --data data/draft-v4.3 \
  --review-mode claude_only --output review/submissions/merged-ai-v1

결합 도구가 만든 확인서는 자동 통과 자료가 아니다. 21행 체크리스트 결과를 확인한 뒤 all_templates_and_forms_checked=true를 기록한다. 불일치가 있으면 별도 새 Claude 세션에서 검토하며, evidence.json에 adjudication 항목을 추가한다. 기본 메타데이터·prompt·transcript· prior_artifacts 형식은 runs와 같고, response는 {"resolved_items": {...}} 형태의 Claude JSON 원출력이다. 여기에 있는 문항 집합과 판단·근거가 확인서의 resolved_items와 정확히 일치해야 한다. 원본 정답과 다른 최종 결론은 데이터 수정이 필요하므로 인증하지 않는다.

python scripts/prepare_ai_review.py --seal review/ai/claude-v1/evidence.json
python -m flystudy certify-ai-review --data data/draft-v4.3 \
  --csv review/submissions/merged-ai-v1/reviewed-audit-sample.csv \
  --templates review/submissions/merged-ai-v1/attestation-draft.json \
  --evidence review/ai/claude-v1/evidence.sealed.json --output reports/ai-review.json

seal은 기존 입력 해시를 검증하고 출력 해시를 채운 별도 스냅샷만 만든다. 인증을 대신하지 않으며 기존 sealed 파일을 덮어쓰지 않는다. 거절·수정·보완 이력도 버전별로 보존한다.

서버 기술 검증과 다음 단계

src 변경으로 전체 코드 해시가 바뀐다. 기존 G0/G1 보고서의 해시를 수정하거나 현재 증거로 재표기하지 않는다. 서버에서 새 코드와 configs/protocol-v4-ai.json으로 G0/G1을 새 예약·새 출력 경로에 재실행한다. 기존 장부의 사용량을 유지하고 추가 비용을 청구한다.

AI 인증과 새 G0가 실제 통과한 뒤에만 실행한다.

python -m flystudy pilot-ready --review-mode claude_only \
  --g0 reports/g0-ai-server.json --review reports/ai-review.json \
  --data data/draft-v4.3 --graph artifacts/graphs/real.npz \
  --tokenizer artifacts/tokenizer-v4.3.json --output reports/pilot-ready-ai.json

readiness와 freeze는 원응답·프롬프트·재검토 증거의 해시까지 전달한다. 증거가 바뀌면 실행을 거절한다. 주 런·분석 결과에 review_mode, human_reviewed=false, 개정 ID와 한계를 표시한다. G2/G3·순서 파일럿·검정력·예산 검증과 freeze는 그대로 필요하며 AI 검수로 대체하지 않는다.

개정 v5.1-ai-review-2 (2026-09-17) — 체크리스트 지적의 쟁점별 조정

시점과 성격. 이 개정은 자료 v4.6에 대한 검수 2차(review/v6)의 결과를 확인한 뒤, 파일럿·보정·본실험을 하나도 시작하기 전에 운영자 결정(선택지 b)으로 채택했다. 채택 시각·사유·채택 당시 알고 있던 지적 9행은 reports/ai-review-rule-amendment.json에 있다. 검수 1차·2차는 v4-ai-review-1 규칙으로 처리했고 그 결과·파일은 바꾸지 않는다. 이 개정을 그 이전부터 정해진 규칙인 것처럼 소급하지 않는다.

바뀐 것. issue=yes 1행이 자동으로 자료 개정·전체 재검수 사유가 되지 않는다. 대신 모든 issue=yes 행은 근거가 기록된 쟁점별 조정의 대상이 된다(flystudy.ai_review.validate_checklist_adjudications).

• 차단 범주(하나라도 확인되면 인증 거부, 영향받은 부분만 새 버전에서 수정): 주 학습·평가 문항의 정답 오류, 의도한 의미를 훼손하는 문법·어휘 오류, 언어 간 의미 대응의 실질적 불일치, 과제 정의로 해소되지 않아 정답을 달라지게 하는 모호성, 누출·변조·필수 검수 누락.
• 비차단 범주(근거와 적용 범위를 남기고 인증 보고서의 한계로 기록): 문체 선호, 과제 정의 밖의 해석, 보조 평가에만 해당하는 문제. 보조 평가 범위의 한계는 본실험 전에 보조 지표의 제외 또는 해석 제한으로 명시한다.
• 단일 지적이라는 이유로 자동 기각하지 않고, 다른 세션이 지적하지 않았다는 이유(다수결)로 통과시키지 않는다. 원래 지적은 수정하지 않는다.

절차. scripts/adjudicate_checklist_issue.py가 쟁점마다 (1) prepare: 지적 행·동료 세션 행·과제 정의·관련 구문 예시(검수한 자료 버전, 참조 label 포함)·관련 어휘표만 담은 패키지와 요청문을 만들고, (2) run: 도구 없는 새 Claude 세션(claude -p --tools '' --strict-mcp-config, 빈 샌드박스)을 실행해 출력 JSON과 세션 전사를 보관하고, (3) record: 단일 구조화 응답(쟁점 ID, 검토한 입력 해시, 영향 범위, 구체적 오류·반례, 차단 여부와 근거, 최소 수정 또는 해석 범위)을 검증·원문 보관하고 메타데이터를 채운다. (4) assemble: evidence.json에 rule_amendment와 checklist_adjudications를 더한 새 증거 파일과, 판정별 확인(checklist_adjudications)을 담은 확인서를 만든다. 200문항 전체 재판정이나 CSV 재출력은 요청하지 않으며, 통과를 유도하는 문구를 넣지 않는다. 쟁점별 세션은 한 번씩이며 같은 자료를 통과할 때까지 반복 제출하지 않는다.

검증기. validate_ai_evidence는 모든 지적 행이 정확히 하나의 조정 항목에 덮이는지, 각 항목이 새 세션 메타데이터·요청문·전사·입력 해시 목록·응답 원문을 갖는지, 응답이 입력 해시를 그대로 되풀이하는지, 범주와 차단 여부가 일치하는지, 확인서가 각 판정을 정확히 인정하는지 검사한다. 하나라도 차단이면 인증을 거부한다. 완전 일치(일치율 1.0)는 판정 일관성의 근거일 뿐 오류가 없다는 보증이 아니다.