HBKenerzai/agentic-state-recall-v1

Agentic State Recall v1 (ENERZAi 내부, 2026-09-22)

실제 에이전트 궤적(AgentTuning alfworld·webshop, nebius SWE-agent; neulab/agent-data-collection 표준화본)에서 개체별 상태 변화를 프로그램으로 복원해 구조화 정답을 만들고, Qwen3.8-27B 가 자연어로 문장화한 뒤 역파싱 검증·근거 게이트·번호 정합 게이트를 통과한 문항만 남긴 학습 데이터. AMA-Bench 의 네 유형(A 회상 · B 인과 · C 상태 갱신 · D 상태 추상화)을 겨냥한다. B 유형의 "왜"·"실패 뒤 다음 행동" 문항은 궤적에 기록된 에이전트의 이유(Thought) 를 근거로 한다.

프롬프트는 AMA compaction_v3_nostate 하네스 형식(Task / Step Index / Most Recent(Thought: 줄 포함) / Recalled / Questions / Answer[N]:), 하네스 버전 1b98594ca4(설정·렌더러 소스 해시; 행의 meta.harness_version). AMA-Bench 테스트 원문은 포함하지 않는다. alfworld 는 출처 관측 어긋남(행동↔관측 한 칸 밀림) 궤적 77/336 을 제외했다.

구성(config) — split 은 출처(source)

config	내용	행	문항
train	학습 행. 612문항(Answer[N]:) 또는 자연문 1문항(14%). alfworld 는 연속 과제를 40150단계로 이어붙임(하위 과제 표지 begin_subtask), webshop 10~30단계, SWE 원본. 회상 모드 normal 4,067 / empty 361 / irrelevant 380	4,808	20,469
holdout	같은 생성기·학습 미사용 궤적(md5(id)%10==0). 채점은 판정 모델(AMA 판정 문구)로	240	909
review_batch50_v3	유형별 50개 단일 문항 검토 배치 + 판정 모델(Qwen3-30B-A3B) 채점 결과(judge: correct/partial/incorrect)	630	630

문항 하위유형(qtypes): range_actions · entity_actions_before (A) / why_action · next_after_failure · verification_after_edit · path_to_purchase (B) / container_state_history · object_location_history · count_with_steps · runs_and_results (C) / critical_actions · options_selected · files_edited_timeline (A/D).

결과 (삼진 Qwen3-1.7B, 배치3 출발점에서 6천만 토큰 학습, think 없음)

검증 문제지(holdout, 판정 모델 채점) 30.1 → 80.6 (A 76 · B 91 · C 54 · D 77). AMA think 끔 17.43 → 18.39(비유의), AMA 유형 A 19.2 → 23.5 (p=0.003), C 불변. think 켬은 항상 끔 이하. 약점: 정답 항목 5개 이상 문항의 열거 완결성(마지막 항목 누락) — ≤4개 45% / 5~8개 10% / 9개↑ 7%.

열(column)

열	형	뜻
messages	str(JSON)	[{role:user, content:<하네스 프롬프트>}, {role:assistant, content:"Answer[1]: … " 또는 자연문}]
questions / answers / gold_texts	list[str]	질문 · 27B 문장화 정답(학습 목표) · 규칙 정답(구조화 원문)
qtypes / qa_types	list[str]	하위유형 / AMA 유형(A~D)
evidence_steps	list[list[int]]	각 문항의 근거 단계(0 기준, 프롬프트 Step 번호와 같음)
answer_format / recall_mode	str	indexed·natural / normal·empty·irrelevant
meta	str(JSON)	{n_steps, traj_chars, concat, prompt_tokens, harness_version, thought_steps}

학습 yaml 예

- {name: HBKenerzai/agentic-state-recall-v1, subset: train, split: agenttuning_alfworld, group: real, require_thinking: false, transform: longctx/recall_v1}

생성·검증 코드: 학습 레포 data_gen/longctx/{qgen_state,build_state_rows,gen_state_batch,review_state_batch,eval_state_holdout}.py. 결정 기록 DECISIONS.md.