tmpl/multi-agent-mux
1
0 Fork 0
Code Issues 9 Pull Requests Actions Packages Projects Releases Wiki Activity
Files
fc0bd96d8a61435b2869a2a12ba9df959a6f7f69
multi-agent-mux/docs/contracts/issue-5/task.md
T
Godopu fc0bd96d8a test(issue-5): harden watcher evidence validation and add codex pass review report 
- Enforce evidence-root confinement for capture_ref and 1:1 capture citation uniqueness
- Add pane identity and backend identity cross-validation
- Add bidirectional agreement checks between watcher/herdr manifests and scenario fixtures
- Expand contract test suite to 41 tests (100% pass)
- Document evidence confinement rules in herdr-runtime.md and update task.md
- Archive Codex 4th review report (Job 1bd561e6: [VERDICT: PASS])
2026-09-06 14:31:41 +09:00

8.6 KiB
Raw Blame History

📑 Issue #5 Task Checklist & Verification Evidence

  • Document Version: Rev.5 (Evidence Dispatch Hardening — P0-16/P0-18/P0-20 증거 갱신)
  • Issue: Gitea Issue #5
  • Status: Phase 0 Complete / Phase 1–4 Staged

Phase 0: 사전 계약 기준선 및 Fixture 수집 (이번 실행 범위)

  • P0-01 기준 commit, dirty diff, Herdr/Python 버전, pytest collection 수 기록.
    • 증거: Commit 47640e2, Herdr 0.8.2, Python 3.9.6, Pytest 469 tests collected initially ➔ 510 tests collected with Phase 0 suite (+41 contract & mutation tests).
  • P0-02 docs/contracts/issue-5/baseline.md 작성: 공개 CLI/default/invalid input/stdout-stderr/exit/interpreter/path/signal 계약과 소스·기존 테스트 매핑.
    • 증거: docs/contracts/issue-5/baseline.md §2 (--all-reviewer 우선순위 및 L192–196 소스 매핑 반영).
  • P0-03 event schema/HMAC/seq/retain/audit/디스크 fallback 및 publisher 실패 후 로컬 commit 동작 기록.
    • 증거: docs/contracts/issue-5/baseline.md §3 (감사 로그 경로 .mam/delegate_job_logs/<job_id>/ 정확히 반영).
  • P0-04 event와 registry status 분리; permission clearance·cancelled subscriber 차이·pick_pending 등 writer inventory/gap 기록.
    • 증거: docs/contracts/issue-5/baseline.md §3, job_subscriber.py:46, 80 vs publish_event.py:49 간극 명시.
  • P0-05 report strictness/promotion/cleanup 및 job/session/loop lock 획득·해제/ownership 계약 기록.
    • 증거: docs/contracts/issue-5/baseline.md §4, §5.
  • P0-06 docs/contracts/issue-5/state-transitions.md 작성: 4중 귀속, dispatch anchor, target CAS 표와 duplicate/conflict/deadline 정책.
    • 증거: docs/contracts/issue-5/state-transitions.md §2, §3.
  • P0-07 writing/stable_candidate/finalized 및 manifest/hash/부수효과 확정 계약 기록; debounce만으로 completed 금지.
    • 증거: docs/contracts/issue-5/state-transitions.md §4.
  • P0-08 Herdr native wait version/help/spec 및 단일 결과 capture 수집. timeout/unknown target/transport failure와 unknown 상태를 분리하고 외부 collector의 before/after 참조를 검증.
    • 증거: tests/fixtures/issue_5/herdr/wait-contract.json, docs/contracts/issue-5/herdr-runtime.md §1 (timeout stderr 채널 반영).
  • P0-09 claude native 상태/call-outcome 행렬·실측 provenance·미관측 gap 기록.
    • 증거: tests/fixtures/issue_5/herdr/claude/idle.json, herdr/manifest.json.
  • P0-10 agy native 상태/call-outcome 행렬·실측 provenance·미관측 gap 기록.
    • 증거: tests/fixtures/issue_5/herdr/agy/working.json, tests/fixtures/issue_5/herdr/agy/wait_timeout.json, herdr/manifest.json.
  • P0-11 hermes native 상태/call-outcome 행렬·실측 provenance·미관측 gap 기록.
    • 증거: herdr/manifest.json (미가동 세션 gap으로 정직하게 기록).
  • P0-12 grok native 상태/call-outcome 행렬·실측 provenance·미관측 gap 기록.
    • 증거: tests/fixtures/issue_5/herdr/grok/idle.json, herdr/manifest.json.
  • P0-13 opencode native 상태/call-outcome 행렬·실측 provenance·미관측 gap 기록.
    • 증거: herdr/manifest.json (미가동 세션 gap으로 정직하게 기록).
  • P0-14 codex native 상태/call-outcome 행렬·실측 provenance·미관측 gap 기록.
    • 증거: tests/fixtures/issue_5/herdr/codex/done.json, herdr/manifest.json.
  • P0-15 herdr/manifest.json과 watcher/manifest.json 분리. native observed 캡처만 저장; watcher timeline source별 observed/simulated, 전체 mixed 여부, identity association과 redaction 검증.
    • 증거: tests/fixtures/issue_5/herdr/manifest.json, tests/fixtures/issue_5/watcher/manifest.json.
  • P0-16 두 계층 schema/reference/coverage 테스트 추가: native payload에 job/attempt/report phase 주입 거부, 오류와 상태 분리, simulated를 observed로 표기 거부. 운영 session 쓰기 금지.
    • 증거: tests/test_issue5_phase0_contracts.py.
    • Rev.5 보강 (Codex [P1] 대응): source_kind 명시적 분기(SUPPORTED_SOURCE_KINDS), 관측 증거 스키마 미구현 kind(event/filesystem/harness)의 observed 표기 fail-closed 거부, Herdr 항목의 필수 필드·전 필드 대응·세션 UUID/pane/backend 정체성 대응, capture_ref 증거 루트 격리, 1캡처=1관측, 매니페스트↔파일 정합성 검증. 계약 명세는 herdr-runtime.md §3-1.
  • P0-16a watcher 복합 시나리오 7종 작성: initial idle, tool active, report pause, finalized candidate, blocked, disconnect, generation restart. source별 증거/가상 시계/expected policy를 구분.
    • 증거: tests/fixtures/issue_5/watcher/*.json (7개 시나리오 완료).
  • P0-16b herdr-runtime.md에 native API·단일 wait·외부 collector·file/event/dispatch source 경계를 명시.
    • 증거: docs/contracts/issue-5/herdr-runtime.md.
  • P0-17 Phase 1–4 implementation_plan.md/task.md 작성, live-helper version/공통 CAS/notification 복구 결정 기록.
    • 증거: docs/contracts/issue-5/implementation_plan.md, docs/contracts/issue-5/task.md.
  • P0-18 관련 CLI/lock/rebuttal/adapter 테스트와 전체 suite 실행; 수집·실행·통과·실패 숫자 분리.
    • 증거 (Rev.3 당시): 전체 484개 수집, 선행 전체 실행 481개 통과(0 failed, 0 skipped, 786.18s), 15개 계약/변이 테스트 전체 통과, 집중 코어 회귀 155개 통과(60.48s).
    • 증거 (Rev.5, job fb7fadd4): 전체 suite 실행 499 passed, 0 failed, 0 skipped (848.90s) — 커밋 19d798b 기준선(계약 테스트 30개 포함)에서 실행. Rev.5 보강 후 계약 테스트 파일 단독 재실행 41 passed (+11), 수집 총계 510 (--collect-only). Rev.5 변경은 tests/test_issue5_phase0_contracts.py 및 docs/에 국한되어 나머지 469개 테스트에 영향 없음.
  • P0-19 문서 링크/JSON/git diff --check/production 코드 무변경 확인.
    • 증거: git diff --check 클린, 공백 린트 완료, 프로덕션 .sh/.py 무변경 (오직 docs/, tests/ 변경).
  • P0-20 결과 보고: Phase 0 산출물 완료 여부, backend별 native live gap·mixed/simulated scenario 현황, 남은 gate를 별도 명시하고 peer review 요청.
    • 증거: .mam/jobs/61f2fa87/agy-reports/report-final.md (Rev.3 최초 보고), .mam/jobs/f29cb24e/claude-code-reports/report-final.md (Codex [P1]·Claude [Finding 2] 정정, 커밋 19d798b), .mam/jobs/fb7fadd4/claude-reports/report-final.md (Rev.5 자체 재리뷰 및 보강).

Phase 1: lib_py/delegation/ 구축 (후속 승인된 작업)

  • P1-01 기존 delegation import 서비스/CLI adapter 추출; 저장소 통합 없이 nonfatal·daemon PID 계약 보존.
  • P1-02 장수 프로세스 단일 MQTT 연결 재사용과 benchmark; legacy publisher 호환 테스트.
  • P1-03 HMAC/seq/retain/disk fallback 회귀와 rollback 확인. 자동완료 비활성 유지.

Phase 2a: lib_py/loop/ 코어 & Shadow Watcher (후속)

  • P2A-01 단일 engine/checkpoint와 모든 writer 공통 CAS 경계 구현.
  • P2A-02 4중 귀속/dispatch 증거/재연결 resnapshot/timeout/queue cancellation 처리.
  • P2A-03 shadow-only watcher가 어떤 terminal도 쓰지 않음을 검증.
  • P2A-04 race/attempt 재사용/부분 report/도구 실행/blocked/unknown/재시작 fixture 시나리오 실행.

Phase 2b: 이중 감지 자동완료 활성화 (후속)

  • P2B-01 report finalization/manifest/hash 및 외부 부수효과 evidence protocol 구현.
  • P2B-02 terminal+pending notification commit/재전송·재시작·늦은 conflict 처리 검증.
  • P2B-03 검증된 backend/job에만 default-off flag로 활성화; unsupported explicit event 경로 보존.

Phase 3: run_loop.sh Thin Wrapper 전환 및 전면 회귀 (후속)

  • P3-01 planner/reviewer/rebuttal/promotion 및 strict 판정/예산/중재/합의 테스트.
  • P3-02 thin wrapper 인자·interpreter·cwd·signal·guard·child cleanup 호환 검증.
  • P3-03 전체 suite+신규 race/restart/lifecycle, writer 단일성, rollback checkpoint 인계 검증.

Phase 4: 불변 런타임 검증 및 Freeze 제거 (후속)

  • P4-01 eager import+child/helper/template 실행 버전 정책 구현/검증.
  • P4-02 실행 중 코드 교체와 늦은 재심/승격/rollback 스트레스 검증.
  • P4-03 gate 통과 후에만 Freeze 제거 및 운영 문서 갱신.
Reference in new issue View Git Blame Copy Permalink