Tự chủ & cá tính cho AI Agent: đối chiếu quy trình khai sinh head medusa-ai
Đối chiếu quy trình khai sinh head 3 pha của medusa-ai với state-of-art 2026 về persona, memory, orchestration và autonomy guardrails - định vị khoảng trống, không viết lại kiến trúc.
Nghiên cứu này đối chiếu quy trình khai sinh một head (một trợ lý AI tự chủ) trong hệ thống medusa-ai với những gì literature 2026 đã kiểm chứng về thiết kế persona, kiến trúc bộ nhớ, orchestration và guardrails cho autonomy. Mục tiêu không phải viết lại kiến trúc, mà là định vị chính xác các khoảng trống và xếp chúng theo chi phí/lợi ích.
Tổng cộng 12 khoảng trống được định vị: 3 nên làm ngay (chi phí thấp, không đổi kiến trúc), 3 nên làm sớm (effort vừa, giữ nguyên invariant), và 6 để sau (v2/v3 - runbook đều đã chủ động xếp vào non-goal).
Phương pháp & phạm vi
Đối chiếu trực tiếp 3 pha của runbook khai sinh head:
- Pha A - Identity: rút SOUL (bản mô tả cá tính) + seed bộ nhớ 2 tầng.
- Pha B - Code: dựng năng lực nhớ, hành động, lịch chạy (B1-B8).
- Pha C - Nạp / đo / verify: đổ ký ức, đo baseline cá tính, kiểm tra trước khi go-live.
Giới hạn cần nói rõ: dựa trên web-search 2026 + cross-check đa nguồn, không phải khảo cứu toàn văn paper; ưu tiên nguồn có trích dẫn kỹ thuật cụ thể khi các nguồn mâu thuẫn. Không có benchmark thực nghiệm trên head thật - khuyến nghị dựa trên đối chiếu logic kiến trúc, không phải A/B test.
Persona & Identity Design
State-of-art. Persona không phải thứ viết vào, mà là thứ chọn ra và neo lại từ kho latent sẵn có của model (Anthropic Persona Selection Model). Huấn luyện bằng nguyên tắc kèm lý do generalize tốt hơn demonstration đơn thuần; một constitutional document chất lượng cao giảm agentic misalignment hơn 3 lần.
medusa-ai. Prompt-pack phỏng vấn D1-D9 để "rút" SOUL ra từ chính model thay vì soạn tay - khớp trực tiếp với mô hình trên. SOUL luôn "thắng" và được đặt cuối context. Điểm còn thiếu: validator chỉ kiểm cấu trúc, chưa kiểm nội dung có giải thích "vì sao", chưa có kênh cho reflection/tiến hoá có kiểm soát.
Kết luận: đúng hướng, độc lập với literature. Phần reflection đã được chủ động đẩy sang non-goal v2.
Memory Architecture
State-of-art. Bộ nhớ phân tầng chuẩn MemGPT/Letta: core (RAM) + recall (disk) + archival (cold), với 4 loại working / episodic / semantic / procedural. Các framework dẫn đầu (Letta, Mem0, Zep) có auto-forgetting và consolidation ở runtime.
medusa-ai. Seed 2 tầng tách bạch episodic (ký ức) khỏi semantic (tri thức) - đúng nguyên lý "một nội dung chỉ ở MỘT nơi". Thiếu tầng procedural memory ở runtime (agent tự học "cách làm") - hiện cố định trong code; chưa có forgetting/consolidation runtime.
Kết luận: khớp tinh thần 2-tier. Gap procedural-memory là thật nhưng ưu tiên thấp - chưa cần khi mới một head, ít tương tác thực.
Orchestration & Autonomy Framework
State-of-art. LangGraph trưởng thành nhất: checkpointing + durable execution + human-in-the-loop approval là primitive bậc nhất. Guardrail có sẵn: NeMo Guardrails, Guardrails AI, OpenAI SDK (tracing tích hợp).
medusa-ai. Không dùng framework ngoài - tự xây runner + gate-engine, vì invariant SPLIT (phát hiện thì tất định, phản hồi thì phán đoán) không map thẳng vào framework nào. Đổi lại: thiếu observability/tracing tích hợp; gate hiện chỉ "smoke boot xem log", chưa có tracing có cấu trúc để debug sau sự kiện.
Kết luận: không dùng framework là hợp lý. Gap structured tracing để sau khi có ≥3 head chạy thật.
Autonomy Safety - Guardrails & Approval
State-of-art. Checklist chuẩn: least-privilege, lọc I/O, người duyệt cho hành động rủi ro cao, sandbox, logging, giới hạn chi phí, agent không tự sửa instruction, kiểm tra kill-switch định kỳ. Autonomy tăng dần: read-only → draft → low-risk review → full.
medusa-ai. Đã có approval gate + quiet-hours + budget/kill-switch/TTL - khớp checklist khá sát; SOUL là file tĩnh nên không lo bị self-edit. Điểm thiếu: boot thẳng full autonomy (chưa có shadow-mode); approval một chạm chưa phải checklist.
Kết luận: khớp sát. Hai cải tiến nên làm: (a) giai đoạn observe-only trước go-live, (b) đổi approval sang checklist intent/phạm vi/rollback.
Identity / Persona Drift Detection
State-of-art. Persona drift là hiện tượng đã đo được: một persona khó duy trì qua phiên agentic dài. Công cụ: SyncScore (lệch tông/giọng), ContextEcho (drift tới 19% giữa các LLM), CUSUM (phát hiện "phẳng cảm xúc" dần qua 60 ngày mô phỏng).
medusa-ai. Battery cá tính đo baseline consistency + divergence một lần lúc khai sinh - đúng hướng, nhưng chỉ là snapshot. Chưa có cơ chế đo lại định kỳ và so với baseline để phát hiện drift sau hàng trăm tương tác thật.
Kết luận: gap nên làm ngay - thêm một bước drift-check nhẹ định kỳ làm cầu nối tới battery đầy đủ ở v2.
Ba điểm kiến trúc trùng khớp gần như chính xác
- Constitution reason-based. Anthropic chuyển constitution từ rule-based sang reason-based (giải thích lý do, không chỉ liệt luật). SOUL 2 tầng của medusa = giá trị có lý do + luật NEVER tuyệt đối - đã là kết hợp reason + rule. Tinh chỉnh nhỏ: thêm gợi ý (không gate cứng) để mỗi luật NEVER nối được về đúng giá trị làm căn cứ.
- Self-evolving memory risk. Vòng đời bộ nhớ tự tiến hoá hỏng ở 3 chỗ: poisoning lúc ghi, drift lúc gộp, hallucination lúc đọc. Ba đường giảm thiểu: policy fine-tune, read-side sanitiser, write-side gate. Runbook đã có đúng write-side gate (chặn trước khi ghi, đóng dấu provenance) - và tự liệt read-side sanitiser vào non-goal v2. Triage đúng thứ tự ưu tiên, không phải may mắn.
- Psychometric validity. SJT đo cá tính LLM chỉ ổn định với vài nét tính cách; latent factor không khớp con người thật. Battery nên hiểu là đo "tính nhất quán hành vi theo ngữ cảnh", không phải "personality thật" - và nên note rõ điều đó.
Gap ledger - 12 khoảng trống
| # | Khoảng trống | Vị trí | State-of-art | Ưu tiên |
|---|---|---|---|---|
| 1 | Luật NEVER chưa bắt buộc nối về lý do/giá trị | Pha A · validator | Reason-grounded giảm misalignment >3× | Làm ngay |
| 2 | Chưa có drift-check nhẹ định kỳ sau baseline | Pha C · battery (1 lần) | SyncScore / CUSUM đo drift liên tục | Làm ngay |
| 3 | Approval là nút đơn, chưa phải checklist | Approval gate | Người bắt hành động xấu ~9-26% nếu chỉ "Approve?" | Nên làm |
| 4 | Chưa có shadow-mode trước khi cấp hành động thật | Pha C · boot thẳng full | Autonomy tăng dần: read-only → draft → full | Nên làm |
| 5 | Chưa rõ retrieval có reverse-sort theo relevance | Bộ nhớ (chưa audit) | Reverse-sort thắng confidence-sort trên context dài | Audit code |
| 6 | Battery chưa note "hành vi nhất quán ≠ personality thật" | identity-battery | Latent factor LLM không khớp con người | Doc-only |
| 7 | Chưa có structured tracing cho autonomous run | Gate · "xem log" | Checkpointing + replay là primitive bậc nhất | Sau ≥3 head |
| 8 | Procedural memory chưa có kênh cập nhật runtime | Cố định trong code | 4-tier: working/episodic/semantic/procedural | v2/v3 |
| 9 | SOUL tĩnh, không phải identity graph (ID-RAG) | SOUL 1 file | Ground persona vào knowledge-graph, query mỗi vòng | Khi SOUL phình |
| 10 | Read-side memory sanitiser (dedup/cap) chưa có | Non-goal đã ghi | 1/3 đường giảm thiểu chuẩn | Triage đúng |
| 11 | Consolidation engine + self-reflection chưa có | Non-goal đã ghi | Reflection cho phép tiến hoá có kiểm soát | Triage đúng |
| 12 | Chưa có protocol chuẩn head-to-head (A2A) | Silo có chủ đích | A2A/MCP là default cho multi-agent 2026 | Có chủ đích |
Khuyến nghị - Top 3 làm trước
Cả ba đều chỉ sửa prompt-pack/doc, không đụng invariant kiến trúc.
- Nối luật NEVER về giá trị. Khi model sinh một luật cấm, yêu cầu ánh xạ ngược về đúng giá trị làm căn cứ. Chỉ là prompt hint, không cần gate cứng mới.
- Drift-check nhẹ định kỳ. Mỗi 4-6 tuần vận hành, chạy lại 2-3 song đề (không phải cả bộ), diff với baseline, log nếu lệch. Tái dùng script đã có - không cần hạ tầng mới.
- Challenge-and-response cho approval. Đổi nội dung message duyệt từ "Approve?" sang checklist ngắn: làm gì / ảnh hưởng tới đâu / lỡ sai thì gỡ sao. Vẫn một chạm - chỉ đổi nội dung, không đổi luồng kỹ thuật.
Điều thú vị nhất không nằm ở danh sách việc cần làm, mà ở chỗ phần lớn nguyên tắc này được đúc kết ra trước cả khi đọc các nghiên cứu - bằng chứng rằng khi bạn thật lòng muốn nuôi một agent cho tử tế, kiểu gì bạn cũng chạm đúng vào những bài học mà khoa học đang chỉ ra.