Agent Architecture: Vì sao một AI Agent cần nhiều “Harness”?
AI Agent không chỉ là LLM + Tools. LLM có thể reasoning và gọi tools, nhưng để xử lý một task nhiều bước trong môi trường thực tế, Agent cần thêm các lớp hỗ trợ để có context, thực hiện action, điều phối execution và kiểm soát hành vi.
Đó là vai trò của các Harness bao quanh Cognitive Core.
Vậy một Agent thực sự được cấu thành như thế nào? Dưới đây là cấu trúc của một Agent và cách các lớp Harness phối hợp với nhau trong quá trình thực thi.
1. Cognitive Core: Agent “suy nghĩ” gì?
Prompts, LLM Models và Skills tạo nên Cognitive Core – nơi Agent reasoning, đưa ra quyết định và xác định capability cần sử dụng. Nhưng để biến quyết định thành hành động thực tế, Cognitive Core cần được kết nối với các Harness bên ngoài.
2. Context Harness: Agent cần biết gì?
Knowledge Graph, Vector Store và Checkpoint/Memory cung cấp context và state cần thiết cho Agent trong quá trình thực thi.
Câu hỏi quan trọng là ở thời điểm này, Agent cần biết gì để đưa ra quyết định tiếp theo?
3. Action Harness: Agent có thể tương tác với gì?
Tools, MCP và Web Search mở rộng khả năng của Agent ra bên ngoài LLM, cho phép Agent truy cập dữ liệu, gọi API hoặc thực hiện hành động trên các hệ thống khác.
Có thể hiểu đơn giản: Agent quyết định → Action Harness thực thi → Agent nhận kết quả.
Vì vậy, Tool không chỉ là một function để LLM gọi, mà là interface giữa Agent và thế giới bên ngoài.
4. Orchestration Harness: Agent thực hiện task như thế nào?
Với những task nhiều bước, Agent cần một cơ chế để điều phối toàn bộ execution:
Thought → Action → Observation → Thought → ...
Orchestration chịu trách nhiệm quản lý execution loop, retry, resume và điều kiện kết thúc, giúp Agent duy trì tiến trình thay vì chỉ thực hiện một action đơn lẻ.
5. Control Harness: Agent được phép làm gì?
Guardrails, Tool Policies, Isolation & Sandbox đặt ra các giới hạn cho hành vi của Agent: tool nào được sử dụng, action nào được phép thực hiện và execution diễn ra trong phạm vi nào.
- Action Harness: Agent có thể làm gì?
- Control Harness: Agent được phép làm gì?
Một Agent có thể reasoning, sử dụng tools và hoàn thành task. Nhưng để vận hành ổn định trong production, architecture còn cần được kết nối với các lớp deployment, monitoring, evaluation và optimization.
Đây cũng là nơi Agent Engineering chuyển từ việc “xây một Agent” sang xây và vận hành một hệ thống Agent.
إرسال تعليق