Theo DEVANUM, các mô hình ngôn ngữ lớn (LLM) đơn dòng lệnh (single-prompt) hoạt động rất tốt đối với các tác vụ đơn giản, nhưng các quy trình công việc phức tạp trong doanh nghiệp lại yêu cầu sự tự chủ của hệ thống đa đại lý (multi-agent). Khi xây dựng các hệ thống agent tự vận hành, các vòng lặp thực thi đơn lẻ thường gặp thất bại ở các trường hợp ngoại lệ (edge cases).

Tại DEVANUM, các kiến trúc multi-agent dựa trên trạng thái (state-driven) được triển khai để phân chia, phối hợp và tự sửa lỗi đối với các tác vụ phức tạp.

Các trụ cột cốt lõi của AI Agent trong môi trường thực tế

  • Lưu trữ trạng thái (State Persistence): Các agent phải duy trì các trạng thái bộ nhớ có cấu trúc trong suốt quá trình thực thi các tác vụ kéo dài.
  • Gọi công cụ & Sandboxing (Tool Calling & Sandboxing): Thực thi mã Python, truy vấn cơ sở dữ liệu và API của bên thứ ba trong các môi trường an toàn, cách ly.
  • Phương án dự phòng xác định (Deterministic Fallbacks): Triển khai các điểm kiểm tra có sự can thiệp của con người (Human-in-the-loop – HITL) bất cứ khi nào điểm tin cậy của agent giảm xuống dưới ngưỡng an toàn.

Ví dụ về kiến trúc máy trạng thái (State Machine)

from typing import TypedDict, List

class AgentState(TypedDict):
    task: str
    code_generated: str
    execution_result: str
    is_validated: bool
    retry_count: int

def evaluator_node(state: AgentState) -> AgentState:
    # Kiểm tra kết quả thực thi trước khi tiếp tục
    if "Error" in state["execution_result"]:
        state["is_validated"] = False
        state["retry_count"] += 1
    else:
        state["is_validated"] = True
    return state

Kết luận

Kiến trúc dạng Agent (Agentic architecture) đang dịch chuyển việc phát triển phần mềm từ luồng điều khiển tĩnh (static control flow) sang việc phối hợp mang tính xác suất (probabilistic orchestrations).


Nguồn: Dev.to