LLM, Tool, Memory và Planning: 4 thành phần của AI Agent

Trí tuệ nhân tạo đang bước vào giai đoạn chuyển đổi then chốt: từ các mô hình ngôn ngữ lớn (LLM) phản hồi thụ động sang các hệ thống AI Agent có khả năng hành động tự chủ. Thay vì chỉ trả lời câu hỏi trong khung chat biệt lập, AI Agent có thể tiếp nhận mục tiêu, tự lập kế hoạch, gọi phần mềm doanh nghiệp và thực thi toàn bộ chuỗi công việc mà không cần con người can thiệp từng bước.

Điều gì đã biến một mô hình ngôn ngữ vốn chỉ dự đoán từ tiếp theo thành một thực thể số có năng lực hành động? Trong bài nghiên cứu nền tảng của Lilian Weng (cựu Giám đốc Nghiên cứu An toàn tại OpenAI), kiến trúc của một tác tử AI tự chủ được khái quát hóa thành công thức kinh điển: Agent = LLM + Tools + Memory + Planning.

Bốn thành phần này tương tác hữu cơ với nhau: LLM đóng vai trò bộ não điều phối; Tools là tay chân tương tác với thế giới; Memory là hệ thống ký ức lưu trữ ngắn hạn và dài hạn; còn Planning đóng vai trò vỏ não trước trán phụ trách tư duy chiến lược. Bạn có thể tìm hiểu thêm các góc nhìn hệ thống khác tại chuyên mục AI Agent trên TrungTien.net.

Bài viết này sẽ đi sâu phân tích từng thành phần: nguyên lý vận hành, công nghệ cốt lõi, tiêu chí kỹ thuật, bảng so sánh đối chiếu và cách phối hợp nhịp nhàng giữa cả 4 trụ cột để xây dựng hệ thống AI Agent tin cậy trong môi trường doanh nghiệp.

1. LLM (Large Language Model): Bộ não trung tâm điều hành

Trong mọi kiến trúc AI Agent, mô hình ngôn ngữ lớn (LLM) giữ vai trò hạt nhân nhận thức cốt lõi. LLM tiếp nhận thông tin từ người dùng và môi trường, suy luận ngữ cảnh, đánh giá trạng thái hiện tại và quyết định bước tiếp theo nên trả lời trực tiếp hay kích hoạt công cụ ngoại vi phù hợp.

1.1. Tiêu chí lựa chọn LLM cho Agent

Không phải mọi LLM đều phù hợp để làm bộ não điều phối. Khi lựa chọn LLM cho Agent, các kỹ sư cần đánh giá dựa trên 3 tiêu chí kỹ thuật hàng đầu:

• Năng lực suy luận logic (Reasoning Capability): Agent cần hiểu quan hệ nhân quả và xử lý các tình huống rẽ nhánh phức tạp. Những mô hình như Claude 3.5 Sonnet, GPT-4o, DeepSeek-R1 hay OpenAI o1 sở hữu khả năng suy luận logic vượt trội.
• Tuân thủ cấu trúc dữ liệu chuẩn (Structured Outputs): Để gọi tool hoặc ghi vào cơ sở dữ liệu, LLM phải trả về dữ liệu chuẩn JSON 100%. Các mô hình hỗ trợ native JSON Mode bảo đảm chuỗi thực thi không bị gián đoạn do lỗi định dạng.
• Cửa sổ ngữ cảnh (Context Window) và khả năng tập trung: Cửa sổ ngữ cảnh hiện đạt từ 128k đến 1 triệu token, nhưng mô hình cần tránh hiện tượng "Lost in the Middle" để duy trì độ chuẩn xác.

1.2. Cân bằng giữa Latency, Chi phí và Độ chính xác

Một quy trình Agent thường gọi LLM nhiều lần. Để tối ưu chi phí và độ trễ, giải pháp là áp dụng định tuyến đa tầng (Tiered Routing):

• Tier chiến lược (Flagship Tier): Dùng Claude 3.5 Sonnet hoặc GPT-4o cho khâu lập kế hoạch tổng thể (Planning), phân rã nhiệm vụ và tổng hợp báo cáo chuyên sâu.
• Tier thừa hành (Lightweight Tier): Dùng GPT-4o-mini, Claude 3.5 Haiku hoặc Gemini 1.5 Flash cho các tác vụ phụ như phân loại ý định, trích xuất dữ liệu thô và tóm tắt với chi phí chỉ từ 0.15 đến 0.50 USD cho mỗi triệu token.

1.3. Những giới hạn cố hữu nếu LLM đứng một mình

Dù thông minh đến đâu, một LLM đơn lẻ chỉ là cỗ máy sinh từ thống kê. Nếu thiếu các thành phần ngoại vi, LLM gặp phải 4 rào cản lớn: không có dữ liệu thời gian thực; dễ sinh ảo giác (hallucination); không có khả năng tác động lên phần mềm bên ngoài; và hoàn toàn mất trí nhớ sau mỗi phiên làm việc riêng lẻ.

2. Tools: Cánh tay nối dài để tương tác với thế giới

Nếu LLM là bộ não tư duy, thì Tools chính là đôi tay, đôi chân và các giác quan giúp Agent tương tác trực tiếp với môi trường số. Nhờ có công cụ, Agent vượt khỏi giới hạn sinh văn bản thụ động để trở thành hệ thống thực thi tác vụ thực tế.

2.1. Bản chất kỹ thuật của Tool Calling

LLM không tự chạy phần mềm trực tiếp trên máy chủ. Quy trình Tool Calling diễn ra thông qua giao thức 4 bước chuẩn hóa:

• 1. Khai báo công cụ: Ứng dụng gửi danh sách công cụ cho LLM kèm mô tả tham số chi tiết bằng định dạng JSON Schema.
• 2. LLM chọn công cụ: Nhận thấy cần hành động bên ngoài, LLM ngưng sinh văn bản và trả về chuỗi JSON chứa tên hàm cùng giá trị tham số cần thiết.
• 3. Thực thi ngoại vi: Agent Framework phía máy chủ bắt lấy JSON này, gọi API thực tế hoặc chạy mã tương ứng trong môi trường an toàn.
• 4. Nạp phản hồi: Kết quả trả về từ công cụ được đóng gói vào ngữ cảnh để LLM phân tích và tiếp tục xử lý bước kế tiếp.

2.2. Các nhóm Tools thiết yếu trong kiến trúc Agent

Tùy theo bài toán nghiệp vụ, một AI Agent chuyên nghiệp có thể được trang bị 5 nhóm công cụ cốt lõi sau:

• Web Search & Scraping: Dùng Tavily Search, Serper API hoặc Playwright để tìm kiếm tin tức mạng và trích xuất nội dung bài viết theo thời gian thực.
• Sandboxed Code Execution: Cho phép Agent tự viết mã Python chạy trong sandbox (E2B, Docker) để tính toán, xử lý Excel hoặc vẽ đồ thị.
• Enterprise API Connectors: Tích hợp sâu với CRM (HubSpot, Salesforce), phần mềm kế toán, cổng thanh toán ngân hàng hoặc cổng gửi email tự động.
• Database Connectors: Cung cấp năng lực Text-to-SQL an toàn để tra cứu dữ liệu từ PostgreSQL hoặc MySQL.
• Computer Use & GUI: Cho phép Agent nhìn màn hình, tự di chuyển chuột và gõ phím trên giao diện ứng dụng desktop.

2.3. Nguyên tắc an toàn và kiểm soát rủi ro

Khi cấp quyền gọi công cụ cho Agent, rủi ro bảo mật là ưu tiên hàng đầu. Kỹ sư cần áp dụng nghiêm ngặt nguyên tắc phân quyền tối thiểu (Least Privilege), chỉ cấp quyền đọc dữ liệu khi không cần ghi; đồng thời thiết lập cơ chế Human-in-the-Loop đối với các hành động nhạy cảm như xóa dữ liệu hay chuyển tiền để phòng tránh lỗi vô tình hoặc tấn công Prompt Injection gián tiếp.

3. Memory: Duy trì ngữ cảnh và tích lũy tri thức

Nếu không có trí nhớ, AI Agent sẽ coi người dùng như người lạ ở mỗi lượt trao đổi mới. Memory chính là thành phần giúp Agent duy trì tính nhất quán, lưu giữ bối cảnh làm việc và tích lũy tri thức qua thời gian để ngày càng hiểu người dùng hơn.

3.1. Phân loại cấu trúc trí nhớ trong Agent

Dựa trên cơ chế nhận thức của con người, hệ thống trí nhớ của Agent được phân thành hai tầng cơ bản:

• Short-term Memory (Trí nhớ ngắn hạn): Toàn bộ thông tin nằm trực tiếp trong cửa sổ ngữ cảnh của phiên hiện tại. Nó chứa vài lượt chat gần nhất, trạng thái nhiệm vụ đang thực hiện và kết quả tạm thời của các lượt gọi tool vừa qua.
• Long-term Memory (Trí nhớ dài hạn): Kho dữ liệu lưu trữ bền vững bên ngoài giúp Agent lưu giữ thông tin qua nhiều ngày hay nhiều năm. Tầng này gồm hai nhánh chính:
  • Episodic Memory (Ký ức sự kiện): Nhật ký ghi lại các biến cố và trải nghiệm trong quá khứ, ví dụ như ghi nhận phản ánh của khách hàng ở lần trao đổi tuần trước.
  • Semantic Memory (Ký ức ngữ nghĩa): Kho tri thức nền tảng và quy tắc nghiệp vụ cố định của doanh nghiệp, ví dụ như chính sách chiết khấu hay điều khoản bảo hành.

3.2. Công nghệ triển khai: Vector Database và Retrieval

Để vận hành trí nhớ dài hạn, công nghệ cốt lõi là Vector Database. Văn bản từ tài liệu hay hội thoại cũ được chuyển hóa thành các vector số thực thông qua mô hình Embedding (như Text-Embedding-3 hoặc Cohere Embed v3).

Khi có yêu cầu mới, Agent áp dụng kỹ thuật Hybrid Search (kết hợp vector với từ khóa BM25) trong Pinecone, Qdrant hay pgvector, kèm bộ chấm điểm lại (Cohere Rerank) để chọn lọc top ký ức liên quan nhất.

3.3. Cơ chế tóm tắt và nén bộ nhớ (Memory Consolidation)

Để tránh tràn ngữ cảnh, Agent áp dụng chiến lược nén ký ức: tóm tắt định kỳ hội thoại cũ (Rolling Summarization) và trích xuất sự thật cố định (Entity Fact Extraction) lưu vào cơ sở dữ liệu quan hệ, giúp tiết kiệm token.

4. Planning: Phân rã mục tiêu và điều hướng hành động

Con người giải quyết bài toán lớn bằng cách chia nhỏ nó thành từng việc cần làm và điều chỉnh hành động khi gặp trở ngại. Trong AI Agent, Planning đóng vai trò vỏ não trước trán, giúp biến những mục tiêu kinh doanh mơ hồ thành chuỗi hành động cụ thể, có thứ tự ưu tiên và giám sát được.

4.1. Phân rã nhiệm vụ (Task Decomposition)

Khi tiếp nhận một yêu cầu phức tạp như: "Nghiên cứu đối thủ cạnh tranh ngành bảo hiểm trong quý này và lập báo cáo so sánh chi phí", Agent sử dụng kỹ thuật phân rã nhiệm vụ để chia nhỏ bài toán thành đồ thị các bước: (1) Xác định danh sách 3 đối thủ lớn; (2) Cào bảng giá dịch vụ mới nhất qua web; (3) Tính toán chênh lệch tỷ lệ phí qua mã Python; (4) Tổng hợp bảng báo cáo hoàn chỉnh.

4.2. Khung mẫu ReAct: Tư duy – Hành động – Quan sát

Mô hình lập kế hoạch kinh điển và phổ biến nhất trong các framework như LangChain, CrewAI và AutoGen là ReAct (Reasoning + Acting). Cơ chế này vận hành theo vòng lặp 3 pha chặt chẽ:

• Thought (Tư duy): LLM tự vấn và phân tích tình thế: "Mình cần dữ liệu gì tiếp theo để giải quyết mục tiêu? Nên gọi công cụ nào?"
• Action (Hành động): LLM quyết định kích hoạt công cụ đã chọn với các tham số tương ứng.
• Observation (Quan sát): LLM đọc kết quả trả về từ công cụ, đánh giá mức độ chính xác và xác định xem đã đủ dữ liệu để trả lời hay cần tiếp tục bước tiếp theo.

4.3. Reflection và Tự sửa lỗi (Self-Correction)

Một hệ thống chỉ thực sự tự chủ khi biết nhận ra sai lầm của chính mình. Cơ chế Reflection (Phản tư) cho phép Agent tự kiểm tra kết quả trung gian: chạy Unit Test tự động cho đoạn code vừa viết, nhờ một mô hình Critic Agent phản biện lại bài viết, hoặc áp dụng Cây tư duy (Tree of Thoughts) để đánh giá nhiều nhánh giải pháp và quay lui khi gặp ngõ cụt.

5. Cách 4 thành phần phối hợp: Vòng lặp vận hành thực tế

Cả 4 thành phần không hoạt động đơn lẻ mà liên kết thành một chu trình khép kín (Agentic Loop). Hãy cùng xem xét một case study thực tế: Xây dựng Financial Research Agent (Agent nghiên cứu tài chính tự động) khi phân tích cổ phiếu Vinamilk (VNM).

• Bước 1 – Khởi tạo ngữ cảnh (LLM + Memory): LLM nhận yêu cầu từ người dùng, đồng thời truy xuất Long-term Memory để lấy hồ sơ nhà đầu tư: "Khách hàng ưu tiên cổ tức tiền mặt, khẩu vị rủi ro trung bình". Dữ liệu này được đưa vào Short-term Memory làm điều kiện biên.
• Bước 2 – Lập kế hoạch hành động (Planning): Phân hệ Planning phân rã bài toán thành 3 chặng: thu thập báo cáo tài chính quý gần nhất, tra cứu chỉ số trung bình ngành sữa, và phân tích định giá so sánh.
• Bước 3 – Gọi công cụ thu thập dữ liệu (Tools): LLM kích hoạt công cụ API tài chính để lấy số liệu doanh thu, lợi nhuận của VNM; kết hợp công cụ Web Search để thu thập dữ liệu trung bình ngành từ báo cáo các công ty chứng khoán.
• Bước 4 – Phân tích tính toán (Tools): Agent chuyển dữ liệu thô vào môi trường Python Sandbox để tính toán các hệ số P/E, P/B và biên lợi nhuận ròng tự động.
• Bước 5 – Phản tư và kiểm tra (Planning – Reflection): Module Planning tự kiểm tra kết quả, phát hiện thiếu dữ liệu so sánh P/B ngành và tự động kích hoạt thêm một lượt tìm kiếm bổ sung để lấp khoảng trống số liệu.
• Bước 6 – Sinh báo cáo và cập nhật bộ nhớ (LLM + Memory): LLM tổng hợp các chỉ số thành báo cáo hoàn chỉnh bám sát khẩu vị rủi ro ban đầu, sau đó lưu khuyến nghị tư vấn vào Long-term Memory để phục vụ cho các phiên làm việc tiếp theo.

6. Bảng so sánh toàn diện 4 thành phần của AI Agent

Bảng tổng hợp dưới đây đối chiếu chi tiết vai trò, công nghệ cốt lõi và các lỗi vận hành thường gặp của 4 thành phần trong hệ thống AI Agent:

Thành phần	Vai trò tương đương	Chức năng cốt lõi	Công nghệ phổ biến	Lỗi thường gặp nếu yếu	Giải pháp khắc phục
LLM	Bộ não điều hành	Hiểu ngữ cảnh, suy luận logic, chọn hành động và sinh văn bản	Claude 3.5 Sonnet, GPT-4o, DeepSeek-R1, Llama 3.3	Sinh ảo giác, sai cú pháp JSON, suy luận sai lệch	Dùng Structured Outputs, áp dụng định tuyến mô hình đa tầng
Tools	Đôi tay và đôi chân	Tương tác môi trường ngoài, gọi API, chạy mã lập trình, đọc dữ liệu	OpenAI Tool Calling, Tavily Search, E2B Sandbox, Playwright	Chỉ biết nói không làm được, sập chuỗi do lỗi API ngoại vi	Thiết kế Schema chặt chẽ, bắt ngoại lệ try-catch, phân quyền tối thiểu
Memory	Hệ thống ký ức	Lưu lịch sử ngắn hạn, duy trì sở thích và kiến thức doanh nghiệp dài hạn	Pinecone, Qdrant, ChromaDB, pgvector, MemGPT/Letta	Quên bối cảnh hội thoại, hỏi lại thông tin cũ, tràn token	Áp dụng Hybrid Search, tóm tắt cuộn định kỳ, trích xuất sự thật cố định
Planning	Vỏ não trước trán	Phân rã mục tiêu, sắp xếp thứ tự thực thi, tự phản tư sửa lỗi	ReAct Framework, Plan-and-Solve, LangGraph, CrewAI	Lặp vô tận trong một lỗi, bỏ sót bước quan trọng, bế tắc	Giới hạn số bước lặp tối đa, tạo cơ chế fallback và nhánh quay lui

7. Xu hướng phát triển và các cạm bẫy thiết kế cần tránh

7.1. Xu hướng công nghệ mới nổi bật

Kiến trúc Agent đang tiến hóa nhanh chóng với 3 bước đột phá: mô hình suy luận nội tại (OpenAI o1, DeepSeek-R1) nâng tầm năng lực Planning; giao thức Model Context Protocol (MCP) của Anthropic giúp chuẩn hóa kết nối công cụ; và mô hình Multi-Agent chia sẻ nhiệm vụ chuyên biệt cho từng tác tử.

7.2. Ba cạm bẫy thiết kế thường gặp

• Nhồi nhét quá nhiều công cụ (Tool Overcrowding): Nạp hàng chục công cụ vào một Agent khiến LLM bị nhiễu và chọn sai hàm. Hãy giới hạn từ 3 đến 7 công cụ cốt lõi cho mỗi tác tử.
• Ô nhiễm bộ nhớ (Memory Contamination): Lưu giữ tin nhắn chào hỏi vụn vặt vào Vector Database làm loãng kết quả tìm kiếm. Cần có bộ lọc ký ức chỉ lưu trữ sự thật quan trọng.
• Vòng lặp vô tận trong Planning (Infinite Loops): Khi công cụ lỗi kết nối, Agent có thể thử lại liên tục. Luôn thiết lập ngưỡng giới hạn số bước lặp tối đa (Max Iterations từ 5 đến 10 bước).

8. Câu hỏi thường gặp (FAQ) về 4 thành phần AI Agent

Câu hỏi 1: Hệ thống có bắt buộc phải có đủ cả 4 thành phần mới được gọi là AI Agent không?

Một hệ thống kết hợp LLM và Tool đã có thể thực hiện hành động tức thì. Tuy nhiên, nếu thiếu Planning, hệ thống chỉ giải quyết được tác vụ đơn lẻ và dễ đổ vỡ khi gặp bài toán đa bước. Nếu thiếu Memory, Agent sẽ mất toàn bộ ngữ cảnh qua các phiên. Một AI Agent tự chủ thực thụ cần sự phối hợp đầy đủ của cả 4 thành phần để vận hành bền vững.

Câu hỏi 2: Chi phí vận hành hệ thống AI Agent gồm 4 thành phần tốn khoảng bao nhiêu USD mỗi tháng?

Đối với ứng dụng nội bộ quy mô vừa (khoảng 500 đến 1000 lượt tác vụ mỗi tháng), chi phí token LLM kết hợp với Vector Database đám mây thường chỉ dao động từ 15 USD đến 50 USD mỗi tháng nếu áp dụng kiến trúc định tuyến đa tầng hợp lý. Chi phí chỉ tăng cao khi lạm dụng mô hình flagship cho các tác vụ phụ vụn vặt.

Câu hỏi 3: Làm thế nào để phòng chống tấn công Prompt Injection qua Tool?

Để ngăn chặn Prompt Injection gián tiếp, bạn cần đóng gói dữ liệu trả về từ tool trong các thẻ phân tách rõ ràng, sử dụng mô hình phụ kiểm duyệt nội dung độc hại trước khi nạp vào LLM chính, và luôn yêu cầu con người phê duyệt đối với các hành động nhạy cảm về tài chính hay quyền truy cập.

Câu hỏi 4: Framework nào hiện nay hỗ trợ tốt nhất việc tích hợp cả 4 thành phần này?

Ba lựa chọn hàng đầu là LangGraph (quản lý đồ thị trạng thái), CrewAI (tối ưu đa tác tử theo vai trò) và Microsoft AutoGen (mạnh về giao tiếp đa chiều giữa các Agent).

Câu hỏi 5: Vector Database có thể thay thế hoàn toàn cơ sở dữ liệu quan hệ SQL truyền thống không?

Không thể thay thế. Vector Database tối ưu cho việc tìm kiếm ngữ nghĩa mờ không cấu trúc. Trong khi đó, cơ sở dữ liệu SQL truyền thống vẫn là nền tảng bắt buộc để quản lý các dữ liệu giao dịch chuẩn xác tuyệt đối như số dư tài khoản, hóa đơn hay trạng thái xác thực người dùng.

Câu hỏi 6: Các chỉ số KPI nào dùng để đo lường hiệu năng của AI Agent?

Bốn chỉ số quan trọng nhất gồm: Tỷ lệ hoàn thành tác vụ thành công (Task Success Rate); Độ chính xác khi gọi công cụ (Tool Calling Accuracy); Chi phí trung bình tính bằng USD trên mỗi tác vụ hoàn tất; và Độ trễ phản hồi trung bình từ lúc nhận lệnh đến khi xuất kết quả cuối cùng.

9. Kết luận: Xây dựng AI Agent vững chắc từ 4 trụ cột

Kiến trúc 4 thành phần: LLM, Tool, Memory và Planning là nền tảng cốt lõi định hình nên thế hệ tác tử thông minh tiếp theo. Sự phối hợp nhịp nhàng giữa bộ não suy luận, cánh tay hành động, kho lưu trữ tri thức và năng lực chiến lược giúp chúng ta tạo ra những trợ lý số đáng tin cậy phục vụ tự động hóa quy trình nghiệp vụ.

Đối với các lập trình viên và doanh nghiệp, việc làm chủ nguyên lý thiết kế của 4 thành phần này chính là bước đệm then chốt để ứng dụng AI hiệu quả, tối ưu hóa chi phí vận hành và nâng cao năng lực cạnh tranh trong kỷ nguyên số.

Để khám phá thêm các mô hình triển khai thực chiến, phân tích kiến trúc chuyên sâu và xu hướng công nghệ mới nhất, mời bạn theo dõi ngay chuyên mục AI Agent trên TrungTien.net. Hãy bắt tay vào xây dựng hệ thống tác tử thông minh của riêng bạn ngay hôm nay!