← Tất cả lộ trình
🤖

AI Engineer trong 16 tuần

Đi từ lời gọi API đầu tiên tới mô hình ngôn ngữ lớn đến RAG, AI Agent, MCP, hệ đa agent và vận hành AI trên production. Mỗi tuần một chủ đề, mỗi thứ 7 một dự án thực hành.

👤 Lập trình viên đã biết Python⏱ 16 tuần🗓 11 giờ mỗi tuần📚 16 bước📖 44 tài liệu✅ 0/16 bước đã học

Lộ trình này dành cho

  • Lập trình viên backend, fullstack muốn chuyển sang làm sản phẩm AI
  • Kỹ sư phần mềm cần đưa LLM, RAG, AI Agent vào hệ thống đang chạy
  • Người đã thử gọi API của ChatGPT, Claude và muốn học có hệ thống

Cần chuẩn bị

  • Lập trình được bằng Python: hàm, class, xử lý bất đồng bộ cơ bản
  • Biết REST API, JSON, Git và SQL căn bản
  • Khóa API của một nhà cung cấp mô hình (OpenAI, Anthropic, Google...); gọi API khi thực hành có tốn phí
  • Đọc được tài liệu kỹ thuật tiếng Anh

Lịch học mỗi tuần

  • Thứ 2 đến thứ 6: mỗi ngày 1,5 giờ cho một chủ đề. Hình thức đổi theo ngày: lý thuyết, đọc tài liệu hoặc khóa học, code thực hành, code nâng cao, ôn tập và ghi chú
  • Thứ 7: 3 giờ làm dự án của tuần
  • Chủ nhật: 30 phút tổng kết hoặc nghỉ
  • Cả lộ trình gồm 112 buổi, khoảng 176 giờ

Học xong bạn sẽ

  • Xây API và ứng dụng dùng LLM có streaming, tool calling, xử lý lỗi
  • Thiết kế, nâng cấp và đánh giá hệ thống RAG
  • Xây AI Agent có trạng thái, bộ nhớ và kết nối công cụ qua MCP
  • Phối hợp nhiều agent và vận hành dịch vụ AI trên production

Các bước học

  1. Giai đoạn 1 · LLM Engineering

  2. LLM Fundamentals

    ⏱ Tuần 1

    Hiểu cách mô hình ngôn ngữ lớn xử lý token và ngữ cảnh, viết prompt có cấu trúc, chỉnh tham số và lấy kết quả theo đúng định dạng mong muốn.

    Nội dung từng buổi

    1. Thứ 2Token & Context
    2. Thứ 3Prompt Engineering
    3. Thứ 4Model Parameters
    4. Thứ 5Structured Output
    5. Thứ 6Ôn tập

    Sau bước này bạn có thể

    • Giải thích được token, context window và ảnh hưởng của chúng đến chi phí, độ dài hội thoại
    • Viết prompt có vai trò, ngữ cảnh, ví dụ mẫu và định dạng đầu ra rõ ràng
    • Chọn temperature, top_p, max tokens phù hợp với từng loại tác vụ
    • Yêu cầu mô hình trả JSON theo schema và kiểm tra kết quả bằng Pydantic

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: AI REST API. Viết một REST API (ví dụ bằng FastAPI) nhận yêu cầu, gọi mô hình và trả về JSON đã được kiểm tra bằng Pydantic.

  3. LLM Application Engineering

    ⏱ Tuần 2

    Biến lời gọi mô hình thành một dịch vụ dùng được: trả kết quả theo luồng, cho mô hình gọi hàm và công cụ, xử lý lỗi và có phương án dự phòng.

    Nội dung từng buổi

    1. Thứ 2Streaming
    2. Thứ 3Function Calling
    3. Thứ 4Tool Calling
    4. Thứ 5Retry / Timeout
    5. Thứ 6Error Handling / Fallback

    Sau bước này bạn có thể

    • Trả kết quả theo luồng (streaming) để người dùng thấy phản hồi ngay
    • Khai báo hàm, công cụ cho mô hình gọi và xử lý kết quả trả về
    • Đặt timeout và retry có giới hạn khi API lỗi hoặc quá tải
    • Thiết kế phương án dự phòng: đổi mô hình hoặc trả lời an toàn khi lỗi

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Tool-enabled AI API. Nâng cấp API của tuần 1 để mô hình gọi được công cụ (tool calling), có streaming, retry và fallback.

  4. Giai đoạn 2 · RAG

  5. Embedding & Vector Search

    ⏱ Tuần 3

    Biểu diễn văn bản thành vector, đo độ tương đồng và tìm kiếm theo ngữ nghĩa trên cơ sở dữ liệu vector.

    Nội dung từng buổi

    1. Thứ 2Embedding
    2. Thứ 3Cosine Similarity
    3. Thứ 4Vector Database
    4. Thứ 5Semantic Search
    5. Thứ 6Metadata & Filtering

    Sau bước này bạn có thể

    • Tạo embedding cho văn bản và hiểu ý nghĩa khoảng cách giữa các vector
    • Tính cosine similarity để so sánh mức gần nghĩa của hai đoạn văn
    • Lưu và truy vấn vector bằng một cơ sở dữ liệu vector như pgvector
    • Kết hợp tìm kiếm ngữ nghĩa với lọc theo metadata

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Semantic Search Engine. Xây công cụ tìm kiếm theo ngữ nghĩa trên một tập tài liệu, có lọc theo metadata.

  6. RAG Fundamentals

    ⏱ Tuần 4

    Dựng pipeline RAG cơ bản: nạp tài liệu, chia đoạn, tạo embedding, truy xuất và đưa ngữ cảnh vào prompt.

    Nội dung từng buổi

    1. Thứ 2Document Loading
    2. Thứ 3Chunking
    3. Thứ 4Embedding Pipeline
    4. Thứ 5Retriever
    5. Thứ 6Context Injection

    Sau bước này bạn có thể

    • Nạp và làm sạch tài liệu từ PDF, trang web, văn bản
    • Chia tài liệu thành đoạn (chunk) với kích thước và phần gối đầu hợp lý
    • Xây pipeline tạo embedding và lập chỉ mục cho toàn bộ tài liệu
    • Truy xuất các đoạn liên quan và đưa vào prompt làm ngữ cảnh

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: PDF Chatbot. Xây chatbot hỏi đáp trên file PDF theo mô hình RAG.

  7. Advanced RAG

    ⏱ Tuần 5

    Nâng chất lượng truy xuất bằng chiến lược chia đoạn, metadata, tìm kiếm lai và xếp hạng lại kết quả.

    Nội dung từng buổi

    1. Thứ 2Chunking Strategy
    2. Thứ 3Metadata
    3. Thứ 4Hybrid Search
    4. Thứ 5BM25
    5. Thứ 6Reranking

    Sau bước này bạn có thể

    • So sánh các chiến lược chia đoạn và chọn theo loại tài liệu
    • Gắn metadata để lọc và tăng độ chính xác khi truy xuất
    • Kết hợp tìm kiếm từ khóa BM25 với tìm kiếm vector (hybrid search)
    • Dùng reranker xếp hạng lại kết quả trước khi đưa vào prompt

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: RAG v2. Nâng cấp PDF Chatbot của tuần 4 với hybrid search và reranking, rồi so sánh chất lượng trả lời với bản đầu.

  8. RAG Evaluation

    ⏱ Tuần 6

    Đo chất lượng hệ thống RAG bằng số liệu thay vì cảm tính: độ chính xác truy xuất, mức liên quan, độ trung thực và ảo giác.

    Nội dung từng buổi

    1. Thứ 2Retrieval Accuracy
    2. Thứ 3Relevance
    3. Thứ 4Faithfulness
    4. Thứ 5Hallucination
    5. Thứ 6LLM-as-a-Judge

    Sau bước này bạn có thể

    • Đo độ chính xác của bước truy xuất bằng bộ câu hỏi có đáp án
    • Đánh giá mức liên quan (relevance) và độ trung thực (faithfulness) của câu trả lời
    • Phát hiện câu trả lời bịa (hallucination) so với ngữ cảnh được cung cấp
    • Dùng một mô hình khác làm giám khảo (LLM-as-a-Judge) để chấm tự động

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Evaluation Dataset. Tạo bộ dữ liệu đánh giá từ 50 tình huống trở lên cho hệ thống RAG của bạn và chạy chấm điểm.

  9. Giai đoạn 3 · AI Agent

  10. Agent Fundamentals

    ⏱ Tuần 7

    Phân biệt agent với workflow, hiểu vòng lặp của agent và cho agent dùng công cụ một cách đáng tin cậy.

    Nội dung từng buổi

    1. Thứ 2Agent vs Workflow
    2. Thứ 3Agent Loop
    3. Thứ 4Tool Calling
    4. Thứ 5Observe / Reason
    5. Thứ 6Retry & Error Handling

    Sau bước này bạn có thể

    • Phân biệt workflow cố định với agent tự quyết định bước tiếp theo, biết khi nào dùng loại nào
    • Tự viết vòng lặp agent: suy luận, gọi công cụ, quan sát kết quả, lặp lại
    • Thiết kế công cụ có mô tả và tham số rõ ràng để mô hình gọi đúng
    • Xử lý lỗi công cụ, giới hạn số vòng lặp và thử lại an toàn

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Research Agent. Xây agent nghiên cứu một chủ đề: tự tìm kiếm, đọc nguồn và viết bản tổng hợp.

  11. Agent Architecture

    ⏱ Tuần 8

    Các mẫu kiến trúc để ghép nhiều lời gọi mô hình thành hệ thống: định tuyến, chạy song song, đánh giá và tối ưu, có con người phê duyệt, lưu trạng thái để khôi phục.

    Nội dung từng buổi

    1. Thứ 2Router
    2. Thứ 3Parallel Workflow
    3. Thứ 4Evaluator-Optimizer
    4. Thứ 5Human-in-the-loop
    5. Thứ 6State & Recovery

    Sau bước này bạn có thể

    • Dùng router để chuyển yêu cầu đến đúng nhánh xử lý
    • Chạy song song các tác vụ độc lập rồi gộp kết quả
    • Áp dụng mẫu evaluator-optimizer: một bước sinh, một bước chấm và yêu cầu sửa
    • Thêm điểm dừng để con người duyệt và lưu trạng thái để chạy tiếp sau sự cố

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Research Agent v2. Tổ chức lại Research Agent thành workflow có định tuyến, bước chạy song song và bước đánh giá kết quả.

  12. LangGraph

    ⏱ Tuần 9

    Dựng agent có trạng thái bằng LangGraph: state, node, edge, rẽ nhánh có điều kiện và lưu checkpoint.

    Nội dung từng buổi

    1. Thứ 2State
    2. Thứ 3Node
    3. Thứ 4Edge
    4. Thứ 5Conditional Edge
    5. Thứ 6Checkpoint / Persistence

    Sau bước này bạn có thể

    • Mô hình hóa agent thành đồ thị gồm state, node và edge
    • Rẽ nhánh theo điều kiện dựa trên trạng thái hiện tại
    • Lưu checkpoint để tạm dừng, chạy tiếp và xem lại từng bước

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Stateful Research Agent. Viết lại Research Agent bằng LangGraph, có lưu trạng thái để dừng và chạy tiếp.

  13. Agent Memory

    ⏱ Tuần 10

    Cho agent khả năng ghi nhớ: bộ nhớ ngắn hạn trong phiên, bộ nhớ dài hạn giữa các phiên, bộ nhớ ngoài và cách truy xuất an toàn.

    Nội dung từng buổi

    1. Thứ 2Short-term Memory
    2. Thứ 3Long-term Memory
    3. Thứ 4External Memory
    4. Thứ 5Memory Retrieval
    5. Thứ 6Memory Safety

    Sau bước này bạn có thể

    • Quản lý bộ nhớ ngắn hạn: lịch sử hội thoại, tóm tắt khi ngữ cảnh quá dài
    • Lưu bộ nhớ dài hạn giữa các phiên vào kho lưu trữ bên ngoài
    • Truy xuất đúng ký ức liên quan khi cần
    • Kiểm soát dữ liệu được ghi nhớ: thông tin nhạy cảm, quyền xóa, tránh ghi nhớ sai

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Personal AI Assistant. Xây trợ lý cá nhân nhớ được sở thích và thông tin của người dùng qua nhiều phiên trò chuyện.

  14. Giai đoạn 4 · MCP

  15. MCP Fundamentals

    ⏱ Tuần 11

    Model Context Protocol (MCP) là chuẩn kết nối ứng dụng AI với công cụ và dữ liệu. Tuần này hiểu host, client, server và tự viết một MCP server.

    Nội dung từng buổi

    1. Thứ 2MCP Host
    2. Thứ 3MCP Client
    3. Thứ 4MCP Server
    4. Thứ 5Tools
    5. Thứ 6Resources / Prompts

    Sau bước này bạn có thể

    • Giải thích vai trò của host, client và server trong MCP
    • Viết MCP server cung cấp tools cho ứng dụng AI
    • Cung cấp thêm resources và prompts qua MCP
    • Kết nối server với một ứng dụng hỗ trợ MCP để kiểm thử

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: PostgreSQL MCP Server. Viết MCP server cho phép ứng dụng AI xem cấu trúc bảng và truy vấn cơ sở dữ liệu PostgreSQL.

  16. Agent + MCP

    ⏱ Tuần 12

    Nối agent với các MCP server để làm việc với cơ sở dữ liệu, file và GitHub, đồng thời giới hạn quyền của từng công cụ.

    Nội dung từng buổi

    1. Thứ 2Connect Agent to MCP
    2. Thứ 3Database Tool
    3. Thứ 4File Tool
    4. Thứ 5GitHub Tool
    5. Thứ 6Permissions / Read-only

    Sau bước này bạn có thể

    • Kết nối agent với một hoặc nhiều MCP server
    • Cho agent dùng công cụ cơ sở dữ liệu, file và GitHub qua MCP
    • Giới hạn quyền: chỉ đọc, danh sách công cụ được phép, xác nhận trước thao tác rủi ro

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: AI Database Analyst. Xây agent phân tích dữ liệu: nhận câu hỏi bằng ngôn ngữ tự nhiên, truy vấn cơ sở dữ liệu qua MCP ở chế độ chỉ đọc và trả lời kèm số liệu.

  17. Giai đoạn 5 · Multi-Agent

  18. Multi-Agent Systems

    ⏱ Tuần 13

    Phối hợp nhiều agent chuyên trách: mô hình điều phối, phân cấp, chạy song song và cách các agent trao đổi với nhau.

    Nội dung từng buổi

    1. Thứ 2Supervisor
    2. Thứ 3Specialist Agents
    3. Thứ 4Hierarchical Agents
    4. Thứ 5Parallel Agents
    5. Thứ 6Agent Communication

    Sau bước này bạn có thể

    • Thiết kế agent điều phối (supervisor) giao việc cho các agent chuyên trách
    • Tổ chức agent theo nhiều tầng hoặc chạy song song khi công việc cho phép
    • Xác định cách các agent trao đổi: thông điệp, trạng thái dùng chung, kết quả bàn giao
    • Cân nhắc chi phí và độ phức tạp trước khi dùng nhiều agent

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: AI Software Team. Dựng nhóm bốn agent Analyst, Developer, QA và Reviewer cùng xử lý một yêu cầu phần mềm nhỏ.

  19. Giai đoạn 6 · Production AI

  20. AI Evaluation

    ⏱ Tuần 14

    Xây quy trình đánh giá để mỗi thay đổi về prompt, mô hình hay công cụ đều được kiểm chứng trước khi phát hành.

    Nội dung từng buổi

    1. Thứ 2Test Dataset
    2. Thứ 3Regression Test
    3. Thứ 4LLM Judge
    4. Thứ 5Agent Evaluation
    5. Thứ 6Trace Evaluation

    Sau bước này bạn có thể

    • Xây bộ dữ liệu kiểm thử phản ánh tình huống thật
    • Chạy regression test để phát hiện chất lượng giảm sau mỗi thay đổi
    • Dùng LLM làm giám khảo với tiêu chí chấm rõ ràng
    • Đánh giá agent theo kết quả cuối và theo từng bước trong trace

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Evaluation Pipeline. Dựng pipeline tự chạy bộ kiểm thử, chấm điểm và báo cáo kết quả cho ứng dụng AI của bạn.

  21. LLMOps & Security

    ⏱ Tuần 15

    Vận hành dịch vụ AI trên production: quan sát hệ thống, theo dõi token và chi phí, chịu lỗi, chống prompt injection và kiểm soát quyền của công cụ.

    Nội dung từng buổi

    1. Thứ 2Observability
    2. Thứ 3Token / Cost Tracking
    3. Thứ 4Retry / Timeout
    4. Thứ 5Prompt Injection
    5. Thứ 6Tool Permission / Data Security

    Sau bước này bạn có thể

    • Ghi log và trace cho từng lời gọi mô hình, công cụ
    • Theo dõi lượng token, chi phí theo tính năng và đặt ngưỡng cảnh báo
    • Nhận diện và giảm thiểu prompt injection
    • Giới hạn quyền của công cụ và bảo vệ dữ liệu nhạy cảm

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Dự án thứ 7: Production Setup. Đưa một dịch vụ AI đã làm lên trạng thái sẵn sàng production: có log và trace, theo dõi chi phí, retry, timeout và kiểm tra bảo mật.

  22. Giai đoạn 7 · Final Project

  23. Dự án tổng kết: AI Software Engineer

    ⏱ Tuần 16

    Tuần cuối ghép mọi thứ đã học thành một hệ thống nhiều agent tự phân tích yêu cầu, viết code, kiểm thử và mở pull request.

    Nội dung từng buổi

    1. Thứ 2Requirement Agent
    2. Thứ 3Code RAG
    3. Thứ 4Implementation Plan
    4. Thứ 5Developer Agent
    5. Thứ 6QA / Unit Test Agent
    6. Thứ 7Review + Fix + GitHub PR
    7. Chủ nhậtDemo / tổng kết

    Sau bước này bạn có thể

    • Ghép RAG, agent, MCP và đánh giá vào một hệ thống hoàn chỉnh
    • Điều phối nhiều agent theo quy trình phát triển phần mềm
    • Demo và tự đánh giá sản phẩm của mình

    Tài liệu & khóa học

    ✍️ Bài tập thực hành

    Sản phẩm của tuần: AI Software Development System, demo vào Chủ nhật. Yêu cầu chi tiết nằm ở phần Dự án cuối lộ trình bên dưới.

Dự án cuối lộ trình

AI Software Development System

Hệ thống nhiều agent nhận một yêu cầu phần mềm và tự đi hết quy trình: phân tích yêu cầu, tìm hiểu mã nguồn, lập kế hoạch, viết code, kiểm thử, review và mở pull request trên GitHub.

Yêu cầu tối thiểu

  • Requirement Agent chuyển yêu cầu thành đặc tả rõ ràng
  • Code RAG truy xuất đúng phần mã nguồn liên quan trong repository
  • Có implementation plan trước khi viết code
  • Developer Agent viết code theo kế hoạch
  • QA Agent viết và chạy unit test
  • Tự review, sửa lỗi và mở pull request trên GitHub

Cách học hiệu quả

  • Học theo đúng thứ tự các buổi trong tuần. Tài liệu của tuần dùng để tra cứu cho từng chủ đề, không cần học hết mọi khóa rồi mới code.
  • Tự viết lại bằng code của mình thay vì chép ví dụ, và ghi chú ngắn sau mỗi buổi để buổi ôn tập có cái xem lại.
  • Làm xong dự án thứ 7 rồi mới sang tuần mới, vì nhiều dự án là bản nâng cấp của dự án tuần trước.
  • Đặt hạn mức chi tiêu cho khóa API ngay từ đầu để kiểm soát chi phí thực hành.
  • Đánh dấu tuần đã học xong để theo dõi tiến độ; tiến độ được lưu trên trình duyệt này.

Câu hỏi thường gặp

Tôi chưa biết Python thì có theo được không?

Chưa nên. Lộ trình giả định bạn đã lập trình được bằng Python và hiểu REST API. Nếu chưa, hãy học Python cơ bản và làm một API nhỏ trước khi bắt đầu.

Có cần giỏi toán hay biết machine learning không?

Không bắt buộc. Lộ trình tập trung vào kỹ thuật xây dựng ứng dụng trên các mô hình có sẵn, không huấn luyện mô hình. Phần RAG chỉ cần hiểu vector và độ tương đồng ở mức cơ bản.

Học lộ trình này tốn những chi phí gì?

Lộ trình miễn phí. Chi phí chính là tiền gọi API của mô hình khi thực hành. Tài liệu chính thức và các bài viết kỹ thuật đều đọc miễn phí; một số khóa trên DeepLearning.AI có phần trả phí như bài chấm điểm và chứng chỉ, bạn không cần mua để theo lộ trình.

Mỗi tuần 11 giờ là nhiều, tôi học chậm hơn được không?

Được. Thứ tự các tuần quan trọng hơn tốc độ. Bạn có thể kéo một tuần thành hai, miễn là làm xong dự án của tuần trước khi sang tuần mới vì các dự án nối tiếp nhau.

Nên dùng mô hình và framework nào?

Lộ trình không gắn với một nhà cung cấp. Bạn có thể dùng mô hình của OpenAI, Anthropic, Google hoặc mô hình mã nguồn mở. Tuần 9 dùng LangGraph; ở các tuần khác bạn có thể tự viết bằng SDK của nhà cung cấp để hiểu bản chất trước khi dùng framework.

Tài liệu và khóa học thuộc về đơn vị phát hành tương ứng, mở ở trang gốc khi bấm vào.