Xây dựng ứng dụng AI không phải chỉ nhét Prompt vào API là xong. Khi đi vào dự án thực tế, bạn sẽ lập tức gặp các vấn đề như độ dài context, structured output, RAG retrieval, quyền của tool, evaluation regression, cost và stability.

Vì sao mỗi lần model trả lời lại không hoàn toàn giống nhau? Vì sao Agent cần loop? RAG đã truy xuất được tài liệu nhưng tại sao vẫn có thể trả lời sai? Những câu hỏi này lần lượt thuộc các chuỗi model generation, task execution, knowledge retrieval và application governance.

Agent không phải là “chatbot biết gọi Tools”. Khi nhiệm vụ trở nên dài hơn, nó phải xử lý state, Memory, permission, retry khi thất bại, cắt gọn context và ranh giới thực thi.

Khi xây dựng hệ thống phân tích cổ phiếu Multi-Agent AgentInvest, tôi giao nhiệm vụ cho bốn role. Researcher hoàn thành nghiên cứu nền tảng trước, Technical Analyst và Sentiment Analyst bổ sung song song, Investment Manager tổng hợp sau cùng. Bên trong mỗi role dùng ReAct để gọi tool, còn pipeline bên ngoài kiểm soát thứ tự, concurrency và điều kiện lỗi.

Phỏng vấn phát triển ứng dụng AI hiếm khi chỉ hỏi “khái niệm là gì”. Câu hỏi thường đi sâu từ một dự án: tại sao lại thiết kế như vậy, khi xảy ra sự cố thì kiểm tra thế nào, sau khi đưa vào production thì đánh giá ra sao, quản lý chi phí và bảo mật thế nào.

Sau khi nhận nhiệm vụ, Agent cần đọc context, quyết định action tiếp theo, gọi tool, quan sát kết quả, rồi phán đoán nên tiếp tục, kết thúc hay chuyển cho con người. Các câu hỏi phỏng vấn AI Agent về cơ bản đều xoay quanh execution chain này; Memory, MCP, Skills, Harness và Workflow cũng có thể được hiểu trong execution chain đó.

Phỏng vấn theo hướng ứng dụng Agent/AI hầu như sẽ không dừng ở việc học thuộc khái niệm, mà thường dựa trên dự án của bạn để hỏi sâu: tại sao thiết kế như vậy, trên production từng xảy ra vấn đề gì, đã định vị và sửa lỗi thế nào.

Nếu trước phỏng vấn bạn chỉ học thuộc các khái niệm cốt lõi như ReAct, RAG, Memory, MCP, Function Calling thì thường không thể ứng phó với các câu hỏi đào sâu:

Phỏng vấn phát triển ứng dụng AI thường bắt đầu từ một lần gọi model, sau đó mở rộng sang RAG, Agent, tool calling và thiết kế hệ thống. Ngoài khái niệm, phỏng vấn còn kiểm tra khả năng giải thích toàn bộ chain, xác định vấn đề về hiệu quả, cũng như xử lý rủi ro về chi phí, độ ổn định và quyền hạn.

Câu hỏi thiết kế hệ thống AI thường bắt đầu từ một kịch bản cụ thể, chẳng hạn như knowledge base doanh nghiệp, intelligent customer service, nền tảng Agent hoặc trợ lý voice theo thời gian thực. Khi vấn đề được mở rộng, interviewer sẽ tiếp tục hỏi cách đưa model invocation, context, retrieval, tool, security, cost và evaluation vào cùng một production pipeline.

Một lần gọi LLM bắt đầu từ Tokenization, trải qua việc lắp ghép context và sampling để sinh output, sau đó backend xử lý streaming response, rate limiting, retry, structured parsing và log. Các câu hỏi phỏng vấn nền tảng thường lần theo call chain này để hỏi thêm về chi phí, latency, tính ổn định và vấn đề bảo mật.