Phỏng vấn phát triển ứng dụng AI hiếm khi chỉ hỏi “khái niệm là gì”. Câu hỏi thường đi sâu từ một dự án: tại sao lại thiết kế như vậy, khi xảy ra sự cố thì kiểm tra thế nào, sau khi đưa vào production thì đánh giá ra sao, quản lý chi phí và bảo mật thế nào.

Sau khi nhận nhiệm vụ, Agent cần đọc context, quyết định action tiếp theo, gọi tool, quan sát kết quả, rồi phán đoán nên tiếp tục, kết thúc hay chuyển cho con người. Các câu hỏi phỏng vấn AI Agent về cơ bản đều xoay quanh execution chain này; Memory, MCP, Skills, Harness và Workflow cũng có thể được hiểu trong execution chain đó.

Phỏng vấn theo hướng ứng dụng Agent/AI hầu như sẽ không dừng ở việc học thuộc khái niệm, mà thường dựa trên dự án của bạn để hỏi sâu: tại sao thiết kế như vậy, trên production từng xảy ra vấn đề gì, đã định vị và sửa lỗi thế nào.

Nếu trước phỏng vấn bạn chỉ học thuộc các khái niệm cốt lõi như ReAct, RAG, Memory, MCP, Function Calling thì thường không thể ứng phó với các câu hỏi đào sâu:

Phỏng vấn phát triển ứng dụng AI thường bắt đầu từ một lần gọi model, sau đó mở rộng sang RAG, Agent, tool calling và thiết kế hệ thống. Ngoài khái niệm, phỏng vấn còn kiểm tra khả năng giải thích toàn bộ chain, xác định vấn đề về hiệu quả, cũng như xử lý rủi ro về chi phí, độ ổn định và quyền hạn.

Câu hỏi thiết kế hệ thống AI thường bắt đầu từ một kịch bản cụ thể, chẳng hạn như knowledge base doanh nghiệp, intelligent customer service, nền tảng Agent hoặc trợ lý voice theo thời gian thực. Khi vấn đề được mở rộng, interviewer sẽ tiếp tục hỏi cách đưa model invocation, context, retrieval, tool, security, cost và evaluation vào cùng một production pipeline.

Một lần gọi LLM bắt đầu từ Tokenization, trải qua việc lắp ghép context và sampling để sinh output, sau đó backend xử lý streaming response, rate limiting, retry, structured parsing và log. Các câu hỏi phỏng vấn nền tảng thường lần theo call chain này để hỏi thêm về chi phí, latency, tính ổn định và vấn đề bảo mật.

Một chain RAG phải xử lý việc phân tích tài liệu, Chunk, Embedding, index, recall, ranking, tổ chức context và generation. Sau khi hệ thống chạy một thời gian, còn phát sinh các vấn đề về phiên bản tài liệu, thay đổi quyền hạn, xây dựng lại index và đánh giá hiệu quả. Các câu hỏi được nhóm theo chương của chuyên đề RAG trên JavaGuide, mỗi nhóm đều kèm bài viết chi tiết.