Xây dựng ứng dụng AI không phải chỉ nhét Prompt vào API là xong. Khi đi vào dự án thực tế, bạn sẽ lập tức gặp các vấn đề như độ dài context, structured output, RAG retrieval, quyền của tool, evaluation regression, cost và stability.
Vì sao mỗi lần model trả lời lại không hoàn toàn giống nhau? Vì sao Agent cần loop? RAG đã truy xuất được tài liệu nhưng tại sao vẫn có thể trả lời sai? Những câu hỏi này lần lượt thuộc các chuỗi model generation, task execution, knowledge retrieval và application governance.
Phỏng vấn phát triển ứng dụng AI hiếm khi chỉ hỏi “khái niệm là gì”. Câu hỏi thường đi sâu từ một dự án: tại sao lại thiết kế như vậy, khi xảy ra sự cố thì kiểm tra thế nào, sau khi đưa vào production thì đánh giá ra sao, quản lý chi phí và bảo mật thế nào.
