Agent Harness là một hệ thống thực thi chạy bên ngoài mô hình lớn. Nó chịu trách nhiệm tổ chức context, cung cấp tool và môi trường thực thi, đồng thời đưa kiểm soát quyền hạn, quản lý state, validation kết quả và khôi phục lỗi vào quy trình task. Harness Engineering nghiên cứu cách thiết kế hệ thống này.

Viết một câu “hãy trả về JSON” trong Prompt, model thường có thể xuất ra một object, nhưng object này vẫn chưa thể dùng trực tiếp làm API nghiệp vụ.

Đôi khi nó thêm một câu “Được, dưới đây là kết quả” trước JSON; đôi khi thiếu một field bắt buộc; đôi khi orderId vốn phải là số lại biến thành string; phiền hơn nữa là khi điều kiện biên phức tạp, model sẽ tự thêm một giá trị enum mà hệ thống nghiệp vụ hoàn toàn không nhận biết. Parser báo lỗi là toàn bộ chain bị ngắt.