Sub Agent

Khi một tác vụ liên quan đến việc thu thập hoặc xử lý thông tin từ nhiều nguồn, một tác nhân duy nhất có thể nhanh chóng làm đầy cửa sổ ngữ cảnh của nó với các lệnh gọi công cụ trung gian và kết quả. TrueForge giải quyết vấn đề này bằng các tác nhân con – các tác nhân chạy độc lập, nhẹ, xử lý các tác vụ con tập trung song song và chỉ trả về kết quả cuối cùng cho tác nhân gốc. Các tác nhân con động được bật theo mặc định. Người điều hành chính tập trung vào việc phối hợp cấp cao. Các nhân viên cấp dưới đảm nhiệm những công việc nặng nhọc hơn.

Tại sao lại cần các đại lý phụ?

Các tác nhân phụ giải quyết vấn đề phình to ngữ cảnh. Khi một tác nhân sử dụng các công cụ có đầu ra lớn – phản hồi API, kết quả tìm kiếm, nội dung tệp – cửa sổ ngữ cảnh sẽ đầy dữ liệu trung gian chỉ cần thiết tạm thời. Khi ngữ cảnh phát triển, tác nhân trở nên chậm hơn, tốn kém hơn và dễ xảy ra lỗi hơn.Hãy xem xét một nhiệm vụ: “Tóm tắt các yêu cầu kéo (pull request) gần đây của mỗi thành viên trong nhóm của tôi.”

Không có đại lý phụ:

Đặc vụ tìm kiếm thông tin về các thành viên trong nhóm.
Nó xử lý từng thành viên một , lấy các yêu cầu kéo (pull request) và tóm tắt từng yêu cầu.
Tất cả các lệnh gọi công cụ trung gian và kết quả đều được lưu giữ trong cửa sổ ngữ cảnh.
Người đại diện phải suy luận trong một bối cảnh rộng lớn và phức tạp để đưa ra câu trả lời cuối cùng.
Tình trạng phình to này sẽ tiếp diễn sang các lượt chơi tiếp theo trong phiên.

Với các đại lý phụ:

Đặc vụ tìm kiếm thông tin về các thành viên trong nhóm.
Nó tạo ra một tác nhân phụ cho mỗi thành viên trong nhóm – chúng hoạt động song song.
Mỗi tác nhân con sẽ tự động lấy các yêu cầu kéo và tạo ra bản tóm tắt.
Các tác nhân phụ chỉ trả về bản tóm tắt của chúng cho tác nhân gốc.
Tác nhân gốc kết hợp các bản tóm tắt – dữ liệu thô không bao giờ được đưa vào ngữ cảnh của nó.

Khi nào các trợ lý cấp dưới phát huy hiệu quả nhất:

Nghiên cứu nhiều bước trên nhiều thực thể (người dùng, kho lưu trữ, dịch vụ) có thể chạy song song.
Các tác vụ mà đầu ra của công cụ trung gian lớn nhưng kết quả cuối cùng là một bản tóm tắt.
Công việc cần sự tách biệt – mỗi nhiệm vụ phụ đều có bối cảnh rõ ràng để suy luận.

Cách thức hoạt động

Tác nhân gốc sẽ quyết định trong quá trình thực thi xem có nên ủy quyền hay không. Khi quyết định, nó sẽ gọi create_sub_agentcông cụ tích hợp sẵn với các hướng dẫn được tạo ra và tập trung cho từng tác vụ con, tạo ra các tác nhân con và chờ kết quả của chúng.

Công cụ và môi trường thử nghiệm dùng chung – các tác nhân phụ có quyền truy cập vào cùng các công cụ MCP và môi trường thử nghiệm như tác nhân gốc.
Không có tương tác người dùng – các tác nhân phụ không thể hỏi người dùng câu hỏi. Chỉ có tác nhân gốc mới giao tiếp với người dùng. Tuy nhiên, các lệnh gọi công cụ của tác nhân phụ yêu cầu phê duyệt vẫn tạm dừng để người dùng chờ xử lý.
Không có lồng ghép – các tác nhân con không thể tạo ra các tác nhân con khác. Ủy quyền chỉ có một cấp độ.
Thực thi song song – nhiều tác nhân con chạy đồng thời. Tác nhân gốc chờ tất cả chúng trước khi tiếp tục.