Một AI, hai mươi đối thủ
Giao cho một AI việc lớn: tìm hiểu hai mươi đối thủ cạnh tranh, mỗi đối thủ đọc chục trang web. Đọc tới đối thủ thứ mười, nó bắt đầu quên đối thủ thứ nhất.
VÌ SAO
Bàn làm việc có hạn
Vì mỗi AI có một bàn làm việc giới hạn, gọi là context window, như video 9 đã nói. Tài liệu chất quá nhiều, bàn tràn.
CHIA VIỆC
Orchestrator và subagent
Cách giải: chia việc cho nhiều agent, gọi là multi-agent. Một agent trưởng, gọi là orchestrator, lập kế hoạch, giao mỗi subagent vài đối thủ. Mỗi subagent có context window riêng, chạy cùng lúc, đọc xong chỉ gửi lại bản tóm tắt gọn.
SỐ LIỆU THẬT
Anthropic đã thử
Anthropic đã thử cách này cho tính năng nghiên cứu của Claude. Một orchestrator cùng nhiều subagent làm tốt hơn một agent đơn lẻ tới chín mươi phần trăm, trên bài thử nội bộ của họ.
CÁI GIÁ
Đội đông thì tốn
Nhưng đội đông thì tốn: tổng cộng dùng khoảng mười lăm lần số token so với một cuộc chat thường. Nên chỉ đáng dùng cho việc lớn, chia được thành nhiều phần độc lập.
PHẦN SAU
Ai chỉ huy?
Đội đông rồi, ai chỉ huy, ai kiểm tra? Phần sáu.
Đây là bài viết từ video Vì sao cần multi-agent của kênh Mark học AI. Xem video để thấy phần minh họa bằng hình động.