Vì sao AI “quên” khi chat dài?
Đầu buổi bạn dặn AI viết ngắn, giọng vui. Trò chuyện một hồi, nó viết dài, giọng nghiêm. Nó quên rồi.
AI làm việc trên một cái bàn
Hãy hình dung AI làm việc trên một cái bàn. Mỗi tin nhắn, của bạn hay của nó, là một tờ giấy đặt lên bàn. Cái bàn này gọi là ngữ cảnh.
Bàn có giới hạn
Bàn to cỡ nào cũng có giới hạn. Khi đầy, những tờ cũ nhất bị đẩy khỏi bàn, hoặc bị chìm giữa chồng giấy, AI không để ý nữa.
Cuộc trò chuyện mới = bàn trống
Còn khi mở cuộc trò chuyện mới, bàn trống trơn. AI không nhớ gì từ lần trước, trừ khi ứng dụng có bật tính năng ghi nhớ.
MẸO 1
Tóm tắt rồi sang bàn mới
Mẹo thứ nhất: chat quá dài thì bảo AI tóm tắt những gì đã thống nhất, rồi dán bản tóm tắt vào cuộc trò chuyện mới.
MẸO 2
Nhắc lại yêu cầu quan trọng
Mẹo thứ hai: yêu cầu nào quan trọng, nhắc lại ngắn gọn trong tin nhắn mới.
Đây là bài viết từ video Vì sao AI "quên" khi trò chuyện dài? của kênh Mark học AI. Xem video để thấy phần minh họa bằng hình động.