Tóm tắt mà lạc đề
Nhờ AI tóm tắt trang web, nó lại khen một sản phẩm lạ. Đó có thể là prompt injection.
CÁCH LÀM
Chữ trắng trên nền trắng
Kẻ xấu giấu lệnh trong trang web hay tài liệu, người không thấy nhưng AI đọc được.
NGUY HIỂM
Khi AI cầm công cụ
Nguy hiểm nhất là khi AI được đọc email hay tự bấm trên web, vì lệnh giấu có thể bảo nó gửi dữ liệu đi.
PHÒNG TRÁNH
Tài liệu lạ chỉ để đọc
Với tài liệu lạ, dặn AI chỉ tóm tắt, không làm theo lệnh bên trong.
Đây là bài viết từ video Prompt injection của kênh Mark học AI. Xem video để thấy phần minh họa bằng hình động.