Nếu đề bị lộ?
Phần trước, AI đi thi bằng bộ đề chuẩn. Nhưng nếu đề thi bị lộ trước thì sao?
HỌC TỦ
Chuyện học tủ
Bạn nhớ chuyện học tủ chứ: lỡ thấy đề trước, cứ thế học thuộc đáp án. Điểm thi cao chót vót, nhưng gặp đề khác là bí.
NHIỄM DỮ LIỆU
Đề lọt vào bài học
AI học từ hàng tỷ trang chữ trên mạng. Mà đề thi của AI cũng được đăng công khai trên mạng. Thế là đề lọt vào dữ liệu luyện lúc nào không hay. Người ta gọi đó là nhiễm dữ liệu.
ĐIỂM ẢO
Nhớ chứ không phải hiểu
AI đã thấy đề, nên trả lời đúng nhờ nhớ, không phải nhờ hiểu. Đổi vài con số trong câu hỏi, điểm có thể tụt hẳn.
QUY LUẬT GOODHART
Khi con số thành mục tiêu
Có một quy luật mang tên nhà kinh tế học Goodhart: khi một con số trở thành mục tiêu, nó không còn đo đúng nữa. Ai cũng đua điểm, thì điểm cao dần mà tài thật chưa chắc tăng.
ĐỀ MỚI
Đề mới, đề giấu kín
Vì vậy, người ta liên tục ra đề mới, viết sau khi AI học xong. Có bộ đề còn được giấu kín, không đăng lên mạng, để AI không thể thấy trước.
PHẦN 3
Chấm mà không cần đề?
Vậy có cách nào chấm AI mà không cần đề không? Hẹn bạn ở phần 3.
Đây là bài viết từ video Khi AI "học tủ" của kênh Mark học AI. Xem video để thấy phần minh họa bằng hình động.