AI có thiên vị không? Bias trong AI đến từ đâu và cách giảm

Máy lọc hồ sơ thiên vị

Một công ty lớn từng làm công cụ AI lọc hồ sơ xin việc, rồi phải bỏ, vì nó chấm điểm thấp hồ sơ của phụ nữ.

BIAS

AI học từ dữ liệu cũ

Đó là bias, nghĩa là thiên kiến. AI học từ dữ liệu cũ, mà mười năm trước công ty đó tuyển phần lớn là nam. AI không cố ý thiên vị, nó chỉ học lại đúng cái lệch đã có sẵn trong dữ liệu.

Ở ĐÂU

Gặp ở nhiều nơi

Bias gặp ở nhiều nơi: bảo AI vẽ một giám đốc, nó hay vẽ đàn ông; hỏi về văn hóa nước mình, có khi nó trả lời theo góc nhìn nước ngoài.

CÁCH HỎI

Hỏi rõ để giảm thiên vị

Cách giảm: nói rõ điều bạn muốn, ví dụ vẽ nhóm người đủ giới tính, độ tuổi và vùng miền. Hoặc hỏi thêm: câu trả lời này có thể đang thiên về phía nào.

LƯU Ý

Quyết định về con người

Với việc quyết định về con người, như tuyển dụng hay cho vay, hãy để AI gợi ý, còn người thật xem lại và chịu trách nhiệm.