Gradient descent là gì? AI giảm sai số như xuống núi trong sương mù

Vặn theo hướng nào?

Phần trước: AI đo cái sai bằng một con số, gọi là sai số. Giờ máy cần biết: vặn núm theo hướng nào thì con số đó giảm?

VÍ DỤ

Bịt mắt trên núi

Hình dung bạn bị bịt mắt, đứng trên sườn núi đầy sương. Bạn muốn xuống thung lũng, nhưng không nhìn thấy gì.

DÒ DỐC

Dò bằng bàn chân

Cách duy nhất: dùng chân dò quanh, xem phía nào dốc xuống nhiều nhất. Rồi bước một bước nhỏ về phía đó. Dò tiếp, bước tiếp.

NGỌN NÚI SAI SỐ

Độ cao là sai số

Với AI, độ cao chính là sai số. Mỗi chỗ đứng là một cách vặn các núm. Đi xuống nghĩa là sai ít đi. Cách học này gọi là thuật toán xuống dốc.

LẶP LẠI

Hàng triệu bước nhỏ

Máy lặp lại việc dò và bước rất nhiều lần, có khi hàng triệu lần. Mỗi bước vặn mọi núm cùng lúc, và sai số giảm thêm một chút.

CẨN THẬN

Bước dài hay bước ngắn?

Độ dài mỗi bước rất quan trọng. Bước quá dài, bạn nhảy vọt qua thung lũng, lên xuống loạn xạ. Bước quá ngắn, đi mãi vẫn chưa tới nơi.

PHẦN 4

Núm nào gây ra lỗi?

Nhưng có hàng tỷ núm, còn lỗi chỉ hiện ra ở đầu ra cuối cùng. Làm sao biết núm nào phải chịu trách nhiệm? Hẹn bạn ở phần 4.