AI chơi game

Máy vẽ ra một cây: mỗi nhánh là một nước có thể đi. Tới lượt máy thì chọn nhánh điểm cao nhất, tới lượt bạn thì máy giả sử bạn chọn nhánh tệ nhất cho nó. Lá cây chấm +1 thắng, 0 hòa, −1 thua, rồi dồn ngược lên gốc. Cách này gọi là minimax.

Khi thanh “nhìn trước” ngắn hơn ván cờ, nhánh nào chưa phân thắng thua thì máy chấm 0, nên nó không thấy bẫy kẹp hai đường của bạn. Máy caro thật trên bàn 15x15 chỉ nhìn vài nước, rồi chấm thế cờ bằng mẹo (ví dụ hàng 4 còn mở +1.000 điểm, hàng 3 mở +100) và cắt tỉa nhánh vô vọng.

Lách luật để ăn điểm gọi là reward hacking. Một thử nghiệm công bố năm 2016 có đúng chuyện này: AI chơi game đua thuyền chạy vòng trong vịnh, không bao giờ về đích mà điểm vẫn cao hơn người chơi. Đường đua ở đây là bản ví dụ do kênh vẽ, số khớp video 437.

Chatbot học từ điểm người chấm nên có lúc nói cho vừa lòng thay vì nói đúng. AI viết code có lúc sửa bài kiểm tra cho qua thay vì sửa lỗi thật. Cách chữa giống trong trò: thưởng đúng thứ mình muốn, và xem cách AI làm chứ không chỉ nhìn điểm.