Siêu tham số giống như những quy tắc trước khi huấn luyện một đội bóng: chọn chiến thuật, thời gian tập luyện, ăn kiêng,… Nếu chọn sai, cả đội chơi như gà mắc tóc. Tối ưu siêu tham số là quá trình thử nghiệm để tìm ra bộ quy tắc tốt nhất giúp đội bóng ghi nhiều bàn nhất. Nhưng thử tất cả các khả năng thì tốn thời gian kinh khủng!
Tìm kiếm ngẫu nhiên thì sao?
Thay vì thử từng chiến thuật một cách máy móc, ta ném xúc xắc và chọn thử ngẫu nhiên vài chiến thuật. Biết đâu lại tìm được combo “bánh cuốn”!
⚖️ So sánh
| Tiêu chí | Grid Search | Randomized Search |
|---|---|---|
| Phạm vi thử | Tất cả tổ hợp | Một số tổ hợp ngẫu nhiên |
| Thời gian | Dài hơn | Nhanh hơn |
| Độ chính xác | Cao | Tùy thuộc vào số lần thử |
