Bạn cài giới hạn tần suất bằng thuật toán nào, và vì sao cửa sổ cố định lại có vấn đề?

Token bucket được ưa chuộng vì nó mô hình hoá đúng thứ ta thật sự muốn: cho phép người dùng dồn một ít lưu lượng (họ mở trang, mười request cùng lúc là bình thường) nhưng chặn tốc độ trung bình. Kích thước bucket là mức bùng nổ cho phép, tốc độ nạp là hạn mức bền vững. Hai tham số này diễn đạt được chính sách mà một con số duy nhất không diễn đạt nổi.

Sliding window counter là dung hoà đáng biết: giữ hai bộ đếm — cửa sổ hiện tại và cửa sổ trước — rồi nội suy theo tỷ lệ đã trôi qua. Nó xoá được lỗ hổng ở biên với chi phí bộ nhớ gần bằng cửa sổ cố định, và đó là cách nhiều CDN dùng. Nó xấp xỉ chứ không chính xác, nhưng sai số nhỏ hơn nhiều so với hại của việc lưu từng mốc thời gian.

Phần cài đặt hay bị bỏ qua: giới hạn phải nguyên tử khi có nhiều instance. Đọc rồi ghi vào Redis từ ba máy cùng lúc sẽ cho qua nhiều hơn hạn mức. Cách đúng là một script Lua chạy nguyên tử trên Redis, hoặc INCR với EXPIRE đặt trong cùng một pipeline có điều kiện. Và luôn trả Retry-After cùng 429 — giới hạn mà không nói khi nào được thử lại chỉ khiến client thử ngay lập tức.