Thiết kế hệ thống gửi thông báo cho 10 triệu người dùng trong 5 phút.

Việc mở rộng danh sách người nhận là chỗ hay bị làm sai. Truy vấn 10 triệu hàng vào bộ nhớ rồi lặp là hết RAM; truy vấn theo OFFSET là chậm dần theo cấp số. Cách đúng là keyset pagination trên khoá chính, mỗi lô vài nghìn id, và ghi lại con trỏ đã tới đâu để nếu tiến trình chết thì tiếp tục được chứ không gửi lại từ đầu — gửi trùng cho 10 triệu người là một sự cố truyền thông, không chỉ là lỗi kỹ thuật.

Backpressure là khái niệm cần nói ra. Nếu producer đẩy vào hàng đợi nhanh hơn worker tiêu thụ, hàng đợi phình ra và độ trễ tăng vô hạn — bạn vẫn “đang gửi” sau hai tiếng. Nên producer phải nhìn độ dài hàng đợi và tự chậm lại. Đây cũng là lý do dùng hàng đợi có giới hạn tốt hơn hàng đợi vô hạn: nó biến một vấn đề ẩn thành một tín hiệu rõ ràng.

Cuối cùng là ưu tiên và cách ly. Thông báo chiến dịch không được chiếm hết đường của thông báo giao dịch — mã OTP phải tới trong vài giây kể cả khi đang có đợt gửi 10 triệu. Nghĩa là hai hàng đợi riêng với hai nhóm worker riêng, không phải một hàng đợi có trường priority. Cách ly bằng tài nguyên vật lý đáng tin hơn nhiều so với cách ly bằng logic sắp xếp.