Vì sao đo độ trễ trung bình lại vô dụng, và p99 nghĩa là gì?

Phép tính đó đáng làm rõ vì nó thay đổi cách ưu tiên: xác suất KHÔNG chạm đuôi là 0,99⁴⁰ ≈ 0,67. Nghĩa là “p99 chỉ ảnh hưởng 1% người dùng” là sai ở mọi hệ thống có nhiều lời gọi phụ thuộc nhau, và ở kiến trúc microservices thì còn tệ hơn vì mỗi lời gọi lại gọi tiếp. Đây là lý do Google gọi hiện tượng này là tail at scale.

Một cái bẫy kỹ thuật nữa: percentile KHÔNG cộng được. Bạn không thể lấy p99 của mười máy chủ rồi tính trung bình để ra p99 toàn hệ thống — con số đó không có ý nghĩa nào. Muốn đúng thì phải gộp histogram rồi mới tính percentile, và đó là lý do các hệ đo hiện đại lưu histogram thay vì lưu sẵn percentile.

Về việc chọn theo dõi cái gì, mình dùng p50 để biết trải nghiệm điển hình, p95 hoặc p99 để đặt SLO, và luôn nhìn kèm thông lượng. Một p99 đẹp lúc 3 giờ sáng không nói gì; p99 lúc cao điểm mới là con số phải bảo vệ. Và nếu p99 đột nhiên TỐT lên trong lúc có sự cố thì thường là do những request chậm đang bị lỗi và biến mất khỏi phép đo — một cái bẫy diễn giải rất hay gặp.