В статье описывается эволюция системы ограничения скорости запросов в Uber от разношорстных решений к единой автоматизированной платформе.
Изначально каждая команда внедряла собственную логику тротлинга, и это довольно неудобно и сложно в обслуживании. Для решения этих проблем была создана глобальная система Global Rate Limiter, интегрированная в сервисную сеть, которая сначала использовала алгоритм "token bucket", но позже перешла на модель вероятностного сброса запросов под управлением контрольной плоскости, что позволило обрабатывать сотни миллионов запросов в секунду с минимальной задержкой.
Следующим шагом была разработана система Rate Limit Configurator, которая автоматически анализирует исторические данные о трафике и динамически настраивает лимиты, устраняя необходимость в ручном конфигурировании.
Заморочились
