Databricks создала клиентскую систему балансировки нагрузки для Kubernetes

В высоконагруженных Kubernetes-кластерах стандартные механизмы балансировки нагрузки часто оказываются недостаточными для работы с высокопроизводительными gRPC-сервисами. Команда Databricks поделилась техническими деталями реализации собственной системы клиентской балансировки нагрузки, которая решает проблемы неравномерного распределения трафика и высоких задержек.

Проблемы стандартной балансировки в Kubernetes

По умолчанию Kubernetes использует подход балансировки на уровне L4 через kube-proxy и CoreDNS. Этот метод работает на уровне TCP-соединений и имеет существенные ограничения для высокопроизводительных сред:

• Высокие перцентильные задержки: gRPC использует постоянные HTTP/2 соединения, и выбор backend-пода происходит только один раз при установке соединения
• Неэффективное использование ресурсов: трафик распределяется неравномерно, что приводит к простаиванию одних подов и перегрузке других
• Ограниченные алгоритмы балансировки: только round-robin или случайный выбор без поддержки взвешенных или zone-aware стратегий

Архитектурное решение Databricks

Вместо использования стандартных механизмов Kubernetes, инженеры Databricks разработали клиентскую систему балансировки нагрузки с управлением через панель.

Ключевые компоненты системы:

• Кастомный control plane: сервис, который мониторит изменения в Kubernetes API и предоставляет актуальную информацию о сервисах и эндпоинтах
• Интеграция с RPC-клиентом: общий фреймворк для сервисной коммуникации на Scala с встроенной логикой балансировки
• xDS-протокол: для передачи метаданных о состоянии сервисов и эндпоинтов

Продвинутые алгоритмы балансировки

Система поддерживает несколько интеллектуальных стратегий распределения нагрузки:

• Power of Two Choices (P2C): случайный выбор двух backend-серверов с последующим выбором менее нагруженного
• Zone-affinity routing: маршрутизация с учетом зон доступности для минимизации межзоновых задержек
• Динамическое обновление эндпоинтов: клиенты получают актуальную информацию о состоянии сервисов в реальном времени

Переход на клиентскую балансировку — это признание того, что стандартные инструменты Kubernetes не всегда справляются с реальными нагрузками. Решение Databricks особенно интересно тем, что оно использует существующую инфраструктуру (общий Scala-фреймворк) вместо внедрения тяжеловесных прокси вроде Istio. Это демонстрирует зрелый подход: не добавлять сложность ради сложности, а решать конкретные проблемы минимально необходимыми средствами.

Сравнение подходов

Таблица наглядно демонстрирует преимущества клиентского подхода:

Заключение

Решение Databricks показывает, что даже в зрелых экосистемах вроде Kubernetes есть пространство для оптимизации под конкретные задачи. Клиентская балансировка нагрузки особенно эффективна для сценариев с высокопропускной способностью и постоянными соединениями, где стандартные механизмы Kubernetes демонстрируют существенные ограничения.

По материалам Databricks