Распределение запросов между экземплярами сервиса. Алгоритмы: round-robin, least connections, IP hash. Health checks для исключения нерабочих. Слой 4 (TCP) или уровень 7 (HTTP). Sticky session при необходимости.