Service discovery: сервисы регистрируются в реестре при старте; клиент запрашивает список инстансов по имени сервиса. Варианты: Consul, etcd, в Kubernetes - DNS и Endpoints.
Client-side (клиент ходит в реестр) или server-side (балансировщик знает реестр).