В чем разница между динамическим прокси-сервером JDK и прокси-сервером CGLIB и когда Spring выбирает один из них вместо другого?

Динамический прокси-сервер JDK реализует интерфейс(ы) цели и делегирует ее через InvocationHandler — используется, когда цель реализует хотя бы один интерфейс. CGLIB генерирует подкласс среды выполнения, переопределяющий методы цели — используется, когда нет интерфейса или когда принудительно используется proxyTargetClass=true (по умолчанию Spring Boot).

Пример

@SpringBootTest
@Testcontainers
class OrderRepositoryIntegrationTest {

    @Container
    static PostgreSQLContainer postgres = new PostgreSQLContainer<>("postgres:16");

    @DynamicPropertySource
    static void configure(DynamicPropertyRegistry registry) {
        registry.add("spring.datasource.url", postgres::getJdbcUrl);
    }
}

Итог

Динамический прокси-сервер JDK реализует интерфейс(ы) цели и делегирует ее через InvocationHandler — используется, когда цель реализует хотя бы один интерфейс.