Estamos trabalhando em um fluxo de integração com o Spring em que cada mensagem recebida precisa acionar uma chamada para um serviço HTTP externo. A chamada externa pode levar até 20 segundos para ser concluída e a resposta pode ser bem grande — ela precisa ser mantida totalmente na memória para processamento posterior.
Para melhorar a escalabilidade e reduzir o número de threads de plataforma bloqueadas, queremos aproveitar as threads virtuais do Java (Projeto Loom, Java 21+). Nossa abordagem atual é usar:
Executors.newVirtualThreadPerTaskExecutor()
como executor do canal no fluxo de integração:
IntegrationFlow.from(adapter).channel(c -> c.executor(virtualThreadExecutor)).handle(processingService)
Quando as mensagens chegam, já podemos verificar no processingService que elas são processadas por uma Thread virtual.
Aqui está o que estamos nos perguntando:
Essa é a maneira correta de usar threads virtuais no Spring Integration ou existem maneiras melhores de integrar threads virtuais nesse tipo de fluxo?
Quais são as potenciais armadilhas, limitações ou problemas de desempenho dos quais devemos estar cientes ao usar threads virtuais neste contexto?
Existem componentes específicos no Spring Integration (como gateways, ativadores de serviço, etc.) que ainda não são compatíveis com threads virtuais?
Para evitar ficar sem memória, pensamos em limitar o número de requisições externas simultâneas. Existem práticas recomendadas para isso?
Estamos especialmente interessados em quaisquer práticas recomendadas ou experiências reais que alguém possa ter. Agradecemos antecipadamente!
Atualmente, estamos usando SpringBoot 3.4.4 e Java 21.