Na minha experiência, se o tamanho da imagem do sistema operacional for muito grande, a inicialização do PXE falhará.
Não tenho certeza de qual tamanho é a limitação.
ref: https://www.syslinux.org/archives/2002-March/000249.html
O iPXE corrige o problema de limitação do tamanho da imagem?
A mensagem que você vinculou foi escrita há mais de 20 anos, e o comentário sobre a parte "kernel" do espaço de memória no Linux refere-se a kernels x86 de 32 bits . Se você estiver trabalhando com hardware de 64 bits, isso não deve ser relevante, especialmente se você estiver inicializando o PXE no modo UEFI, em vez do modo BIOS herdado.
Faz anos que não experimento PXE e imagens grandes no trabalho, mas acho que pode depender do protocolo usado para carregar a imagem. Parece que me lembro de ter descoberto que algumas implementações de TFTP (não me lembro se o servidor ou o cliente foi o culpado, desculpe) podem ter problemas com a transferência de arquivos muito grandes. Se esse for o problema, o iPXE pode usar HTTP, e os servidores HTTP modernos certamente não têm problemas para enviar arquivos grandes.
E mesmo que você não use HTTP, a implementação TFTP do iPXE pode ser melhor do que o firmware de inicialização padrão do PXE.
Lembro que achei a transferência de imagens grandes com algumas implementações TFTP de firmware bastante lenta: a mudança para iPXE e HTTP tornou a inicialização da rede com uma imagem grande muito mais rápida.
Encontrei uma fonte que lista as limitações do TFTP: https://www.compuphase.com/tftp.htm
O protocolo TFTP básico definido pelo RFC 1350 tem um tamanho de pacote padrão de 512 bytes e um contador de pacotes de 16 bits, o que causaria problemas com tamanho de cerca de 32 MB, a menos que a substituição do contador fosse implementada corretamente.
As extensões definidas nas RFCs 2348 e 2349 permitem a negociação de um tamanho de pacote maior, até o limite máximo de tamanho de pacote UDP, que costuma chegar a 1468 bytes por pacote, resultando em rollover do contador de pacotes em torno de 91 MB.
Esses dois seriam os possíveis limites de tamanho "esperados" que o protocolo TFTP pode causar.