Meu entendimento é que o SendMail aproveita o OpenSSL para a funcionalidade STARTTLS (entre outras coisas). Este link dinamicamente com qualquer versão do OpenSSL que eu instalei? Ou o sendmail usa/mantém sua própria "cópia" do openssl?
Pergunto isso porque existem parâmetros avançados do sendmail, como O CipherList=HIGH
quais categorias de OpenSSL de referência que estão sujeitas a alterações com o tempo. Por exemplo, o que o OpenSSL considera uma cifra forte/alta pode ser diferente do que ele considera forte posteriormente.
Ele se vincula dinamicamente à versão do openssl que você instalou
Se você dissesse para instalar uma versão de origem sobre a versão rpm e não instalasse essas duas bibliotecas, o sendmail não funcionaria, pois não consegue encontrar essas bibliotecas.
Então, você apenas mantém o openssl atualizado com o que o redhat lança e está tudo bem, desde que a distro não esteja no fim da vida.