Esta não é uma pergunta idiota, é uma ótima pergunta e fico feliz que você esteja perguntando.

processos humanos

Verifique se você revisou toda a documentação, conversou com os grisalhos e recebeu a aprovação de alguém da empresa.

processos técnicos

Obtenha um backup completo; marcar a mídia para arquivamento de longo prazo. Execute um monitor de conexão ou um farejador de pacotes por um período de tempo para ver quais conexões ainda estão sendo feitas. Inspecione os serviços para ver se algo parece importante/familiar.

Cortando o cordão

Melhor ideia do que desligar - desconecte o cabo de rede por alguns dias. Se for uma máquina física antiga, você não quer arriscar a situação em que precisa ligá-la novamente, mas os eixos do disco estão congelados. Deixe-os girando.

Fonte de autoridade - Passei mais de um ano desativando servidores antigos para uma empresa farmacêutica Fortune 25. Este foi o processo, e funcionou.

Desligue e veja quem grita e sobre o quê.

Sério, é a melhor forma. Mesmo a verificação dos logs só o levará até certo ponto, porque você verá apenas as atividades registradas.

EDIT : Para evitar mais comentários, este conselho pressupõe que você já fez o que deveria ter feito em primeiro lugar, mesmo antes de fazer a pergunta aqui - perguntou sobre o servidor, procurou a documentação e se conectou para ver se você pode detectar quaisquer sinais óbvios de atividade.

Isso também pressupõe que você não esteja em um daqueles ambientes que aparentemente existem onde sistemas críticos de negócios que ninguém conhece são executados em hardware tão frágil que corre o risco de pegar fogo ou explodir durante a inicialização.

Para usuários que estão autenticando no servidor com LDAP (compartilhamentos de arquivos, compartilhamentos de impressão, etc.), você pode usar o snap-in "Compartilhamentos e Sessões" no mmc para identificar os usuários que estão conectados com sessões abertas. Esses são usuários que estão conectados ativa ou passivamente (unidades mapeadas).

Achei um artigo mais detalhado.

Você também pode verificar se há algum serviço instalado, como SQL ou programas, e ver se há alguma porta aberta não padrão usando software como sysinternals TCPView para identificar qualquer software em execução. Essas portas abertas podem ajudar a identificar os protocolos que estão sendo usados ​​e podem ajudar a identificar a finalidade do servidor.

Por fim, você pode verificar os serviços instalados/em execução e identificar o que está em execução.

Realmente não se encaixa na sua situação porque você disse que tem vários servidores para verificar, então isso é para outras pessoas que estão lendo isso para obter suas próprias respostas:

Se for uma pequena empresa e não houver nenhuma documentação processual real ou qualquer técnico no local para conversar, aqui estão duas coisas que você pode fazer:

Verifique os serviços e programas instalados, veja se você consegue descobrir quem usa o software que se conecta a esses serviços e certifique-se de que eles sejam movidos para novos servidores.

Compartilhamentos, tenho certeza que você sabe que pode ver todos os arquivos abertos da rede no snap-in MMC da Pasta Compartilhada (gerenciamento do computador > pastas compartilhadas), Sessões e arquivos abertos irão ajudá-lo aqui. Encontre os computadores/usuários listados aqui e mova seus arquivos para o novo local.

Feito isso, sinta-se à vontade para desconectá-lo da rede ou desligá-lo, conforme declarado, esta é realmente a única maneira de saber com certeza se não está sendo usado, aguarde alguns dias caso seja algo que não seja usado constantemente.