Existe alguma maneira de reduzir/encolher o tamanho do tempdb.mdf sem reiniciar o SQL Server

Você pode fazer isso desta forma:

-- write everything from your buffers to the disc!
CHECKPOINT; 
GO
-- Clean all buffers and caches
DBCC DROPCLEANBUFFERS; 
DBCC FREEPROCCACHE;
DBCC FREESYSTEMCACHE('ALL');
DBCC FREESESSIONCACHE;
GO
-- Now shrink the file to your desired size
DBCC SHRINKFILE (TEMPDEV, 40960);
-- Make sure that there is no running transaction which uses the tempdb while shrinking!
-- This is most trickiest part of it all.
GO

A última etapa é a mais complicada. Durante o processo de redução, nenhuma outra ação deve usar o tempdb, pois isso pode causar a interrupção da SHRINKFILEoperação. Devido ao fato de que o tempdb é bastante fácil de reduzir, não deve demorar muito para reduzi-lo.

Esteja ciente de que isso é algo como uma "reinicialização suave". Tudo será removido dos buffers e gravado no disco. Isso significa um impacto em seu subsistema de E/S (gravação), pois ele precisa lidar com todas as operações de gravação. Depois disso, você pode reduzir o arquivo (o que afeta o desempenho de leitura e gravação) e, no final, todos os processos que consultam qualquer tabela precisarão recuperar os dados do subsistema de E/S para os buffers. Isso pode doer mais do que uma reinicialização.

Se você estiver executando um sistema de desenvolvimento, basta reiniciar a máquina em vez desta maneira. Mas em alguns sistemas de produção sem um parceiro de failover, isso pode ser útil.

Você pode apenas ir com a etapa abaixo apenas

USE tempdb;
GO;
dbcc freeproccache;
DBCC SHRINKFILE (tempdb_file_name, memory_in_MB);
GO;