Pickle funciona, mas falha no pytest

Isso não tem nada a ver com o pytest.

Quando você carrega um objeto de um pickle, o picklemecanismo precisa saber qual deve ser a classe desse objeto. Mas se você definir uma classe dentro de uma função, cada execução dessa função gera uma classe totalmente nova. picklenão tem como dizer qual versão da classe usar, se é que existe alguma versão na sessão Python em que você está carregando o pickle.

Em vez de tentar fazê-lo funcionar e criar uma pilha de inconsistências estranhas e casos extremos, pickleele simplesmente não oferece suporte à decapagem de instâncias de classes como essa.

Você precisa mover sua definição de classe para fora da função em que ela está:

class TestObject:
    def __init__(self, instance_file_name):
        self.instance_file_name = instance_file_name
        self.data = "This is a test object."

@pytest.fixture
def test_object():
    return TestObject("test_object_file")

O pacote pickle essencialmente faz a pickle de um objeto, salvando-o como ele é em relação ao módulo atual. Se essa relação relativa não for definida, a pickle falhará. A maneira como o pytest é executado remove essa relação relativa, pois o pickle espera recebê-la. Aqui estão 4 soluções que você pode tentar para que os testes funcionem:

1: Basta omitir a linha que está causando o problema ao executar o pytest. Você pode fazer isso com uma instrução if do tipo:

import sys
if "pytest" not in sys.modules: 
    with open(path, "wb") as file_handle: 
        pickle.dump(obj, file_handle, protocol=protocol)

2: Você pode codificar o caminho relativo do seu objeto para a existência no nível do módulo. Isso é um pouco ruim e pode ser bastante instável, mas funciona se o seu objetivo for apenas executar o pytest durante o pickle. Isso provavelmente fará com que o pickle seja descompactado diretamente no módulo que o carrega (dependendo das versões do pacote e do interpretador do pickle) em vez de onde você esperaria, o que também pode criar colisões de namespace (especialmente porque o nome do seu objeto é "obj"). Modifiquei sua função para fazer isso:

def obj_pickle(obj: object, dir:Path, protocol: int = pickle.HIGHEST_PROTOCOL) -> None:
    """
    Pickle an object to a byte file.
    """
    if not dir.exists():
        dir.mkdir(parents=True, exist_ok=True)
    path = Path(dir, obj.instance_name + '.pkl')
    
    # hardcoding object to module in case pytest muddies this
    # ----> 
    import __main__
    __main__.obj= obj
    # <----

    with open(path, "wb") as file_handle:
        pickle.dump(obj, file_handle, protocol=protocol)
    print(f"{obj.__class__.__name__} object {obj.instance_name} saved to {path}")

3: Você pode combinar as duas sugestões anteriores para que a codificação do objeto no módulo SOMENTE aconteça durante o uso do pytest e os casos de uso normais de produção operem normalmente (não sofra com a instabilidade de forçar o objeto na função principal). Em seguida, você precisará recarregar o que estava na variável obj antes. Modifiquei sua função para fazer isso:

import copy 
import sys 

def obj_pickle(obj: object, dir:Path, protocol: int = pickle.HIGHEST_PROTOCOL) -> None:
    """
    Pickle an object to a byte file.
    """
    if not dir.exists():
        dir.mkdir(parents=True, exist_ok=True)
    path = Path(dir, obj.instance_name + '.pkl')
    

    # only enforce module hardcoding during pytests
    if "pytest" in sys.modules: 
        
        # create the __main__ module object
        import __main__
        # check if there's a obj object already in the module attrs, if so copy it
        object_exists_flag = False
        try: tmp_obj_holder, object_exists_flag  = copy.deepcopy(__main__.obj), True
        except AttributeError: pass
        # assign your object to it
        __main__.obj= copy.deepcopy(obj)
    
    # run the writing operation
    with open(path, "wb") as file_handle:
        pickle.dump(obj, file_handle, protocol=protocol)
    print(f"{obj.__class__.__name__} object {obj.instance_name} saved to {path}")
    
    # only take concluding action during pytests
    if "pytest" in sys.modules: 
        # remove existing object
        del __main__.obj
        # place old object back in if it existed
        if object_exists_flag: __main__.obj= copy.deepcopy(tmp_obj_holder)
        

4: Considere os pacotes marshalou dill, eles também serializam objetos, mas têm dependências muito diferentes do pickle e podem oferecer melhor compatibilidade com o pytest.

Espero que tudo isso ajude!