Início / coding / Perguntas / 79556482
Accepted
Frank Conry
Asked: 2025-04-05 10:15:16 +0800 CST

Como validar termos de pesquisa ao usar incorporação para procurar objetos em imagens

  • 772

Tenho uma ferramenta de busca no meu site que faz tanto buscas tradicionais de texto completo quanto buscas usando embeddings. Por exemplo, quando você pesquisa "balão vermelho", quero resultados de texto e imagem. O problema é que nem todos os termos de busca fazem sentido para a detecção de objetos (como "William" ou mesmo um identificador, como o número da carteira de motorista). Sei que existem bibliotecas que me dizem se uma palavra é um substantivo, mas existe alguma que me diga se uma frase é pesquisável? Assim:

  • Maçã Vermelha SIM
  • Grande Ideia Não
  • Carteira de Habilitação SIM
  • Licença suspensa nº
python

1 respostas

  1. Best Answer

    Uma ideia para começar:

    você deve antes de iniciar os scripts:

    pip install spacy, nltk, pywsd

    então instale o modelo pequeno e espaçoso:

    python -m spacy download en_core_web_sm

    Modelos disponíveis

    Antes da primeira execução, baixe os pacotes necessários do nltk:

    init.py

    import nltk
nltk.download('averaged_perceptron_tagger')
nltk.download('averaged_perceptron_tagger_eng')
nltk.download('wordnet')
nltk.download('punkt_tab')

    Quando tudo isso estiver feito:

    main.py:

    from nltk.corpus import wordnet as wn
import spacy
from pywsd.lesk import simple_lesk


nlp = spacy.load("en_core_web_sm")

def is_visually_searchable(phrase):
    doc = nlp(phrase)
    
    if any(token.like_num or token.is_digit for token in doc):
        return False
    
    noun_chunks = list(doc.noun_chunks)
    if not noun_chunks:
        return False
    
    for token in doc:
        if token.pos_ in ["NOUN", "PROPN"]:
            synset = simple_lesk(phrase, token.text)
            if synset:
                if synset.lexname() in ["noun.attribute", "noun.cognition", "noun.communication"]:
                    return False
    return True

phrases = [
    "red apple",
    "big idea",
    "driver's license",
    "suspended license",
    "Veronica",       
    "DL 1234",       
    "flying plane",
    "available items"
]

for phrase in phrases:
    print(f"{phrase}: {'YES' if is_visually_searchable(phrase) else 'NO'}")

    Resultados:

    > red apple: YES
> big idea: NO
> driver's license: YES
> suspended license: YES
> Veronica: YES
> DL 1234: NO
> flying plane: YES
> available items: NO
> >

    Você vê que Verônica e carteira suspensa são sempre SIM

    Filtros personalizados adicionais:

    • Filtro de primeiro nome:
    import requests

def load_names_from_url(url: str) -> set:
    try:
        response = requests.get(url)
        response.raise_for_status()
        return {line.strip().lower() for line in response.text.splitlines()}
    except requests.RequestException as e:
        return set()

url = 'https://raw.githubusercontent.com/dominictarr/random-name/refs/heads/master/first-names.txt'

NAMES_SET = load_names_from_url(url)

    Em seguida, adicione a lógica na função 'is_visually_searchable':

    if any(str(token).lower() in NAMES_SET for token in doc if not token.like_num):
     return False

    Resultados:

    > red apple: YES
> big idea: NO
> driver's license: YES
> suspended license: YES
> Veronica: NO
> DL 1234: NO
> flying plane: YES
> available items: NO
>

    Verifique as Categorias Lexicais para ajustar os resultados:

    Você pode verificar as categorias lexicais de uma palavra assim:

    from nltk.corpus import wordnet as wn

word = "suspended"
synsets = wn.synsets(word, pos=wn.VERB)
for syn in synsets:
    print(f"Word: {word}, Lexname: {syn.lexname()}, Definition: {syn.definition()}")

    Resultados:

    > Word: suspended, Lexname: verb.contact, Definition: hang freely
> Word: suspended, Lexname: verb.change, Definition: cause to be held in suspension in a fluid
> Word: suspended, Lexname: verb.social, Definition: bar temporarily; from school, office, etc.
> Word: suspended, Lexname: verb.change, Definition: stop a process or a habit by imposing a freeze on it
> Word: suspended, Lexname: verb.change, Definition: make inoperative or stop
> Word: suspended, Lexname: verb.stative, Definition: render temporarily ineffective
>

    Você pode usar: wn.NOUN, wn.VERB, wn.ADJ,wn.ADV

    • 0

relate perguntas