AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / coding / Perguntas / 79596227
Accepted
Evan Lynch
Evan Lynch
Asked: 2025-04-28 18:15:56 +0800 CST2025-04-28 18:15:56 +0800 CST 2025-04-28 18:15:56 +0800 CST

Encontrando relações numéricas entre colunas

  • 772

Selecionei um subconjunto de colunas numéricas de um banco de dados e quero iterar pelas colunas, selecionando uma target_columne comparando-a com o resultado de uma operação numérica entre duas outras colunas no dataframe. No entanto, não tenho certeza de como comparar o resultado (por exemplo, col1 * col2 = target_column).

# For all possible combinations of numeric columns
for col1, col2 in combinations(numeric_cols, 2):
    # For a target column in numeric_columns
    for target_column in numeric_cols:
        # Skip if the target column is one of the relationship columns
        if target_column in (col1, col2):
            continue

Editar : Eu descobri algo, mas ainda não tenho certeza se esta é a maneira mais eficiente de fazer isso

def analyse_relationships(df):

numeric_cols = df.select_dtypes(include=[np.number])
threshold = 0.001
relationships = []

# For all possible combinations of numeric columns
for col1, col2 in combinations(numeric_cols, 2):
    # For a target column in numeric_columns
    for target_column in numeric_cols:
        # Skip if the target column is one of the relationship columns
        if target_column in (col1, col2):
            continue

        # Calculate different operations
        product = numeric_cols[col1] * numeric_cols[col2]
        sum_cols = numeric_cols[col1] + numeric_cols[col2]
        diff = numeric_cols[col1] - numeric_cols[col2]

        if np.allclose(product, numeric_cols[target_column], rtol=threshold):
            relationships.append(f"{col1} * {col2} = {target_column}")
        elif np.allclose(sum_cols, numeric_cols[target_column], rtol=threshold):
            relationships.append(f"{col1} + {col2} = {target_column}")
        elif np.allclose(diff, numeric_cols[target_column], rtol=threshold):
            relationships.append(f"{col1} - {col2} = {target_column}")
python
  • 1 1 respostas
  • 55 Views

1 respostas

  • Voted
  1. Best Answer
    CcmU
    2025-04-28T20:56:25+08:002025-04-28T20:56:25+08:00

    Para resolver seu problema, eu sugiro fortemente que você vetorize seus dados e use o mínimo possível de operações Pandas, já que muitas operações são necessárias e, consequentemente, quanto mais pudermos confiar somente no NumPy, mais rápido o código será executado (o núcleo do NumPy é escrito em C ).

    Como há várias operações a serem consideradas ( +, -, *, /), precisamos calcular cada resultado e compará-lo com target_column, mas podemos ser mais eficientes em termos de espaço usando uma máscara booleana (ou seja, um array NumPy ), que é uma coluna que representa, como um valor booleano, a expressão target_column == col1 operation col2. Observe que, tendo um float possível em df, é melhor usar numpy.isclose()to , que podemos definir um limite para as operações de float.

    Seu código poderia ser algo assim (incluí um pequeno exemplo no final):

    import numpy as np
    import pandas as pd
    from itertools import combinations
    
    def detect_relations(df, numeric_cols, float_tolerance=1e-8):
        results = []
        ops = {
            "+": [(lambda x, y: x + y, "a + b")],   # No need to have `b + a` since sum is commutative
            "-": [
                (lambda x, y: x - y, "a - b"),
                (lambda x, y: y - x, "b - a")
            ],
            "*": [(lambda x, y: x * y, "a * b")],   # Same as sum, `a * b = b * a`
            "/": [
                # We need to ensure that we don't divide by 0
                (lambda x, y: np.divide(x, y, out=np.full_like(x, np.nan, dtype=float), where=(y != 0)), "a / b"),
                (lambda x, y: np.divide(y, x, out=np.full_like(x, np.nan, dtype=float), where=(x != 0)), "b / a")
            ],
        }
        # Iterating trough every combination
        for col1, col2 in combinations(numeric_cols, 2):
            a = df[col1].values
            b = df[col2].values
            # Iterating trough each possible operation
            for _, functions in ops.items():
                for func, op_name in functions:
                    # Calculating the result of the operation `func` between col1 and col2
                    val = func(a, b)
                    # Confronting the result of `col1 operation col2` to the other numeric columns (avoiding col1 and col2)
                    for target in numeric_cols:
                        if target in (col1, col2):
                            continue
                        c = df[target].values
                        # We get a boolean mask with the comparison between `col1 operation col2` and `target_column`
                        mask = np.isclose(val, c, atol=float_tolerance, equal_nan=False)
                        # Counting how many relations we found
                        matches = int(mask.sum())
                        total = len(df)
                        
                        results.append({
                            "col1": col1,
                            "col2": col2,
                            "operation": op_name,
                            "target": target,
                            "matches": matches,
                            "total": total,
                            "pct_match": matches / total
                        })
                    
        return pd.DataFrame(results)
    
    
    # --- Example---
    df = pd.DataFrame({
        "a": [1, 2, 3, 4],
        "b": [2, 2, 2, 2],
        "c": [2, 4, 6, 8],
        "d": [2, 0, 1, 8],
    })
    
    numeric_cols = ["a", "b", "c", "d"]
    res = detect_relations(df, numeric_cols)
    # Avoid to print combinations with no relation
    print(res[res["matches"] > 0].sort_values("pct_match", ascending=False))
    

    Saída:

       col1 col2 operation target  matches  total  pct_match
    6     a    b     a * b      c        4      4       1.00
    22    a    c     b / a      b        4      4       1.00
    46    b    c     b / a      a        4      4       1.00
    7     a    b     a * b      d        2      4       0.50
    48    b    d     a + b      a        2      4       0.50
    26    a    d     a - b      b        2      4       0.50
    58    b    d     b / a      a        2      4       0.50
    34    a    d     b / a      b        2      4       0.50
    3     a    b     a - b      d        2      4       0.50
    5     a    b     b - a      d        1      4       0.25
    0     a    b     a + b      c        1      4       0.25
    19    a    c     a * b      d        1      4       0.25
    18    a    c     a * b      b        1      4       0.25
    16    a    c     b - a      b        1      4       0.25
    11    a    b     b / a      d        1      4       0.25
    10    a    b     b / a      c        1      4       0.25
    30    a    d     a * b      b        1      4       0.25
    24    a    d     a + b      b        1      4       0.25
    23    a    c     b / a      d        1      4       0.25
    40    b    c     b - a      a        1      4       0.25
    35    a    d     b / a      c        1      4       0.25
    31    a    d     a * b      c        1      4       0.25
    44    b    c     a / b      a        1      4       0.25
    50    b    d     a - b      a        1      4       0.25
    56    b    d     a / b      a        1      4       0.25
    68    c    d     a / b      a        1      4       0.25
    70    c    d     b / a      a        1      4       0.25
    

    Análise de complexidade

    Gostaria de salientar que o código acima tem uma certa complexidade de tempo e pode ser lento quando o número de elementos é grande.

    O código acima precisa passar por uma série de ciclos:

    • através de todas as combinações de numerical_cols, isto é (m choose 2) = m(m-1)/2 ~ O(m^2);
    • através de todas as possibilidades target, ou seja O(m - 2) = O(m);
    • a comparação feita pelo numpy.isclose()ciclo através de cada elemento ne, portanto, tem complexidade de O(n).

    Considerando esses ciclos, é fácil ver como o código tem complexidade de tempo de O(m^2 * m * n) = O(n * m^3), então o tempo necessário aumentará cubicamente em relação ao número de colunas numéricas e linearmente em relação ao número de elementos em cada coluna.

    • 1

relate perguntas

  • Como divido o loop for em 3 quadros de dados individuais?

  • Como verificar se todas as colunas flutuantes em um Pandas DataFrame são aproximadamente iguais ou próximas

  • Como funciona o "load_dataset", já que não está detectando arquivos de exemplo?

  • Por que a comparação de string pandas.eval() retorna False

  • Python tkinter/ ttkboostrap dateentry não funciona quando no estado somente leitura

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Reformatar números, inserindo separadores em posições fixas

    • 6 respostas
  • Marko Smith

    Por que os conceitos do C++20 causam erros de restrição cíclica, enquanto o SFINAE antigo não?

    • 2 respostas
  • Marko Smith

    Problema com extensão desinstalada automaticamente do VScode (tema Material)

    • 2 respostas
  • Marko Smith

    Vue 3: Erro na criação "Identificador esperado, mas encontrado 'import'" [duplicado]

    • 1 respostas
  • Marko Smith

    Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores?

    • 1 respostas
  • Marko Smith

    Como faço para corrigir um erro MODULE_NOT_FOUND para um módulo que não importei manualmente?

    • 6 respostas
  • Marko Smith

    `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso?

    • 3 respostas
  • Marko Smith

    Um programa vazio que não faz nada em C++ precisa de um heap de 204 KB, mas não em C

    • 1 respostas
  • Marko Smith

    PowerBI atualmente quebrado com BigQuery: problema de driver Simba com atualização do Windows

    • 2 respostas
  • Marko Smith

    AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos

    • 1 respostas
  • Martin Hope
    Fantastic Mr Fox Somente o tipo copiável não é aceito na implementação std::vector do MSVC 2025-04-23 06:40:49 +0800 CST
  • Martin Hope
    Howard Hinnant Encontre o próximo dia da semana usando o cronógrafo 2025-04-21 08:30:25 +0800 CST
  • Martin Hope
    Fedor O inicializador de membro do construtor pode incluir a inicialização de outro membro? 2025-04-15 01:01:44 +0800 CST
  • Martin Hope
    Petr Filipský Por que os conceitos do C++20 causam erros de restrição cíclica, enquanto o SFINAE antigo não? 2025-03-23 21:39:40 +0800 CST
  • Martin Hope
    Catskul O C++20 mudou para permitir a conversão de `type(&)[N]` de matriz de limites conhecidos para `type(&)[]` de matriz de limites desconhecidos? 2025-03-04 06:57:53 +0800 CST
  • Martin Hope
    Stefan Pochmann Como/por que {2,3,10} e {x,3,10} com x=2 são ordenados de forma diferente? 2025-01-13 23:24:07 +0800 CST
  • Martin Hope
    Chad Feller O ponto e vírgula agora é opcional em condicionais bash com [[ .. ]] na versão 5.2? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench Por que um traço duplo (--) faz com que esta cláusula MariaDB seja avaliada como verdadeira? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng Por que `dict(id=1, **{'id': 2})` às vezes gera `KeyError: 'id'` em vez de um TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos 2024-03-20 03:12:31 +0800 CST

Hot tag

python javascript c++ c# java typescript sql reactjs html

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve