AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / user-20037647

EarthTurtle's questions

Martin Hope
EarthTurtle
Asked: 2025-04-17 01:14:26 +0800 CST

Iterador Java de correspondências de regex de uma grande fonte

  • 6

O problema básico é que preciso gerar todas as correspondências de uma regex dentro de um arquivo, mas há algumas propriedades que tornam a solução complicada:

  1. O arquivo pode ser muito grande, então não é possível trazê-lo para a memória e digitalizá-lo inteiro de uma só vez.
  2. O regex é fornecido pelo usuário, portanto não há estimativa de quão grande uma correspondência poderia ser
  3. A expressão regular pode ter várias linhas, o que torna as correspondências possíveis ainda mais longas, e a varredura por linha pode fazer com que uma correspondência que cruze as linhas seja perdida.
  4. Cada correspondência deve ser retornada com sua posição no arquivo inteiro.
  5. As correspondências devem ser avaliadas lentamente (não há necessidade de encontrar todas as correspondências no arquivo de uma vez)

Como exemplo para 3, este algoritmo

while (not end of file):
  line = file.readNextLine()
  for (each match in regex.find(line)):
    results.append(match)
return results

quebras no caso de

// inline modifier to turn on DOTALL
regex = "(?s)start.*end"
content = "start
end"

porque startentão endseriam apresentados individualmente, quando o ponto pudesse corresponder a um caractere de nova linha.

Minha ideia atual é implementar Iterator<MatchResult>, e ler em a CharBuffercomo uma janela deslizante. java.util.regex.MatcherTambém tem hitEnd(), que pode sinalizar se mais entradas teriam alterado o resultado da última find()operação (se a expressão regular for "foobar" e o correspondente tiver sido avaliado em "foo", hitEnd()retornaria verdadeiro. Se o correspondente tiver sido avaliado em "bar", retornaria falso). Se o buffer estiver cheio e mais entradas puderem encontrar uma correspondência, o tamanho do buffer será dobrado até que uma correspondência seja encontrada. Eu poderia implementar Spliteratorem vez disso, mas não sei se isso é mais ou menos complicado.

Até agora, tenho esta estrutura básica (omitindo o tratamento de exceções por questões de brevidade):

public class RegexStreamIterator implements Iterator<MatchResult> {
  private static final int MIN_BUFFER_SIZE_BYTES = 8192;
  private static final int MAX_BUFFER_EXPANSIONS = 4;
  private static final int MAX_BUFFER_SIZE_BYTES = (int) Math.pow(2, MAX_BUFFER_EXPANSIONS) * MIN_BUFFER_SIZE_BYTES;

  private final Reader reader;
  private final Pattern pattern;

  private int readerIndex = 0;
  private Matcher matcher;
  private CharBuffer buffer = CharBuffer.allocate(MIN_BUFFER_SIZE_BYTES);
  private MatchResult currentMatch;

  public RegexStreamIterator(Reader reader, Pattern pattern) {
    this.reader = reader;
    this.pattern = pattern;
  }

  public boolean hasNext() {
    if (currentMatch != null) return true;
    advance();
    return currentMatch != null;
  }

  public MatchResult next() {
    if (currentMatch == null)
      advance();
    if (currentMatch == null)
      throw new NoSuchElementException();

    MatchResult ret = currentMatch;
    currentMatch = null;
    return ret;
  }

  private void advance() {
    // pseudocode while I'm stuck on actual implementation
    if matcher is null
      fill buffer
      if buffer is null
        return
      matcher = pattern.matcher(buffer)
    
    while not end of file:
      if matcher found result and not matcher.hitEnd() // match found and won't grow or get rejected with more input
        this.currentMatch = match
        advance matcher to next match
        return

      if matcher.hitEnd()
        if no match was found in buffer (matcher start index at 0)
          double buffer size 
            if new size bigger than max size, throw exception
          fill from file 
          reset matcher
        else (part of buffer consumed)
          move remaining buffer to new buffer 
          fill from file
          reset matcher
      else
        clear buffer (resetting size)
        fill from file
        reset matcher
  }
}

Estou muito preso a problemas como o tratamento de nulos e a criação de um loop que possa buscar a próxima correspondência e seja estável entre várias chamadas para advance(). Isso parece ser um problema que já foi resolvido antes. Se bibliotecas comuns como Apache ou Guava tiverem algo que cubra isso, seria fantástico.

java
  • 1 respostas
  • 57 Views
Martin Hope
EarthTurtle
Asked: 2024-07-04 06:30:04 +0800 CST

Erro no tipo genérico dentro do limite do curinga

  • 6

Eu tenho uma interface de iterador personalizada

public interface ThrowingIterator<T, E extends Throwable> {
  // matches interface of standard Iterator, but next() and hasNext() can throw E
}

e uma implementação

public class CustomIterator implements ThrowingIterator<List<MyType>, IOException> {
  // ...
  public CustomIterator() {
     // ...
  }
  public static ThrowingIterator<List<MyType>, IOException> helperFactory() {
    // ...
  }
}

onde class MyType implements MyInterface. O problema que tenho está na seguinte função:

ThrowingIterator<List<? extends MyInterface>, IOException> getIterator() {
  if (someCondition) {
    return new CustomIterator();
  }
  return CustomIterator.helperFactory();
}

O compilador está apresentando erros em ambas as instruções de retorno, por motivos diferentes. Intellij fornece o seguinte:

// first
Required: ThrowingIterator<List<? extends MyInterface>, IOException>
Provided: CustomIterator
// second
Required: ThrowingIterator<List<? extends MyInterface>, IOException>
Provided: ThrowingIterator<List<MyType>, IOException>

Pelo que eu sei, CustomIteratordeve caber no que é necessário, já que o tipo para o qual ele implementa ThrowingIteratorse ajusta dentro dos limites do curinga (especialmente olhando para o segundo caso, já que MyType implements MyInterface, que é o que eu pensei ser exatamente o que está tentando? extends MyInterface capturar). esse problema de genéricos seja resolvido minimizando a quantidade de curingas nas declarações/assinaturas? A assinatura de getIterator()está correta como está. Também entendo que fornecer um iterador em uma lista é uma má prática; correção que é tratada em outro lugar.

java
  • 1 respostas
  • 14 Views
Martin Hope
EarthTurtle
Asked: 2024-05-19 05:43:10 +0800 CST

Jackson desserializa propriedades dentro de JSON aninhado

  • 5

Eu tenho um POJO que se parece com isso

class Bean {
    private Instant created;
    private Instant updated;
    private String name;
    private int count;
} 

e os dados JSON de entrada são assim

{
  "time_created": <custom timestamp>,
  "time_updated": <custom timestamp>,
  // Other data...
  "person": {
    "name": "John"
    // Other data...
  },
  "stats": {
    "button": {
      "count": 5
      // ...
    }
    // ...
  }
}

Quero desserializar o JSON para que ele seja nivelado no POJO. Aninhar classes parece um exagero, pois eu só quero uma propriedade específica e não quero receber chamadas como bean.getStats().getButton().getCount(), eu só quero bean.getCount(). Já fiz isso com um desserializador personalizado, mas é confuso e frágil.

Existe uma maneira de fazer isso com anotações? Algo como

@JsonProperty(name = "count", root = "stats/button")
private int count;

Além disso, é Instantsnecessário um desserializador personalizado. Acredito que posso cobrir isso com

@JsonDeserialize(using = CustomInstantDeserializer.class)
private Instant created;
@JsonDeserialize(using = CustomInstantDeserializer.class)
private Instant updated;

como anotações em cada um dos campos.

java
  • 1 respostas
  • 23 Views

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Reformatar números, inserindo separadores em posições fixas

    • 6 respostas
  • Marko Smith

    Por que os conceitos do C++20 causam erros de restrição cíclica, enquanto o SFINAE antigo não?

    • 2 respostas
  • Marko Smith

    Problema com extensão desinstalada automaticamente do VScode (tema Material)

    • 2 respostas
  • Marko Smith

    Vue 3: Erro na criação "Identificador esperado, mas encontrado 'import'" [duplicado]

    • 1 respostas
  • Marko Smith

    Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores?

    • 1 respostas
  • Marko Smith

    Como faço para corrigir um erro MODULE_NOT_FOUND para um módulo que não importei manualmente?

    • 6 respostas
  • Marko Smith

    `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso?

    • 3 respostas
  • Marko Smith

    Um programa vazio que não faz nada em C++ precisa de um heap de 204 KB, mas não em C

    • 1 respostas
  • Marko Smith

    PowerBI atualmente quebrado com BigQuery: problema de driver Simba com atualização do Windows

    • 2 respostas
  • Marko Smith

    AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos

    • 1 respostas
  • Martin Hope
    Fantastic Mr Fox Somente o tipo copiável não é aceito na implementação std::vector do MSVC 2025-04-23 06:40:49 +0800 CST
  • Martin Hope
    Howard Hinnant Encontre o próximo dia da semana usando o cronógrafo 2025-04-21 08:30:25 +0800 CST
  • Martin Hope
    Fedor O inicializador de membro do construtor pode incluir a inicialização de outro membro? 2025-04-15 01:01:44 +0800 CST
  • Martin Hope
    Petr Filipský Por que os conceitos do C++20 causam erros de restrição cíclica, enquanto o SFINAE antigo não? 2025-03-23 21:39:40 +0800 CST
  • Martin Hope
    Catskul O C++20 mudou para permitir a conversão de `type(&)[N]` de matriz de limites conhecidos para `type(&)[]` de matriz de limites desconhecidos? 2025-03-04 06:57:53 +0800 CST
  • Martin Hope
    Stefan Pochmann Como/por que {2,3,10} e {x,3,10} com x=2 são ordenados de forma diferente? 2025-01-13 23:24:07 +0800 CST
  • Martin Hope
    Chad Feller O ponto e vírgula agora é opcional em condicionais bash com [[ .. ]] na versão 5.2? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench Por que um traço duplo (--) faz com que esta cláusula MariaDB seja avaliada como verdadeira? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng Por que `dict(id=1, **{'id': 2})` às vezes gera `KeyError: 'id'` em vez de um TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos 2024-03-20 03:12:31 +0800 CST

Hot tag

python javascript c++ c# java typescript sql reactjs html

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve