AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / coding / Perguntas / 79007040
Accepted
TooTone
TooTone
Asked: 2024-09-20 21:47:34 +0800 CST2024-09-20 21:47:34 +0800 CST 2024-09-20 21:47:34 +0800 CST

Qual é a desvantagem do cpp-httplib usar bloqueio de E/S de soquete

  • 772

Temos usado o excelente cpp-httlib para fazer solicitações REST. Agora gostaríamos de usá-lo para um servidor. Bem no topo da documentação está:

Importante

Esta biblioteca usa E/S de soquete 'bloqueantes'. Se você está procurando uma biblioteca com E/S de soquete 'não bloqueadoras', esta não é a que você quer.

Não tenho certeza do que isso significa em um sentido prático, pois, embora eu entenda os princípios básicos de IP/UDP/TCP etc., não estou familiarizado com programação de socket. Testei o servidor disparando várias solicitações para ele, por exemplo, se a primeira solicitação for implementada dormindo por 30s, uma segunda solicitação "hello world" ainda retorna imediatamente.

Depurando o código, vejo que o thread principal é executado:

    while (svr_sock_ != INVALID_SOCKET) {
      // socket operations 

      if (!task_queue->enqueue(
              [this, sock]() { process_and_close_socket(sock); })) {
        detail::shutdown_socket(sock);
        detail::close_socket(sock);
      }
    }

Os threads de trabalho são executados

      for (;;) {
        std::function<void()> fn;
        {
          // Lock / wait for new request

          fn = pool_.jobs_.front();
          pool_.jobs_.pop_front();
        }
        fn();
      }

ou seja, o thread principal é como um loop de eventos em um aplicativo GUI, recebendo cada solicitação recebida, mas em vez de executar a solicitação em si, ele a coloca em uma fila para que os threads de trabalho a peguem.

Anteriormente eu estava encerrando chamadas para C++ em um servidor web Python FastAPI, o que é bom, mas executar Python e C++ claramente adiciona sobrecarga/complexidade, e não é totalmente simples entender como as solicitações são executadas em relação ao bloqueio global do interpretador. A abordagem direta do C++ usando cpp-httlib parece muito melhor, mas o comentário sobre 'bloquear' E/S de socket me preocupa. O que estou perdendo ao não usar E/S de socket não bloqueantes?

(O servidor será construído para Windows e Linux; no entanto, a produção será Linux.)

c++
  • 1 1 respostas
  • 48 Views

1 respostas

  • Voted
  1. Best Answer
    Ahmed AEK
    2024-09-20T22:58:33+08:002024-09-20T22:58:33+08:00

    Uma biblioteca de IO de bloqueio usa threads para fazer multitarefa preemptiva , enquanto uma não bloqueante faz multitarefa cooperativa . Veja também Qual é a diferença entre multitarefa cooperativa e multitarefa preemptiva?

    com multitarefa preventiva (cpp-httplib), se você quiser que 1000 soquetes sejam manipulados de uma vez, precisará de 1000 threads ativas, e a maior parte do tempo da CPU será desperdiçado no agendamento do sistema operacional em vez de fazer o trabalho real; uma troca de contexto pode levar alguns microssegundos; pode levar até mais tempo em um sistema operacional virtualizado, que é usado por provedores de nuvem.

    com multitarefa cooperativa ( asio ), se você tem um servidor com 4 núcleos, você só precisa de 4 threads para gerenciar os 1000 soquetes, o sistema operacional não terá que fazer nenhum agendamento excessivo, e seu aplicativo lidará com esse agendamento extra, mas no ambiente do usuário com menos chamadas de sistema, o que acaba sendo mais rápido. (porque os sistemas operacionais têm agendadores complicados, enquanto os agendadores no ambiente do usuário são simples e, portanto, rápidos).

    se você estiver fazendo cálculos pesados ​​por tarefa ou gerenciando um número muito limitado de soquetes ao mesmo tempo e não estiver limitado por E/S, então usar multitarefa preventiva (cpp-httplib) é aceitável, mas se você estiver limitado por E/S (como um servidor HTML ou de arquivos), então você deve usar multitarefa cooperativa (asio).

    A multitarefa cooperativa (asio) pode ser mais difícil de usar, mas é mais rápida, enquanto a multitarefa preventiva (cpp-httplib) pode ser mais lenta, mas é mais fácil de usar.

    para comparação, o FastApi usa multitarefa cooperativa para asynccaminhos e multitarefa preventiva para caminhos não assíncronos.

    • 1

relate perguntas

  • Por que os compiladores perdem a vetorização aqui?

  • Erro de compilação usando CMake com biblioteca [fechada]

  • Erro lançado toda vez que tento executar o premake

  • Como criar um tipo de octeto semelhante a std::byte em C++?

  • Somente operações bit a bit para std::byte em C++ 17?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Vue 3: Erro na criação "Identificador esperado, mas encontrado 'import'" [duplicado]

    • 1 respostas
  • Marko Smith

    Por que esse código Java simples e pequeno roda 30x mais rápido em todas as JVMs Graal, mas não em nenhuma JVM Oracle?

    • 1 respostas
  • Marko Smith

    Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores?

    • 1 respostas
  • Marko Smith

    Como faço para corrigir um erro MODULE_NOT_FOUND para um módulo que não importei manualmente?

    • 6 respostas
  • Marko Smith

    `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso?

    • 3 respostas
  • Marko Smith

    Quando devo usar um std::inplace_vector em vez de um std::vector?

    • 3 respostas
  • Marko Smith

    Um programa vazio que não faz nada em C++ precisa de um heap de 204 KB, mas não em C

    • 1 respostas
  • Marko Smith

    PowerBI atualmente quebrado com BigQuery: problema de driver Simba com atualização do Windows

    • 2 respostas
  • Marko Smith

    AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos

    • 1 respostas
  • Marko Smith

    Estou tentando fazer o jogo pacman usando apenas o módulo Turtle Random e Math

    • 1 respostas
  • Martin Hope
    Aleksandr Dubinsky Por que a correspondência de padrões com o switch no InetAddress falha com 'não cobre todos os valores de entrada possíveis'? 2024-12-23 06:56:21 +0800 CST
  • Martin Hope
    Phillip Borge Por que esse código Java simples e pequeno roda 30x mais rápido em todas as JVMs Graal, mas não em nenhuma JVM Oracle? 2024-12-12 20:46:46 +0800 CST
  • Martin Hope
    Oodini Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores? 2024-12-12 06:27:11 +0800 CST
  • Martin Hope
    sleeptightAnsiC `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso? 2024-11-09 07:18:53 +0800 CST
  • Martin Hope
    The Mad Gamer Quando devo usar um std::inplace_vector em vez de um std::vector? 2024-10-29 23:01:00 +0800 CST
  • Martin Hope
    Chad Feller O ponto e vírgula agora é opcional em condicionais bash com [[ .. ]] na versão 5.2? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench Por que um traço duplo (--) faz com que esta cláusula MariaDB seja avaliada como verdadeira? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng Por que `dict(id=1, **{'id': 2})` às vezes gera `KeyError: 'id'` em vez de um TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos 2024-03-20 03:12:31 +0800 CST
  • Martin Hope
    MarkB Por que o GCC gera código que executa condicionalmente uma implementação SIMD? 2024-02-17 06:17:14 +0800 CST

Hot tag

python javascript c++ c# java typescript sql reactjs html

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve