主页 / server / 问题 / 1042959
Accepted
FxckDead
Asked: 2020-11-18 12:47:53 +0800 CST

以异步方式缓存请求

  • 772

有很多选项可以在 Web 服务器/代理上缓存请求，但我正在寻找一种方法来让传入的请求“等待”直到缓存准备好，然后用缓存响应所有排队的请求。

我几乎可以肯定我在一些 Medium 帖子中读到过它，但我找不到它，所以也许这里的一些大师可以指导我走这条路。

更新

感谢@martynas-saint 的评论，我找到了我正在寻找的帖子， 并且通过连续的大量资源讨论了这个话题，所以非常感谢！

cache backend

1 个回答

  1. Best Answer

    Varnish Web 缓存默认执行此操作 - 它称为请求合并或折叠。要了解有关它的更多信息，请查看 - https://info.varnish-software.com/blog/request-coalescing-and-other-reasons-to-use-varnish-as-an-origin-shield

    我们折叠请求，因此您的设置不会 内容分发的大坏狼是一种被称为“雷电群”效应的东西，由同时到达的大量请求触发。想想黑色星期五之类的事情，但是对于 HTTP 请求，系统会被淹没并阻塞传入流量。它要么减速到爬行，要么完全崩溃。实际上，这通常发生在大型在线活动中，例如奥运会、足球比赛，或者黑色星期五。

    然而，这种流量通常是高度可缓存的，Varnish 实现了请求合并（或折叠）以节省时间。这个想法非常简单：如果 20 个用户同时请求相同的内容，则只从源获取一次数据。它有很多有趣的技术细节，但我今天不会让你厌烦，别担心。重要的一点是，Varnish 透明地为您完成所有艰苦的工作，这样雷鸣般的牛群就不会践踏您的出身。

    这描述了可能的代码解决方案（使用不再积极开发的 Netflix/Hystrix）：

    https://medium.com/@jacqtrain/the-hystrix-collapser-and-how-it-might-save-your-webservices-85fb183db620

    • 0

相关问题