AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / coding / 问题 / 79597907
Accepted
Dhruv
Dhruv
Asked: 2025-04-29 16:15:24 +0800 CST2025-04-29 16:15:24 +0800 CST 2025-04-29 16:15:24 +0800 CST

Spark中shuffle的定义

  • 772

我知道,与同分区 DataFrame 的连接不被视为宽变换。以下是原文中关于宽变换和窄变换的定义。

窄依赖,其中父 RDD 的每个分区最多被子 RDD 的一个分区使用,宽依赖,其中多个子分区可能依赖于它。

即使 DataFrame 是共分区的,也不一定意味着它们对应的分区位于同一节点上。例如,的分区 P1df1和 的 P1df2可能位于不同的节点上。因此,在连接期间仍然需要进行数据传输(例如,将 的 P1 移动df1到 的 P1 节点df2)。然而,这并不被视为 Shuffle。

我有两个问题?

  1. 那么,shuffle 到底是什么?我知道并非所有网络数据传输都被视为 shuffle。
  2. 哪些类型的数据传输被视为 shuffle?只有涉及宽转换的数据传输才被视为 shuffle 吗?
apache-spark
  • 1 1 个回答
  • 27 Views

1 个回答

  • Voted
  1. Best Answer
    Daniel Darabos
    2025-04-30T17:18:15+08:002025-04-30T17:18:15+08:00

    在 shuffle 过程中,每个执行器都会为所有其他执行器写出分片。想象一下,如果我们有 100 个人,每个人都会给其他人发一封信。

    写完分片后,每个执行器必须从其他所有执行器那里收集自己收到的分片。就像 100 个人收到其他人发来的信件一样。

    相反,当你使用共分区的 RDD(只是不在同一个节点上)时,每个执行器只需获取一个分片。就像 100 个人每人收到一封信一样。

    • 0

相关问题

  • 在 SPARK SQL 中逆透视列组

  • Spark生成的文件数量

  • PySpark 数据帧从_json 转换

  • 显示 Spark DataFrame Reader 上设置的选项

  • Pyspark:将数据帧保存到具有特定大小的单个文件的多个镶木地板文件

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    重新格式化数字,在固定位置插入分隔符

    • 6 个回答
  • Marko Smith

    为什么 C++20 概念会导致循环约束错误,而老式的 SFINAE 不会?

    • 2 个回答
  • Marko Smith

    VScode 自动卸载扩展的问题(Material 主题)

    • 2 个回答
  • Marko Smith

    Vue 3:创建时出错“预期标识符但发现‘导入’”[重复]

    • 1 个回答
  • Marko Smith

    具有指定基础类型但没有枚举器的“枚举类”的用途是什么?

    • 1 个回答
  • Marko Smith

    如何修复未手动导入的模块的 MODULE_NOT_FOUND 错误?

    • 6 个回答
  • Marko Smith

    `(表达式,左值) = 右值` 在 C 或 C++ 中是有效的赋值吗?为什么有些编译器会接受/拒绝它?

    • 3 个回答
  • Marko Smith

    在 C++ 中,一个不执行任何操作的空程序需要 204KB 的堆,但在 C 中则不需要

    • 1 个回答
  • Marko Smith

    PowerBI 目前与 BigQuery 不兼容:Simba 驱动程序与 Windows 更新有关

    • 2 个回答
  • Marko Smith

    AdMob:MobileAds.initialize() - 对于某些设备,“java.lang.Integer 无法转换为 java.lang.String”

    • 1 个回答
  • Martin Hope
    Fantastic Mr Fox msvc std::vector 实现中仅不接受可复制类型 2025-04-23 06:40:49 +0800 CST
  • Martin Hope
    Howard Hinnant 使用 chrono 查找下一个工作日 2025-04-21 08:30:25 +0800 CST
  • Martin Hope
    Fedor 构造函数的成员初始化程序可以包含另一个成员的初始化吗? 2025-04-15 01:01:44 +0800 CST
  • Martin Hope
    Petr Filipský 为什么 C++20 概念会导致循环约束错误,而老式的 SFINAE 不会? 2025-03-23 21:39:40 +0800 CST
  • Martin Hope
    Catskul C++20 是否进行了更改,允许从已知绑定数组“type(&)[N]”转换为未知绑定数组“type(&)[]”? 2025-03-04 06:57:53 +0800 CST
  • Martin Hope
    Stefan Pochmann 为什么 {2,3,10} 和 {x,3,10} (x=2) 的顺序不同? 2025-01-13 23:24:07 +0800 CST
  • Martin Hope
    Chad Feller 在 5.2 版中,bash 条件语句中的 [[ .. ]] 中的分号现在是可选的吗? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench 为什么双破折号 (--) 会导致此 MariaDB 子句评估为 true? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng 为什么 `dict(id=1, **{'id': 2})` 有时会引发 `KeyError: 'id'` 而不是 TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob:MobileAds.initialize() - 对于某些设备,“java.lang.Integer 无法转换为 java.lang.String” 2024-03-20 03:12:31 +0800 CST

热门标签

python javascript c++ c# java typescript sql reactjs html

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve