電子發燒友App
創作
發文章
發帖 
提問 
發資料
發視頻資料介紹
針對內存計算框架Spark在作業Shuffle階段一次分區產生的數據傾斜問題，提出一種內存計算框架的迭代填充分區映射算法（IFPM）。首先，分析Spark作業的執行機制，建立作業效率模型和分區映射模型，給出作業執行時間和分配傾斜度的定義，證明這些定義與作業執行效率的因果邏輯關系；然后，根據模型和定義求解，設計擴展式數據分區算法（EPA）和迭代式分區映射算法（IMA），在Map端建立一對多分區函數，并通過分區函數將部分數據填入擴展區內，在數據分布局部感知后再執行擴展區迭代式的多輪數據分配，根據Reduce端已分配數據量建立適應性的擴展區映射規則，對原生區的數據傾斜進行逐步修正，以此保障數據分配的均衡性。實驗結果表明，在不同源數據分布條件下，算法均提高了作業Shuffle過程分區映射合理性，縮減了寬依賴Stage的同步時間，提高了作業執行效率。
下載該資料的人也在下載
下載該資料的人還在閱讀
更多 >
- 基于向量分區和三維骨架化的CT圖像算法 22次下載
- 基于低秩矩陣填充技術的推薦算法 14次下載
- 基于無約束優化的無參數填充函數算法 9次下載
- 漢語的零形式識別與填充方法研究綜述 2次下載
- 基于虛擬網絡功能組合的服務功能鏈及映射算法 5次下載
- 基于最優子網的虛擬網絡映射算法 5次下載
- 基于拓撲和權值的虛擬網絡映射算法 4次下載
- 一種高效節能的虛擬網絡映射算法 6次下載
- 一種多目標虛擬網絡映射VNE-MOPSO算法 16次下載
- 基于雙重分組和對位映射的防碰撞查詢樹算法 7次下載
- 一種新的鄰近節點分組映射算法 6次下載
- 一種生存性虛擬網絡映射算法 3次下載
- 基于包簇映射的資源管理框架 0次下載
- 紋理映射算法的改進研究 11次下載
- 一種簡單的圖案填充算法
- 拆解mmap內存映射的本質！ 1870次閱讀
- EC SRAM映射到CPU Memory空間的共享內存設計 1741次閱讀
- 邊緣計算計算卸載與資源分配聯合優化算法 1275次閱讀
- 單片機的內存映射圖解析 1274次閱讀
- 單片機的內存映射圖解析 1799次閱讀
- LINS算法的框架與代碼分析 3271次閱讀
- 一文詳細了解mmap內存映射 2410次閱讀
- 電工基礎：如何計算電纜橋架填充率 8550次閱讀
- 虛擬機：linux高端內存管理之永久內核映射 3696次閱讀
- 淺析linux內存映射原理 1640次閱讀
- 存儲器的分區內存管理與分區存儲管理 3167次閱讀
- 基于多元LDPC碼迭代編碼算法的混合校驗矩陣構造算法 4806次閱讀
- Linux內核地址映射模型與Linux內核高端內存詳解 3474次閱讀
- 簡單剖析虛擬內存與交換分區 6323次閱讀
- 一種FFT插值正弦波快速頻率估計算法 9657次閱讀
上傳資料賺積分下載排行
本周
- 1DC電源插座圖紙
- 0.67 MB | 2次下載 | 免費
- 2AN158 GD32VW553 Wi-Fi開發指南
- 1.51MB | 2次下載 | 免費
- 3AN148 GD32VW553射頻硬件開發指南
- 2.07MB | 1次下載 | 免費
- 4AN111-LTC3219用戶指南
- 84.32KB | 次下載 | 免費
- 5AN153-用于電源系統管理的Linduino
- 1.38MB | 次下載 | 免費
- 6AN-283: Σ-Δ型ADC和DAC[中文版]
- 677.86KB | 次下載 | 免費
- 7SM2018E 支持可控硅調光線性恒流控制芯片
- 402.24 KB | 次下載 | 免費
- 8AN-1308: 電流檢測放大器共模階躍響應
- 545.42KB | 次下載 | 免費
本月
- 1ADI高性能電源管理解決方案
- 2.43 MB | 450次下載 | 免費
- 2免費開源CC3D飛控資料（電路圖&PCB源文件、BOM、
- 5.67 MB | 138次下載 | 1 積分
- 3基于STM32單片機智能手環心率計步器體溫顯示設計
- 0.10 MB | 130次下載 | 免費
- 4使用單片機實現七人表決器的程序和仿真資料免費下載
- 2.96 MB | 44次下載 | 免費
- 53314A函數發生器維修手冊
- 16.30 MB | 31次下載 | 免費
- 6美的電磁爐維修手冊大全
- 1.56 MB | 24次下載 | 5 積分
- 7如何正確測試電源的紋波
- 0.36 MB | 17次下載 | 免費
- 8感應筆電路圖
- 0.06 MB | 10次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935121次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關降壓/升壓雙向直流/直流轉換器 PCB layout 設計
- 1.48MB | 420062次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233088次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費下載
- 340992 | 191367次下載 | 10 積分
- 5十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183335次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81581次下載 | 10 積分
- 7Keil工具MDK-Arm免費下載
- 0.02 MB | 73810次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65988次下載 | 10 積分
工商網監
評論