-
MIT6.824 LAB1记录
前言 MapReduce是著名的面向大规模数据处理的并行计算模型和方法,本实验考虑实现MapReduce,因此选取MIT 6.824 Lab1作为实验内容。本实验使用GO编程语言,为理解MapReduce的基本原理和主要涉及方法,需要阅读论文MapReduce: Simplified Data Processing on Large Clusters(CACM’08),接下来,本文将依次阐述MapReduce论文的思想、MapReduce实现的主要模块、实验环境与测试,最后做出总结。 论文理解 该论文提出了一种针对大数据处理的编程模型MapReduce及其实现,使得编程人员无需并行和分布式系统经验就可以轻松构建大数据处理应用。该模型将大数据处理问题拆解为两步,即 map 和 reduc... Read More