MongoDB实战(4)MapReduce
admin
2023-04-13 19:21:41
0

在 MongoDB 上使用 Map/Reduce进行并行"统计"很容易。
使用 MapReduce 要实现两个函数 Map 函数和 Reduce 函数,Map 函数调用 emit(key, value),
遍历 collection 中所有的记录, 将key 与 value 传递给 Reduce 函数进行处理。
Map函数和Reduce函数可以使用 JavaScript 来实现,可以通过 db.runCommand 或 mapReduce 命令来执行一个MapReduce 的操作:

db.runCommand(
{
    mapReduce: ,
    map: ,
    reduce: ,
    out: ,
    query: ,
    sort: ,
    limit: ,
    finalize: ,
    scope: ,
    jsMode: ,
    verbose: 
})

参数说明:
mapreduce: 要操作的目标集合。

map: 映射函数 (生成键值对序列,作为 reduce 函数参数)。

reduce: 统计函数。

out: 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。

query: 目标记录过滤

sort: 目标记录排序。

limit: 限制目标记录数量。

finalize: 最终处理函数 (对 reduce 返回结果进行最终整理后存入结果集合)

scope: 向 map、reduce、finalize 导入外部变量。

jsMode: 是否转换Bson格式在map和reduce执行间

verbose: 显示详细的时间统计信息。


下面我们来搞一个例子吧:

准备一些数据:

MongoDB实战(4)MapReduce

接下来我们演示如何统计各个班的学生数量

Map:

Map 函数必须调用 emit(key, value) 返回键值对,使用 this 访问当前待处理的 Document。

m = function(){
    emit(this.classid,1);
}

value 可以使用 JSON Object 传递 (支持多个属性值)。

例如:emit(this.classid, {count:1})
Reduce:

Reduce 函数接收的参数类似 Group 效果,将 Map 返回的键值序列组合成 { key, [value1,
value2, value3, value...] } 传递给 reduce。

r = function(key,values){
    var x = 0;
    values.forEach(function(v){x += v});
    return x;
}

Reduce 函数对这些 values 进行 "统计" 操作,返回结果可以使用 JSON Object。

Result:

MongoDB实战(4)MapReduce

mapReduce() 将结果存储在 "students_res" 表中。
MongoDB实战(4)MapReduce

Finalize:

利用 finalize() 我们可以对 reduce() 的结果做进一步处理。

f = function(key,value){
    return {classid:key,count:value}
}

我们再重新计算一次,看看结果:

MongoDB实战(4)MapReduce


Options:

我们还可以添加更多的控制细节。

db.runCommand({
    mapreduce:"stu",
    map:m,
    reduce:r,
    out:"stu_res",
    finalize:f,
    query:{age:{$gt:10}}
});

MongoDB实战(4)MapReduce


可以看到先进行了过滤,只取 age>10 的数据,然后再进行统计,所以就没有 age=9 的数
据了。


相关内容

热门资讯

央行开展3125亿元7天期逆回... 【大河财立方消息】12月30日,央行公告称,开展3125亿元7天期逆回购操作,投标量3125亿元,中...
87岁脑出血患者重获新生 黄河... 近日,黄河科技学院附属医院中医科主任柳忠全、心血管内科主任孟苗苗受医院党委书记于春霞的委托,带领相关...
最新引进“打两圈泰兴麻将怎么开... 网上科普关于“打两圈泰兴麻将有没有挂”话题很是火热,小编也是针对打两圈泰兴麻将作*弊开挂的方法以及开...
AI时代,如何培养创新人才? “鲲鹏少年院”没有整齐排列的课桌椅,只有围绕项目展开的小组工作区。 学员们在探讨前沿生物科技。 ...
天空中,“电车”凭什么与“油车... 电动垂直起降飞行器(eVTOL,electric Vertical Take-off and Lan...
玩家分享攻略“新九方牛牛辅助器... 玩家分享攻略“新九方牛牛辅助器?”(原来真的有挂)您好,新九方牛牛这个游戏其实有挂的,确实是有挂的,...
玩家攻略科普“贪玩互娱怎么开挂... 网上科普关于“贪玩互娱有没有挂”话题很是火热,小编也是针对贪玩互娱作*弊开挂的方法以及开挂对应的知识...
【第一资讯】“九酷炸/金/花究... 网上科普关于“九酷炸/金/花有没有挂”话题很是火热,小编也是针对九酷炸/金/花作*弊开挂的方法以及开...
我来教教您“宝宝浙江游戏可以开... 有 亲,根据资深记者爆料宝宝浙江游戏是可以开挂的,确实有挂(咨询软件无需...
终于明白“马鞍山麻将有挂吗?”... 网上科普关于“马鞍山麻将有没有挂”话题很是火热,小编也是针对马鞍山麻将作*弊开挂的方法以及开挂对应的...