Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点
创始人
2024-12-19 00:40:41
0次

  大量小文件存储一直是典型的应用场景之一,现在有3KW的数据,单条数据都很小的,如果按key-value来看的话,key就是32位的MD5字符串,value按平均算大概是100字节左右。下面小编来讲解下Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点?

  Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点

  1、直接生成静态文件,利用nginx对静态文件的高效做静态缓存。

  当时服务器硬件资源有限,所以就采用这种方式,一直源用至今。

  服务器间通过NFS来共享

  太多小文件,不方便管理

  NFS不方便运维与扩展

  文件内容很小(100字节左右),3KW大概就是2.5G大小左右

  不过文件存储的时候和硬盘分区的族大小有关,在这里磁盘分区的族大小为8K,所以尽管文件内容只有100字节,但是实际存储到磁盘上的时候单个文件其实是8K

  所以3KW的文件世界占的磁盘空间大约为:200G左右(严重浪费空间啊)

  2、Redis(V2.2.11)【KV数据库】

  听同事说开启VM会使性能急剧下降,所以基本无视VM,数据全放内存。

  key为32位MD5字符串

  测试数据:10W数据大概占内存20M

  测试数据:500W数据大概占内存1G,持久化的rdb数据文件大概350M

  推算3KW数据:内存6G,持久化的rdb数据文件大概为2G(压缩了?)

  因为Redis在持久化的时候内存会加倍,和考虑到数据的增长,所以需要1台20G内存的机器基本就没问题了(容灾啥的另算)。

  Redis非常快,如果硬件条件没问题,基本选这个最好了。

  Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点

  3、Moosefs(MFS)【分布式文件存储系统】

  mfs支持NFS的方式mount到本地直接操作(如使用mfs,则现在的架构基本不用改)

  最基本的需要一台主控服务器(MasterServer)、一台数据服务器(ChunkServer)

  文件和目录的索引需要全部加载到主控服务器的内存中,所以对主控服务器的内存有一定的要求

  写入30W文件,到20W的时候写入就开始下降得厉害了(我的5400转的笔记本硬盘)

  30W文件,4W目录,主控服务器占用大概120M内存

  文件存储方式貌似和普遍的文件一样单个存储的(不确定),30W文件大概占了2.4G的磁盘空间(同样是8K一个文件)。

  小文件一样很多,不方便维护与迁移(不知是否我设置不对?)。

  内存、硬盘都占用得比较多,而且性能相对来说不是很出众。

  所以这个基本不考虑了。

相关内容

热门资讯

空调连续工作多久需要停机休息 空调连续工作的时间取决于多个因素,包括空调的型号、功率、使用环境和维护情况等。一般来说,空调可以连续...
空调哪个符号是除湿的 空调除湿功能通常用一个水滴形状的符号表示。不同品牌和型号的空调遥控器可能会有所差异,但一般来说,除湿...
格力空调多长时间加一次氟利昂 1、一般情况下,空调对氟利昂的使用量是非常小的,所以在空调使用了四年左右的时候再考虑加也没问题。2、...
空调用多长时间需要加氟一次 一般情况下是五年。当出现以下这几种情况时,空调才需要加氟。1、空调的室内机和室外机各有两个接口,当接...
格调生活·C标思享荟:卡萨帝在... 9月12日的郑州龙湖金融岛,夜风轻拂,灯光璀璨。“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑...
品牌价值破千亿、高端份额持续领... 9月12日,“C标时刻共传奇——卡萨帝思享荟暨20周年品牌盛典郑州站”在郑州龙湖金融岛举办。2026...
空调主板坏了修800还是换新的 空调主板坏了是修还是换新,需要考虑多个因素,以下是一些建议:1. 维修成本:如果维修费用较低,比如 ...
空调开多久需要休息多长时间 问题:空调开多久需要休息多长时间回答:1、在使用空调的过程中,一般空调开7~8个小时左右需要休息2~...
中央空调多长时间清洗一次 1、一般空调开机前清洗一次即可,空调开机中间时段再清洗一次,空调关机时清洗一次,这样比较合理。2、空...
中央空调氟利昂多久加一次 看空调制热和制冷程度,很多人的观点认为氟利昂必须一年放一次,其实这个观点是错误的,理解上面有点偏差,...