灵活且不失高性能,这个 POSIX 共享文件系统值得一用

项目名称:JuiceFS

项目作者:Juicedata

开源许可协议:AGPL-3.0

项目地址:https://gitee.com/juicedata/JuiceFS

项目简介

JuiceFS 是一个建立在 Redis 和 S3 等对象存储之上的开源 POSIX 文件系统。它是为云原生环境设计,通过把元数据和数据分别持久化到 Redis 和对象存储中,它相当于一个无状态的中间件,帮助各种应用通过标准的文件系统接口来共享数据。

项目特性

  • 完整 POSIX 兼容:已有应用可以无缝对接;
  • 极致的性能:毫秒级的延迟,近乎无限的吞吐量(取决于对象存储规模);
  • 云原生:完全弹性,很容易实现存储和计算分离架构;
  • 共享:可以被多个客户端同时读写;
  • 文件锁:支持 BSD 锁(flock)及 POSIX 锁(fcntl);
  • 数据压缩:默认使用 LZ4 压缩数据,节省存储空间。

项目架构

JuiceFS 使用 Redis 来存储文件系统的元数据。Redis 是一个开源的内存数据库,可以保障元数据的高性能访问。所有文件的数据会通过客户端存储到对象存储中,以下是它的架构图:

JuiceFS 中的文件格式,如下图所示。一个文件首先被拆分成固定大小的 'Chunk',默认 64 MiB。每个 Chunk 可以由一个或者多个 'Slice' 组成,它们是变长的。对于每一个 Slice,又会被拆分成固定大小的 'Block',默认为 4 MiB(格式化后就不可以修改)。最后,这些 Block 会被压缩和加密保存到对象存储中。压缩和加密都是可选的。

性能测试

顺序读写性能

使用 fio 测试了 JuiceFS、EFS 和 S3FS 的顺序读写性能,结果如下:

上图显示 JuiceFS 可以比其他两者提供 10 倍以上的吞吐。

元数据性能

使用 mdtest 测试了 JuiceFS、EFS 和 S3FS 的元数据性能,结果如下:

上图显示 JuiceFS 的元数据性能显著优于其他两个。

开发者说

JuiceFS 的创新架构更符合云原生的发展趋势,我们一开始就以 SaaS 的形式将它提供给公有云的客户,让客户分钟级就可以获得 PB 级企业文件存储服务。同时,我们也和行业领先的对象存储厂商一起服务私有云客户。

我们坚信文件系统是最好的管理非结构化数据的方式,对象存储只适用于某些简单场景。分布式文件系统一直是基础软件中难啃的骨头,JuiceFS 通过对文件系统中元数据和数据的独立抽象,大大减低了系统复杂度,使得文件系统能够借助这些年来对象存储和分布式数据库的进展,管理超大规模的数据。同时,复杂度的降低可以让更多的开发者参与进来,未来更多的应用也会建立在文件系统接口之上。

(0)

相关推荐

  • 云端共享文件系统 JuiceFS 在 2021 年选择开源

    今天,云原生分布式文件系统官方公众号 Juicedata果汁数据科技发布消息称 JuiceFS 已经开源了! 开源地址: www.github.com/juicedata/juicefs JuiceF ...

  • BAT小伙自研存储引擎,火爆Github

    大家好,我是Carl. 最近很多小伙伴问我关于一些,项目的选择,相信如果是C 后台开发路线的话,基本都会去做WebServer 服务器. 我在给小伙伴答疑,包括看了这么多简历,发现WebServer这 ...

  • 星际文件系统生态应用集锦系列展示

    本文基于最近星际文件系统生态中更新的应用进行展示,来帮助社区了解更多在星际文件系统生态中的应用,同时我们也愿意帮助更多的开发者团队向社区展示他们精彩的项目和贡献,以吸引更多的开发者.投资人.社区贡献和 ...

  • 老码农眼中的存储

    存储,是我们码农每天都要打交道的事情,而当我们面对RAID,SAN,对象存储,分布式数据库等技术的时候,又往往似是而非,存储成了我们熟悉的陌生人. 在老码农眼中,存储仿佛是这个样子的. 从计算机结构出 ...

  • 青山学34款佳肴,每天菜系不重样,美味无限共享,值得收藏

    胡萝卜玉米鸡汤 材料:鸡肉500g.玉米1根.胡萝卜1个.香菜.盐少许. 做法 1.鸡肉洗净,玉米切成小段,胡萝卜切丁. 2.鸡肉,即把鸡肉放进沸水锅中略滚,去掉鸡肉的血水. 3.砂锅或者电饭锅放水, ...

  • 青山学21款佳肴,每天菜系不重样,美味无限共享,值得收藏

    京酱鱿鱼丝 材料:鱿鱼1条,甜面酱3汤匙,葱丝5克,姜三片,香菜末5克,盐1/4茶匙,白糖1/2茶匙,料酒1汤匙,油1勺 做法 1.鱿鱼清理干净切粗丝,用少许料酒和盐腌制20分钟,葱丝铺在盘中备用 2 ...

  • 即时配送势头火热 共享灵活用工平台趣活登陆纳斯达克

      7月10日,"共享灵活用工平台"趣活("QH.US")登陆美股于纳斯达克成功上市.公司将发行330万股美国存托股票(ADS),每股发行价格10美元.不计绿鞋 ...

  • “共享员工”撬起中国灵活用工大市场

    推荐阅读时长:3分钟   疫情非常时期,人力资源结构性矛盾突显,一边是餐厅打烊大量员工待岗,一边是商超消费旺盛,人手明显不足,"共享员工"成为热门的新词汇.   盒马联合云海肴.西 ...

  • “共享员工”的背后:庞大的灵活用工市场正在崛起

    推荐阅读时长:3分钟 " 在很多现代服务业从业者的预期中,2020年春节本应该是一场再创营收新高盛宴,然而一场突如其来的计划,却改变了13亿人的消费计划,为现代服务业带来巨大损失.根据相关预 ...

  • 南京航空航天大学 吴红飞 教授:高性能AC-DC变换技术——高效变换与灵活电压调控

    第34届世界电动车大会征文专区 第34届世界电动车大会暨展览会(EVS34)征文通知 燃料电池│第34届世界电动车大会专题征文 储能前沿交叉│第34届世界电动车大会专题征文 电动汽车的电磁兼容│第34 ...

  • 用工可灵活共享 责任需依法自担

    阅读提示就业是民生之本,关系千家万户切身利益.因疫情防控需要,一些企业停业造成部分人员溢出,而超市.外卖等行业人员相对紧张,在此条件下,共享用工模式应运而生.如今,虽然疫情已经进入常态化防控阶段,但共 ...

  • 适用于高性能ECU的可扩展且灵活的软件平台

    /电子电气架构技术创新交流群 / 添加微信15021948198,申请加入汽车电子电气架构技术创新交流群,与专业人士交流探讨行业发展动态 相关文章 作为变革引擎的软件平台:自动驾驶合作概述 智能驾驶功 ...