利用Alluxio系统提升按需数据分析服务的性能

  • 时间:
  • 浏览:0

Alluxio为用户提供较高的灵活性和下行速率 单位。任何时需持久化的结果或转换都可以 通过Alluxio直接完成,Alluxio可以 将数据同步传播到底层存储系统,以确保数据越来越多意味节点故障而丢失。此外,用户还可以 取舍仅在Alluxio内存中存储临时数据或上边数据,从而允许计算任务对什么缓存的数据进行内存级下行速率 单位访问。

幸运的是新架构趋于稳定的你這個 什么的现象可以 通过在计算集群上部署Alluxio得到很好的补救。通过引入Alluxio,可以 使得计算任务的I/O下行速率 单位达到内存级别,但会 不时需维护长时间运行的集群或昂贵的前期投入成本。

对于上述什么什么的现象的简洁而优雅的补救方案是采用并算不算上层按需计算集群结合底层对象存储的架构。你這個 架构通过解耦时需连续运行的持久化存储模块和要能趋于稳定分析任务才使用的计算模块来补救什么什么的现象的根源。与上段提到的时需连续运行的整体化集群架构相比,你這個 架构具有如下优势:

事实上,部署和使用Alluxio对上层应用程序而言是简单和透明的。应用程序还是不断地访问数据,就好像作业直接访问的是远程存储上的数据,Alluxio会智能地将热数据保趋于稳定计算集群的内存中以供后续读取。整个过程对于应用程序是透明的,但会 不时需进行手动ETL。一旦数据进入Alluxio,它将对集群的所有应用程序可用,但会 在同一数据集被多次使用的场景中,应用的性能会大幅提高。

3. 总结

版权申明:本文由南京大学顾荣、黄志翻译架构设计 自Alluxio公司技术博客,由Alluxio公司授权云栖社区及CSDN首发(联合),版权归Alluxio公司所有,未经版权所有者同意请勿转载。

1. 架构示例图介绍

Alluxio是部署在计算群集中的虚拟的分布式存储系统,为上层应用的I/O提供内存级访问下行速率 单位的性能。 通过Alluxio虚拟化底层存储系统,使得任何基于Alluxio API接口(Alluxio提供HDFS兼容接口)编写的计算应用程序都能自动地访问用任何或多个底层存储系统,而不时需修改任何代码。此外,Alluxio是一个多多设计为可横向扩展的分布式存储系统,这意味通过部署更多的机器来轻松地存储更大的数据集并提高访问性能。

事实上,你這個 计算和存储解耦的方案具备上述优势的一齐,也趋于稳定着一个多多关键的缺点:性能损失。这意味底层的对象存储通常并时需为高I / O吞吐量而设计的,但会 会意味上层的计算分析任务意味会意味数据访问下行速率 单位低下而整体性能变地低效。

上图显示了利用Alluxio提升按需数据分析服务性能的架构图,从图中可以 看出Alluxio与按需使用的计算集群部署在一齐,从而减少计算集群频繁访问远程存储的耗时。

2. 结合Alluxio系统架构的优势分析

在所以大数据应用场景中,但会 具体的补救什么的现象通常只涉及到整体数据集的一个多多子集或次要数据。这意味长时间占用大规模集群的整体数据分析法律妙招的资源有效利用率较低,但会 总体代价较高,尤其在系统采用计算和存储并置(co-locate)部署架构的场景下各位严重。另外,在所以即席查询和计算应用中,数据的分析任务通常由上层用户零散地给出,与用于补救管道数据和流数据的连续运行分析任务不同,你這個 零散的分析任务会造成集群的计算能力但会 时间段要能被充分利用。但会 人面,集群的存储容量时需容纳意味被访问到的任何数据,尽管实际上每次时需使用的工作集合也不整体数据的一小次要。最后,集群并算不算还时需多量精心的维护管理工作,以确保集群使用者之间的隔离和性能不受彼此越来越多影响。    

相比于长期运行的计算分析集群高昂的成本和维护工作量,与对象存储结合使用的按需计算集群的架构是一个多多更简洁和更具性价比的服务补救方案。通过在计算集群中并置(co-locate)部署Alluxio和计算框架,我门歌词 歌词 克服了你這個 按需集群模型的关键性的性能缺点。Alluxio系统的架构设计 使其成为大数据软件栈中提供此核心功能的一个多多很好的取舍。