快速上手指南
Last updated
Last updated
在这个快速上手指南里,我们会引导你在本地机器上安装 Alluxio。 快速上手指南包括以下任务:
下载和配置 Alluxio
验证 Alluxio 运行环境
本地启动 Alluxio
通过 Alluxio Shell 进行基本的文件操作
[加分项] 挂载一个公开的 Amazon S3 bucket 到 Alluxio 上
关闭 Alluxio
[加分项] 如果你有一个,你可以完成额外的任务。需要你 AWS 账户信息的章节都有**[加分项]**这一标签。
注意 本指南旨在让你快速开始与 Alluxio 系统进行交互。Alluxio 在运行大数据工作负载的分布式环境中表现最好。这些特性都难以适用于本地环境。如果你有兴趣运行一个更大规模的、能够突出 Alluxio 性能优势的例子,可以请求一个来一键免费部署Spark、Alluxio和S3。
为了接下来的快速上手指南,你需要:
Mac OS X 或 Linux
[加分项] AWS 账户和密钥
如果你使用 Mac OS X,你必须能够 ssh 到 localhost。远程登录开启方法:打开系统偏好设置,然后打开共享,确保远程登录已开启。
接着,你可以用如下命令解压下载包。
这会创建一个包含所有的 Alluxio 源文件和 Java 二进制文件的文件夹alluxio-{{site.ALLUXIO_VERSION_STRING}}
。在本教程中,这个文件夹的路径将被引用为${ALLUXIO_HOME}
。
在${ALLUXIO_HOME}/conf
目录下,根据模板文件创建conf/alluxio-env.sh
配置文件。
在conf/alluxio-env.sh
文件中为 JAVA_HOME
增加配置.例如:
在${ALLUXIO_HOME}/conf
目录下,根据模板文件创建conf/alluxio-site.properties
配置文件。
在conf/alluxio-site.properties
文件中将 alluxio.master.hostname
设置为 localhost
。
为了配置 Alluxio 与 Amazon S3 交互,请在conf/alluxio-site.properties
文件中向 Alluxio 配置添加 AWS 访问信息。以下命令将更新该配置。
你必须将**<AWS_ACCESS_KEY_ID>
替换成你的 AWS access key id,将<AWS_SECRET_ACCESS_KEY>
**替换成你的 AWS secret access key。
在启动 Alluxio 前,我们要保证当前系统环境下 Alluxio 可以正常运行。我们可以通过运行如下命令来验证 Alluxio 的本地运行环境:
该命令将汇报在本地环境运行 Alluxio 可能出现的问题。
在启动 Alluxio 进程前,需要进行格式化。如下命令会格式化 Alluxio 的日志和 worker 存储目录。
默认配置下,本地运行 Alluxio 会启动一个 master 和一个 worker。我们可以用如下命令在 localhost 启动 Alluxio:
你可以通过ls
命令列出 Alluxio 里的文件。比如列出根目录下所有文件:
目前 Alluxio 里没有文件。copyFromLocal
命令可以拷贝本地文件到 Alluxio 中。
再次列出 Alluxio 里的文件,可以看到刚刚拷贝的LICENSE
文件:
输出显示 LICENSE 文件在 Alluxio 中,也包含一些其他的有用信息,比如文件的大小、创建的日期、文件的所有者和组以及 Alluxio 中这个文件的缓存占比。
cat
命令可以打印文件的内容。
默认设置中,Alluxio 使用本地文件系统作为底层文件系统 (UFS)。默认的 UFS 路径是./underFSStorage
。我们可以查看 UFS 中的内容:
然而,这个目录不存在!这是由于 Alluxio 默认只写入数据到 Alluxio 存储空间,而不会写入 UFS。
但是,我们可以告诉 Alluxio 将文件从 Alluxio 空间持久化到 UFS。shell 命令persist
可以做到。
如果我们现在再次检查 UFS,文件就会出现。
这个特性允许用户挂载不同的存储系统到 Alluxio 命名空间中并且通过 Alluxio 命名空间无缝地跨存储系统访问文件。
首先,我们在 Alluxio 中创建一个目录作为挂载点。
接着,我们挂载一个已有的 S3 bucket 到 Alluxio。本指南使用alluxio-quick-start
S3 bucket。
我们可以通过 Alluxio 命名空间列出 S3 中的文件。使用熟悉的ls
命令列出 S3 挂载目录下的文件。
通过 Alluxio 统一命名空间,你可以无缝地从不同存储系统中交互数据。举个例子,使用ls -R
命令,你可以递归地列举出一个目录下的所有文件。
输出显示了 Alluxio 文件系统根目录下来源于挂载存储系统的所有文件。/LICENSE
文件在本地文件系统中,/mnt/s3/
目录在 S3 中。
由于 Alluxio 利用内存存储数据,它可以加速数据的访问。首先,我们看一看之前从 S3 挂载到 Alluxio 中的一个文件的状态:
输出显示了文件 Not In Memory(不在内存中)。该文件是推特的样本。我们统计一下有多少推文提到了单词"kitten",并计算该操作的耗时。
取决于你的网络连接状况,该操作可能会超过20秒。如果读取文件时间过长,你可以选择一个小一点的数据集。该目录下的其他文件是该文件的更小子集。 通过将数据放在内存中,Alluxio 可以提高访问该数据的速度。
在通过cat
命令获取文件后,你可以用ls
命令查看文件的状态:
输出显示文件已经 100% 被加载到 Alluxio 中,既然如此,那么再次访问该文件的速度应该会快很多。
现在让我们来统计一下拥有"puppy"这个单词的推文数目。
如你所见,因为数据已经存放到了 Alluxio 内存中了,后续读这个相同文件的速度非常快。
现在让我们来统计一下有多少推文包含"bunny"这个词。
恭喜!你在本地安装了 Alluxio 并且通过 Alluxio 加速了数据访问!
你可以使用如下命令关闭 Alluxio:
恭喜你完成了 Alluxio 的快速上手指南!你成功地在本地电脑上下载和安装 Alluxio,并且通过 Alluxio shell 进行了基本的交互。这是一个如何上手 Alluxio 的简单例子。
除此之外还有很多可以学习的内容。你可以通过我们的文档学到 Alluxio 的各种特性。下面的资源详细介绍了 Alluxio 各种部署方式、如何挂载现有存储系统,以及如何配置现有应用程序与 Alluxio 交互。
Alluxio 可以部署在很多不同的环境下。
有很多可以通过 Alluxio 访问的底层存储系统。
不同的计算框架和应用与 Alluxio 的集成。
首先,从下载 Alluxio。
你可以在查看更多关于validateEnv
命令的信息。
恭喜!Alluxio 已经启动并运行了!你可以访问 查看 Alluxio master 的运行状态,访问 查看 Alluxio worker 的运行状态。
包含多种与 Alluxio 交互的命令行操作。如果要查看文件系统操作命令列表,运行:
如果我们在 中浏览 Alluxio 文件系统,我们可以看见 LICENSE 文件以及其它有用的信息。其中,Persistence State 栏显示文件为 PERSISTED。
Alluxio 通过统一命名空间的特性统一了对存储系统的访问。你可以阅读和获取更详细的解释。
新挂载的文件和目录也可以在 中看到。