阿里云 OSS

本指南介绍如何将阿里云 OSS 配置为 Alluxio 的底层存储系统。

阿里云对象存储服务 (OSS) 是阿里云提供的一种海量、安全、高可靠的云存储服务。OSS 提供多种存储类别,帮助您管理和降低存储成本。

有关阿里云 OSS 的更多信息,请阅读其文档

先决条件

在开始之前,请确保您已准备好以下所需信息:

<OSS_BUCKET>

OSS 控制台中创建一个新存储桶或使用现有存储桶

<OSS_DIRECTORY>

您要在存储桶中使用的目录,可以是创建新目录或使用现有目录

<OSS_ACCESS_KEY_ID>

用于识别用户的 ID。请参阅如何获取 AccessKey 对

<OSS_ACCESS_KEY_SECRET>

用于验证用户身份的密钥。请参阅如何获取 AccessKey 对

<OSS_ENDPOINT>

其他服务可用于访问 OSS 的域名。请参阅公共云中的区域和 OSS 端点

基本设置

通用挂载机制和 UnderFileSystem CR 字段参考,请参阅底层存储

使用 operator 创建 OSS 挂载点的 ufs.yaml 示例:

apiVersion: k8s-operator.alluxio.com/v1
kind: UnderFileSystem
metadata:
  name: alluxio-oss
  namespace: alx-ns
spec:
  alluxioCluster: alluxio-cluster
  path: oss://<OSS_BUCKET>/<OSS_DIRECTORY>
  mountPath: /oss
  mountOptions:
    fs.oss.accessKeyId: <OSS_ACCESS_KEY>
    fs.oss.accessKeySecret: <OSS_ACCESS_KEY_SECRET>
    fs.oss.endpoint: <OSS_ENDPOINT>

高级设置

请注意,配置选项可以指定为挂载选项或 conf/alluxio-site.properties 中的配置属性。 以下各节将介绍如何将配置设置为属性,但它们也可以通过 --option <key>=<value> 设置为挂载选项。

启用 HTTPS

要启用 HTTPS 协议以与 OSS 进行安全通信,并为数据传输增加一层额外的安全性, 请在 conf/alluxio-site.properties 中配置以下设置:

OSS 分片上传

我们使用分片上传方法将一个文件分多个部分上传,每个部分将在一个线程中上传。上传时不会生成任何临时文件。

您可以在 conf/alluxio-site.properties 中指定其他参数以可能加快上传速度。

禁用 OSS 分片上传,上传方法将一次性从头到尾完整上传一个文件。您需要修改 conf/alluxio-site.properties 以包含:

设置请求重试策略

适用于所有对象存储 UFS 类型的重试配置,请参阅 UFS 概览中的请求重试策略

Last updated