挂载COS为本地磁盘——COSFS工具配置
功能说明
COSFS 工具支持将 COS 存储桶挂载到本地,像使用本地文件系统一样直接操作腾讯云对象存储中的对象, COSFS 提供的主要功能包括:
- 支持 POSIX 文件系统的大部分功能,如:文件读写、目录操作、链接操作、权限管理、uid/gid 管理等功能。
- 大文件分块传输功能。
- MD5 数据校验功能。
- 将本机数据上传至 COS,建议使用 COS Migration 工具 或 COSCMD 工具。
局限性
COSFS 基于 S3FS 构建, 读取和写入操作都经过磁盘中转,仅适合挂载后对文件进行简单的管理,不支持本地文件系统的一些功能用法,性能方面也无法代替云硬盘 CBS 或文件存储 CFS。 需注意以下不适用的场景,例如:
- 随机或者追加写文件会导致整个文件的下载以及重新上传,您可以使用与 Bucket 在同一个地域的 CVM 加速文件的上传下载。
- 多个客户端挂载同一个 COS 存储桶时,依赖用户自行协调各个客户端的行为。例如避免多个客户端写同一个文件等。
- 文件/文件夹的 rename 操作不是原子的。
- 元数据操作,例如 list directory,性能较差,因为需要远程访问 COS 服务器。
- 不支持 hard link,不适合高并发读/写的场景。
- 不可以同时在一个挂载点上挂载、和卸载文件。您可以先使用 cd 命令切换到其他目录,再对挂载点进行挂载、卸载操作。
安装和使用
适用操作系统版本
主流的 Ubuntu、CentOS、SUSE、macOS 系统。
安装步骤
1. 安装依赖软件
COSFS 的编译安装依赖于 automake、git、libcurl-devel、libxml2-devel、fuse-devel、make、openssl-devel 等软件包,Ubuntu 、CentOS、SUSE 和 macOS 的依赖软件安装过程如下:
- Ubuntu 系统下安装依赖软件:
1 |
|
- CentOS 系统下安装依赖软件:
1 |
|
- SUSE 系统下安装依赖软件:
1 |
|
- macOS 系统下安装依赖软件:
1 |
|
2. 获取源码
您需要从 GitHub 上将 COSFS 源码 下载到指定目录,下面以目录/usr/cosfs
为例(实际操作下,建议您根据具体操作环境选择目录):
1 |
|
3. 编译和安装 COSFS
进入安装目录,执行如下命令进行编译和安装:
1 |
|
根据操作系统的不同,进行 configure 操作时会出现不同的提示,主要分为以下方面:
- 在 fuse 版本低于 2.8.4 的操作系统上,进行 configure 操作时会出现如下的报错提示:
1 |
|
此时,您需要手动安装 fuse 2.8.4及以上版本,安装命令示例如下:
1 |
|
SUSE 系统下手动安装 fuse 2.8.4及以上版本,安装命令示例如下:
!安装时,需要注释掉
example/fusexmp.c
文件下第222行内容,否则 make 将报错。注释方法为/*content*/
。
1 |
|
- 在 macOS 进行 configure 操作时,可能会出现如下提示:
1 |
|
此时,您需要设置 PKG_CONFIG_PATH 变量,以使得 pkg-config 工具能找到 openssl,命令如下:
1 |
|
COSFS 使用方法
1. 配置密钥文件
在文件/etc/passwd-cosfs
中,写入您的存储桶名称(格式为 /etc/passwd-cosfs
密钥文件的命令格式如下:
1 |
|
!您需要将
、 和 替换为您的信息。
- Bucket 命名规范,请参见 存储桶命名规范。
和 请前往访问管理控制台的 云 API 密钥管理 中获取。 此外,您也可以将密钥放置在文件 $HOME/.passwd-cosfs 中,或通过 -opasswd_file=[path] 指定密钥文件路径,此时,您需要将密钥文件权限设置成600。
示例:
1 |
|
2. 运行工具
将已经在密钥文件中配置好信息的存储桶挂载到指定目录,可以使用如下命令行:
1 |
|
其中:
为本地挂载目录(例如 /mnt
)。为存储桶对应的访问域名,形式为 http://cos.<Region>.myqcloud.com
(适用于 XML API,请勿在该参数中携带存储桶名称),其中为地域简称, 例如 ap-guangzhou 、 eu-frankfurt 等。更多地域信息,请参见 可用地域。 - -odbglevel 指定日志级别。
- -oallow_other 允许非挂载用户访问挂载文件夹。
示例:
1 |
|
!v1.0.5 之前版本 COSFS 的挂载命令如下:
1 |
|
v1.0.5 之前版本 COSFS 的配置文件格式是:
1 |
|
3. 卸载存储桶
卸载存储桶示例:
1 |
|
常用挂载选项
-omultipart_size=[size]
用来指定分块上传时单个分块的大小(单位: MB),默认是10MB。 由于分块上传对单个文件块的数目有最大限制(10000块),所以对于超出100GB(10MB * 10000)大小的文件,需要根据具体情况调整该参数。
-oallow_other
如果要允许其他用户访问挂载文件夹,可以在运行 COSFS 的时候指定该参数。
-odel_cache
默认情况下, COSFS 为了优化性能,在 umount 后,不会清除本地的缓存数据。 如果需要在 COSFS 退出时,自动清除缓存,可以在挂载时加入该选项。
-onoxattr
禁用 getattr/setxattr 功能,在1.0.9之前版本的 COSFS 不支持设置和获取扩展属性,如果在挂载时使用了 use_xattr 选项,可能会导致 mv 文件到 Bucket 失败。
-ouse_cache=[path]
使用缓存目录缓存文件,path 为本地缓存目录路径,该选项可以在文件缓存下来后,加速文件的读写(非第一次读写),如果不需要本地缓存或本地磁盘容量有限,可不指定该选项。
-opasswd_file=[path]
该选项可以指定 COSFS 密钥文件的所在路径,该选项设定的密钥文件需要设置权限为600。
-odbglevel=[dbg|info|warn|err|crit]
设置 COSFS 日志记录级别,可选 info、dbg、warn、err 和 crit。生产环境中建议设置为 info,调试时可以设置为 dbg。如果您的系统日志,未定期清理且由于访问量很大,生成大量日志,您可以设置为 err 或者 crit。
-oumask=[perm]
该选项可以去除给定类型用户,对挂载目录内文件的操作权限。例如,-oumask=755,对应挂载目录的权限变为022。
-ouid=[uid]
该选项允许用户 id 为 [uid] 的用户不受挂载目录中文件权限位的限制,可以访问挂载目录中的所有文件。 获取用户 uid 可以使用 id 命令,格式 id -u username
。例如执行id -u user_00
,可获取到用户 user_00 的 uid。
-oensure_diskfree=[size]
用来指定当缓存文件所在磁盘,剩余空间不足 [size] MB 大小时,COSFS 运行将尽量减少使用磁盘空间(单位: MB)。 COSFS 的上传下载都会使用磁盘文件缓存,当上传大文件时,若不指定该参数,会写满缓存文件所在的磁盘。如果指定 -ouse_cache=[path] 参数,缓存文件位于 path 目录下,否则,在 /tmp 目录下。
常见问题
如果您在使用 COSFS 工具过程中,有相关的疑问,请参见 COSFS 工具类常见问题。