跳转至

8. 存储与文件

计算中心为各个实验组和个人用户提供了多种级别的文件存储服务,主要包括 AFS 文件存储、EOS 文件存储、Lustre 文件存储和磁带库存储。

如果因协作需要开放个人目录中的文件或目录,请先阅读目录/文件访问授权。个人目录默认仅本人可访问,授权时应只开放必要目录、只授权给指定用户或组,并优先使用只读权限。

AFS 是一个分布式文件系统,由数据服务器和文件服务器组成,为客户提供统一的存储空间。AFS 基于 Kerberos 认证,具有很强的安全性。高能所计算中心部署的 OpenAFS 系统,主要用于用户身份认证和个人文件安全存储,包括源代码、程序、文档等,并定期备份,确保数据安全。AFS 还为各个实验提供公共软件库的存储,通过只读发布,保证所有节点上软件版本的一致性。AFS 的优点是数据安全性高,私密性强,适合存放个人数据,但是存储空间小,访问速度慢。

注意

由于 AFS 的安全机制的制约,如果在 AFS 目录下向 PBS 等作业管理系统提交作业,将无法在 AFS 目录下得到作业结果。

Lustre 是一个开源、可扩展的并行文件系统,被广泛应用于超级计算平台。在全球 TOP500 超级计算机中有超过 70% 使用了 Lustre 文件系统。Lustre 由元数据服务器(MDS)、对象存储服务器(OSS)以及客户端组成。通过元数据服务器,Lustre 将所有对象存储服务器上存储目标设备(Storage Target)组成统一的存储空间,提供给客户端挂载,完全兼容 POSIX 语义。Lustre 具有很强的可扩展性,能够轻松管理 PB-EB 级别的存储空间,提供每秒几十甚至上百 GB 字节的聚合带宽,在高性能计算领域应用广泛。受 Lustre 自身设计的限制,该文件系统针对"海量小文件"使用场景的性能较差。因此 Lustre 被主要用于管理海量的实验数据存储。Lustre 是目前计算中心最主要的磁盘文件系统。

磁带库由磁带驱动器、磁带槽位以及机械手臂组成,并可由机械手臂自动实现磁带的拆卸和装填。与磁盘不同,磁带属于顺序访问设备,必须将磁带从槽位装填到磁带驱动器后,才能从磁带头开始定位和读写。计算中心部署了分级存储管理软件 CASTOR,将磁带库中的磁带虚拟成可随机访问的透明空间,类似于 FTP 服务,通过命令行或者 API 实现数据的导入(上传)或者拷出(下载),完全不用考虑磁带的顺序访问特性以及复杂的装填和拆卸过程。一般来说,磁带的存储空间较大,一盘 LTO4 磁带非压缩存储量为 800GB(压缩存储 1.6TB),LTO7 磁带非压缩存储量为 9TB(压缩存储 22.5TB),这样一台 5000 个槽位的磁带库容量可达到 4PB 到 10PB 以上。磁带放在磁带槽位中不需要带电。磁带具有容量大、价格便宜、保存时间长、绿色节能等优势,在高能物理领域被广泛采用,但是磁带库是机械设备,访问速度慢,故障率高,因此目前主要用于备份和原始数据长期保存。

基本文件操作

转换当前目录

cd 目标目录名字

例如:

cd /home

将当前目录转换成 /home。

文件创建

touch 文件名字

例如:

touch myfile

在当前目录下创建名字为 myfile 的空文件。

文件拷贝

cp 源文件 目标文件

例如:

cp /home/sourcefile /tmp/destinationfile

将 /home 目录下的 sourcefile 拷贝到 /tmp 目录下,命名为 destinationfile。

文件迁移

mv 源文件 目标文件

例如:

mv /home/sourcefile /tmp/destinationfile

将 /home 目录下的 sourcefile 移动到 /tmp 目录下,命名为 destinationfile。

文件删除

rm 文件名

例如:

rm /home/file

删除文件 /home/file。

rm -r /home/mydir

递归删除 /home/mydir 下面的所有文件,如果使用 -rf 选项,将在删除时不再提示。

文件目录使用空间查看

du -sh 目录路径

例如:

du -sh /home/

查看目录 /home 下的所有文件占用的磁盘空间和文件总数。

列出文件的详细属性

ls -lh 文件路径

例如:

ls -lh /home/file

查看文件 /home/file 的详细属性。

ls -lRh /home

递归列出目录 /home 下所有文件的详细属性。

提示

对于大部分存储系统来说,如果只是想列出目录下所有的文件名,使用不带 -l 选项的 ls 命令,会更快地获得结果。

常见问题(FAQ)

见常见问题。

🤖 AI 助手
💬 快速提问 ×

有问题?输入后跳转到对话页继续交流