8. 存储与文件¶
计算中心为各个实验组和个人用户提供了多种级别的文件存储服务,主要包括 AFS 文件存储、EOS 文件存储、Lustre 文件存储和磁带库存储。
如果因协作需要开放个人目录中的文件或目录,请先阅读目录/文件访问授权。个人目录默认仅本人可访问,授权时应只开放必要目录、只授权给指定用户或组,并优先使用只读权限。
AFS 是一个分布式文件系统,由数据服务器和文件服务器组成,为客户提供统一的存储空间。AFS 基于 Kerberos 认证,具有很强的安全性。高能所计算中心部署的 OpenAFS 系统,主要用于用户身份认证和个人文件安全存储,包括源代码、程序、文档等,并定期备份,确保数据安全。AFS 还为各个实验提供公共软件库的存储,通过只读发布,保证所有节点上软件版本的一致性。AFS 的优点是数据安全性高,私密性强,适合存放个人数据,但是存储空间小,访问速度慢。
注意
由于 AFS 的安全机制的制约,如果在 AFS 目录下向 PBS 等作业管理系统提交作业,将无法在 AFS 目录下得到作业结果。
Lustre 是一个开源、可扩展的并行文件系统,被广泛应用于超级计算平台。在全球 TOP500 超级计算机中有超过 70% 使用了 Lustre 文件系统。Lustre 由元数据服务器(MDS)、对象存储服务器(OSS)以及客户端组成。通过元数据服务器,Lustre 将所有对象存储服务器上存储目标设备(Storage Target)组成统一的存储空间,提供给客户端挂载,完全兼容 POSIX 语义。Lustre 具有很强的可扩展性,能够轻松管理 PB-EB 级别的存储空间,提供每秒几十甚至上百 GB 字节的聚合带宽,在高性能计算领域应用广泛。受 Lustre 自身设计的限制,该文件系统针对"海量小文件"使用场景的性能较差。因此 Lustre 被主要用于管理海量的实验数据存储。Lustre 是目前计算中心最主要的磁盘文件系统。
磁带库由磁带驱动器、磁带槽位以及机械手臂组成,并可由机械手臂自动实现磁带的拆卸和装填。与磁盘不同,磁带属于顺序访问设备,必须将磁带从槽位装填到磁带驱动器后,才能从磁带头开始定位和读写。计算中心部署了分级存储管理软件 CASTOR,将磁带库中的磁带虚拟成可随机访问的透明空间,类似于 FTP 服务,通过命令行或者 API 实现数据的导入(上传)或者拷出(下载),完全不用考虑磁带的顺序访问特性以及复杂的装填和拆卸过程。一般来说,磁带的存储空间较大,一盘 LTO4 磁带非压缩存储量为 800GB(压缩存储 1.6TB),LTO7 磁带非压缩存储量为 9TB(压缩存储 22.5TB),这样一台 5000 个槽位的磁带库容量可达到 4PB 到 10PB 以上。磁带放在磁带槽位中不需要带电。磁带具有容量大、价格便宜、保存时间长、绿色节能等优势,在高能物理领域被广泛采用,但是磁带库是机械设备,访问速度慢,故障率高,因此目前主要用于备份和原始数据长期保存。
基本文件操作¶
转换当前目录¶
例如:
将当前目录转换成 /home。
文件创建¶
例如:
在当前目录下创建名字为 myfile 的空文件。
文件拷贝¶
例如:
将 /home 目录下的 sourcefile 拷贝到 /tmp 目录下,命名为 destinationfile。
文件迁移¶
例如:
将 /home 目录下的 sourcefile 移动到 /tmp 目录下,命名为 destinationfile。
文件删除¶
例如:
删除文件 /home/file。
递归删除 /home/mydir 下面的所有文件,如果使用 -rf 选项,将在删除时不再提示。
文件目录使用空间查看¶
例如:
查看目录 /home 下的所有文件占用的磁盘空间和文件总数。
列出文件的详细属性¶
例如:
查看文件 /home/file 的详细属性。
递归列出目录 /home 下所有文件的详细属性。
提示
对于大部分存储系统来说,如果只是想列出目录下所有的文件名,使用不带 -l 选项的 ls 命令,会更快地获得结果。
常见问题(FAQ)¶
见常见问题。
有问题?输入后跳转到对话页继续交流