
本文深入探讨了如何使用 Python 精确计算文件在磁盘上的实际占用空间,而非其逻辑大小。文章解释了文件系统块分配原理,并提供了基于 `os.lstat` 和 `os.statvfs` 的 Python 实现,包括性能优化方案。同时,明确了该方法的适用范围(常规文件、非Windows系统)及重要注意事项,旨在帮助开发者在创建磁盘镜像或进行存储管理时避免空间不足问题。
在文件系统管理中,我们经常会遇到“文件大小(Size)”和“文件在磁盘上的占用空间(Size on disk)”这两个概念。它们之间存在显著差异。文件大小通常指的是文件内容的逻辑字节数,而文件在磁盘上的占用空间则是文件系统为存储该文件实际分配的物理块数量的总和。由于文件系统以固定大小的块(例如,4KB)来分配存储空间,即使一个文件只有1字节,它也可能占用一个完整的磁盘块。
在需要精确控制存储空间分配的场景中,例如使用 dd 命令创建磁盘镜像文件(img 容器)时,准确获取文件或目录的实际磁盘占用至关重要。如果仅依据逻辑文件大小进行空间预留,可能会因实际占用超出预期而导致“空间不足”的错误。本教程将详细介绍如何使用 Python 编程语言,通过访问文件系统底层信息来计算文件的实际磁盘占用。
要计算文件在磁盘上的实际占用,我们需要两个关键信息:文件的逻辑大小和文件系统块大小。Python 的 os 模块提供了访问这些信息的接口:
立即学习“Python免费学习笔记(深入)”;
计算原理是:将文件的逻辑大小除以文件系统块大小,得到所需块的数量。如果存在余数(即文件大小不是块大小的整数倍),则需要额外分配一个块。
计算公式: 实际磁盘占用 = (文件逻辑大小 / 文件系统块大小) 的向上取整 * 文件系统块大小
在 Python 中,可以通过 divmod 函数和布尔转换来实现向上取整:
import os
import stat
def size_on_disk(path: str) -> int:
"""
获取常规文件在磁盘上的实际占用空间。
参数:
path (str): 文件的路径。
返回:
int: 文件在磁盘上的实际占用字节数。
抛出:
NotImplementedError: 如果路径指向的不是常规文件。
"""
st = os.lstat(path)
# 检查是否为常规文件
if not stat.S_ISREG(st.st_mode):
raise NotImplementedError(f"'{path}' 不是常规文件,此函数仅支持常规文件。")
# 获取文件系统信息
st_vfs = os.statvfs(path)
# 计算所需块数和剩余字节
n_blocks, rem_bytes = divmod(st.st_size, st_vfs.f_frsize)
# 如果有剩余字节,则需要额外一个块
total_blocks = n_blocks + bool(rem_bytes)
return total_blocks * st_vfs.f_frsize
# 示例用法:
if __name__ == "__main__":
# 创建一个测试文件
with open("test_file.txt", "w") as f:
f.write("Hello, world!") # 13字节
try:
disk_size = size_on_disk("test_file.txt")
print(f"文件 'test_file.txt' 的逻辑大小: {os.path.getsize('test_file.txt')} 字节")
print(f"文件 'test_file.txt' 在磁盘上的实际占用: {disk_size} 字节")
# 创建一个空文件
open("empty_file.txt", "w").close()
disk_size_empty = size_on_disk("empty_file.txt")
print(f"文件 'empty_file.txt' 的逻辑大小: {os.path.getsize('empty_file.txt')} 字节")
print(f"文件 'empty_file.txt' 在磁盘上的实际占用: {disk_size_empty} 字节")
except NotImplementedError as e:
print(f"错误: {e}")
except FileNotFoundError:
print("错误: 文件未找到,请确保测试文件存在。")
finally:
# 清理测试文件
if os.path.exists("test_file.txt"):
os.remove("test_file.txt")
if os.path.exists("empty_file.txt"):
os.remove("empty_file.txt")
上述 size_on_disk 函数具有以下适用范围和限制:
在处理大量位于同一卷(磁盘分区)上的文件时,重复调用 os.statvfs(path) 会带来不必要的性能开销。因为同一个文件系统上的所有文件共享相同的块大小(f_frsize),我们可以缓存 os.statvfs 的结果,避免对同一卷进行多次系统调用。
os.lstat(path) 返回的 st_dev 字段表示文件所在的设备ID。我们可以利用这个ID作为缓存键。
import os
import stat
# 用于缓存文件系统信息的字典,键为设备ID (st_dev)
STATVFS_CACHE = {}
def size_on_disk_optimized(path: str) -> int:
"""
获取常规文件在磁盘上的实际占用空间,并优化了文件系统信息查询。
参数:
path (str): 文件的路径。
返回:
int: 文件在磁盘上的实际占用字节数。
抛出:
NotImplementedError: 如果路径指向的不是常规文件。
"""
st = os.lstat(path)
if not stat.S_ISREG(st.st_mode):
raise NotImplementedError(f"'{path}' 不是常规文件,此函数仅支持常规文件。")
# 尝试从缓存获取文件系统信息
# 如果缓存中不存在,则调用 os.statvfs 并存入缓存
if not (st_vfs := STATVFS_CACHE.get(st.st_dev)):
STATVFS_CACHE[st.st_dev] = (st_vfs := os.statvfs(path))
n_blocks, rem_bytes = divmod(st.st_size, st_vfs.f_frsize)
total_blocks = n_blocks + bool(rem_bytes)
return total_blocks * st_vfs.f_frsize
# 示例用法(与上面类似,此处省略具体调用,仅展示函数定义)
if __name__ == "__main__":
# 创建一个测试文件
with open("test_file_optimized.txt", "w") as f:
f.write("Optimized example content.") # 26字节
try:
disk_size = size_on_disk_optimized("test_file_optimized.txt")
print(f"优化后:文件 'test_file_optimized.txt' 的逻辑大小: {os.path.getsize('test_file_optimized.txt')} 字节")
print(f"优化后:文件 'test_file_optimized.txt' 在磁盘上的实际占用: {disk_size} 字节")
except NotImplementedError as e:
print(f"错误: {e}")
except FileNotFoundError:
print("错误: 文件未找到,请确保测试文件存在。")
finally:
if os.path.exists("test_file_optimized.txt"):
os.remove("test_file_optimized.txt")
精确计算文件在磁盘上的实际占用空间是进行有效存储管理和避免潜在错误的关键。通过利用 Python 的 os.lstat 和 os.statvfs 函数,我们可以根据文件系统块分配的原理,准确地计算出常规文件的物理磁盘占用。同时,通过缓存文件系统信息,可以显著提升处理大量文件时的性能。理解这些底层机制及其限制,有助于开发者编写更健壮、更高效的文件系统操作代码。
以上就是使用 Python 获取文件在磁盘上的实际占用空间的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号