最稳妥方案是用 open() 逐行读写,统一 utf-8 编码+errors='ignore'容错,手动处理换行;pathlib 批量匹配.txt 文件更可靠;大文件优先用 shutil.copyfileobj() 流式拷贝。

用 open() 逐个读取再写入总文件最稳妥
直接拼接所有 .txt 文件内容,不依赖第三方库,兼容 Python 3.6+,也避开了编码不一致导致的乱码或中断。关键不是“快”,而是“不出错”。
常见错误现象:UnicodeDecodeError: 'gbk' codec can't decode byte 0xa2 —— 某个文件用了 UTF-8 编码,而系统默认用 gbk 打开;或者某个文件末尾缺换行,导致两段文字粘连。
- 统一用
encoding='utf-8'打开每个文件,加errors='ignore'容错(跳过无法解码的字节) - 每次读完一行就立刻写入总文件,不把全部内容载入内存 —— 防止大文件撑爆内存
- 在每段内容后手动加
\n,避免相邻文件最后一行和下个文件第一行连在一起
with open('all.txt', 'w', encoding='utf-8') as out_f:
for filename in ['a.txt', 'b.txt', 'c.txt']:
try:
with open(filename, 'r', encoding='utf-8', errors='ignore') as f:
for line in f:
out_f.write(line.rstrip('\n') + '\n')
except FileNotFoundError:
print(f"跳过不存在的文件:{filename}")用 pathlib 批量匹配 *.txt 文件更省心
硬编码文件名容易漏、难维护;用 pathlib 自动扫描目录,还能过滤掉隐藏文件或非文本文件。
使用场景:TXT 文件在同一个文件夹下,比如 ./data/,你只想合并其中所有普通 .txt,不包括 ~temp.txt 或 notes.TXT(大小写不敏感)。
立即学习“Python免费学习笔记(深入)”;
-
Path('data').glob('*.txt')只匹配小写 .txt;要忽略大小写,得用iterdir()+ 手动.suffix.lower() == '.txt' - 注意
glob()不递归子目录;需要递归请改用rglob() - Windows 下路径分隔符是
\,但pathlib自动处理,不用自己拼接字符串
from pathlib import Path
txt_files = [f for f in Path('data').iterdir() if f.is_file() and f.suffix.lower() == '.txt']
for f in sorted(txt_files): # 排序保证顺序可预期
with open(f, 'r', encoding='utf-8', errors='ignore') as src:
with open('all.txt', 'a', encoding='utf-8') as dst:
dst.write(src.read().rstrip('\n') + '\n')用 shutil.copyfileobj() 合并大文件更省内存
当单个 TXT 文件超过 100MB,用 f.read() 会一次性加载进内存;而 copyfileobj() 是流式拷贝,固定缓冲区,默认 64KB,适合大文件。
性能影响:对小文件几乎没差别;对几百 MB 的日志文件,内存占用能从 GB 级降到几 MB。
- 只能用于二进制模式,所以得先用
open(..., 'rb'),总文件也要用'ab' - 写入前需手动处理换行:因为二进制读不会自动去掉
\r\n,且追加时可能缺分隔 - 别忘了最后把总文件从二进制转成文本再统一处理编码问题(通常不如直接文本模式稳)
import shutil
with open('all.txt', 'wb') as dst:
for f in txt_files:
with open(f, 'rb') as src:
shutil.copyfileobj(src, dst)
dst.write(b'\n') # 每个文件后加一个换行合并后校验行数和文件大小是否合理
合完发现内容变少、乱码、或某段缺失,往往不是代码问题,而是源文件本身有 BOM、空行、不可见控制字符,或者读写模式没对齐。
容易被忽略的地方:
- UTF-8-BOM 文件(如记事本另存为的“UTF-8”)开头有
\ufeff,会导致第一行多出怪字符;用encoding='utf-8-sig'自动剥离 - Linux 和 Windows 换行符不同(
\nvs\r\n),混合写入可能导致某些编辑器显示异常;统一用\n最安全 - 合并前先用
file -i *.txt(Linux/macOS)或 PowerShellGet-Content -Encoding Byte快速看编码,比盲试强
事情说清了就结束










