Python写入CSV文件的核心是使用csv模块或pandas库。首先推荐用csv.writer处理列表数据,csv.DictWriter处理字典数据,二者均需设置newline=''和encoding避免空行与乱码;对于含逗号、引号等特殊字符的数据,通过quoting参数(如QUOTE_MINIMAL或QUOTE_ALL)确保格式正确;写入海量数据时,应优先使用writerows()批量写入,结合生成器降低内存占用,或采用pandas的to_csv()提升性能;全程建议使用with语句确保文件正确关闭,保障数据完整性与系统资源释放。

Python将数据写入CSV文件,核心思路就是把内存中的结构化数据(比如列表或字典)序列化成逗号分隔的文本格式。最常用且可靠的方式是利用Python内置的
csv
pandas
解决方案
在Python中将数据写入CSV文件,我们通常会用到
csv
最直接的方法是使用
csv.writer
writerow()
writerows()
立即学习“Python免费学习笔记(深入)”;
import csv
# 假设我们有一些数据,可以是列表的列表
data_to_write = [
['姓名', '年龄', '城市'],
['张三', 25, '北京'],
['李四', 30, '上海'],
['王五', 28, '广州']
]
# 打开文件,注意这里用 'w' 模式表示写入,'newline=''' 很重要,
# 它可以防止在Windows系统上写入时出现额外的空行。
try:
with open('output_data.csv', 'w', newline='', encoding='utf-8') as csvfile:
# 创建一个csv写入器对象
csv_writer = csv.writer(csvfile)
# 写入表头
csv_writer.writerow(data_to_write[0])
# 写入剩余的数据
csv_writer.writerows(data_to_write[1:])
print("数据已成功写入 output_data.csv")
except IOError as e:
print(f"写入文件时发生错误: {e}")
except Exception as e:
print(f"发生未知错误: {e}")如果你的数据是以字典的形式组织,那
csv.DictWriter
import csv
# 假设我们有一些字典列表形式的数据
dict_data_to_write = [
{'姓名': '赵六', '年龄': 35, '城市': '深圳'},
{'姓名': '钱七', '年龄': 22, '城市': '杭州'},
{'姓名': '孙八', '年龄': 40, '城市': '成都'}
]
# 定义字段名,这会作为CSV的表头
fieldnames = ['姓名', '年龄', '城市']
try:
with open('output_dict_data.csv', 'w', newline='', encoding='utf-8') as csvfile:
# 创建DictWriter对象,并指定字段名
dict_writer = csv.DictWriter(csvfile, fieldnames=fieldnames)
# 写入表头
dict_writer.writeheader()
# 写入数据行
dict_writer.writerows(dict_data_to_write)
print("字典数据已成功写入 output_dict_data.csv")
except IOError as e:
print(f"写入文件时发生错误: {e}")
except Exception as e:
print(f"发生未知错误: {e}")至于
pandas
import pandas as pd
# 假设我们有一个DataFrame
df_data = pd.DataFrame({
'产品': ['A', 'B', 'C'],
'价格': [100, 150, 200],
'销量': [1000, 800, 1200]
})
try:
df_data.to_csv('output_pandas_data.csv', index=False, encoding='utf-8')
print("Pandas DataFrame数据已成功写入 output_pandas_data.csv")
except Exception as e:
print(f"使用Pandas写入文件时发生错误: {e}")index=False
CSV文件写入时,如何有效处理编码问题,告别恼人的乱码?
编码问题,说实话,是文件操作中最常见的“拦路虎”之一。尤其是在跨平台或者处理来自不同源的数据时,乱码就像个幽灵,时不时就冒出来。核心在于,当我们用
open()
在Python 3中,默认的文本文件编码通常是UTF-8,这在绝大多数情况下是个好选择,因为它能支持几乎所有的字符。但在某些特定场景,比如你可能需要和一些老旧系统或者特定地区的软件交互,它们可能习惯使用GBK(中文Windows系统常见)或其他编码。
所以,在
open()
encoding='utf-8'
encoding='gbk'
utf-8
import csv
data = [['你好', '世界'], ['Python', '编程']]
# 使用UTF-8编码写入
try:
with open('utf8_output.csv', 'w', newline='', encoding='utf-8') as f:
writer = csv.writer(f)
writer.writerows(data)
print("UTF-8编码文件写入成功。")
except Exception as e:
print(f"UTF-8写入失败: {e}")
# 如果你需要兼容旧系统,可能需要GBK编码
# 注意:在非Windows系统上,GBK编码可能需要安装额外的编码支持
try:
with open('gbk_output.csv', 'w', newline='', encoding='gbk') as f:
writer = csv.writer(f)
writer.writerows(data)
print("GBK编码文件写入成功。")
except LookupError:
print("GBK编码在当前系统可能不支持或未安装。")
except Exception as e:
print(f"GBK写入失败: {e}")还有一点非常重要,就是
newline=''
newline=''
写入含有特殊字符的数据到CSV,Python如何确保格式不乱?
CSV文件之所以叫“逗号分隔值”,是因为它通常用逗号来分隔字段。但如果你的数据本身就包含逗号,或者更麻烦的是包含引号(CSV里用来包裹字段的字符),那格式就很容易乱掉。比如
"Hello, World"
"Hello
World"
这时候,
csv
csv.writer
csv.DictWriter
quoting
csv.QUOTE_MINIMAL
csv.QUOTE_ALL
csv.QUOTE_NONNUMERIC
csv.QUOTE_NONE
通常情况下,使用默认的
QUOTE_MINIMAL
QUOTE_ALL
我们来看个例子:
import csv
# 包含逗号、引号和换行符的数据
special_data = [
['商品名称', '描述', '价格'],
['T恤', '纯棉,透气,"超舒服"!', '99.99'],
['杯子', '陶瓷制品,易碎\n请轻拿轻放', '25.00'],
['书', '一本关于Python编程的书籍,很有用', '50.50']
]
try:
with open('special_chars_output.csv', 'w', newline='', encoding='utf-8') as csvfile:
writer = csv.writer(csvfile, quoting=csv.QUOTE_MINIMAL) # 默认行为,但明确指定更好
writer.writerows(special_data)
print("包含特殊字符的数据已成功写入 special_chars_output.csv (QUOTE_MINIMAL)")
with open('all_quoted_output.csv', 'w', newline='', encoding='utf-8') as csvfile:
writer = csv.writer(csvfile, quoting=csv.QUOTE_ALL) # 所有字段都被引用
writer.writerows(special_data)
print("所有字段都被引用写入 all_quoted_output.csv (QUOTE_ALL)")
# 还可以自定义分隔符和引用字符
with open('custom_delimiter_output.csv', 'w', newline='', encoding='utf-8') as csvfile:
# 用分号作为分隔符,单引号作为引用字符
writer = csv.writer(csvfile, delimiter=';', quotechar="'", quoting=csv.QUOTE_MINIMAL)
writer.writerows(special_data)
print("自定义分隔符和引用字符写入 custom_delimiter_output.csv")
except Exception as e:
print(f"写入特殊字符数据时发生错误: {e}")通过调整
quoting
delimiter
quotechar
处理海量数据写入CSV文件时,Python有哪些性能优化策略和注意事项?
当数据量达到百万、千万甚至上亿级别时,文件I/O操作的性能就成了不得不考虑的问题。Python的
csv
首先,也是最直接的,就是利用
writerows()
writerow()
writerows()
import csv
import time
# 生成大量模拟数据
large_data = [[f'Name_{i}', i, f'City_{i % 10}'] for i in range(1000000)] # 100万行数据
start_time = time.time()
try:
with open('large_output.csv', 'w', newline='', encoding='utf-8') as csvfile:
writer = csv.writer(csvfile)
writer.writerow(['Name', 'ID', 'City']) # 写入表头
writer.writerows(large_data) # 一次性写入所有数据
end_time = time.time()
print(f"使用writerows写入100万行数据耗时: {end_time - start_time:.2f} 秒")
except Exception as e:
print(f"写入大型数据时发生错误: {e}")其次,如果你的数据是分块生成的,或者你不想一次性把所有数据都加载到内存中(这对于超大数据集来说是必须的),那么使用生成器(generator)会是个非常优雅的解决方案。生成器能按需生成数据,避免内存溢出。
import csv
import time
def generate_large_data_chunks(num_rows, chunk_size):
"""模拟分块生成数据"""
for i in range(num_rows):
yield [f'Name_{i}', i, f'City_{i % 10}']
if (i + 1) % chunk_size == 0:
# 可以在这里做一些批处理或日志记录
pass
num_total_rows = 5000000 # 500万行
chunk_size = 100000 # 每次处理10万行
start_time = time.time()
try:
with open('large_output_generator.csv', 'w', newline='', encoding='utf-8') as csvfile:
writer = csv.writer(csvfile)
writer.writerow(['Name', 'ID', 'City'])
# 直接将生成器传给writerows
writer.writerows(generate_large_data_chunks(num_total_rows, chunk_size))
end_time = time.time()
print(f"使用生成器写入{num_total_rows}行数据耗时: {end_time - start_time:.2f} 秒")
except Exception as e:
print(f"使用生成器写入大型数据时发生错误: {e}")再者,对于真正意义上的“海量数据”,比如GB级别甚至TB级别的数据,
pandas
to_csv()
csv
pandas
to_csv()
最后,一个容易被忽视但非常重要的细节是:确保文件操作完成后,文件句柄被正确关闭。使用
with open(...) as ...:
总结来说,对于写入大型CSV文件,优先考虑
writerows()
pandas
newline=''
以上就是python怎么将数据写入CSV文件_python CSV文件写入操作指南的详细内容,更多请关注php中文网其它相关文章!
python怎么学习?python怎么入门?python在哪学?python怎么学才快?不用担心,这里为大家提供了python速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号