0

0

什么是生成器?生成器的惰性求值

煙雲

煙雲

发布时间:2025-08-20 09:33:02

|

715人浏览过

|

来源于php中文网

原创

生成器与传统数据结构的根本差异在于其惰性求值和按需生成的机制,1. 列表等传统结构会一次性将所有数据加载到内存,而生成器通过yield关键字实现函数执行的暂停与恢复,仅在需要时生成值;2. 这使得生成器内存占用极低,适合处理海量数据或无限序列;3. 生成器是一次性的,无法重复遍历,这是为内存效率做出的权衡;4. 在实际应用中,生成器可用于逐行读取大文件、批量加载机器学习数据以及生成无限序列等场景;5. 在python中可通过定义含yield的函数或使用生成器表达式(用()包裹的推导式)来创建生成器,二者均利用惰性求值提升程序性能和资源利用率。

什么是生成器?生成器的惰性求值

生成器本质上是一种特殊的迭代器,它的核心价值在于“惰性求值”。简单来说,它不会一次性把所有数据都准备好放在内存里,而是当你需要一个数据时,它才即时生成一个给你。这种按需生成数据的机制,极大地优化了内存使用,尤其是在处理海量数据或者无限序列时,简直是神器。

当我们谈论工作流程,尤其是数据处理的工作流程时,内存和效率往往是绕不过去的坎。传统的做法,比如构建一个庞大的列表,虽然直观,但当数据量大到一定程度,内存就成了瓶颈,程序可能直接崩溃,或者慢得让人抓狂。生成器就是来解决这个痛点的。

它的工作原理很巧妙。你不是一次性返回一个完整的数据集,而是通过

yield
关键字,暂停函数的执行,并返回一个值。下次你需要下一个值时,函数会从上次暂停的地方继续执行,而不是从头再来。这种“走一步看一步”的策略,意味着无论你的数据有多大,内存里始终只保留当前处理所需的那一点点信息。这不仅仅是节约内存,它还意味着更快的启动时间,因为你不需要等待所有数据都加载完毕。对于那些需要处理TB级日志文件、实时数据流,或者需要模拟无限序列的场景,生成器简直是性能和资源管理上的救星。它改变了我们思考数据流的方式,从“一次性全部拥有”变成了“需要时再获取”。

生成器与传统数据结构的根本差异在哪里?

提到生成器,很多人自然会把它和列表(list)或者普通的迭代器混淆。但它们之间有着本质的区别,理解这些差异,才能真正体会到生成器的魅力。列表,我的理解是“一次性生产,全部入库”的模式。你定义一个列表,Python就会把所有元素都计算出来,然后老老实实地放到内存里。这对于小数据集当然没问题,直观且方便。但想象一下,如果你要处理一个包含数亿条记录的文件,或者生成一个无穷数列,列表这种“全量存储”的策略立刻就暴露了它的短板:内存会瞬间爆炸。

而生成器呢,它更像是一个“按需生产,即时交付”的工厂。它不会预先生产所有的产品,而是当你有订单(也就是调用

next()
或者进行迭代)时,它才开始生产你需要的那个产品。一旦产品交付,它就会把生产线暂停,等待下一个订单。这意味着,无论你最终需要多少个产品,工厂里同时在生产的,永远只有那一个。这种“惰性求值”的特性,让生成器在处理大规模数据时,能够保持极低的内存占用。它实现了迭代器协议,所以你可以用
for
循环来遍历它,但它的内部机制决定了它是一次性的,遍历完就“空”了,不能像列表那样反复使用,除非你重新创建一个。这是它为了内存效率做出的权衡。

哪些真实场景下,生成器能发挥出惊人的效率?

生成器在很多“看似不可能”的任务中都能大放异彩。我个人觉得,它最能体现价值的,就是那些需要处理海量数据,或者数据源本身就是“流式”的场景。

比如说,你可能需要分析一个服务器的访问日志,这个日志文件可能有几十个G,甚至上百个G。如果尝试把整个文件读进内存,你的电脑多半会直接罢工。但如果用生成器,你可以一行一行地读取文件,每次只处理当前这一行,处理完就丢弃,然后读取下一行。这样,无论文件多大,内存占用始终保持在一个很小的水平。

AssemblyAI
AssemblyAI

转录和理解语音的AI模型

下载

再比如,在机器学习或深度学习领域,训练模型时经常需要处理巨大的数据集。如果数据集无法一次性载入内存,你就可以用生成器来批量(batch)加载数据。每次只加载一个批次的数据进行训练,训练完就释放,然后加载下一个批次。这种方式不仅节省内存,还能让你的模型训练过程更加流畅。

还有一些更有趣的场景,比如模拟无限序列。你想生成一个斐波那契数列,或者一个随机数流,这些序列理论上可以无限延伸。用列表当然不可能,但用生成器,你可以轻松地实现一个“永不枯竭”的数据源。它只有在你真正需要下一个数时,才计算并给出它。这在模拟、测试或者某些算法设计中非常有用。

在Python中如何优雅地构建和运用生成器?

在Python里,构建生成器其实非常直观,主要有两种方式,都围绕着一个核心概念:

yield
关键字。

最常见也是最强大的方式,是定义一个包含

yield
关键字的函数。当你调用这个函数时,它不会立即执行函数体内的代码,而是返回一个生成器对象。只有当你开始迭代这个生成器对象(比如通过
for
循环,或者手动调用
next()
),函数体内的代码才会开始执行,直到遇到第一个
yield
语句,它会暂停执行,并将
yield
后面的值返回。下次继续迭代时,函数会从上次暂停的地方继续执行,直到遇到下一个
yield
,或者函数执行完毕。

def my_generator_function():
    print("开始生成...")
    yield 1
    print("生成了1,继续...")
    yield 2
    print("生成了2,结束。")

# 使用生成器
gen = my_generator_function()
print(next(gen)) # 输出:开始生成... 1
print(next(gen)) # 输出:生成了1,继续... 2
# print(next(gen)) # 再次调用会抛出 StopIteration,因为已经没有更多值了

另一种更简洁的方式是使用“生成器表达式”(Generator Expression)。它看起来非常像列表推导式,只是把方括号

[]
换成了圆括号
()
。这种方式尤其适合创建简单的、一次性的生成器,代码非常紧凑。

# 列表推导式 (立即计算并存储所有结果)
squares_list = [x*x for x in range(5)] # [0, 1, 4, 9, 16]

# 生成器表达式 (惰性计算,按需生成)
squares_gen = (x*x for x in range(5))

print(next(squares_gen)) # 0
print(next(squares_gen)) # 1
# ...

无论哪种方式,核心都是利用了

yield
的暂停-恢复机制,实现了数据的惰性生成。掌握了这两种创建方式,你就能在Python中灵活地运用生成器,处理各种数据挑战,让你的程序既高效又节省资源。它确实是Python在处理大数据和流式数据时的一把利器,值得每个开发者深入理解和实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
treenode的用法
treenode的用法

​在计算机编程领域,TreeNode是一种常见的数据结构,通常用于构建树形结构。在不同的编程语言中,TreeNode可能有不同的实现方式和用法,通常用于表示树的节点信息。更多关于treenode相关问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

550

2023.12.01

C++ 高效算法与数据结构
C++ 高效算法与数据结构

本专题讲解 C++ 中常用算法与数据结构的实现与优化,涵盖排序算法(快速排序、归并排序)、查找算法、图算法、动态规划、贪心算法等,并结合实际案例分析如何选择最优算法来提高程序效率。通过深入理解数据结构(链表、树、堆、哈希表等),帮助开发者提升 在复杂应用中的算法设计与性能优化能力。

30

2025.12.22

深入理解算法:高效算法与数据结构专题
深入理解算法:高效算法与数据结构专题

本专题专注于算法与数据结构的核心概念,适合想深入理解并提升编程能力的开发者。专题内容包括常见数据结构的实现与应用,如数组、链表、栈、队列、哈希表、树、图等;以及高效的排序算法、搜索算法、动态规划等经典算法。通过详细的讲解与复杂度分析,帮助开发者不仅能熟练运用这些基础知识,还能在实际编程中优化性能,提高代码的执行效率。本专题适合准备面试的开发者,也适合希望提高算法思维的编程爱好者。

45

2026.01.06

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

500

2023.08.14

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

49

2026.03.13

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

88

2026.03.12

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

272

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

59

2026.03.10

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

99

2026.03.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号