0

0

C#中如何使用异步流处理大数据查询?示例代码是什么?

星降

星降

发布时间:2025-10-18 12:32:01

|

943人浏览过

|

来源于php中文网

原创

异步流(IAsyncEnumerable)可降低内存占用并提升响应性,适用于大数据查询。从C# 8.0开始,通过IAsyncEnumerable实现边获取边处理数据,结合Entity Framework Core的AsAsyncEnumerable()或Dapper封装的流式读取,支持逐步返回结果。使用[EnumeratorCancellation]传递CancellationToken可控制取消,避免长时间运行导致资源浪费。典型应用场景包括分页、日志处理和报表导出,有效防止OutOfMemoryException并保持高吞吐。

c#中如何使用异步流处理大数据查询?示例代码是什么?

在C#中处理大数据查询时,使用异步流(IAsyncEnumerable)可以有效减少内存占用并提升响应性。它允许你一边从数据库或远程服务获取数据,一边逐步处理,而不是等待全部结果返回。

启用异步流查询

从 C# 8.0 开始,IAsyncEnumerable 成为处理异步数据流的标准方式。结合 Entity Framework Core 或 Dapper 等 ORM,可实现高效的大数据查询。

以 Entity Framework Core 为例:

public async IAsyncEnumerable GetLargeOrderDataAsync([EnumeratorCancellation] CancellationToken cancellationToken = default)
{
    await foreach (var order in _context.Orders
        .Where(o => o.Status == "Shipped")
        .AsAsyncEnumerable()
        .WithCancellation(cancellationToken))
    {
        // 可在此处进行数据转换或过滤
        yield return order;
    }
}

调用该方法时:

await foreach (var order in service.GetLargeOrderDataAsync())
{
    Console.WriteLine($"Processing Order ID: {order.Id}");
    // 处理每条记录,无需加载全部到内存
}

结合 Dapper 使用异步流

Dapper 支持通过 QueryAsync 返回异步流。虽然原生不直接返回 IAsyncEnumerable,但可通过封装实现:

Akkio
Akkio

Akkio 是一个无代码 AI 的全包平台,任何人都可以在几分钟内构建和部署AI

下载
public async IAsyncEnumerable StreamProductsAsync([EnumeratorCancellation] CancellationToken ct)
{
    using var connection = new SqlConnection(connectionString);
    await connection.OpenAsync(ct);
using var reader = await connection.ExecuteReaderAsync("SELECT Id, Name, Price FROM Products", cancellationToken: ct);

while (await reader.ReadAsync(ct))
{
    yield return new Product
    {
        Id = reader.GetInt32("Id"),
        Name = reader.GetString("Name"),
        Price = reader.GetDecimal("Price")
    };
}

}

控制取消与资源释放

使用 [EnumeratorCancellation] 参数可传递取消令牌,防止长时间运行的查询阻塞系统:

var cts = new CancellationTokenSource(TimeSpan.FromSeconds(30));

await foreach (var item in StreamLargeDataAsync(cts.Token)) { // 自动在超时后中断流 Process(item); }

基本上就这些。异步流适合分页场景、日志处理、报表导出等大数据量操作,避免 OutOfMemoryException,同时保持良好的吞吐能力。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

358

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2082

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

349

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

256

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

326

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

412

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

411

2023.10.16

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

223

2023.10.19

java入门学习合集
java入门学习合集

本专题整合了java入门学习指南、初学者项目实战、入门到精通等等内容,阅读专题下面的文章了解更多详细学习方法。

1

2026.01.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 7.9万人学习

C 教程
C 教程

共75课时 | 4.3万人学习

C++教程
C++教程

共115课时 | 14.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号