0

0

如何在 CSV 文件中查找指定数值模式并自动分类文件

心靈之曲

心靈之曲

发布时间:2026-01-16 13:27:09

|

237人浏览过

|

来源于php中文网

原创

如何在 CSV 文件中查找指定数值模式并自动分类文件

本文介绍如何使用 java 遍历目录下的 csv 文件,逐行解析并检测是否同时包含特定数值(如 50、500、5000),满足条件则将文件移至 `invalid_files` 目录,否则归入 `processed` 目录。

在数据处理自动化场景中,常需根据 CSV 内容特征对文件进行智能分拣。例如:当某 CSV 的 score 列中同时出现 50、500 和 5000 这三个值时,视为“含异常数值模式”,应归类为无效文件;否则视为正常待处理文件。以下是一个结构清晰、可维护性强的 Java 实现方案,基于 OpenCSV 库(v5.7+)构建。

✅ 核心设计原则

  • 职责分离:目录扫描、文件解析、条件校验、文件移动各由独立方法承担;
  • 条件可配置:通过 Predicate<BigDecimal> 列表定义匹配逻辑,支持任意数量/类型的数值约束;
  • 高效终止:一旦确认文件含全部目标值(即触发“无效”判定),立即退出循环,避免冗余解析;
  • 健壮路径处理:自动创建目标子目录(processed / invalid_files),规避 NoSuchFileException。

? 示例 CSV 结构(以分号分隔)

car;score;description
Opel;30;43
Volvo;500;434
Kia;50;3
Toyota;4;4
Mazda;5000;4

对应实体类(注意 position = 1 表示第二列 score):

Mokker AI
Mokker AI

AI产品图添加背景

下载
import com.opencsv.bean.CsvBindByPosition;
import lombok.Data;

@Data
public class CsvLine {
    @CsvBindByPosition(position = 1)
    private BigDecimal value; // 对应 score 列
}

⚙️ 完整可运行代码

import com.opencsv.bean.CsvToBeanBuilder;
import lombok.Data;

import java.io.*;
import java.math.BigDecimal;
import java.nio.file.*;
import java.util.*;
import java.util.function.Predicate;
import java.util.stream.Collectors;

public class CsvPatternClassifier {

    public static void main(String[] args) throws IOException {
        // 1. 配置目录与过滤器
        File directory = Path.of("/path/to/your/csv/directory").toFile();
        FilenameFilter csvFilter = (dir, name) -> name.toLowerCase().endsWith(".csv");

        // 2. 定义“非法值”条件:若某行 score == 50/500/5000 → 触发无效判定
        List<Predicate<BigDecimal>> invalidValueConditions = List.of(
                eq(new BigDecimal("50")),
                eq(new BigDecimal("500")),
                eq(new BigDecimal("5000"))
        );

        // 3. 启动批量处理
        processDirectory(directory, csvFilter, invalidValueConditions);
    }

    public static void processDirectory(File directory, FilenameFilter filter,
                                        List<Predicate<BigDecimal>> invalidConditions) throws IOException {
        Path processedDir = createDirectory(Path.of(directory.getAbsolutePath(), "processed"));
        Path invalidDir = createDirectory(Path.of(directory.getAbsolutePath(), "invalid_files"));

        File[] files = directory.listFiles(filter);
        if (files == null) return;

        for (File file : files) {
            boolean isValid = isFileValid(file, invalidConditions);
            Path targetDir = isValid ? processedDir : invalidDir;
            moveFile(file, targetDir, StandardCopyOption.REPLACE_EXISTING);
        }
    }

    // 判定文件是否“有效”:即 —— 不同时包含所有非法值
    public static boolean isFileValid(File file, List<Predicate<BigDecimal>> invalidConditions) throws IOException {
        try (Reader reader = Files.newBufferedReader(file.toPath())) {
            List<CsvLine> lines = new CsvToBeanBuilder<CsvLine>(reader)
                    .withType(CsvLine.class)
                    .withSkipLines(1)     // 跳过表头
                    .withSeparator(';')   // 指定分隔符
                    .build()
                    .parse();

            Set<BigDecimal> foundInvalids = new HashSet<>();
            for (CsvLine line : lines) {
                if (line.getValue() == null) continue;
                // 检查当前值是否命中任一非法条件
                for (Predicate<BigDecimal> cond : invalidConditions) {
                    if (cond.test(line.getValue())) {
                        foundInvalids.add(line.getValue());
                        break;
                    }
                }
                // 一旦凑齐全部非法值,立即判定为无效文件
                if (foundInvalids.size() == invalidConditions.size()) {
                    return false;
                }
            }
        }
        return true; // 未集齐全部非法值 → 视为有效
    }

    // 工具方法:生成“等于某值”的谓词
    public static Predicate<BigDecimal> eq(BigDecimal target) {
        return value -> value != null && value.compareTo(target) == 0;
    }

    public static void moveFile(File file, Path targetDir, StandardCopyOption option) throws IOException {
        Files.move(file.toPath(), targetDir.resolve(file.getName()), option);
    }

    public static Path createDirectory(Path path) throws IOException {
        return Files.exists(path) ? path : Files.createDirectory(path);
    }
}

⚠️ 关键注意事项

  • 分隔符适配:示例使用 ;,若你的 CSV 是逗号分隔,请将 .withSeparator(';') 改为 .withSeparator(',');
  • 编码声明:若 CSV 含中文或特殊字符,建议显式指定编码:
    Files.newBufferedReader(file.toPath(), StandardCharsets.UTF_8)
  • 性能优化:对超大 CSV,可考虑流式解析(CsvParser)替代 CsvToBeanBuilder,避免全量加载内存;
  • 扩展性提示:如需支持“范围匹配”(如 score > 1000)或“正则匹配”,只需新增对应 Predicate 实现即可,无需修改主流程。

该方案彻底规避了原代码中因逻辑嵌套混乱、状态重置错误(如 found50 = false 位置不当)、资源重复关闭(br.close() 多次调用)导致的功能失效问题,兼具可读性、可测试性与生产就绪性。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
CSS position定位有几种方式
CSS position定位有几种方式

有4种,分别是静态定位、相对定位、绝对定位和固定定位。更多关于CSS position定位有几种方式的内容,可以访问下面的文章。

83

2023.11.23

PHP 高并发与性能优化
PHP 高并发与性能优化

本专题聚焦 PHP 在高并发场景下的性能优化与系统调优,内容涵盖 Nginx 与 PHP-FPM 优化、Opcode 缓存、Redis/Memcached 应用、异步任务队列、数据库优化、代码性能分析与瓶颈排查。通过实战案例(如高并发接口优化、缓存系统设计、秒杀活动实现),帮助学习者掌握 构建高性能PHP后端系统的核心能力。

114

2025.10.16

PHP 数据库操作与性能优化
PHP 数据库操作与性能优化

本专题聚焦于PHP在数据库开发中的核心应用,详细讲解PDO与MySQLi的使用方法、预处理语句、事务控制与安全防注入策略。同时深入分析SQL查询优化、索引设计、慢查询排查等性能提升手段。通过实战案例帮助开发者构建高效、安全、可扩展的PHP数据库应用系统。

99

2025.11.13

JavaScript 性能优化与前端调优
JavaScript 性能优化与前端调优

本专题系统讲解 JavaScript 性能优化的核心技术,涵盖页面加载优化、异步编程、内存管理、事件代理、代码分割、懒加载、浏览器缓存机制等。通过多个实际项目示例,帮助开发者掌握 如何通过前端调优提升网站性能,减少加载时间,提高用户体验与页面响应速度。

36

2025.12.30

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

102

2026.03.06

PHP 命令行脚本与自动化任务开发
PHP 命令行脚本与自动化任务开发

本专题系统讲解 PHP 在命令行环境(CLI)下的开发与应用,内容涵盖 PHP CLI 基础、参数解析、文件与目录操作、日志输出、异常处理,以及与 Linux 定时任务(Cron)的结合使用。通过实战示例,帮助开发者掌握使用 PHP 构建 自动化脚本、批处理工具与后台任务程序 的能力。

67

2025.12.13

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

37

2026.03.12

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

136

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

47

2026.03.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kotlin 教程
Kotlin 教程

共23课时 | 4.4万人学习

C# 教程
C# 教程

共94课时 | 11.2万人学习

Java 教程
Java 教程

共578课时 | 81.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号