0

0

如何在 CSV 文件中查找特定数值模式并自动归类文件

碧海醫心

碧海醫心

发布时间:2026-01-16 10:42:22

|

939人浏览过

|

来源于php中文网

原创

如何在 CSV 文件中查找特定数值模式并自动归类文件

本文介绍如何使用 java(opencsv)遍历多个 csv 文件,检测某列是否同时包含指定数值(如 50、500、5000),并根据匹配结果将文件移动至 `processed` 或 `invalid_files` 目录,提供可复用、模块化、健壮的实现方案。

在实际数据处理任务中,常需基于内容规则对 CSV 文件进行分类或过滤。例如:若某数值列(如 score)同时出现 50、500 和 5000 这三个值,则认为该文件“含敏感模式”,应移入 invalid_files 目录;否则视为正常,归入 processed 目录。原始代码存在多个关键问题:逻辑判断位置错误(在循环内过早触发移动)、状态重置混乱、br.close() 被重复调用、未跳过表头、且条件硬编码导致扩展性差。

以下为优化后的专业实现,采用职责分离设计,确保清晰、可维护、可扩展:

X-Node企业快速建站1.0.6.0801
X-Node企业快速建站1.0.6.0801

特色介绍: 1、ASP+XML+XSLT开发,代码、界面、样式全分离,可快速开发 2、支持语言包,支持多模板,ASP文件中无任何HTML or 中文 3、无限级分类,无限级菜单,自由排序 4、自定义版头(用于不规则页面) 5、自动查找无用的上传文件与空目录,并有回收站,可删除、还原、永久删除 6、增强的Cache管理,可单独管理单个Cache 7、以内存和XML做为Cache,兼顾性能与消耗 8、

下载

✅ 核心改进点

  • 条件解耦:使用 Predicate 列表定义“禁止出现的值”,支持任意数量、动态配置;
  • 语义明确的验证逻辑:isLineValid() 判断单行是否 符合要求(即不等于任一禁止值),isFileValid() 判断文件是否 整体有效(即所有行均满足);
  • 高效短路判断:一旦累计违规值数量达目标数(如 3 个),立即返回 false,避免冗余解析;
  • 健壮路径操作:自动创建目标目录,使用 Files.move() 安全迁移,显式处理分隔符与表头;
  • 资源安全:严格依赖 try-with-resources 管理 Reader,杜绝手动 close() 引发的异常。

? 示例 CSV 结构(以分号分隔)

car;score;description
Opel;30;43
Volvo;500;434
Kia;50;3
Toyota;4;4
Mazda;5000;4

? 数据模型(CsvLine.java)

import com.opencsv.bean.CsvBindByPosition;
import java.math.BigDecimal;

public class CsvLine {
    @CsvBindByPosition(position = 1) // 对应 score 列(索引从 0 开始,第 1 位)
    private BigDecimal value;

    public BigDecimal getValue() { return value; }
    public void setValue(BigDecimal value) { this.value = value; }
}

⚙️ 主流程与工具方法

import com.opencsv.bean.CsvToBeanBuilder;
import java.io.*;
import java.math.BigDecimal;
import java.nio.file.*;
import java.util.*;
import java.util.function.Predicate;
import java.util.stream.Collectors;

public class CsvPatternValidator {

    public static void main(String[] args) throws IOException {
        File directory = Path.of("/path/to/your/csv/directory").toFile();
        FilenameFilter csvFilter = (dir, name) -> name.toLowerCase().endsWith(".csv");

        // ✅ 定义“禁止出现”的数值列表(即:若文件中同时存在这些值,则判定为 invalid)
        List
> forbiddenPatterns = List.of(
            ne(new BigDecimal("50")),
            ne(new BigDecimal("500")),
            ne(new BigDecimal("5000"))
        );

        processDirectory(directory, csvFilter, forbiddenPatterns);
    }

    public static void processDirectory(File dir, FilenameFilter filter,
                                        List
> forbidden) throws IOException {
        Path processed = createDirectory(dir.toPath().resolve("processed"));
        Path invalid = createDirectory(dir.toPath().resolve("invalid_files"));

        File[] files = dir.listFiles(filter);
        if (files == null) return;

        for (File file : files) {
            boolean valid = isFileValid(file, forbidden);
            Path target = valid ? processed : invalid;
            Files.move(file.toPath(), target.resolve(file.getName()), StandardCopyOption.REPLACE_EXISTING);
        }
    }

    public static boolean isFileValid(File file, List
> forbidden) throws IOException {
        try (Reader reader = Files.newBufferedReader(file.toPath())) {
            List lines = new CsvToBeanBuilder(reader)
                    .withType(CsvLine.class)
                    .withSkipLines(1)        // 跳过表头行
                    .withSeparator(';')      // 显式指定分隔符
                    .build()
                    .parse();

            Set violations = new HashSet<>();
            for (CsvLine line : lines) {
                if (line.getValue() == null) continue;
                if (!isLineValid(line, forbidden)) {
                    violations.add(line.getValue());
                    if (violations.size() == forbidden.size()) {
                        return false; // 找齐所有禁止值 → 文件无效
                    }
                }
            }
            return true; // 未找齐 → 文件有效
        }
    }

    public static boolean isLineValid(CsvLine line, List
> conditions) {
        return conditions.stream().allMatch(p -> p.test(line.getValue()));
    }

    // 工厂方法:生成“不等于 target”的谓词
    public static > Predicate ne(T target) {
        return value -> value == null || value.compareTo(target) != 0;
    }

    public static Path createDirectory(Path path) throws IOException {
        return Files.exists(path) ? path : Files.createDirectory(path);
    }
}

⚠️ 注意事项

  • 依赖项:需在 pom.xml 中添加 OpenCSV(≥ 5.7.1)和 Lombok(可选,简化 getter/setter):
    
        com.opencsv
        opencsv
        5.7.1
    
  • 编码处理:示例默认 UTF-8;若 CSV 为 UTF-16,请在 Files.newBufferedReader() 中传入 StandardCharsets.UTF_16;
  • 扩展性:新增校验规则只需向 forbiddenPatterns 列表追加 ne(...) 即可,无需修改核心逻辑;
  • 性能提示:对超大文件,可考虑流式解析(如 CsvParser)替代 CsvToBeanBuilder,避免全量加载内存。

该方案彻底解决了原始代码的逻辑缺陷,以函数式风格提升可读性与可测试性,是生产环境中处理 CSV 规则校验的推荐实践。

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

832

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

738

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

734

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

397

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

398

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

446

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

430

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

16926

2023.08.03

C++ 单元测试与代码质量保障
C++ 单元测试与代码质量保障

本专题系统讲解 C++ 在单元测试与代码质量保障方面的实战方法,包括测试驱动开发理念、Google Test/Google Mock 的使用、测试用例设计、边界条件验证、持续集成中的自动化测试流程,以及常见代码质量问题的发现与修复。通过工程化示例,帮助开发者建立 可测试、可维护、高质量的 C++ 项目体系。

2

2026.01.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kotlin 教程
Kotlin 教程

共23课时 | 2.5万人学习

C# 教程
C# 教程

共94课时 | 6.8万人学习

Java 教程
Java 教程

共578课时 | 46.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号