核心是目标驱动的数据闭环：先定义分类体系并标注样本，爬取时嵌入标签线索，边爬边清洗（去广告、过滤长短文本），用tf-idf+logisticregression快速验证baseline（准确率常超85%），再据数据规模微调bert类模型。
用Python做爬虫后做文本分类，核心不是“先爬再分”，而是明确目标、清洗数据、选对模型、验证效果。下面直接说关键步骤和实操要点。
爬取文本前先定义分类体系
别急着写requests代码。先想清楚你要分几类、每类代表什么、样本是否均衡。比如新闻分类：财经/体育/娱乐/科技——这四类标签要提前定好，最好有100条以上人工标注的样本来打底。爬的时候就在URL、页面标题或meta标签里埋线索，比如抓知乎问答，可按话题页URL中的/topic/19557284（人工智能）或/topic/19550643（健身）自动打标签。
边爬边清洗，别等全爬完再处理
- 用BeautifulSoup或lxml提取正文时，立刻去掉广告div、导航栏、评论区（常见class名如ad-banner、comment-list）
- 正则清理多余空格、换行、HTML实体（如 →空格，“→中文引号）
- 长度过滤：单篇少于50字或超过1万字的先剔除，避免噪声干扰后续特征提取
用TF-IDF + 简单模型快速跑通baseline
不用一上来就上BERT。先用scikit-learn三步走：
- 向量化：TfidfVectorizer(max_features=5000, ngram_range=(1,2), stop_words=['的','了','和'])
- 训练：LogisticRegression() 或 RandomForestClassifier(n_estimators=100)
- 评估：用classification_report看各类precision/recall，特别注意少数类是否被全部判成多数类
这个组合在千级样本、中等区分度任务上准确率常超85%，是验证流程是否跑通的黄金标准。
立即学习“Python免费学习笔记（深入）”；
进阶：微调预训练模型提升效果
当TF-IDF效果卡在90%上不去，且你有至少5000条标注数据，可以试huggingface的中文模型：
- 选bert-base-chinese或更轻量的hfl/chinese-roberta-wwm-ext-small
- 用Trainer API微调，batch_size设32，learning_rate=2e-5，训练3轮足够
- 关键技巧：把长文本截成512字（非简单截断，用标点切分+保留前两段），比硬截取效果好得多
基本上就这些。爬虫和分类不是两个独立模块，而是数据流闭环：爬得准，清洗得干净，特征才靠得住；分类结果反过来也能帮你优化爬虫策略（比如某类页面结构突变，自动告警）。不复杂但容易忽略。
