0

0

Linux Rook Ceph 的块/文件/对象存储生产部署 checklist

冷炫風刃

冷炫風刃

发布时间:2026-02-17 10:30:02

|

396人浏览过

|

来源于php中文网

原创

rook-ceph部署常见故障包括:operator权限不足需同步clusterrolebinding命名空间;cephblockpool因crush rule或pg_num不匹配导致rbd map失败;cephfilesystem因mds未就绪或fscache不支持致mount失败;rgw因ingress tls证书链错位或backend-protocol配置错误致endpoint不可达。

linux rook ceph 的块/文件/对象存储生产部署 checklist

rook-ceph operator 部署失败:ClusterRoleBinding 权限不生效

Operator 启动后 rook-ceph-operator Pod 一直 CrashLoopBackOff,日志里反复出现 error getting ceph version: failed to run stdcmdno RBAC policy matched —— 这大概率不是 Ceph 自身问题,而是 Operator 没拿到足够权限去操作 CRD 和节点资源。

关键点在于 Rook 的 clusterrolebinding 默认绑定的是 system:serviceaccounts:rook-ceph 这个 ServiceAccount,但如果你手动改过命名空间、或用 Helm 覆盖了 namespace 参数,而没同步更新 ClusterRoleBinding.subjects[0].namespace,权限就断了。

  • 检查 kubectl get clusterrolebinding rook-ceph-operator -o yaml,确认 subjects[0].namespace 和你实际部署 operator 的 namespace 一致
  • 如果用了自定义 namespace(比如 storage-ceph),必须同步 patch ClusterRoleBinding 和所有 ServiceAccountRoleBinding 的 namespace 字段
  • Helm 部署时别只改 namespace,还要显式设 operator.namespace=storage-ceph,否则 Chart 内部模板仍会生成默认值

cephblockpool 创建后 rbd map 失败:底层 crush rule 或 pg_num 不匹配

Pool 创建成功,Ceph 状态也显示 HEALTH_OK,但应用 Pod 挂载 PVC 时卡在 Waiting for a volume to be created,或者直接报 rbd: sysfs write failed。这时候不是网络或密钥问题,而是 pool 的底层配置和集群当前 crush topology 或 PG 数量不兼容。

Rook 默认创建的 CephBlockPool 使用 replicated_rule,但如果集群只有 3 个 OSD 且都落在同一 host 或 rack,而 rule 却要求跨 failure domain(比如 rack),就会无法选到满足条件的 OSD 组合,导致写入失败。

AI at Meta
AI at Meta

Facebook 旗下的AI研究平台

下载
  • 运行 ceph osd crush rule dump 看 rule 定义,再用 ceph osd crush rule ls 确认 pool 实际绑定的 rule 名
  • 检查 CephBlockPool.spec.failureDomain 是否和你的物理拓扑一致;若只有单机测试环境,应设为 host,并确保对应 rule 的 steps 中包含 take defaultchooseleaf firstn 0 type host
  • pgNum 必须是 2 的幂,且不能超过 osd_pool_default_pg_num(通常为 128);生产环境建议按 OSD 数 × 100 计算,但首次部署别超过 512,否则 PG 创建慢、OSD 同步压力大

CephFileSystem mount 失败:MDS 未就绪或 kernel client 不支持 fscache

PVC 绑定成功,但 Pod 里 mount -t cephConnection refused 或卡住几秒后超时 —— 先看 ceph status 里有没有 mds 进程,再查 kubectl -n rook-ceph get pod -l app=rook-ceph-mds 是否 Running。即使 MDS Pod 是 Running,也可能因配置错误没真正提供服务。

Rook 的 CephFilesystem CR 默认启用 dashboardfscache,但多数内核版(尤其 CentOS 7.9 / Ubuntu 20.04 默认 kernel)不支持 fscache,会导致 mount 尝试 fallback 失败。

  • 确认 MDS Pod 日志有 mds.<fsname>: all is fine</fsname>,而非 standby-replayfailed to start
  • 在客户端节点执行 modprobe ceph; echo $? 验证内核模块加载;若失败,检查是否启用了 ceph-fuse 替代方案(需在 StorageClass 中设 mountOptions: ["fuse"]
  • 禁用 fscache:编辑 CephFilesystem,把 spec.metadataServer.activeCount 设为 1,并在 spec.metadataServer.parametersfscache: "false"

对象存储 RGW endpoint 不可达:Ingress 路由与 TLS 证书链错位

RGW Pod Running,ceph orch ps | grep rgw 显示 running,但 curl -v http://rgw.example.com 返回 502 或连接拒绝。Rook 默认用 NodePort 暴露 RGW,但生产环境一般走 Ingress —— 这里最容易被忽略的是证书链顺序和 Ingress controller 对 backend-protocol: HTTPS 的支持差异。

Nginx Ingress 默认不校验 backend TLS 证书,但如果你用了 cert-manager + Let's Encrypt,它签发的证书不含中间 CA,而某些 RGW 镜像(如 v18.2.0+)启用 ssl_verify_peer 后会拒接不完整链的请求。

  • RGW Service 类型必须是 ClusterIP,Ingress 的 backend.service.port.number 应指向 RGW 的 https 端口(通常是 443),不是 80
  • cert-manager Issuer 必须设 preferredChain: "ISRG Root X1",避免使用已弃用的 DST Root CA X3
  • 确认 Ingress annotation 包含 kubernetes.io/ingress.class: nginxnginx.ingress.kubernetes.io/backend-protocol: "HTTPS",否则流量以 HTTP 发给 RGW 的 HTTPS 端口
Rook Ceph 生产部署最耗时间的从来不是 YAML 编写,而是每个组件启动后“看似正常实则半残”的状态:MDS 在 standby-replay、RGW 的 https port 被 Ingress 错配成 http、PG 数量导致 OSD load spike 却不报错。盯住 ceph -s 输出里的 pgs 状态、mds rank 和 rgw service endpoint 的真实响应码,比反复重装 operator 有用得多。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

240

2023.07.27

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

515

2023.08.04

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

566

2023.08.04

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

240

2024.02.23

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

500

2024.07.09

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

3586

2024.08.07

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

49

2026.01.13

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

65

2026.01.13

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

462

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 9.3万人学习

Git 教程
Git 教程

共21课时 | 3.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号