创云融达基于 Curve 块存储的智慧税务场景实践 原创

业务背景

创云融达是一家以海量数据的存管用为核心，以企业级私有云建设能力为基础，并提供数据资产和数据中台产品和解决方案的高新技术企业。

近年来，为了优化人们纳税缴费的服务体验，各省市税务系统逐步构建了面向税务办事大厅的各种创新型智慧设备和智慧应用，如办税一体机，智慧税务大屏，语音辅助设备、以及业务流程辅助 AI 机器人等。极大便利人们税业务体验的同时也对IT集成和IT基础设施提出了更高的要求。

创云融达承建了多地的智慧税务大厅解决方案，在实践中，我们发现智慧事务大厅的业务有如下特点：

1. 各类智慧税务应用系统数量较多；

2. 办事大厅的业务场景对服务的实时性和可用性也有较高要求；

3. 应用不仅仅需要数据库等结构化数据，也需要一定规模的非结构化数据的存储需求；

根据以上特点，我们总结出了智慧税务基础设施的需求：稳定、可靠，适应于超融合集群环境（规模3-6节点）的分布式存储解决方案，提供云主机和对象存储，保证数据安全性、和稳定可靠运行。

方案选型

对于对象存储，创云融达有自研的 OEOS, 有冷热数据自动分层和智能编排机制，实现了海量数据的持久化存储，同时也满足了海量小文件的高IO性能要求。可以为各类智慧应用提供非结构化数据的存管用治理平台。

对于块存储，非常知名的有 Ceph，但是开源版本的 Ceph 在使用过程中是有很多稳定性的问题，常规的一些异常都会引起IO抖动, 和 Curve 替换 Ceph 在网易云音乐的实践 中提到的问题也类似。这些问题和 Ceph 的一致性协议、数据放置算法都相关，基于开源版本去改动复杂度和工作量都很大。同时，我们注意到了开源的 Curve。

通过和 Curve 社区多次深入的技术交流，了解到 Curve 分布式存储通过对数据块的数据摆放机制的优化，成功解决了 Ceph 类存储中 CRUSH 算法在生产环境中的巨大不确定性，从而具有生产环境所需要的稳定性和高可靠性。因此，基于Curve 构建分布式块存储，作为虚拟化环境的数据底座，具有比 Ceph 产品具有更高的可靠性和数据安全性。

特别需要提到的是 Curve 块存储在快照上的设计。Curve 块存储的快照支持上传到 S3，不限制快照数量并且降低了快照的存储成本。这一设计和我们自研的对象存储 OEOS 可以完美结合。

方案落地

我们对 Curve 块存储进行了深入的测试，当前已经在项目中成功构建了基于 Curve 的分布式块存储和创云 OEOS 对象存储结合的分布式存储解决方案，为智慧税务项目中提供了统一存储基础设施。为智慧税务提供了有力的技术支撑，并在多地市的新建智慧税务大厅项目中得到了成功应用。

整体的架构如下：

• 支持块存储和对象存储，支持 ISCSI、S3、NFS、SMB 协议

• 对象存储支持冷热分层，支持 EC

• 块存储提供高性能，快照数据支持转储到对象存储中

• 所有服务高可用，任一节点故障不影响用户IO

在项目落地的过程中，结合 Curve 的特点和业务场景，总结了一些虚拟化场景下的使用经验。

1. 业务短暂的IO波峰
在 KVM 虚拟化场景下，当用 KVM 镜像生成虚拟机实例的时候，会有短暂的 IO波峰（5000-6000 IOPS），之后则消失。而业务场景多数情况下对 IO 的要求不高。因此，我们设计了两个逻辑池，一个 SSD 盘逻辑池，和一个机械盘逻辑池。KVM 虚拟机则制作成40G 的系统盘。这样，所有的 KVM 系统盘都分配在 SSD逻辑池中，而数据盘分配在机械盘逻辑池中，从而解决了 KVM 镜像问题。

2. nebd 服务的单点和性能问题
Curve 社区提供的 curve-tgt 版本是基于 nebd 的，nebd 是为了解耦上层应用和curve-sdk 所加的热升级模块。但在实践中，这个服务有可能存在单点问题，且对IO时延也有15%左右的消耗。

因此，我们在社区版 curve-tgt 基础上做了一点改进，让 curve-tgt 的 backend直接调用 Curve 客户端（libcurve.so），测试证明也很稳定，并且也提高了性能。

此外，curve-tgt 还有一个多节点负载均衡的问题。我们的解决思路是，在每个节点上开两个 curve-tgt 进程（3260和3261端口），传统的3260端口仅用于 iscsi discovery，当收到 iscsi login 命令的时候，利用 iscsi 的 login redirect 机制，调用 loadbalancer，取第二个进程（3261端口）做重定向。Loadbalancer 进程随机选取所有 active 节点的一个，重定向到该节点的3261端口上，完成 login。最后一点，再通过 keepalived 为3260端口提供一个虚 IP 机制，则保证了 discovery 过程不会因为单节点掉电而失效。

3. 集群整体掉电

和社区讨论后，我们解决思路是：在分析出 UPS 市电故障时，第一步把前端curve-tgt 进程停止掉，第二步集群所有的卷做一次快照，第三步做一次 fsync，保证所有内存中的数据都刷到盘上，最后停止集群。

后续规划

当前我们已经基于 Curve 和 OEOS 对象存储交付了多个超融合集群，接下来还想探索 Curve 更多的使用姿势、新硬件的支持等。近期的规划如下，欢迎感兴趣的小伙伴一起探讨：

1. 在 SSD+HDD 混合部署方面，探讨是否有更多的性能提升空间；

2. 使用 Curve RDMA 版本；

3. 多副本静默错误检查机制的检测和预防探讨；

4. 集群整体掉电情况可靠性和安全性的分析；

作者简介： 王彦灵（wangyanling@oct-ea.com），创云融达存储解决方案专家，曾在 XSky 等公司从事存储运维开发工作。2021年开始关注 Curve 社区，使用、部署、运维 Curve 集群，也在代码上做一些原型实验，对社区有浓厚兴趣。