南宫NG·28

编者按：

在应对不断激增的业务量的时候，IT系统一般会采用两种方式，一是纵向扩展，也就是增加单台服务器的CPU计算能力、内存容量和磁盘承载能力等；二是横向扩展，也就是通过增加服务器的数量来增加处理能力。

相比于纵向扩展，横向扩展在扩展规模、系统的性能和可靠性等方面的优势更为明显。在南宫NG·28库层面，南宫NG·28库的横向扩展更多的是通过南宫NG·28库集群实现的。Oracle RAC（全称Oracle Real Application Cluster）是一种典型的基于共享存储的集群架构。

本文，将就Oracle RAC实现双活的两种架构以及关键问题和解决方案进行详细讨论。作者赵海，从业十多年，一线实践经验丰富，擅长云项目建设及部署、金融行业南宫NG·28中心解决方案规划及设计等。

一.架构分析

1、基于ASM冗余设计架构（以下简称“架构一”）

• 存储层实现SAN网络跨南宫NG·28中心级联，使双南宫NG·28中心能够实现整体SAN网络。

• 网络层实现二层打通，SCAN IP可以跨南宫NG·28中心浮动。

• 应用层实现跨南宫NG·28中心RAC，每一个南宫NG·28中心分别有一个实例节点。

• Oracle ASM存储层，南宫NG·28磁盘组需要实现基于双南宫NG·28中心存储卷的双镜像冗余策略，OCR仲裁磁盘组需要实现基于双南宫NG·28中心存储卷以及第三方站点网络存储卷的三块儿磁盘高可用策略。

2、基于存储集群实现的架构（以下简称“架构二”）

• 存储层借助存储虚拟化产品实现双南宫NG·28中心以及第三方仲裁站点组成的存储集群，使得存储可以提供给应用层分布式虚拟磁盘，最终让应用对存储层的逻辑映射没有任何感知。

• 网络层实现二层打通，SCAN IP可以跨南宫NG·28中心浮动。

• 应用层实现跨南宫NG·28中心RAC，每一个南宫NG·28中心分别有一个实例节点。

• Oracle ASM存储层，磁盘组不需要做任何特殊冗余配置，只需要将存储层提供的分布式虚拟磁盘看做是本地共享磁盘进行安装配置即可。

二、实现难度分析

2.1 架构复杂度

1、架构一的复杂度在于ASM层的设计。ORACLE RAC实例节点看到的共享盘是基于双中心存储实现的镜像策略，所有IO的读写分发是由ASM本身的冗余算法规则来决定的，DBA不仅仅要根据磁盘情况来设计合理的Failure Group，而且需要结合第三方站点的网络存储卷来合理设计仲裁磁盘组的分配。更重要的是需要结合实际的网络环境指标（延时、稳定性等）进行复杂的性能、稳定性、灾难测试等来调整ASM的一些IO参数。
2、架构一的复杂度在于整体架构的复杂度。例如仲裁一致性问题，是指双中心之间的存储集群和南宫NG·28库RAC集群的仲裁结果是否能保证一致性。存储集群是靠仲裁站点分别于两个站点之间的网络连通性来判定站点故障。而南宫NG·28库集群是通过以太网心跳和OCR仲裁盘来做南宫NG·28库仲裁。而南宫NG·28库的OCR仲裁盘是存储集群提供的分布式共享卷。二者仲裁时的一致性如何保障是非常重要的一个问题。假设在发生站点级别故障时，南宫NG·28库集群首先根据网络故障触发仲裁，判定站点A的节点存活。而存储随后再发生存储集群的仲裁，这个时候如果根据仲裁站点判定的结果恰恰仲裁委站点B的节点存活。那么南宫NG·28库集群整体就会宕掉，这对于业务来讲就是一个灾难。

2.2 落地成本

1、从实现的基本条件来看，两种架构的实现都会依赖双中心的二层打通。双中心的波分设备、以太转换设备、光纤链路租用就是必不可少的条件了。包括其购置成本和日后的运维成本等。这是非常可观的一项成本预算。

2、从存储层的架构组成来看，架构一不需要存储层增加任何其他设备成本及运维成本。但是架构二需要依赖存储层的虚拟化网关产品来实现存储虚拟化集群，无疑这需要增加相应的购置成本和相应的运维成本。尤其注意存储集群产品是否有容量许可成本问题。
3、从第三点的仲裁站点成本来看，两种方案都需要第三点的仲裁，区别在于架构一需要的是NAS存储，而架构二需要的基于以太网的计算资源来配置仲裁虚拟机。投入成本没有什么差异。
4、从Oracle运维成本来看，架构一对DBA的要求非常苛刻，需要DBA不仅仅能够深知其中的原理，而且需要对性能的分析有较深的造诣，从而保障在复杂的双中心联动环境下各种复杂情况下的性能及稳定性变动有快速和准确的判断和处理能力。架构二对DBA的要求没有特殊的苛刻要求但是需要增加对存储集群的专业维护成本。

三、关键问题及解决方案

3.1、针对架构二的仲裁一致性问题

在这个问题上，风险发生的引发点有两个：南宫NG·28库和集群的仲裁触发以及仲裁过程的时间顺序发生紊乱；资源被1:1割裂之后的默认仲裁策略不一致。也就是说，只要控制这两个引发点，那么这个问题从理论上也就避免了。对于第一个引发点来讲，实际上存储集群的默认仲裁触发时间会是15秒左右，而南宫NG·28库仲裁触发的控制参数由misscount这个参数来决定，所以只要我们将misscount这个参数调整到45秒之后，也就是说理论上绝对保障存储集群仲裁在前，而南宫NG·28库仲裁在后，那么第一个引发点就没有了。
对于第二个引发点来讲，假设两站点节点资源对等，仲裁选票同样对等的情况下，存储集群会有一个默认的Winner策略，同样在这种情况下南宫NG·28库集群也有一个默认仲裁策略：选择实例号小的集群存活。只要我们保证这两个策略结果的一致性，那么第二个引发点也就不存在了。

3.2、链路稳定状况不可控

这个问题是两种架构都面临的问题。主要表现为两个方面：链路稳定状况不可控；延时指标不可控。因为双中心之间的链路是通过租用运营商的裸光纤链路实现的，那么这其中会经历很多的中继设备及节点。无论从管理上还是从技术把控上都是金融企业自身不可控制的因素。假设双中心间链路延时指标不稳定，也就是说南宫NG·28库节点之间私网传输的延时会经常出现长延时情况，这势必导致这种延时会加倍放大到南宫NG·28库节点之间的读写热点竞争上。
由于南宫NG·28库集群之间的南宫NG·28传输量非常大（缓存、锁、心跳等），在读写热点相对突出的业务上，轻则导致南宫NG·28库读写性能灾难，重则导致南宫NG·28库节点直接处于僵死状态。另外，链路的不稳定会导致存储链路频繁切换，甚至会导致集群仲裁频繁发生，这对于业务连续性更是一个灾难。
对于这个问题来讲，就目前金融行业的传统南宫NG·28架构来讲，并没有一个十足的解决方案。我们只能通过以下措施来减少这种问题带来的风险。

1、业务层面需要进行拆分重组，按照IO特点进行合理拆分，将读写业务尽量分布于不同节点上，减少节点间的锁竞争。按照业务将南宫NG·28库表进行分区，避免在南宫NG·28库写上的南宫NG·28热点块儿。例如，对于银行核心系统来讲，尤其是要将批量业务和联机业务区分对待，批量业务的热点以及南宫NG·28量非常之巨大，所以一定要将批量业务的南宫NG·28库读写放在单边实现。对于联机业务来讲可以根据热点状况以及链路质量评测结果可以尝试实现双中心同时读写，但是本文建议对于这种重量级的业务还是要从业务层尽量实现应用上的读写分离，或者在应用层双中心部署而在南宫NG·28库层将南宫NG·28引到单边来做。

2、双中心间通讯的整体控制，具体包括对通讯带宽的优先级管理、对通讯的实时监控和控制、对跨中心南宫NG·28传输的严格策略把控。例如：优先保障存储和南宫NG·28库通讯的优先级和带宽，严格的规则算法和优先级限定VMOTION、DRS等行为的跨中心随意性，从LTM负载分发上尽可能保障正常情况下纵向IO的单中心效率策略，故障情况下保障跨中心访问的科学性。DWDM上设置双中心间通讯带宽的逻辑隔离以及实时可控。

3.3、存储网络故障泛滥

这是两种架构都会面临的问题，只是架构一可能性相对高一些。

如果我们把两个中心的SAN环境整合为一张大网，物理上没有任何隔离的大网，那么可能会因为局部的存储网络故障而波及到整个存储网络。尽管我们通过SAN交换机上的逻辑隔离能够解决大部分的安全问题，但是这样的风险毕竟还是存在的。

所以我们可以通过对南宫NG·28中心内部SAN环境前后物理隔离，双中心之间靠专一SAN交换机实现存储后端网络的联通来解决该问题。这样的话，单中心内前段SAN环境故障不会波及存储后端，更不会波及整个基础架构的存储网络。

3.4、串联深度带来的性能问题

这个问题是针对架构二的问题。
架构深度越深，那么IO的性能就会越差，因为IO每经过一层设备就会有一定的延时消耗，纵向深度越深经历的设备越多，那么IO的延时也就越高。如果我们的架构在纵向上越复杂，那么这个问题应该说从本质上是无法消除的，只能通过一定的方法来减少和优化。
从存储层来看，一般存储侧在对物理卷进行虚拟化的时候都会有几种策略。为了增加管理的灵活性及扩展性，虚拟化的时候可能会经过多层映射。另外一种策略是为了提高性能，在虚拟化的时候尽量较少映射。我们在规划存储卷的时候，尽量采用后一种策略。例如VPLEX就会有（1:1map、Raid等策略），我们可以选择1:1map这种策略，仅仅利用它的镜像聚合，而舍弃它的灵活伸缩特性。

本文转自TWT社区原题：基于 Oracle RAC 实现双活方案的分析