案例:一则非常巧合的ORA-15042恢复

今天跟大家分享一个ASM磁盘组损坏的案例,此案例来至于一个网友。由于是保密客户,不能拿到数据,所以这里只是在自己的环境中模拟此现象并给出解决方案。

从Oracle 10g中,Oracle推出ASM(自动存储管理)功能,用于替换基于主机的存储管理软件,使得Oracle Rac运行不在依赖于第三方的存储管理软件(如hacmp,sfrac)。在10G中,ASM的功能和稳定性就还不完善,并没有大规模的被使用。但是在11G版本中,ASM已经大规模被使用,瞬间成为集群的核心存储管理解决方案。同时ASM这个黑匣子也逐渐的被大家认识,今天我们就给大家分享一个ASM磁盘组不能挂载的案例。

ASM磁盘组有三种冗余方式:External Redundancy、Normal Redundancy、High Redundancy。其中的冗余机制这里就不过多介绍了,拥有冗余的磁盘组就可以高枕无忧了吗?肯定不是,冗余的机制只能保证部分故障的解决,还不足以让我们高枕无忧,就如我们今天的分享案例,哪怕你有normal的冗余方式,也只能事出无奈、束手无策,特别是在一些OLAP系统中,几十T的数据很正常,当故障来临时,哪怕通过备份来还原,那么这个时间也是无法容忍的。唯有对ASM的原理足够的了解,才能让我们在故障时,通过一些非常规的手段修复。

ASM跟普通文件系统一样,有自己的元数据,并且ASM的元数据库是可以直接通过KFED来查看和编辑的,今天我们用到的就是PST元数据,下面我们简单描述一下:

PST对于ASM非常重要,在读取其他ASM metadata之前会先检查PST,当mount diskgroup时,GMON进程会读取diskgroup中所有磁盘去找到和确认PST,通过PST可以确认哪些磁盘是可以ONLINE使用的,哪些是OFFLINE的。
PST位于磁盘的第一个au上,但并不是每块磁盘上都有PST。磁盘组镜像的不同,PST的个数也不同,如下:

  • External Redundancy一般有一个PST
  • Normal Redundancy至多有个3个PST
  • High Redundancy 至多有5个PST

下面有请我们今天的主角出场:

NORMAL磁盘组中有1个failgroup意外offline(如现在市面上的一体机1个存储节点意外重启),在这个failgroup恢复回来重新成功online之前,另外一个failgroup中有一块磁盘损坏了,此时悲剧就发生了,即使被offline的failgroup还原回来,也不能mount磁盘组。因为我们之前介绍的ASM重要元数据PST认为这些盘的状态不是可正常访问的。

1,构建一个NORMAL冗余的磁盘组,有3个failgroup,每个fg有2块盘:

为了便于观察恢复效果,跟踪某条记录的变化,在offline primary extent所在磁盘后,更新这条数据,然后破坏其secondary extent所在磁盘,最后验证该事务是否丢失。这里手动创建一张rescureora的测试表,并查看其中一行记录物理存放位置。

通过脚本找到数据块与ASM磁盘的映射关系,由于是normal冗余,此处会看到两副本,LXN_KFFXP为0的是primary extent在1号disk上,为1的是secondary extent在4号disk上,稍后我们就模拟offline 1号disk所在fg,并且破坏4号盘。

2,通过GMON的日志文件来分析PST位置
从gmon trace可以发现,该磁盘组PST在0、2、4号磁盘上。通过kfed也可以验证:

3,模拟故障现场

3.1 offline fg2,fg2为primary extent最在的failgroup,此时手动offline,模拟生产环境的存储节点服务器关机。

此时gmon日志中,会生成最新的PST信息,如下:

3.2 更新数据,此处更新数据只是为了最后验证数据的有效性。

3.3 手动破坏4号磁盘,这里采用的dd命令,如果在12C中开启afd后,dd命令会自动过滤。

3.4 故障出现,磁盘组crash,即使另外一个fg恢复回来(刚刚异常关闭的存储节点启动)

通过gmon trace观察此时的PST分布情况:

4,解决方案

4.1 查看PST中的磁盘状态

4.2 修改磁盘的状态,这里将磁盘1和2的状态值修改为127就可以

4.3 PST修复完成,尝试mount磁盘组

这里报写丢失,跟之前的报错已经不一样,此时是由于磁盘组在挂载时做recover报错,那么很简单,跳过recover就可以。

此时报错稍稍有些不同,磁盘组在进行recover的时候报错,checkpoint为seq=7,block=1474

查看ACD checkpoint block:

修改ACD,并修复回asm环境:

4.5 磁盘组正常挂载

4.6 启动数据库

5 数据验证,无丢失

此条目发表在Oracle, Oracle Recover分类目录,贴了, , 标签。将固定链接加入收藏夹。

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注