【干货】Greenplum备份恢复工具gpbackup(上篇)

发布于 2022-5-20 09:39
浏览
0收藏

 

编者按:最近,社区的小伙伴一直在问gpbackup的问题,这几天便花了点时间看了看源码,整理一个gpbackup的主题文章,希望能够帮到大家。

 

gpbackup 的分享主题计划分成3篇文章:

  • gpbackup简介与源码编译
  • gpbackup详细使用方法
  • gprestore详细使用方法及总结
    上篇文章,我们首先来介绍一下gpbackup,并从github上拉取源码进行编译。


PART.01

    gpbackup 简介    


Greenplum是MPP架构的分析型数据库,其核心源码从2015年的v4.3版本开始开源至今,已经有6年多的时间了,起初,开源版本的并行备份恢复工具叫gpcrondump和gpdbrestore。由于这个工具存在一些已知的缺陷,比如单独备份一个大压缩包导致单表恢复操作时间过长等,官方目前已经开发了替代工具gpbackup和gprestore并进行了开源,GitHub地址为:https://github.com/greenplum-db/gpbackup 。

 

已知gpbackup和gprestore适配的Greenplum版本如下:
参考自社区大牛陈淼的《Greenplum-Database管理员指南6.2》,在此对作者的分享表示感谢,大家也可以学习该文档的 “并行备份gpbackup与gprestore” 部分,了解更多的相关内容。

  • GPDB 4.3.22及以后版本
  • GPDB 5.5.0及以后版本
  • GPDB 6.0.0及以后版本
    这里对各个版本的备份工具做一下总结:
  • GPDB 4.x/5.x的某些版本(具体版本参考上面),可以同时使用gpcrondump和gpbackup两种工具;
  • GPDB 6.x版本开始,gpcrondump已经去掉了,只能使用gpbackup工具;
  • GPDB 6.x版本开始,官方版本的gpbackup提供单独的安装包,需要自行从vmware tanzu下载使用;开源版本的gpbackup可以从GitHub Release(https://github.com/greenplum-db/gpbackup/releases)上下载发布包,或者自己进行源码编译。


PART.02

  gpbackup 源码编译  


 gpbackup是基于Golang写的,已经有很多网友在网上做了源码分析,这里再絮叨一下源码编译的过程吧,方便大家有一个整体的认识。

 

2.1 Golang环境配置
 

因为gpbackup是基于golang开发的,所以首先要配置golang基础开发环境,这里大家要注意,因为golang可以直接编译跨平台的包,所以你可以选择在Mac上交叉编译Linux系统用的包,只需要指定不同的编译标签(编译部分再详细介绍)。

1)安装Golang
大家首先从 https://golang.google.cn/dl/ 下载准备用于编译gpbackup的操作系统对应的软件包,整个Linux的安装包是通用的,只需要分清楚CPU架构是ARM还是X86即可。
下载完成后,需要自己进行安装,通常安装在对应操作系统的默认软件位置,比如这里我安装在/usr/local/go。这个路径,就是所谓的GOROOT。
安装完成后,需要配置三个环境变量:

# .zshrc add for golang
export GOROOT=/usr/local/go
export GOPATH=/home/chris/go
export PATH=$PATH:$GOROOT/bin:$GOPATH/bin


环境变量配置完成后,在命令行执行如下命令,如果显示正常,说明配置有效:

$ source ~/.zshrc$ go versiongo version go1.17.4 linux/amd64


2)在GOPATH下创建相应的文件夹

$ mkdir -p go/src go/bin go/pkg

2.2 gpbackup 源代码下载编译
 

1)下载源代码

源代码的下载方式有两种,第一种是参考官方的指导使用go get,第二种是直接git把代码拉下来。
第一种:执行如下命令下载源代码:

$ go get github.com/greenplum-db/gpbackup/...
# 注意这里的三个点不能省略,三个点意思是将gpbackup下的所有子目录都做完整下载

这种方式拉下来的源代码,我这边的位置有点奇怪,仅供参考:

$ pwd/Users/chris/Go/pkg/mod/github.com/greenplum-db/gpbackup@v0.0.0-20211208190753-99504926b0d3


第二种:执行如下命令下载源代码:

 

$ git clone https://github.com/greenplum-db/gpbackup.git


以上两种方式可以任选一种,我们习惯性的使用git去clone源代码,并且这种方式可以明确的获知源代码的下载位置,我个人感觉更好一些;另外虽然在golang里面,使用go mod方式管理依赖时,不再需要GOPATH,但是在gpbackup里,GOPATH这个环境变量是必选项,不可以省略,因为最终打包好的文件会放到$GOPATH/bin下面。
2)编译

$ make depend
$ make build
# 如果没有定义GOPATH,会报如下错误:
Makefile:4: *** Environment variable GOPATH is not set.  Stop.


交叉编译的选项如下:

make build_linux # Mac上交叉编译Linux包


最后你从$GOPATH/bin/下面会找到如下三个包:

gpbackup
gprestore
gpbackup_helper


便已完成后,执行如下命令安装即可(或者手工copy):

$ make install
cp /home/gpadmin/go//bin/gpbackup /home/gpadmin/go//bin/gprestore /usr/local/greenplum-db-6.15.0/bin

 

PART.03

  gpbackup 使用示例  


在本节的最后部分,通过一个简单的例子,带大家看一下如何使用gpbackup。

直接执行命令gpbackup --dbname postgres :

$ ./gpbackup --dbname postgres
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-gpbackup version = 1.23.0+dev.5.g9950492
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Greenplum Database Version = 6.15.0 build commit:4e6288c9e9fca634b007a978fba3ce25aae26aed Open Source
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Starting backup of database postgres
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Backup Timestamp = 20211225205226
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Backup Database = postgres
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Gathering table state information
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Acquiring ACCESS SHARE locks on tables
Locks acquired:  6 / 6 [================================================================] 100.00% 0s
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Gathering additional table metadata
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Getting partition definitions
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Getting storage information
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Getting child partitions with altered schema
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Metadata will be written to /data/gpdata/master/gpdb-1/backups/20211225/20211225205226/gpbackup_20211225205226_metadata.sql
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Writing global database metadata
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Global database metadata backup complete
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Writing pre-data metadata
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Pre-data metadata metadata backup complete
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Writing post-data metadata
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Post-data metadata backup complete
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Writing data to file
Tables backed up:  6 / 6 [==============================================================] 100.00% 0s
20211225:20:52:26 gpbackup:gpadmin:allinone:026818-[INFO]:-Data backup complete
20211225:20:52:27 gpbackup:gpadmin:allinone:026818-[INFO]:-Found neither /usr/local/greenplum-db-6.15.0/bin/gp_email_contacts.yaml nor /home/gpadmin/gp_email_contacts.yaml
20211225:20:52:27 gpbackup:gpadmin:allinone:026818-[INFO]:-Email containing gpbackup report /data/gpdata/master/gpdb-1/backups/20211225/20211225205226/gpbackup_20211225205226_report will not be sent
20211225:20:52:27 gpbackup:gpadmin:allinone:026818-[INFO]:-Backup completed successfully

 

因授权导致的错误

 

如果你在执行备份命令时出现以下错误,可能跟pg_hba.conf文件中的访问授权有关:

$ gpbackup --dbname postgres
20211225:20:50:23 gpbackup:gpadmin:allinone:026386-[INFO]:-gpbackup version = 1.23.0+dev.5.g9950492
20211225:20:50:23 gpbackup:gpadmin:allinone:026386-[CRITICAL]:-failed to connect to `host=allinone user=gpadmin database=postgres`: server error (FATAL: password authentication failed for user "gpadmin" (SQLSTATE 28P01)) (allinone:5432)


从以上错误中可以看出,gpbackup在连接到数据库时,采用的是pqx的connection url的方式,该报错是因为pg_hba.conf文件中对allinone这个主机的gpadmin用户访问做了密码限制,可以把密码限制放开,改为trust即可。
如果生产必须要求所有的IP(除了socket外)均需要密码验证,那么请在执行gpbackup之前配置环境变量PGPASSWORD,如下:

$ export PGPASSWORD=passwd123$ gpbackup --dbname postgres


gpbackup支持从以下环境变量中取值:

  • PGHOST
  • PGPORT
  • PGUSER
  • PGPASSWORD


下一篇,我们将介绍gpbackup详细使用方法。


作者简介

苑泽福,Greenplum中文社区专家

曾供职于鼎兴达、瀚高,拥有丰富的数据库开发运维经验,近年来一直专注于Greenplum 数据库,完成了多个基于Greenplum的数据平台的落地

 

文章转自公众号:Greenplum中文社区

分类
标签
已于2022-5-20 09:39:43修改
收藏
回复
举报
回复
添加资源
添加资源将有机会获得更多曝光,你也可以直接关联已上传资源 去关联
    相关推荐