被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了

icegoblin
发布于 2023-5-31 16:29
浏览
0收藏

大家好,我是小富~

前言

忙里偷闲学习了点技术写了点demo代码,打算提交到我那 2000Star 的Github仓库上,居然发现有5个​​Issues​​,最近的一条日期已经是2022/8/1了,以前我还真没留意过这些,我这人懒得很,本地代码提交成功基本就不管了。

仓库地址:​https://github.com/chengxy-nds/Springboot-Notebook

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

5个​Issues​中,有个标题"优化本仓库大小的建议"吸引我了,赶紧点进去看看啥情况,这个哥们说我这个仓库太大了,仓库700多M,半天也拉不下来,然后还给我附上了修改建议(不要太贴心哦)。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

我不信

开始我还有点不信,这仓库提交的是我平时写文章中跑的代码demo,每个项目也就十来个文件几十KB,怎么会有700M这么多,不信邪的我赶紧看了下仓库大小​​Setting->Repositoriess​​,居然真有683M这么多。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

于是我赶紧​​Clone​​仓库到本地,看看是不是我提交了什么大文件,下载过程确实挺折磨人,不仅慢还经常中断,在经过不知道多少次重试之后,终于下载下来了。

翻了翻各个项目发现里边的确有许多应该忽略的文件​​.idea​​​、​​.mvn​​​、​​target​​​都被我提交了,直接删除文件,但并没有什么卵用,项目整体​​size​​变化不大,应该不是这些文件的原因。

我用​​du​​​命令看了下各目录的文件大小,发现​​./springboot-seata-transaction​​​目录45M,因为里边有一个jar直接删除就行了;而 ​​.git​​ 足足有688M,看来问题就出在这个目录,重点优化下。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

这目录好大

那么​​.git​​目录是存放什么的?为什么会这么大呢?

在​​Git​​系统中,.git目录中存储了整个代码仓库的元数据信息(包括提交历史记录、分支、标签等)和文件对象。

我在该目录上用​​du​​命令看了一下,发现 objects 目录居然有683M,那么问题就是出在它身上了。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

​objects​​​目录之所以这么大,是因为它保存了仓库中的所有历史版本和数据对象,也就是​​blobs​​​文件内容, ​​trees​​​目录结构, ​​commits​​提交历史,它们是 Git 中的三个核心对象类型。

其中:

  • Blobs:每一个文件都被视为一个二进制对象(Blob 对象),它保存了文件的所有内容和一些元数据信息,如文件名、文件类型、文件大小等。当文件发生变化时,Git 会自动计算并存储新的 Blob 对象,并将其与先前的 Blob 对象做比较,以确定文件的变化情况。
  • Trees:目录也被视为一个对象(Tree 对象),它保存了目录中包含的所有文件和子目录的列表,每个列表项包括了文件或目录的名称、类型、权限等信息,以及对应文件或目录的 Blob 或 Tree 对象的 SHA 校验和。
  • Commits:我们每次提交代码,就会产生一次Commit, Commit对象保存了一次代码变更的相关信息,包括作者、提交时间、父提交记录的 SHA 值、描述信息等。每个 Commit 对象还包含指向对应代码快照的 Tree 对象的 SHA 校验和。

上边三种类型的对象组成了Git中的基本数据单元,通过这些对象的组合和链接,才构建出完整的提交历史,并跟踪代码库中每个文件的变化历史。这个目录是Git中最重要的目录之一,所以对它操作要谨慎,不然很容易丢失历史记录。

瘦身利器

尽管我们知道了大文件的位置,可具体该删除哪些文件无从下手啊,​​objects​​目录下都是些压缩文件,弄不好整个仓库都得报废。

好在提​​Issues​​的兄弟还给推荐了个Git仓库瘦身的工具,该说不说真的贴心啊。

这个Git仓库清理工具叫​​BFG Repo-Cleaner​​,可以帮助我们筛选、清理大文件对象,官方文档地址:https://rtyley.github.io/bfg-repo-cleaner ,接下来看看这工具咋用。

注意:在做以下操作之前,一定要备份!!! 一定要备份!!! 一定要备份!!!

1、下载安装

BFG 是以java -jar的方式启动,首先安装不低于JDK8+ 的环境,并下载 BFG 的​​Jar​​包。

$ wget https://repo1.maven.org/maven2/com/madgag/bfg/1.14.0/bfg-1.14.0.jar

2、clone 仓库

在 clone 仓库的时候推荐使用​​--mirror​​​参数,将源仓库的所有分支、标签以及提交历史都完整地克隆到本地,只会拉取​​.git​​目录的相关文件。

$ git clone --mirror git://example.com/Springboot-Notebook.git

3、查找大文件

将 ​​bfg-1.14.0.jar​​​ 和 ​​Springboot-Notebook.git​​ 放在同一级目录下,执行下边的命令过滤出大于20M的文件对象。

# 查找出大于20M的需要清理的文件
$ java -jar bfg-1.14.0.jar --strip-blobs-bigger-than 20M Springboot-Notebook.git

看到过滤出了很多大文件,包含了​​Issues​​中兄弟提到的那个Jar包。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

4、删除大文件

使用​​--delete-files​​​命令逐一的将大文件删除,如果提示分支是被保护的可以加上​​--no-blob-protection​​命令执行。

# 查找出大于20M的需要清理的文件
$ java -jar bfg.jar --delete-files Cyrillic.traineddata  Springboot-Notebook.git 

5、GC 回收垃圾

上边我们虽然过滤、删除了大文件,此时仓库的大小仍然没有变化,进入Springboot-Notebook.git仓库内,执行 ​​git reflog expire​​​ 和 ​​git gc​​命令,压缩 Git 库中的历史版本、清除废弃的、过期的对象,这个过程会耗费较长的时间。

# 进入目录
$ cd Springboot-Notebook.git

# 执行git gc 回收垃圾
$ git reflog expire --expire=now --all && git gc --prune=now --aggressive

# 推送
$ git push

最后推送代码到远程仓库,在看仓库的大小已经降到了108M,效果挺显著,剩下的108M应该就是我频繁提交导致的了,查了下我居然有127次提交之多。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

每次提交都会生成一次快照,这些快照可能包含大量的文件和代码,频繁提交会导致版本库中快照的数量增加。Git使用的是一种增量存储方式,每次提交只存储发生了变化的文件和代码。

但是,如果频繁提交的变化较小,比如只是修改了几个字符或者行末空格,Git可能无法正确地检测出这些变化,而将整个文件都存储起来,也会增加了.git文件的大小。

彻底一点

后来我想了想这个仓库存在的意义,不就是让大家看着文章跑demo代码嘛,能快速的下载并成功运行才是他们在乎的,谁又会在意提交记录。那我干脆彻底一点,清理掉仓库的所有提交记录,一劳永逸。

那么操作起来就得小心一点了,毕竟2000star,别把仓库弄嘎了,既要清除一个分支上的所有提交记录,同时又不能删除这个分支本身,其实我们可以迂回一下。

我们首先使用 ​​--orphan​​​ 命令创建一个全新的分支​​new-branch​​,这个新建的分支和其他分支没有任何关系,它不会包含任何先前的提交记录或者历史记录。相当于新建了一个干净的空分支,并让该分支指向一个全新的根节点。

git checkout --orphan <new-branch-name>

然后 commit 全部的项目文件到这个分支,暂不需要推到远程仓库。

git add -A
git commit -am "Initial commit"

接着删除旧的分支,并把新建的分支名改成旧分支名称,推到远程仓库就行了。

# 

git branch -D <old-branch-name>
git branch -m <old-branch-name>
git push -f origin <old-branch-name>

在推完代码后我再次去看了下仓库的大小,现在就只有6.33M了,如果不是人脸识别项目中有几个必要的SDK包,应该还能在小点。

被吐槽 GitHub仓 库太大,直接 600M 瘦身到 6M,这下舒服了-鸿蒙开发者社区

总结

以我自己的亲身经历做为反面教材,提醒大家操作Git要谨慎,工作中严禁提交该忽略的文件;提交代码要控制节奏,不能随心所欲,尤其是团队协作开发;如果发现​​.git​​​文件太大,推荐使用​​Git LFS​​来管理大文件,千万不要像我这么操作,毕竟随意删除提交历史记录,在哪个公司都是不合规的。



文章转载自公众号:程序员小富

标签
已于2023-5-31 16:29:45修改
收藏
回复
举报
回复
    相关推荐