618,核心服务OOM!

我欲只争朝夕
发布于 2023-10-7 11:12
浏览
0收藏

P0事故安排上了

原来以为内存溢出这种事情只会发生在书本上,没想到在我们生产环境发生了,而且是618,P0事故安排上了。先回顾一下内存溢出排查的基本思路,然后再来复盘一下内存溢出发生的原因

内存溢出排查

我们先来了解一下Java堆的组成机构。对于大多数应用来说,Java堆(Java Heap)是Java虚拟机锁管理的内存中最大的一块。Java堆是所有线程共享的一块内存区域,在虚拟机启动时创建。此内存区域的唯一目的就是存放对象实例,几乎所有的对象实例都在这里分配内存

「堆的结构如下」

618,核心服务OOM!-鸿蒙开发者社区

「新生代老年代的具体划分比例如下」

618,核心服务OOM!-鸿蒙开发者社区

「分代的主要作用就是为了更高效的管理内存」

内存泄漏和内存溢出是2个不同的概念

内存泄漏:对象已经不使用了,但是还占用着内存空间,没有被释放 内存溢出:堆空间不够用了,通常表现为OutOfMemoryError,内存泄漏通常会导致内存溢出

使用Java VisualVM分析排查

「我们可以通过jdk自带的jvisualvm命令来分析堆的使用情况」

我们写一个程序,来演示内存不断增加的场景

public class OomDemo {

    private static final int NUM = 1024;

    public static void main(String[] args) throws InterruptedException {
        List<byte[]> list = Lists.newArrayList();
        for (int i = 0; i < NUM; i++) {
            TimeUnit.SECONDS.sleep(1);
            list.add(new byte[NUM * NUM]);
        }
    }
}

618,核心服务OOM!-鸿蒙开发者社区

「命令行中执行jvisualvm即可弹出图形界面,我们可以连接到本机上的程序,也可以连接到远程机器,还可以分析生成快照文件等」

可以清晰的看到堆空间在不断上涨,用抽样器分析一下内存不断上涨的源头在哪里?

618,核心服务OOM!-鸿蒙开发者社区

「好家伙,byte数组居然占用了这么多内存」

如果此时你还看不出程序哪里有问题,到监视这个Tab点击堆Dump这个按钮,会生成一个堆的快照,然后分析这个dump文件即可

618,核心服务OOM!-鸿蒙开发者社区

byte数组实例很少,但是占用内存很多,再看一下具体的引用

618,核心服务OOM!-鸿蒙开发者社区

可以看到在ArrayList中。

最后推荐一个插件Visual GC,可以清晰的看到堆的使用情况以垃圾收集信息。

点击工具选中插件即可

618,核心服务OOM!-鸿蒙开发者社区

618,核心服务OOM!-鸿蒙开发者社区

当然你可以通过jmap命令生成heapdump文件,然后用其他工具分析

jmap -dump:file=文件名字 进程id

使用Eclipse Memory Analyzer分析

Java VisualVM只提供了一些基本的功能,堆中各种对象的大小和实例数。以上面的例子为例,你只能排查到ArrayList占用了大量的内存,这个ArrayList在哪,你也不知道

所以我们一般不使用Java VisualVM来分析,而是使用Eclipse Memory Analyzer来分析

Eclipse Memory Analyzer下载地址:https://www.eclipse.org/mat/downloads.php

还是上面的程序,我们启动时设置如下参数,让程序内存溢出时自动生成Dump文件

618,核心服务OOM!-鸿蒙开发者社区

-Xmx30m -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/Users/peng

-Xmx30m:最大堆内存为30m -XX:+HeapDumpOnOutOfMemoryError:当JVM发生OOM时,自动生成DUMP文件。-XX:HeapDumpPath:指定文件路径,例如:-XX:HeapDumpPath=${目录}/java_heapdump.hprof。如果不指定文件名,默认为:java_pid<pid>.hprof

生产环境一般都会配置堆溢出时自动生成DUMP文件

618,核心服务OOM!-鸿蒙开发者社区

当内存溢出的时候自动生成了一个文件,java_pid28598.hprof

「用Eclipse Memory Analyzer打开这个文件,可以很清晰的看到总共使用的内存,以及各个对象占用的内存」,如下图

总共使用的内存为26.8M Thread对象占用了26M ZoneInfoFile对象占用了157.8KB 其他对象占用了696.7KB

618,核心服务OOM!-鸿蒙开发者社区

点击Leak Suspects按钮查看具体的内存泄露报告

618,核心服务OOM!-鸿蒙开发者社区

分析出来有问题的部分只有一处(例子太简单的缘故,很多时候会分析出来多处)

「main线程占用了97.21%的内存空间」

618,核心服务OOM!-鸿蒙开发者社区

「点击标红按钮,查看引用关系,可以很清晰的看到是由于main线程中ArrayList中放了26个byte数组造成的」

618,核心服务OOM!-鸿蒙开发者社区

「另外可以很清晰的看到内存溢出时代码的执行位置,排查问题非常方便」

事故复盘

先来看一下事故发生前和事故发生后JVM的情况,我们新生代用的是ParNew垃圾收集器,老年代用的是CMS垃圾收集器

618,核心服务OOM!-鸿蒙开发者社区

13:00-13:10这段时间的情况,系统正常运行

每分钟GC暂停时间(绿色部分是CMS,黄色部分是ParNew)

618,核心服务OOM!-鸿蒙开发者社区

每分钟GC次数和GC平均耗时(绿色部分是CMS,黄色部分是ParNew)

618,核心服务OOM!-鸿蒙开发者社区

新生代和老年代的占用情况

618,核心服务OOM!-鸿蒙开发者社区

「可以看到问题发生之前老年代已经设置的不合理了,偏小了」

14:00-14:10这段时间的情况,14:06系统内存溢出

618,核心服务OOM!-鸿蒙开发者社区

14:00活动开始,14:05之后每分钟垃圾回收暂停的时间过长,都达到30s了

618,核心服务OOM!-鸿蒙开发者社区

老年代垃圾回收的时间飙升

618,核心服务OOM!-鸿蒙开发者社区

实在没有可回收的了,最终老年代被占满,内存溢出

分析dump文件

运维配置了上面说的2个参数,内存溢出时生成了dump文件,用Eclipse Memory Analyzer打开分析一波

618,核心服务OOM!-鸿蒙开发者社区

总共1.9G,ThreadPoolExecutor占用了918.8MB,我们来看看ThreadPoolExecutor这个线程池里面到底放了些啥

618,核心服务OOM!-鸿蒙开发者社区

分析报告指出的第一个问题就是ThreadPoolExecutor里面的东西太大了,占了总内存的47.45%了,点击如下按钮,查看引用链路

618,核心服务OOM!-鸿蒙开发者社区

好家伙,线程池占用了900多m空间,里面用LinkedBlockingDeque存放待执行的任务

618,核心服务OOM!-鸿蒙开发者社区

「队列的能存放的最大数量是10000,目前放了883个任务,这个队列的长度设置的也忒大了把!」

618,核心服务OOM!-鸿蒙开发者社区

继续点下去,就能看到队列中存的具体对象,是个DTO。看包名就猜到是中间件团队将这个DTO放到线程池中

618,核心服务OOM!-鸿蒙开发者社区

大概逻辑如上图,中间件团队会通过一个agent拦截应用中方法的执行,并将入参和返回值打印在日志中,flume收集日志后给链路平台,监控平台提供数据。

方法每执行一次打印一次日志,但是日志的打印是异步化的,将参数和返回值封装成任务,放到线程池中执行。由于618方法被高频调用,而其中一类DTO对象很大(一个对象6,7m),任务一旦堆积,很快就是OOM。「因为队列的最大值被设置为10000,但是当放了883个任务的时候已经OOM了」

「解决方案:增大老年代的大小,后续减少大对象的封装」




文章转载自公众号:Java识堂

分类
标签
已于2023-10-7 11:12:57修改
收藏
回复
举报
回复
    相关推荐