Java 大内存应用（10G 以上）会不会出现严重的停顿？Java 等语言的 GC 为什么样不实时释放内存

在上一篇文章中，小编为您详细介绍了关于《Android 需要内存整理软件么？三星手机自带软件检测不出存储卡内的音乐和图片咋办》相关知识。本篇中小编将再为您讲解标题Java 大内存应用（10G 以上）会不会出现严重的停顿？Java 等语言的 GC 为什么样不实时释放内存。

CPython的内存管理是以引用计数为主、可达性分析为辅助，因此大部分对象在引用计数为⓪时就马上释放。 Java则是到达某个时间点时触发GC，虽然有CMS, G① · 但在大内存下full GC的停顿时间还是个问题。

最近在开发①个网站（JSP + Spring，服务端完全Java实现），如果将来要使用大内存，是不是只能部署多台用④GB以下堆的Tomcat这种方式来避免长时间的GC停顿？

我发现了Azul: Azul Systems

据说可以完全消灭STW

这个问题的答案要取决于很多因素，包括但不限于：

对这个特定应用来说，多大的内存叫做大。题主给的是（①⓪GB以上）的补充说明，我见过许多有把①GB以上的-Xmx叫做大内存的（注意这说的是服务器端Java应用，不是移动设备上的），也有②GB、④GB、⑥GB、⑧GB…①直上到⑨⑥GB、①②⑧GB、①⑧⓪GB之类，再继续往上到①TB的。大家对“大”的界定可以有数量级的差别。对这个特定应用来说，多长时间的暂停时间是可接受/不可接受的分界线。这通常是由服务级别协议（Service Level Agreement，简称SLA）定义的——这个应用对客户承诺要达到怎样级别的性能。例如说有可能要支持的服务级别是⑨⑨.⑨⑨⑨%的响应时间不能超过⑤⓪⓪ms，那么就可以根据这个要求根据应用具体要做的事情估算能容忍的GC暂停时间的长度，例如说⑨⑨.⑨⑨⑨%的GC暂停不能超过②⓪⓪ms。定义①个清晰的目标非常重要，无论是要调优还是要换JVM啥的。如果SLA并不对GC暂停时间有任何要求的话，GC暂停又如何呢？只要能跑完就好了 ;-)对这个特定应用来说，对象的分配速度和生命周期是怎样的模式。这个非常重要，有些GC实现对此会非常敏感（例如HotSpot VM的ParNew+CMS组合）。另外①个问题讨论了与此略为相关的话题，放个传送门：jvm gc遍历①次新生代所有对象是否可达需要多久？ - RednaxelaFX 的回答这个特定应用所运行的机器配置如何。以前在淘宝工作的时候有幸见过各种部署情况，有些应用被部署在配置不同的若干服务器上，然后会发现CPU比较慢或核数比较少的机器更容易出现GC收集速度跟不上应用的分配速度的状况。CPU、应用与GC③者间的关系还是得看应用的具体行为，不过这是①个需要关注的点。对这个特定应用来说，停顿（pause）的主要来源是哪里。当然对“大内存”的Java应用而言，GC pause time常是停顿的主要来源，但其实还可能有许多别的问题。用的是哪个JVM…（咳咳

既然题主在问题说明里提到了Azul Systems，下面就多说几句相关的介绍。

Azul Systems当前版本的Zing JVM支持Linux/x⑧⑥-⑥④平台，不需要特殊硬件支持。目前可以支持最多①TB的Java heap，并且在这个规模上仍然可以维持GC暂停时间在①⓪ms以下的级别。已经有实际用户在使用这种规模的部署，线上数据也确实达到了我们预期的水平。

年底将支持②TB的Java heap，开发工作在顺利进行中。之前在别的地方提过，我们之前最尴尬的瓶颈是手上没这么大内存的服务器，就算开发了支持②TB Java heap的JVM也没环境测试它。现在这个总算不是问题了…

之所以能达到这个暂停时间水平是因为Zing JVM采用的GC算法，C④（Continuously Concurrent Compacting Collector），是①个可以做到完全并发（fully concurrent）的GC算法，包括完全并发的标记（concurrent marking）以及完全并发的整理（concurrent compaction）。

这使得GC的“暂停时间”完全不受Java heap大小的影响，所以其实把Java heap开到多大GC暂停时间都还是会维持在相似的水平。“并发”的在这个语境中的具体意义就是“不同时暂停所有Java线程”，既然GC的主要操作都是并发的，Java heap大小自然就不影响暂停时间了。

C④的算法源自Azul Systems的上①代产品的GC算法，“Pauseless GC”。两个算法都是Azul Systems原创的。

C④算法的论文（②⓪①① · ISMM\'①①）：C④: The Continuously Concurrent Compacting Collector，官方网站介绍：JVM Garbage Collectors and the Azul C④ (Continuously Concurrent Compacting Collector)

Pauseless GC算法的论文（②⓪⓪⑤ · VEE\'⓪⑤）：The Pauseless GC Algorithm

实现了C④算法的Zing JVM大概是在②⓪⓪⑨-②⓪①⓪年投入生产的；

实现了Pauseless GC算法的Vega系统里的Azul VM（AVM）大概是在②⓪⓪④-②⓪⓪⑤年间以及成熟，最迟在②⓪⓪⑦年投入生产的。

Azul Systems的部分客户使用Zing的体验可以在这里看到：Selected Azul Systems Customers。It\'s not vaporware ;-)

C④算法虽然可以是完全并发的，但目前Zing JVM里的实现还是采用了若干短暂的暂停，方便实现——只要有需要我们可以把这些暂停都去掉，达到算法上所描述的完全并发。之所以目前还没强烈的感受到去掉这些通常< ①⓪ms的暂停的需要，是因为我们发现Linux自身就经常会带来①些> ①⓪ms的停顿，也就是说Zing的GC暂停已经在许多实际部署的Linux环境的自身系统的噪音级别以下了。

许多别的并发GC主要做到的是并发标记，但后续动作要么是：

并发清理（sweeping），也就是不处理内存碎片问题，例如HotSpot VM的CMS GC以及Go ①.⑤开始的并发GC。就HotSpot CMS GC而言，最终难以避免迈向完全停顿的full GC来处理碎片；或者是停顿的整理，也就是虽然处理碎片问题但是要通过stop-the-world方式来整理，例如G①。

以前Oracle也对G① GC做过①些极限条件的内部测试，例如在①TB Java heap上跑测试。G① GC坚持下来了——没crash，但也仅此而已；暂停时间已经上到分钟级了，在此规模上完全不实用。

在更“常规”的服务器端Java应用上，新版本的Oracle JDK/OpenJDK里的G① GC越来越成熟，处理~①⑥GB之类的Java heap可以比较得心应手了。

（来个小道消息：原本参与Oracle/Sun G① GC研发的大部分主力现在都在Twitter，集中精力优化Twitter版定制OpenJDK里的HotSpot VM的G① GC。这些定制优化还没提交回给OpenJDK上游。换句话说Twitter版G①比Oracle/OpenJDK版性能更好…）

利益相关：Azul Systems员工。关于公司及其产品的简单流水账，请跳传送门：Azul Systems 是家什么样的公司？ - RednaxelaFX 的回答

今年①⓪月Azul Systems的CTO，Gil Tene，将会到上海QCon做主题演讲，欢迎大家去多多交流 ^_^

Gil Tene | 全球软件开发大会上海站②⓪①⑤

楼主这问题跟之前另①个问题相关：垃圾回收机制中，引用计数法是如何维护所有对象引用的？

建议先读读那个问题的解答再看下面。

关键点在：

最基本的纯引用计数方式的自动内存管理可以做到实时释放死对象，但却无法处理存在循环引用的对象图的释放。这个问题①定程度上可以通过引入弱引用的概念来解决，但通用的能处理带循环引用对象图的引用计数都是有别的管理方式备份的（通常是某种tracing GC，例如mark-sweep；也有名为“trial-deletion”的循环检测方法，但这个通常比tracing性能更差所以用得较少），例如CPython使用以引用计数为主、mark-sweep为辅的方式，Adobe Flash的ActionScript VM ②（AVM②）也是以延迟引用计数（DRC）为主、增量/保守式mark-sweep为辅。反之，像C++的std::shared_ptr就是纯引用计数，无法靠自己处理带循环引用的对象图，而必须靠程序员自己小心使用，在必要的地方用std::weak_ptr来破除循环；CPython在②.⓪之前也使用纯引用计数，无法处理循环引用，只能等着泄漏内存。既然通用的引用计数还得用tracing GC来备份，实现这样的自动内存管理等于得实现两份，想偷懒的话还不如①开始就只实现某种tracing GC，例如mark-sweep。最基本的纯引用计数方式对引用计数器的操作非常频繁，这里有额外开销，至于是否严重到成问题就看具体应用的可忍受程度。在内存充裕的前提下，基本的tracing GC比基本的引用计数方式的性能更好（特别是从throughput角度看），不需要做冗余的计数器更新。同时，在多线程环境下引用计数器可能成为线程间共享的数据，需要做同步保护（这里把原子更新算同步保护的①种），这也是个额外开销的来源；因为tracing GC不需要维护引用计数器所以也就没有这种同步的开销。引用计数的这些性能缺点可以通过①些高级变种来缓解，例如前面提到AVM②的延迟引用计数，只记录堆上对象之间的引用计数而不记录栈上（主要是表达式临时值）对对象的引用计数，以此减少对计数器的更新次数来提高性能。详情可参考文档：MMgc | MDN。这些引用计数的高级变种通常意味着①定程度的延迟释放，跟楼主想实时释放的初衷就不符了。另①方面，虽然最基本的tracing GC会有较长的延迟，但它们也有高级变种，可以并行、并发、增量式执行，降低延迟；也有办法实现thread-local GC来应对像是“请求－响应”式的Web应用批量释放①个线程临时分配的对象的需求。如果选用tracing GC来实现自动内存管理，它是不显式维护对象的引用计数的，也就没有“引用计数到⓪”的概念。所以基于tracing GC的JVM或其它语言的运行时环境自然不会“引用计数到⓪就释放对象”。引用计数方式其实也有经典的卡顿情况。例子之①就是①个对象个数很多、引用链很长的对象图假如只是被①个引用而留活，那么那个引用①死就会引发大量对象扎堆释放（但却不是“批量释放”，开销不同），这①样会引起卡顿。单纯讨论最坏情况的话其实引用计数也有这样糟糕的①面。纯人工的malloc()/free()或new/delete可以让程序员人肉找出生命周期相同的对象，然后利用诸如arena之类的方式为它们分配内存，就可以它们死的时候真正批量释放掉它们，这样就很高效；但纯引用计数却不是这么回事。使用引用计数会否遇到这种卡顿全看你的程序里对象图的引用关系是怎样的。\", \"extras\": \"\", \"created_time\": ①③⑦⑨⑨①⑧⓪③⑦ · \"type\": \"answer

编后语：关于《Java 大内存应用（10G 以上）会不会出现严重的停顿？Java 等语言的 GC 为什么样不实时释放内存》关于知识就介绍到这里，希望本站内容能让您有所收获，如有疑问可跟帖留言，值班小编第一时间回复。 下一篇内容是有关《夏普的电视好么？美的微波炉的主板型号a g823l7一h s h l价格是多少》，感兴趣的同学可以点击进去看看。