堆內(nèi)存設(shè)置
原理
JVM堆內(nèi)存分為2塊：Permanent Space 和 Heap Space。
- Permanent 即 持久代（Permanent Generation），主要存放的是Java類定義信息，與垃圾收集器要收集的Java對象關(guān)系不大。
- Heap = { Old + NEW = {Eden, from, to} }，Old 即 年老代（Old Generation），New 即 年輕代（Young Generation）。年老代和年輕代的劃分對垃圾收集影響比較大。
年輕代
所有新生成的對象首先都是放在年輕代。年輕代的目標(biāo)就是盡可能快速的收集掉那些生命周期短的對象。年輕代一般分3個區(qū)，1個Eden區(qū)，2個Survivor區(qū)（from 和 to）。
大部分對象在Eden區(qū)中生成。當(dāng)Eden區(qū)滿時，還存活的對象將被復(fù)制到Survivor區(qū)（兩個中的一個），當(dāng)一個Survivor區(qū)滿時，此區(qū)的存活對象將被復(fù)制到另外一個Survivor區(qū)，當(dāng)另一個Survivor區(qū)也滿了的時候，從前一個Survivor區(qū)復(fù)制過來的并且此時還存活的對象，將可能被復(fù)制到年老代。
2個Survivor區(qū)是對稱的，沒有先后關(guān)系，所以同一個Survivor區(qū)中可能同時存在從Eden區(qū)復(fù)制過來對象，和從另一個Survivor區(qū)復(fù)制過來的對象；而復(fù)制到年老區(qū)的只有從另一個Survivor區(qū)過來的對象。而且，因為需要交換的原因，Survivor區(qū)至少有一個是空的。特殊的情況下，根據(jù)程序需要，Survivor區(qū)是可以配置為多個的（多于2個），這樣可以增加對象在年輕代中的存在時間，減少被放到年老代的可能。
針對年輕代的垃圾回收即 Young GC。
年老代
在年輕代中經(jīng)歷了N次（可配置）垃圾回收后仍然存活的對象，就會被復(fù)制到年老代中。因此，可以認(rèn)為年老代中存放的都是一些生命周期較長的對象。
針對年老代的垃圾回收即 Full GC。
持久代
用于存放靜態(tài)類型數(shù)據(jù)，如 Java Class, Method 等。持久代對垃圾回收沒有顯著影響。但是有些應(yīng)用可能動態(tài)生成或調(diào)用一些Class，例如 Hibernate CGLib 等，在這種時候往往需要設(shè)置一個比較大的持久代空間來存放這些運(yùn)行過程中動態(tài)增加的類型。
所以，當(dāng)一組對象生成時，內(nèi)存申請過程如下：
- JVM會試圖為相關(guān)Java對象在年輕代的Eden區(qū)中初始化一塊內(nèi)存區(qū)域。
- 當(dāng)Eden區(qū)空間足夠時，內(nèi)存申請結(jié)束。否則執(zhí)行下一步。
- JVM試圖釋放在Eden區(qū)中所有不活躍的對象（Young GC）。釋放后若Eden空間仍然不足以放入新對象，JVM則試圖將部分Eden區(qū)中活躍對象放入Survivor區(qū)。
- Survivor區(qū)被用來作為Eden區(qū)及年老代的中間交換區(qū)域。當(dāng)年老代空間足夠時，Survivor區(qū)中存活了一定次數(shù)的對象會被移到年老代。
- 當(dāng)年老代空間不夠時，JVM會在年老代進(jìn)行完全的垃圾回收（Full GC）。
- Full GC后，若Survivor區(qū)及年老代仍然無法存放從Eden區(qū)復(fù)制過來的對象，則會導(dǎo)致JVM無法在Eden區(qū)為新生成的對象申請內(nèi)存，即出現(xiàn)“Out of Memory”。
OOM（“Out of Memory”）異常一般主要有如下2種原因：
1. 年老代溢出，表現(xiàn)為：java.lang.OutOfMemoryError:Javaheapspace
這是最常見的情況，產(chǎn)生的原因可能是：設(shè)置的內(nèi)存參數(shù)Xmx過小或程序的內(nèi)存泄露及使用不當(dāng)問題。
例如循環(huán)上萬次的字符串處理、創(chuàng)建上千萬個對象、在一段代碼內(nèi)申請上百M(fèi)甚至上G的內(nèi)存。還有的時候雖然不會報內(nèi)存溢出，卻會使系統(tǒng)不間斷的垃圾回收，也無法處理其它請求。這種情況下除了檢查程序、打印堆內(nèi)存等方法排查，還可以借助一些內(nèi)存分析工具，比如MAT就很不錯。
2. 持久代溢出，表現(xiàn)為：java.lang.OutOfMemoryError:PermGenspace
通常由于持久代設(shè)置過小，動態(tài)加載了大量Java類而導(dǎo)致溢出，解決辦法唯有將參數(shù) -XX:MaxPermSize 調(diào)大（一般256m能滿足絕大多數(shù)應(yīng)用程序需求）。將部分Java類放到容器共享區(qū)（例如Tomcat share lib）去加載的辦法也是一個思路，但前提是容器里部署了多個應(yīng)用，且這些應(yīng)用有大量的共享類庫。
參數(shù)說明
- -Xmx3550m：設(shè)置JVM最大堆內(nèi)存為3550M。
- -Xms3550m：設(shè)置JVM初始堆內(nèi)存為3550M。此值可以設(shè)置與-Xmx相同，以避免每次垃圾回收完成后JVM重新分配內(nèi)存。
- -Xss128k：設(shè)置每個線程的棧大小。JDK5.0以后每個線程棧大小為1M，之前每個線程棧大小為256K。應(yīng)當(dāng)根據(jù)應(yīng)用的線程所需內(nèi)存大小進(jìn)行調(diào)整。在相同物理內(nèi)存下，減小這個值能生成更多的線程。但是操作系統(tǒng)對一個進(jìn)程內(nèi)的線程數(shù)還是有限制的，不能無限生成，經(jīng)驗值在3000~5000左右。需要注意的是：當(dāng)這個值被設(shè)置的較大（例如>2MB）時將會在很大程度上降低系統(tǒng)的性能。
- -Xmn2g：設(shè)置年輕代大小為2G。在整個堆內(nèi)存大小確定的情況下，增大年輕代將會減小年老代，反之亦然。此值關(guān)系到JVM垃圾回收，對系統(tǒng)性能影響較大，官方推薦配置為整個堆大小的3/8。
- -XX:NewSize=1024m：設(shè)置年輕代初始值為1024M。
- -XX:MaxNewSize=1024m：設(shè)置年輕代最大值為1024M。
- -XX:PermSize=256m：設(shè)置持久代初始值為256M。
- -XX:MaxPermSize=256m：設(shè)置持久代最大值為256M。
- -XX:NewRatio=4：設(shè)置年輕代（包括1個Eden和2個Survivor區(qū)）與年老代的比值。表示年輕代比年老代為1:4。
- -XX:SurvivorRatio=4：設(shè)置年輕代中Eden區(qū)與Survivor區(qū)的比值。表示2個Survivor區(qū)（JVM堆內(nèi)存年輕代中默認(rèn)有2個大小相等的Survivor區(qū)）與1個Eden區(qū)的比值為2:4，即1個Survivor區(qū)占整個年輕代大小的1/6。
- -XX:MaxTenuringThreshold=7：表示一個對象如果在Survivor區(qū)（救助空間）移動了7次還沒有被垃圾回收就進(jìn)入年老代。如果設(shè)置為0的話，則年輕代對象不經(jīng)過Survivor區(qū)，直接進(jìn)入年老代，對于需要大量常駐內(nèi)存的應(yīng)用，這樣做可以提高效率。如果將此值設(shè)置為一個較大值，則年輕代對象會在Survivor區(qū)進(jìn)行多次復(fù)制，這樣可以增加對象在年輕代存活時間，增加對象在年輕代被垃圾回收的概率，減少Full GC的頻率，這樣做可以在某種程度上提高服務(wù)穩(wěn)定性。
疑問解答
-Xmn，-XX:NewSize/-XX:MaxNewSize，-XX:NewRatio 3組參數(shù)都可以影響年輕代的大小，混合使用的情況下，優(yōu)先級是什么？
如下：
- 高優(yōu)先級：-XX:NewSize/-XX:MaxNewSize
- 中優(yōu)先級：-Xmn（默認(rèn)等效 -Xmn=-XX:NewSize=-XX:MaxNewSize=?）
- 低優(yōu)先級：-XX:NewRatio
推薦使用-Xmn參數(shù)，原因是這個參數(shù)簡潔，相當(dāng)于一次設(shè)定 NewSize/MaxNewSIze，而且兩者相等，適用于生產(chǎn)環(huán)境。-Xmn 配合 -Xms/-Xmx，即可將堆內(nèi)存布局完成。
-Xmn參數(shù)是在JDK 1.4 開始支持。
垃圾回收器選擇
JVM給出了3種選擇：串行收集器、并行收集器、并發(fā)收集器。串行收集器只適用于小數(shù)據(jù)量的情況，所以生產(chǎn)環(huán)境的選擇主要是并行收集器和并發(fā)收集器。
默認(rèn)情況下JDK5.0以前都是使用串行收集器，如果想使用其他收集器需要在啟動時加入相應(yīng)參數(shù)。JDK5.0以后，JVM會根據(jù)當(dāng)前系統(tǒng)配置進(jìn)行智能判斷。
串行收集器
- -XX:+UseSerialGC：設(shè)置串行收集器。
并行收集器（吞吐量優(yōu)先）
- -XX:+UseParallelGC：設(shè)置為并行收集器。此配置僅對年輕代有效。即年輕代使用并行收集，而年老代仍使用串行收集。
- -XX:ParallelGCThreads=20：配置并行收集器的線程數(shù)，即：同時有多少個線程一起進(jìn)行垃圾回收。此值建議配置與CPU數(shù)目相等。
- -XX:+UseParallelOldGC：配置年老代垃圾收集方式為并行收集。JDK6.0開始支持對年老代并行收集。
- -XX:MaxGCPauseMillis=100：設(shè)置每次年輕代垃圾回收的最長時間（單位毫秒）。如果無法滿足此時間，JVM會自動調(diào)整年輕代大小，以滿足此時間。
- -XX:+UseAdaptiveSizePolicy：設(shè)置此選項后，并行收集器會自動調(diào)整年輕代Eden區(qū)大小和Survivor區(qū)大小的比例，以達(dá)成目標(biāo)系統(tǒng)規(guī)定的最低響應(yīng)時間或者收集頻率等指標(biāo)。此參數(shù)建議在使用并行收集器時，一直打開。
并發(fā)收集器（響應(yīng)時間優(yōu)先）
- -XX:+UseConcMarkSweepGC：即CMS收集，設(shè)置年老代為并發(fā)收集。CMS收集是JDK1.4后期版本開始引入的新GC算法。它的主要適合場景是對響應(yīng)時間的重要性需求大于對吞吐量的需求，能夠承受垃圾回收線程和應(yīng)用線程共享CPU資源，并且應(yīng)用中存在比較多的長生命周期對象。CMS收集的目標(biāo)是盡量減少應(yīng)用的暫停時間，減少Full GC發(fā)生的幾率，利用和應(yīng)用程序線程并發(fā)的垃圾回收線程來標(biāo)記清除年老代內(nèi)存。
- -XX:+UseParNewGC：設(shè)置年輕代為并發(fā)收集?？膳cCMS收集同時使用。JDK5.0以上，JVM會根據(jù)系統(tǒng)配置自行設(shè)置，所以無需再設(shè)置此參數(shù)。
- -XX:CMSFullGCsBeforeCompaction=0：由于并發(fā)收集器不對內(nèi)存空間進(jìn)行壓縮和整理，所以運(yùn)行一段時間并行收集以后會產(chǎn)生內(nèi)存碎片，內(nèi)存使用效率降低。此參數(shù)設(shè)置運(yùn)行0次Full GC后對內(nèi)存空間進(jìn)行壓縮和整理，即每次Full GC后立刻開始壓縮和整理內(nèi)存。
- -XX:+UseCMSCompactAtFullCollection：打開內(nèi)存空間的壓縮和整理，在Full GC后執(zhí)行?？赡軙绊懶阅埽梢韵齼?nèi)存碎片。
- -XX:+CMSIncrementalMode：設(shè)置為增量收集模式。一般適用于單CPU情況。
- -XX:CMSInitiatingOccupancyFraction=70：表示年老代內(nèi)存空間使用到70%時就開始執(zhí)行CMS收集，以確保年老代有足夠的空間接納來自年輕代的對象，避免Full GC的發(fā)生。
其它垃圾回收參數(shù)
- -XX:+ScavengeBeforeFullGC：年輕代GC優(yōu)于Full GC執(zhí)行。
- -XX:-DisableExplicitGC：不響應(yīng) System.gc() 代碼。
- -XX:+UseThreadPriorities：啟用本地線程優(yōu)先級API。即使
java.lang.Thread.setPriority() 生效，不啟用則無效。 - -XX:SoftRefLRUPolicyMSPerMB=0：軟引用對象在最后一次被訪問后能存活0毫秒（JVM默認(rèn)為1000毫秒）。
- -XX:TargetSurvivorRatio=90：允許90%的Survivor區(qū)被占用（JVM默認(rèn)為50%）。提高對于Survivor區(qū)的使用率。
輔助信息參數(shù)設(shè)置
- -XX:-CITime：打印消耗在JIT編譯的時間。
- -XX:ErrorFile=./hs_err_pid.log：保存錯誤日志或數(shù)據(jù)到指定文件中。
- -XX:HeapDumpPath=./java_pid.hprof：指定Dump堆內(nèi)存時的路徑。
- -XX:-HeapDumpOnOutOfMemoryError：當(dāng)首次遭遇內(nèi)存溢出時Dump出此時的堆內(nèi)存。
- -XX:OnError=";"：出現(xiàn)致命ERROR后運(yùn)行自定義命令。
- -XX:OnOutOfMemoryError=";"：當(dāng)首次遭遇內(nèi)存溢出時執(zhí)行自定義命令。
- -XX:-PrintClassHistogram：按下 Ctrl+Break 后打印堆內(nèi)存中類實(shí)例的柱狀信息，同JDK的 jmap -histo 命令。
- -XX:-PrintConcurrentLocks：按下 Ctrl+Break 后打印線程棧中并發(fā)鎖的相關(guān)信息，同JDK的 jstack -l 命令。
- -XX:-PrintCompilation：當(dāng)一個方法被編譯時打印相關(guān)信息。
- -XX:-PrintGC：每次GC時打印相關(guān)信息。
- -XX:-PrintGCDetails：每次GC時打印詳細(xì)信息。
- -XX:-PrintGCTimeStamps：打印每次GC的時間戳。
- -XX:-TraceClassLoading：跟蹤類的加載信息。
- -XX:-TraceClassLoadingPreorder：跟蹤被引用到的所有類的加載信息。
- -XX:-TraceClassResolution：跟蹤常量池。
- -XX:-TraceClassUnloading：跟蹤類的卸載信息。
關(guān)于參數(shù)名稱等
- 標(biāo)準(zhǔn)參數(shù)（-），所有JVM都必須支持這些參數(shù)的功能，而且向后兼容；例如：
- -client——設(shè)置JVM使用Client模式，特點(diǎn)是啟動速度比較快，但運(yùn)行時性能和內(nèi)存管理效率不高，通常用于客戶端應(yīng)用程序或開發(fā)調(diào)試；在32位環(huán)境下直接運(yùn)行Java程序默認(rèn)啟用該模式。
- -server——設(shè)置JVM使Server模式，特點(diǎn)是啟動速度比較慢，但運(yùn)行時性能和內(nèi)存管理效率很高，適用于生產(chǎn)環(huán)境。在具有64位能力的JDK環(huán)境下默認(rèn)啟用該模式。
- 非標(biāo)準(zhǔn)參數(shù)（-X），默認(rèn)JVM實(shí)現(xiàn)這些參數(shù)的功能，但是并不保證所有JVM實(shí)現(xiàn)都滿足，且不保證向后兼容；
- 非穩(wěn)定參數(shù)（-XX），此類參數(shù)各個JVM實(shí)現(xiàn)會有所不同，將來可能會不被支持，需要慎重使用；
JVM服務(wù)參數(shù)調(diào)優(yōu)實(shí)戰(zhàn)
大型網(wǎng)站服務(wù)器案例
承受海量訪問的動態(tài)Web應(yīng)用
服務(wù)器配置：8 CPU, 8G MEM, JDK 1.6.X
參數(shù)方案：
-server -Xmx3550m -Xms3550m -Xmn1256m -Xss128k -XX:SurvivorRatio=6 -XX:MaxPermSize=256m -XX:ParallelGCThreads=8 -XX:MaxTenuringThreshold=0 -XX:+UseConcMarkSweepGC
調(diào)優(yōu)說明：
- -Xmx 與 -Xms 相同以避免JVM反復(fù)重新申請內(nèi)存。-Xmx 的大小約等于系統(tǒng)內(nèi)存大小的一半，即充分利用系統(tǒng)資源，又給予系統(tǒng)安全運(yùn)行的空間。
- -Xmn1256m 設(shè)置年輕代大小為1256MB。此值對系統(tǒng)性能影響較大，Sun官方推薦配置年輕代大小為整個堆的3/8。
- -Xss128k 設(shè)置較小的線程棧以支持創(chuàng)建更多的線程，支持海量訪問，并提升系統(tǒng)性能。
- -XX:SurvivorRatio=6 設(shè)置年輕代中Eden區(qū)與Survivor區(qū)的比值。系統(tǒng)默認(rèn)是8，根據(jù)經(jīng)驗設(shè)置為6，則2個Survivor區(qū)與1個Eden區(qū)的比值為2:6，一個Survivor區(qū)占整個年輕代的1/8。
- -XX:ParallelGCThreads=8 配置并行收集器的線程數(shù)，即同時8個線程一起進(jìn)行垃圾回收。此值一般配置為與CPU數(shù)目相等。
- -XX:MaxTenuringThreshold=0 設(shè)置垃圾最大年齡（在年輕代的存活次數(shù)）。如果設(shè)置為0的話，則年輕代對象不經(jīng)過Survivor區(qū)直接進(jìn)入年老代。對于年老代比較多的應(yīng)用，可以提高效率；如果將此值設(shè)置為一個較大值，則年輕代對象會在Survivor區(qū)進(jìn)行多次復(fù)制，這樣可以增加對象再年輕代的存活時間，增加在年輕代即被回收的概率。根據(jù)被海量訪問的動態(tài)Web應(yīng)用之特點(diǎn)，其內(nèi)存要么被緩存起來以減少直接訪問DB，要么被快速回收以支持高并發(fā)海量請求，因此其內(nèi)存對象在年輕代存活多次意義不大，可以直接進(jìn)入年老代，根據(jù)實(shí)際應(yīng)用效果，在這里設(shè)置此值為0。
- -XX:+UseConcMarkSweepGC 設(shè)置年老代為并發(fā)收集。CMS（ConcMarkSweepGC）收集的目標(biāo)是盡量減少應(yīng)用的暫停時間，減少Full GC發(fā)生的幾率，利用和應(yīng)用程序線程并發(fā)的垃圾回收線程來標(biāo)記清除年老代內(nèi)存，適用于應(yīng)用中存在比較多的長生命周期對象的情況。
內(nèi)部集成構(gòu)建服務(wù)器案例
高性能數(shù)據(jù)處理的工具應(yīng)用
服務(wù)器配置：1 CPU, 4G MEM, JDK 1.6.X
參數(shù)方案：
-server -XX:PermSize=196m -XX:MaxPermSize=196m -Xmn320m -Xms768m -Xmx1024m
調(diào)優(yōu)說明：
- -XX:PermSize=196m -XX:MaxPermSize=196m 根據(jù)集成構(gòu)建的特點(diǎn)，大規(guī)模的系統(tǒng)編譯可能需要加載大量的Java類到內(nèi)存中，所以預(yù)先分配好大量的持久代內(nèi)存是高效和必要的。
- -Xmn320m 遵循年輕代大小為整個堆的3/8原則。
- -Xms768m -Xmx1024m 根據(jù)系統(tǒng)大致能夠承受的堆內(nèi)存大小設(shè)置即可。
在64位服務(wù)器上運(yùn)行應(yīng)用程序，構(gòu)建執(zhí)行時，用 jmap -heap 11540 命令觀察JVM堆內(nèi)存狀況如下：
Attaching to process ID 11540, please wait...
Debugger attached successfully.
Server compiler detected.
JVM version is 20.12-b01
using thread-local object allocation.
Parallel GC with 4 thread(s)
Heap Configuration:
MinHeapFreeRatio = 40
MaxHeapFreeRatio = 70
MaxHeapSize = 1073741824 (1024.0MB)
NewSize = 335544320 (320.0MB)
MaxNewSize = 335544320 (320.0MB)
OldSize = 5439488 (5.1875MB)
NewRatio = 2
SurvivorRatio = 8
PermSize = 205520896 (196.0MB)
MaxPermSize = 205520896 (196.0MB)
Heap Usage:
PS Young Generation
Eden Space:
capacity = 255852544 (244.0MB)
used = 101395504 (96.69828796386719MB)
free = 154457040 (147.3017120361328MB)
39.63044588683081% used
From Space:
capacity = 34144256 (32.5625MB)
used = 33993968 (32.41917419433594MB)
free = 150288 (0.1433258056640625MB)
99.55984397492803% used
To Space:
capacity = 39845888 (38.0MB)
used = 0 (0.0MB)
free = 39845888 (38.0MB)
0.0% used
PS Old Generation
capacity = 469762048 (448.0MB)
used = 44347696 (42.29325866699219MB)
free = 425414352 (405.7067413330078MB)
9.440459523882184% used
PS Perm Generation
capacity = 205520896 (196.0MB)
used = 85169496 (81.22396087646484MB)
free = 120351400 (114.77603912353516MB)
41.440796365543285% used
結(jié)果是比較健康的。
