JVM(一)
# 1. JVM与java体系
JVM是一个跨语言的平台,在java7的发布之后,java虚拟机的设计者们通过JSR-292规范基本实现在java虚拟机上运行非java语言编写的程序
# 1.1 字节码
- 对于字节码的理解,任何能在jvm平台上执行的字节码格式都是一样的。所以应该统称为jvm字节码
- 不同的编译器,可以编译出相同的字节码文件,字节码文件也可以在不同的JVM上运行
- java虚拟机与- java语言没有必然的联系,它只与特定的二进制文件格式——- Class文件格式所关联,- class文件中包含了- java虚拟机指令集(或者称为字节码- Bytecodes)和符号表,还有一些其它辅助信息
# 1.2 多语言混合编程
- java平台上,通过特定领域的语言去解决特定领域的问题是当前软件开发的一个趋势
- 某一个项目 
- 各种语言之间的交互不存在任何困难,就像使用自己语言的原生 - API一样,因为它们最终都运行在一个虚拟机上
- 对于运行在 - java虚拟机之上、- java之外的语言,来自系统级、底层的支持正在迅速曾倩,以- JSR-292为核心的一系列项目和功能改进- Vinci Machine Nashorn InvokeDynamic java.lang.invoke
# 1.3 虚拟机
# 1.3.1 虚拟机
- 所谓虚拟机 - virtual machine,就是一台虚拟的计算机,它是一款软件,用来执行一系列虚拟计算机指令。大体上,虚拟机可以分为系统虚拟机和程序虚拟机- virtual box,- VMware就属于系统虚拟机,它们完全是对物理计算机的仿真,提供了一个可运行完整操作系统的软件平台- 程序虚拟机的典型代表就是 - java虚拟机,它专门执行单个计算机程序而设计,在- java虚拟机中执行的指令我们称为- java字节码指令
- 无论是系统虚拟机还是程序虚拟机,在上面运行的软件都被限制于虚拟机提供的资源中 
# 1.3.2 java虚拟机
- java虚拟机是一台执行- java字节码的虚拟计算机,它拥有独立的运行机制,其运行的- java字节码也未必是- java语言编译而成
- JVM平台的各种语言可以共享- java虚拟机带来的跨平台性、优秀的垃圾回收器,以及可靠的即时编译器
- java技术的核心就是- java虚拟机,因为所有的- java程序都运行在- java虚拟机内部
- java虚拟机就是二进制字节码的运行环境,负责装载字节码到其内部,解释/编译为对应平台上的机器指令执行。每一条- java指令,- java虚拟机规范都有详细定义
- 特点 - 一次编译,到处运行 - 自动内存管理 - 自动垃圾回收机制 
# 1.4 java整体结构
- HotSpot VM目前市面上高性能虚拟机的代表作之一
- 它采用解释起与即时编译器并存的架构
 
 # 1.5 java代码执行流程
# 1.6 JVM架构模型
java编译器输入的指令流基本上是一种基于栈的指令集架构,另外一种指令集架构则是基于寄存器的指令集架构
具体来说:这两种架构之间的区别
# 1.6.1 基于栈式架构
- 设计和实现更简单,适用于资源受限的系统
- 避开了寄存器的分配难题:使用零地址指令方式分配
- 指令流中的大部分是零地址指令,其执行过程依赖于操作栈。指令集更小,编译器容易实现
- 不需要硬件支持,可移植性好,更好实现跨平台
# 1.6.2 基于寄存器架构
- 典型的应用是x86的二进制指令集:比如传统的PC以及Android的Davlik虚拟机
- 指令集架构则完全依赖硬件,可移植性差
- 性能优秀和执行高效
- 花费更少的指令完成一项操作
- 在大部分情况下,基于寄存器架构的指令集往往都以一地址指令、二地址指令和三地址指令为主,而基于栈式架构的指令集都是以零地址指令为主
# 1.6.3 总结
由于跨平台性的设计,Java的指令都是根据栈来设计的。
# 1.7 JVM的生命周期
虚拟机的启动
Java虚拟机的启动是通过引导类加载器bootstrap class loader创建一个初始类initial class 来完成的,这个类是由虚拟机的具体实现指定的
虚拟机的运行
- 一个运行中的JaVA虚拟机有着一个清晰的任务:执行java程序
- 程序开始执行时它才运行,程序结束时它就停止
- 执行一个所谓的Java程序的时候,真真正正在执行的是一个叫做Java虚拟机的进程
虚拟机的退出
- 程序正常执行结束
- 程序在执行过程中遇到了异常或者错误而异常终止
- 由于操作系统出现错误而导致Java虚拟机进程终止
- 某线程调用Runtime类或System类的exit方法,或Runtime类的Halt方法,并且Java安全管理器也允许这次exit或halt操作
- 除此之外,JNI(Java Native Interface)规范描述了用JNI Invocation API来加载或卸载Java虚拟机时,Java虚拟机的退出情况
# 2. 类加载子系统
# 2.1 类加载的过程
 
 - 类加载子系统负责从文件系统或者网络中加载Class文件,class文件在文件开头有特定的文件标识
- ClassLoader只负责- calss文件的加载,至于它是否可以运行,则由- Execution Engine决定
- 加载的类信息存放于一块称为方法区的内存空间。除了类的信息外,方法区中还会存放运行时常量池信息,可能还包括字符串字面量和数字常量(这部分常量信息是Class文件中常量池部分的内存映射)
# 2.1.1 加载
- 通过一个类的全限定名获取定义此类的二进制字节流
- 将这个字节流所代表的静态存储结构转化为方法区的运行时数据结构
- 在内存中生成一个代表这个类的java.lang.Class对象,作为方法区这个类的各种数据的访问入口
加载字节码文件的方式
- 从本地系统中直接加载
- 通过网络获取Web Applet
- 从压缩包中读取zip、jar、war
- 运行时计算生成,动态代理技术
- 由其他文件生成,典型场景:JSP应用
- 从专有数据库中提取.class文件
- 从加密文件中获取,典型的防Class文件被反编译的保护措施
# 2.1.2 链接
链接包括
- 验证 - Verify- 目的在于确保 - Class文件的字节流中包含信息符合当前虚拟机的要求,保证加载类的正确性,不会危害虚拟机自身安全- 主要包括四种验证,文件格式验证,元数据验证,字节码验证,符号引用验证 
- 准备 - Prepare- 为类变量分配内存并且设置该类的默认初始值,即零值 - 这里包括含用 - final修饰的- static,因为- final在编译的时候就会分配了,准备阶段会显式初始化- 这里不会为实例变量分配初始化,类变量会分配在方法区中,而实例变量会随着对象一起分配到 - java堆中
- 解析 - Resolve- 将常量池内的符号引用转换为直接引用的过程 - 事实上,解析操作往往会伴随着 - JVM在执行完初始化之后再执行- 符号引用就是一组符号来描述所引用的目标,符号引用的字面量形式明确定义在 - Java虚拟机规范的- Class文件格式中,直接引用就是目标的指针、相对偏移量或一个间接定位到目标的句柄- 解析动作主要针对类或接口、字段、类方法、接口方法、方法类型等。对应常量池中的 - CONSTANT_Class_info、- CONSTANT_Fieldref_info、- CONSTANT_Methodref_info等
# 2.1.3 初始化
- 初始化阶段就是执行类构造器方法<clinit>()的过程
- 此方法不需定义,是javac编译器自动收集类中的所有类变量的赋值动作和静态代码块中的语句合并而来
- 构造器方法中指令按语句在源文件中出现的顺序执行
- <clinit>()不同于类的构造器。(关联:构造器是虚拟机视角下的- <init>())
- 若该类具有父类,JVM会保证子类的<clinit>()执行前,父类的<clinit>()已执行完毕
- 虚拟机必须保证一个类的<clinit>()方法在多线程下被同步加锁
# 2.2 类加载器
- JVM支持两种类型的类加载器,分别是引导类加载器- Bootstrap ClassLoader和自定义类加载器- User-Defined ClassLoader
- 从概念上来讲,自定义类加载器一般指的是程序中由开发人员自定义的一类类加载器,但是java虚拟机规范却没有这么定义,而是将所有派生于抽象类ClassLoader的类加载器都划分为自定义类加载器
- 无论类加载器的类型如何划分,在程序中我们最常见的类加载器始终只有3个
四者的关系不是继承而是包含
public class ClassLoaderTest {
    @Test
    public void test() {
        // 获取系统类加载器
        ClassLoader systemClassLoader = ClassLoader.getSystemClassLoader();
        System.out.println(systemClassLoader); // jdk.internal.loader.ClassLoaders$AppClassLoader@2437c6dc
        // 获取系统类加载器的上层,扩展类加载器
        ClassLoader extClassLoader = systemClassLoader.getParent();
        System.out.println(extClassLoader); // jdk.internal.loader.ClassLoaders$PlatformClassLoader@7c30a502
        // 获取扩展类加载器的上层,引导类加载器
        ClassLoader bootstrapClassLoader = extClassLoader.getParent();
        System.out.println(bootstrapClassLoader); // null
        // 对于用户自定义类来说,默认使用系统类加载器进行加载
        ClassLoader classLoader = ClassLoaderTest.class.getClassLoader();
        System.out.println(classLoader); // jdk.internal.loader.ClassLoaders$AppClassLoader@2437c6dc
    }
}
Java的核心类库都是使用引导类加载器进行加载的
# 2.2.1 虚拟机再带的加载器
启动类加载器
启动类加载器(引导类加载器,Bootstrap ClassLoader)
- 这个类加载器是使用C/C++实现,嵌套在JVM内部
- 并不是继承自java.lang.ClassLoader,没有父加载器
- 是加载扩展类和应用程序的类加载器,并指定为他们的父类加载器
- 处于安全的考虑,Bootstrap启动类只加载包名为java、javax、sun等开头的类
扩展类加载器
扩展类加载器(Extension ClassLoader)
- Java语言编写,由- sun.misc.Lanucher$ExClassLoader实现
- 派生于ClassLoader类,父类加载器为启动类加载器
- 从java.ext.dirs系统属性所指定的目录中加载类库,或从JDK的安装目录的jre/lib/ext子目录下加载类库。如果用户创建的JAR放在此目录下,也会自动由扩展类加载器加载
应用程序类加载器
- java语言编写,由- sun.misc.Launcher$AppClassLoader实现
- 派生于ClassLoader类,父类加载器为扩展类加载器
- 它负责加载环境变量classpath或系统属性java.class.path指定路径下的类库
- 该类加载是程序中默认的类加载器,一般来说,Java应用的类都是由它来完成加载
- 通过ClassLoader.getSystemClassLoader()方法可以获取到该类加载器
# 2.2.2 用户自定义的加载器
大部分场景下,类的加载是由上述的三种类加载器相互配合执行,在一些特殊的场景下,可以自定义类加载器来定制类的加载方式
- 隔离加载类
- 修改类加载的方式
- 扩展加载源
- 防止源码泄露
自定义类加载器步骤
- 开发人员可以通过继承抽象类java.lang.ClassLoader类的方式,实现自己的类加载器,一满足一些特殊的需求
- 继承ClassLoader类名重写findClass()方法
- 在编写自定义类加载器时,如果没有太过于复杂的需求,可以直接继承URLClassLoader类,这样就可以避免自己去编写findClass()方法及其获取字节码流的方式,使自定义类加载器编写更加简洁
# 2.2.3 ClassLoader
ClassLoader类,它是一个抽象类,其后所有类加载器都继承自ClassLoader(不包括启动类加载器)
| 方法名称 | 描述 | 
|---|---|
| getParent() | 返回该类加载器的超类加载器 | 
| loadClass(String name) | 加载名称为name的类,返回结果java.lang.Class类的实例 | 
| findClass(String name) | 查找名称为name的类,返回结果java.lang.Class类的实例 | 
| findLoadedClass(String name) | 查找名称为name且已经被加载过的类,返回结果java.lang.Class的实例 | 
| defineClass(String name, byte[] b, int off, int len) | 把字节数组b中的内容转换为一个java类,返回结果为java.lang.Class的实例 | 
| resolveClass(Class<?> c) | 连接指定的一个java类 | 
# 2.3 双亲委派机制
Java虚拟机对class文件采用的是按需加载的方式,也就是说当需要使用该类时才会将它的class文件加载到内存生成class对象。而且加载某个类的class文件时,Java虚拟机采用的是双亲委派模式,即把请求交由父类处理,它是一种任务委派模式
# 2.3.1 工作原理
 
 - 如果一个类加载器收到了类加载请求,它并不会自己先去加载,而是把这个请求委托给父类的加载器去执行
- 如果父类加载器还存在其父类加载器,则进一步向上委托,依次递归,请求最终到达顶层的启动类加载器
- 如果父类加载器可以完成类加载器任务,就成功返回,倘若父类加载器无法完成此加载任务,子加载器才会尝试自己去加载,这就是双亲委派模式
# 2.3.2 双亲委派的优点
- 避免类的重复加载 
- 保护程序安全,防止核心 - API被随意篡改
- 沙箱安全机制 - 如自定义 - String类,但是在加载自定义- String类的时候会率先使用引导类加载器加载,而引导类加载器在加载的过程中会先加载- JDK自己的包,所以就会忽略自定义的类。这样可以保证对- java核心源代码的保护
# 2.4 其它
在
JVM中表示两个class对象是否为同一个类的两个必要条件
- 类的完整类名必须一致(含包名)
- 加载这个类的ClassLoader必须相同
对类加载器的引用
JVM必须知道一个类是由启动类加载器加载的还是用户自定义的类加载器加载的。如果一个类是由用户类加载器加载的,那么JVM会将这个类加载器的一个引用作为类型信息的一部分保存在方法区中。当解析一个类型到另一个类型的饮用个的时候,JVM需要保证这两个类型的类加载器是相同的
主动使用和被动使用
主动使用
- 创建类的实例 
- 访问某个类或接口的静态变量,或者对该静态变量赋值 
- 调用类的静态方法 
- 反射(Class.forName("xxxx")) 
- 初始化一个类的子类 
- Java虚拟机启动时被标明为启动类的类
- JDK7开始提供的动态语言的支持- java.lang.invoke.MethodHandle实例的解析结果- REF_getStatic、- REF_putStatic、- REF_invokeStatic句柄对应的类没有初始化则初始化
被动使用
除了以上七种情况,其他使用Java类的方式都被看作是对类的被动使用,都不会导致类的初始化
# 3. 运行时数据区
 
 内存是非常重要的系统资源,是硬盘和CPU的中间仓库及桥梁,承载着操作系统和应用程序的事实运行。JVM内存布局规定了Java在运行过程中内存申请、分配、管理的策略,保证了JVM的高效稳定运行。不同的JVM对于内存的划分方式和管理机制存在着差异
 
 Java虚拟机定义了若干种程序运行期间会使用到的运行时数据区,其中有一些会随着虚拟机的启动而创建,随着虚拟机的退出而销毁。另外一些则是与线程一一对应的,这些与线程对应的数据区域会随着线程开始和结束而创建和销毁,比如第一幅图,红色的代表多个线程共享,灰色的代表单独线程私有
# 3.1 线程
- 线程是一个程序里的运行单元。JVM允许一个应用有多个线程并行的执行
- 在Hostspot JVM里,每个线程都与操作系统的本地线程直接映射。当一个Java想成准备好执行以后,此时一个操作系统的 本地线程也同时创建。Java线程执行终止后,本地线程也会回收
- 操作系统负责所有线程的安排调度到任何一个可用的CPU上。一旦本地线程初始化成功后,它就会调用Java线程中的run()方法
使用调试工具,能够在后台看到有许多线程在运行,这些后台不包括调用public static void main(String[] args)的main线程以及所有这个main线程自己创建的线程
- 虚拟机线程:这种线程的操作都是需要JVM达到安全点才会出现。这些操作必须在不同的线程中发生的原因是他们都需要JVM达到安全点,这样堆才不会变化。这种线程的执行类型包括stop-the-world的垃圾收集,线程栈收集,线程挂起以及偏向锁撤销
- 周期任务线程:这种线程是时间周期事件的体现(比如中断),他们一般用于周期性操作的调度执行
- GC线程:这种线程对- JVM里不同种类的垃圾收集行为提供了支持
- 编译线程:这种线程在运行时会将字节码编译成本地代码
- 信号调度线程:这种线程接受信号并发送给JVM,在它内部通过调用适当的方法进行处理
# 3.2 程序计数器
# 3.2.1 基本介绍
JVM中的程序计数寄存器Program Counter Register中,Register的命名源于CPU的寄存器,寄存器存储指令相关的现场信息。CPU只有把数据装载到寄存器才能够运行
注意
这里并非广义上的物理寄存器,JVM中的PC寄存器是对物理PC寄存器的一种抽象模拟。PC寄存器用来存储指向下一条指令的地址,也就是即将要执行的指令代码。由执行引擎读取下一条指令
 
 - 它是一块很小的内存空间,几乎可以忽略不计。也是运行速度最快的存储区域
- 在JVM规范中,每个线程都有它自己的程序计数器,是线程私有的,生命周期与线程的生命周期保持一致
- 任何时间一个线程都只有一个方法在执行,也就是所谓的当前方法。程序计数器会存储当前正在执行的JVM指令地址。特别地,如果是在执行navtive方法,则是未指定值undefined
- 它是程序控制流的指示器,分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成
- 字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令
- 它是唯一一个在Java虚拟机规范中没有规定任何OutOtMemoryError情况的区域
# 3.2.2 实例
public class Main {
    public static void main(String[] args) {
        int i = 10;
        int j = 20;
        int k = i + j;
    }
}
 0: bipush        10
 2: istore_1
 3: bipush        20
 5: istore_2
 6: iload_1
 7: iload_2
 8: iadd
 9: istore_3
 10: return
# 3.2.3 常见问题
- 使用 - PC寄存器存储字节码指令地址有什么用?- 因为 - CPU需要不停的切换各个线程,这时候切换回来以后,就需要知道接着从哪开始继续执行- JVM的字节码解释器就需要通过改变- PC寄存器的值来明确下一条应该执行什么样的字节码指令
- PC寄存器为什么被设定为线程私有的?- 我们都知道所谓的多线程在一个特定的时间段内只会执行其中某一个线程的方法, - CPU会不停地做任务切换,这样必然导致经常中断或者恢复。为了能够准确地记录各个线程正在执行的当前字节码指令地址,最好的办法就是为每一个线程都分配一个- PC寄存器,这样依赖各个线程之间便可以进行独立计算,而不会出现相互干扰的情况- 由于 - CPU时间片轮限制,众多线程在并发执行过程中,任何一个确定的时刻,一个处理器或者多核处理器中的一个内核,只会执行某个线程中的一条指令。这样必然导致经常中断或恢复,所以每个线程在创建后,都会产生自己的程序计数器和栈帧,程序计数器在各个线程之间互不影响
# 4. 虚拟机栈
由于跨平台性的设计,Java的指令都是根据栈来设计的。不同平台CPU架构不同,所以不能设计为基于寄存器的
优点:跨平台,指令集小,编译器容易实现,缺点是性能下降,实现同样的功能需要执行更多的指令
# 4.1 基本介绍
java虚拟栈
Java虚拟机栈Java Virtual Machine Stack,早期也叫Java栈。每个线程在创建时都会创建一个虚拟机栈(即线程私有),其内部保存一个个的栈帧Stack Frame,对应着一次次的Java方法调用。
生命周期
生命周期和线程一致
作用
主管Java程序的运行,它保存方法的局部变量、部分结果,并参与方法的调用和返回
优点
- 栈是一种快速有效的分配存储方式,访问速度仅次于程序计数器 
- JVM直接对- Java栈的操作只有两个:- 每个方法执行,伴随着进栈(入栈、压栈) - 执行结束后的出栈工作 
- 不存在垃圾回收问题 
 
 栈溢出
Java虚拟机规范允许Java栈的大小是动态的或者是固定不变的
- 如果采用固定大小的Java虚拟机栈,那每一个线程的Java虚拟机栈容量可以在线程创建的时候独立选定。如果线程请求分配的栈容量超过Java虚拟机栈允许的最大容量,Java虚拟机唱会抛出一个StackOverflowError异常
- 如果Java虚拟机栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的虚拟机栈,那Java虚拟机将会抛出一个OutOfMemoryError异常
设置栈的大小
可以使用参数-Xss选项来设置线程的最大栈空间,栈的大小直接决定了函数调用的最大可达深度
-Xss256K // KB
-Xss256M // MB
-Xss256G // GB
# 4.2 栈的存储单位
- 每个线程都有自己的栈,栈中的数据都是以栈帧Stack Frame的格式存在
- 在这个线程上正在执行的每个方法都各自对应一个栈帧Stack Frame
- 栈帧是一个内存区块,是一个数据集,维系着方法执行过程中的各种数据信息
- 在一条活动线程中,一个时间点上,只会有一个活动的栈帧。即只有当前正在执行的方法的栈帧。即只有当前正在执行的方法的栈帧(栈顶栈帧)是有效的,这个栈帧被称为当前栈帧Current Frame,与当前栈帧相对应的方法就是当前方法Current Method,定义这个方法的类就是当前类Current Class
- 执行引擎运行的所有字节码指令只针对当前栈帧进行操作
- 如果改方法中调用了其他方法,对应的新的栈帧会被创建出来,放在栈的顶端,成为新的当前帧
运行原理
- 不同线程中所包含的栈帧是不允许存在相互引用的,即不可能在一个栈帧中引用另外一个线程的栈帧
- 如果当前方法调用了其他方法,方法返回之际,当前栈帧会传回此方法的执行结果给前一个栈帧,接着,虚拟机栈会丢弃当前栈帧,使得前一个栈帧重新称为当前栈帧
- Java方法有两种返回函数的方式,一种是正常的函数返回,使用- return指令,另外一种抛出异常。不管使用哪种方式,都会导致栈帧被弹出
# 4.3 栈帧的内部结构
- 局部变量表Local Variables
- 操作数栈Operand Stack(表达式栈)
- 动态链接Dynamic Linking(或指向运行时常量池的方法引用)
- 方法返回地址Return Address(或方法正常退出或者异常退出的定义)
- 一些附加信息可选
 
 # 4.3.1 局部变量表
- 局部变量表也称为局部变量数组或本地变量表
- 定义为一个数字数组,主要用于存储方法参数和定义在方法体内的局部变量,这些数据类型、对象引用reference,以及returnAddress类型
- 由于局部变量表是建立在线程的栈上,是线程的私有数据,因此不存在数据安全问题
- 局部变量表所需的容量大小是编译期确定下来的,并保存在方法的Code属性的maximum local variables数据项中。在方法运行期间是不会改变局部变量表的大小的
slot
简介
- 参数值的存放总是在局部变量数组的 - index0开始,到数组长度- -1的索引结束
- 局部变量表,最基本的存储单元是 - slot
- 局部变量表种存放编译期可知的各种基本数据类型,引用类型 - reference,- returnAddress类型的变量
- 在局部变量表里,32位以内的类型只占一个 - slot(包括- returnAddress类型),64位的类型(long和double)占用两个- slot。- byte、- short、- char在存储前被转换为- int、- boolean也被转换为- int,0表示- false,非零表示- true- long和- double则占据两个- slot
理解
- JVM会为局部变量表中的每一个- slot都分配一个访问索引,通过这个索引即可成功访问到局部变量表中指定的局部变量值
- 当一个实例方法被调用的时候,它的方法参数和方法体内部定义的局部变量将会按照顺序被复制到局部变量表中的每一个slot上
- 如果需要访问局部变量表中一个64bit的局部变量值时,只需要使用前一个索引即可
- 如果当前帧是由构造方法或者实例方法创建的,那么该对象引用this会存放在index为0的slot处,其余的参数按照参数表顺序继续排列
public class StackTest {
    public static void main(String[] args) {
        new StackTest().test(new Date(), "测试");
    }
    public void test(Date data, String name) {
        int a = 10;
        double b = 20.0;
        char c = 'c';
    }
}
查看test方法的局部变量表
 
 注意:栈帧中的局部变量表中的槽位是可以重用的,如果一个局部变量过了其作用域,那么在其作用域之后申明的新的局部变量就很有可能会复用过期的局部变量的槽位,从而达到节省资源的目的
注意
在栈帧中,与性能调优关系最为密切的部分就是前面提到的局部变量表。在方法执行时,虚拟机使用局部变量表完成方法的传递
局部变量表中的变量也是重要的垃圾回收根节点,只要被局部变量表中直接或间接引用的对象都不会被回收
# 4.3.2 操作数栈
基本介绍
- 每一个独立的栈帧中除了包含局部变量表以外,还包含一个后进先出的操作数栈买也可以称为表达式栈 - Expression Stack
- 操作数栈,在方法执行过程中,根据字节码指,往栈中国年写入数据或提取数据,即入栈 - push出栈- pop- 某些字节码指令将值压入操作数栈,其余的字节码指令将操作数取出栈。使用它们后再把结果压入栈 - 比如:执行复制、交换、求和等操作 
- 操作数栈,主要用于保存计算过程的中间结果,同时作为计算机过程中变量临时的存储空间 
- 操作数栈就是 - JVM执行引擎的一个工作区,当一个方法刚开始执行的时候,一个新的栈帧也会随之被创建出来,这个方法的操作数栈是空的
- 每一个操作数栈都会拥有一个明确的栈深度用于存储数值,其所需的最大深度在编译期就定义好了,保存在方法的 - Code属性中,为- max_stack的值
- 栈中的任何一个元素都是可以任意的 - Java数据类型- 32bit的类型占用一个栈单位深度- 64bit的类型占用两个栈单位深度
- 操作数栈并非采用访问索引的方式来进行数据访问的,而是只能通过标准的入栈 - push和出栈- pop来完成一次数据访问
- 如果被调用的方法带有返回值的话,其返回值将会被压入当前栈帧的操作数栈中,并更新 - PC寄存器中下一条需要执行的字节码指令
- 操作数栈中元素的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译器期间进行验证,同时在类加载过程中的类检验阶段的数据流分析阶段再次验证 
- Java虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的就是操作数栈
案例演示
public class OperationTest {
    public void test() {
        int a = 0;
        int b = 1;
        int k = a + b;
    }
}
字节码
0 iconst_0
1 istore_1
2 iconst_1
3 istore_2
4 iload_1
5 iload_2
6 iadd
7 istore_3
8 return
# 4.3.3 栈顶缓存
由于操作数是存储在内存中的,因此频繁地执行内存读/写操作必然会影响执行速度。为了解决这个问题,HotSpot JVM的设计者们提出了栈顶缓存Top-of-Stack Cashing技术,将栈顶元素全部缓存在物理CPU的寄存器中,以此降低对内存的读/写次数,提升执行引擎的执行效率
# 4.3.4 动态链接
- 每一个栈帧内部都包含一个指向运行时常量池中该帧所属方法的引用。包含这个引用的目的就是为了当前方法的代码能够实现动态链接 - Dynamic Linking。比如:- invokedynamic指令
- 在 - Java源文件被编译到字节码文件中时,所有的变量和方法引用都作为符号引用- Symbolic Reference保存在- class文件的常量池里。比如:描述一个方法调用了另外的其他方法时,就是通过常量池中指向方法的符号引用来表示的,那么动态链接的作用就是为了将这些符号引用转换为调用方法的直接引用
- 为什么需要常量池? - 常量池的作用,就是为了提供一些符号和常量,便于指令的识别 
# 4.3.5 方法调用
在JVM中,将符号引用转换为调用方法的直接引用与方法的绑定机制相关
链接方式
静态链接:当一个字节码文件被装载进JVM内部时,如果被调用的目标方法在编译期可知,且运行期保持不变时。这种情况下将调用方法的符号引用转换为直接引用的过程称之为静态链接
动态链接:如果被调用的方法在编译期无法确定下来,也就是说,只能能够程序运行期将调用方法的符号引用转换为直接引用,由于这种引用转换过程具备动态性,因此也就称之为动态链接
绑定机制
对应的方法绑定机制:早期绑定和晚期绑定。绑定是一个字段、方法或者类在符号引用被替换为直接引用的过程,这仅仅发生一次
早期绑定:指被调用的目标方法如果在编译期可知,且运行期保持不变时,即可将这个方法与所属的类型进行绑定,这样一来,由于明确了被调用的目标方法究竟是哪一个,因此也就可以使用静态链接的方式将符号引用替换为直接引用
晚期绑定:如果被调用的方法在编译期无法被确定下来,只能够在程序运行期根据实际的类型绑定相关的方法,珍重绑定方式就称为晚期绑定
public class HuntableTest {
    public void test(Huntable huntable) {
        huntable.hunt(); // 晚期绑定
    }
}
class Dog implements Huntable {
    @Override
    public void hunt() {
        System.out.println("狗吃骨头");
    }
}
class Cat implements Huntable {
    @Override
    public void hunt() {
        System.out.println("猫吃鱼");
    }
}
interface Huntable{
    void hunt();
}
虚方法与非虚方法
非虚方法:如果方法在编译期就确定了具体的调用版本,这个版本在运行时是不可变的。这样的方法被称为非虚方法
静态方法、私有方法、final方法、实例构造器、父类方法都是非虚方法
方法调用指令
虚拟机中提供了以下几条方法调用指令
- 普通调用指令 - invokestatic # 调用静态方法,解析阶段确定唯一方法版本 invokespecial # 调用<init>方法、私有及父类方法,解析阶段确定唯一方法版本 invokeVirtual # 调用所有虚方法 invokeinterface # 调用接口方法
- 动态调用指令 - invokedynamic # 动态解析出需要调用的方法,然后执行- 前四条指令固化在虚拟机内部,方法的调用执行不可人为干涉,而 - invokedynamic指令则支持由用户确定方法版本。其中- invokestatic指令和- invokespecial指令调用的方法称为非虚方法,其余的(- final修饰的除外)称为虚方法- invokedynamic指令是- Java7中出现的指令,这是- Java为了实现动态类型语言支持而做的一种改进。但是- Java7中并没有提供直接生成- invokeddynamic指令的方法,需要借助- ASM这种底层字节码工具来产生- invokeddynamic指令。直到- Java8的- Lambda表达式的出现,- invokedymic指令的生成,在- Java中才有了直接的生成方式
示例
public class Father {
    public Father() {
        System.out.println("father的构造器");
    }
    public static void staticTest(String str) {
        System.out.println("father " + str);
    }
    public final void finalTest() {
        System.out.println("father final方法");
    }
    public void generalTest() {
        System.out.println("father 普通方法");
    }
}
class Son extends Father{
    public Son() {
        super(); // invokespecial
    }
    // 不是重写的静态方法,因为静态方法不能被重写
    public static void staticTest(String str) {
        System.out.println("son " + str);
    }
    private void privateTest() {
        System.out.println("son 私有方法");
    }
    public void show() {
        // invokestatic
        staticTest("good");
        // invokestatic
        super.staticTest("hello");
        // invokevirtual
        privateTest();
        // invokespecial
        super.generalTest();
        // invokevirtual
        finalTest();
        // invokevirtual
        generalTest();
    }
    public void generalTest() {
        System.out.println("son 普通方法");
    }
}
方法重写的本质
- 找到操作数栈顶的第一个元素所执行的对象的实际类型,记作C
- 如果类型C中找到与常量中的描述符合简单名称都相符的方法,则进行访问权限校验,如果通过则返回这个方法的直接引用,查找过程结束;如果不通过则返回java.lang.IllegalAccessError异常
- 否则按照继承关系从下往上依次对C的各个父类进行第2步的搜索和验证过程
- 如果始终没有找到合适的方法,则抛出java.lang.AbstractMethodError异常
虚方法表
- 在面向对象的编程中,会很频繁的使用到动态分配,如果每次动态分配的过程中都要重新在类的方法元数据中搜索合适的目标的话可能影响到执行效率。因此,为了提高性能,JVM采用在类的方法区建立一个虚方法表virtual method table(非虚方法不会出现在表中)来实现,使用索引表来代替查找
- 每个类中都有一个虚方法表,表中存放着各个方法的实际入口
- 创建时机:虚方法表会在类加载的链接阶段被创建并开始初始化,类的变量初始值准备完成之后,JVM会把该类的方法表也初始化完毕
 
 # 4.3.6 方法返回地址
方法返回地址、动态链接地址和一些附加信息又被称为栈数据区
- 存放调用该方法的 - PC寄存器的值
- 一个方法的结束,有两种方式 - 正常执行完成 - 出现未处理的异常,非正常退出 
- 无论通过哪种方式退出,在方法退出后都返回到该方法被调用的位置。方法正常退出时,调用者的 - PC计数器的值作为返回地址,即调用该方法的指令的下一条指令的地址。而通过异常退出的,返回地址是要通过异常表来确定,栈帧中一般不会保存这部分信息
- 一个方法在正常调用完成之后究竟需要使用哪一个返回指令还需要根据方法返回值的实际数据类型而定 
- 在字节码指令中,返回指令包含 - ireturn(当返回值是- boolean、- byte、- char、- short和- int类型时使用)、- lreturn、- freturn、- dreturn以及- areturn,另外还有一个- return指令提供声明为- void的方法、实例初始化方法、类和接口的初始化方法使用
- 在方法执行的过程中国年遇到了异常 - Exception,并且这个异常没有在方法内进行处理,也就是只要在本方法的异常表中没有搜索到匹配的异常处理器,就会导致方法退出。简称异常完成出口- 方法执行过程中抛出异常时的异常处理,存储一个异常处理表,方便在发生异常的时候找到处理异常的代码 
public class ReturnAddressTest {	// 3
    public void methodA() {			// 4
        try {						// 5
            int i = 1 / 0;			// 6
        } catch (Exception e) {		// 7
            e.printStackTrace();	// 8
        }							// 9
    }								// 10
}									// 11


# 5. 本地方法接口
# 5.1 什么是本地方法
本地方法Native Method:一个Native Method就是一个Java调用非Java代码的接口。
一个Native Method是这样的一个Java方法:该方法的实现由非Java语言实现,比如C。这个特征并非Java所特有,有很多其他的编程语言都有这一机制,比如在C++中,可以extern告知C++编译器去调用一个C的函数。本地接口的作用是融合不同的编程语言为Java所用,它的初衷是融合C/C++程序
# 5.2 为什么使用本地方法
Java使用起来非常方便,然而有些层次的任务用Java实现起来不容易,或者我们对程序的效率要求特别高时,就可考虑使用本地方法
与Java环境交互
有时Java应用需要与Java外面的环境交互,这是本地方法存在的主要原因。Java需要与一些底层系统,如操作系统或某些硬件交换信息时的情况。本地方法正是这样一种交流机制:它为我么提供了一个非常简洁的接口,而且我们无需去了解java应用之外的繁琐的细节
与操作系统交互
JVM支持着Java语言本身和运行时库,它是Java程序赖以生存的平台,它由一个解释器(解释字节码)和一些连接到本地代码的库组成。然而不管怎样,它毕竟不是一个完整的系统,它经常依赖与一些底层系统的支持。这些底层系统常常是强大的操作系统。通常使用本地方法,我们得以用Java实现了jre的与底层系统的交互,甚至JVM的一些部分就是使用C写的。还有,如果我们要使用一些Java语言本身没有提供封装的操作系统特性时,我们也需要使用本地方法
Sun' s Java
Sun的解释器是用C实现的,这使得它能像一些普通的C一样与外部交互。jre大部分是用Java实现的,它也通过一些本地方法与外界交互。例如;类java.lang.Thread的setPriority()方法是用java实现的,但是它实现调用的是该类里的本地方法setPriority0()。这个本地方法是用C实现的,并被植入JVM内部,在Windows 95的平台上,这个本地方法最终调用Win32 SetPriority() API。这是一个本地方法的具体实现由JVM直接提供,更多的情况是本地方法由外部的动态链接库external dynamic link library提供,然后被JVM调用
# 6. 本地方法栈
 
 - Java虚拟机栈用于管理- Java方法的调用,而本地方法栈用于管理本地方法的调用
- 本地方法栈,也是线程私有的 
- 允许被实现成固定或者是可动态扩展的内存大小(在内存溢出方面是相同的) - 如果线程请求分配的栈容量超过本地方法栈允许的最大容量, - Java虚拟机将会抛出一个- StackOverflowError异常。- 如果本地方法栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者创建新的线程时没有足够的内存去创建对应的本地方法栈,那么 - java虚拟机将会抛出一个- OutOfMemoryError异常
- 本地方法是使用 - C语言实现的
- 它的具体做法是 - Native Method Stack中登记- native方法,在- Execution Engine执行时加载本地方法库
- 当某个线程调用一个本地方法时,它就进入了一个全新的并且不再受虚拟机限制的世界。它和虚拟机拥有同样的权限 - 本地方法可以通过本地方法接口访问虚拟机内部的运行时数据区 - 它甚至可以直接使用本地处理器中的寄存器 - 直接从本地内存的堆中分配任意数量的内存 
- 并不是所有的 - JVM都支持本地方法。因为- Java虚拟机规范并没有明确要求本地方法栈的使用语言、具体实现方式、数据结构等。如果- JVM产品不打算支持- native方法,也可以无需实现本地方法栈
- 在 - Hotspot JVM中,直接将本地方法栈和虚拟机栈合二为一
# 7. 堆
# 7.1 基本概念
# 7.1.1 概述
- 一个JVM实例只存在一个堆内存,堆也是Java内存管理的核心区域
- Java堆区在- JVM启动的时候即被创建,其空间大小也就确定了。是- JVM管理的最大一块内存空间(堆内存的大小是可以调整的)
- 《Java虚拟机规范》规定,堆可以处于物理上不连续的内存空间中,但在逻辑上它应该被视为连续的
- 所有的线程共享Java堆,在这里还可以划分线程私有的缓冲区Thread Local Allocation Buffer, TLAB
- 《Java虚拟机规范》中对Java堆的描述是:所有的对象实例以及数组都应当在运行时分配在堆上
- 数组和对象可能永远不会存储在栈上,因为栈帧中保存引用,这个引用指向对象或者数组在堆中的位置
- 在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集的时候才会被移除
- 堆,是GC(Garbage Collection,垃圾收集器)执行垃圾回收的重点区域
# 7.1.2 内存细分
现代垃圾收集器大部分都基于分代收集理论设计,堆空间细分为
Java 7及之前堆内存逻辑上分为三部分:新生区+养老区+永久区
Java 8及之后堆内存逻辑上分为三部分:新生区+养老区+元空间
# 7.2 堆空间大小的设置
- Java堆区用于存储- Java对象实例,那么堆的大小在- JVM启动时就已经设定好了,可以通过- -Xmx和- -Xms来进行设置- -Xms堆的起始内存- -Xmx堆的最大内存
- 一旦堆区中的内存超过 - -Xmx所指定的最大内存时,将会抛出- OutOfMemoryError异常
- 通常会将 - -Xms和- -Xmx两个参数配置相同的,其目的就是为了能够在- Java垃圾回收机制清理完堆区后不需要重新分割计算堆区的大小,从而提高性能
- 默认情况下 - 初始内存大小:物理电脑内存大小/64 - 最大内存大小:物理电脑内存大小/4 
# 7.3 年轻代与老年代
 
 # 7.3.1 概述
- 存储在 - JVM中的- Java对象可以划分为两类- 一类是生命周期较短的瞬时对象,这类对象的创建和消亡都非常迅速 - 另外一类对象的声明周期却非常长,在某些极端的情况下还能够与 - JVM的生命周期保持一致
- Java堆区进一步细分的话,可以划分为年轻代- YoungGen和老年代- OldGen
- 其中年代又可以划分为 - Eden空间、- Survivor0空间和- Survivor1空间(有时也叫做- from区、- to区)
# 7.3.2 默认大小
 
 - 默认-XX:NewRatio=2,表示新生代占1,老年代占2,新生代占整个堆的1/3
- 可以修改-XX:NewRation=4,表示新生代占1,老年代占4,新生代占整个堆的1/5
Survivor
- 在HotSpot中,Eden空间和另外两个Survivor空间缺省所占的比例是8:1:1
- 可以通过选项-XX:SurvivorRatio调整整个空间比例。比如-XX:SurvivorRatio=8
- 几乎所有的Java对象都是在Eden区被new出来的
- 绝大部分的Java对象的销毁都在新生代进行
- 可以使用选项-Xmn设置新生代最大内存大小
# 7.4 对象分配过程
 
 - new的对象先放伊甸园。此区有大小限制 
- 当伊甸园的空间被填满时,程序又需要创建对象, - JVM的垃圾回收器将对伊甸园区进行垃圾回收- Minor GC,将伊甸园区中的不再被其他对象所引用的对象进行销毁。再加载新的对象放到伊甸园区 
- 然后将伊甸园中剩余对象移动到幸存者0区 
- 如果再次触发垃圾回收,此时在上次幸存下来的放到幸存者0区的对象,如果没有回收,就会放到幸存者1区 
- 如果再次触发垃圾回收,此时会重新放回幸存者0区,接着再去幸存者1区 
- 对象在幸存者区中的每一次移动都会使它的年龄加1当年龄达到15时便会移去养老区,可以通过参数 - -XX:MaxTenuringThreshold=<N>进行设置 
# 7.5 MinorGC、Major GC、Full GC
JVM在进行GC,并非每次都对上面三个内存区域(新生代、老年代、方法区)一起回收的,大部分时候回收的都是指新生代
针对HotSpot VM的实现,它里面的GC按照回收区域又分为两大类型:一种是部分收集Partial GC,一种是整体收集Full GC
部分收集
不是完整收集整个Java堆的垃圾收集。其中又分为
- 新生代收集 - Minor GC / Young GC:只是新生代的垃圾收集
- 老年代收集 - Major GC / Old GC:只是老年代的垃圾收集- 目前,只有 - CMS GC会有单独收集老年代的行为- 注意,很多时候 - Major GC会和- Full GC混淆使用,需要具体分辨是老年代回收还是整堆回收
- 混合收集 - Mixed GC:收集整个新生代以及部分老年代的垃圾收集- 目前,只有 - G1 GC会有这种行为
整堆收集
整堆收集Full GC:收集整个Java堆和方法区的垃圾收集
# 7.5.1 年轻代GC
年轻代GC(Minor GC)触发机制
- 当年轻代空间不足时,就会触发Minor GC,这里的年轻代满指的是Eden区满,Survior满不会引发GC。每次Minor GC会清理年轻代的内存
- 因为Java对象大多都具备朝生夕灭的特性,所以Minor GC非常频繁,一般回收速度也比较快
- Minor GC会引发- STW,暂停其他用户的线程,等垃圾回收结束,用户线程才恢复运行
# 7.5.2 老年代GC
老年代GC(Major GC/Full GC)触发机制
- 指发生在老年代的 - GC,对象从老年代消失时,我们说- Major GC或- Full GC发生了
- 出现了 - major GC,经常会伴随着至少一次的- minor GC(但非绝对的,在- Parallel Scavenge收集器的收集策略这里就有直接进行- Major GC的策略选择过程)- 也就是则老年代空间不足时,会先尝试触发 - Minor GC。如果之后空间还不足,则触发- Major GC
- Major GC的速度一般会比- Minor GC慢10倍以上,- STW的时间更长
- 如果 - Major GC后,内存还是不足,就报- OOM了
- Major GC的速度一般会比- Minor GC慢10倍以上
# 7.5.3 Full GC
Full GC触发机制有以下五种
- 调用System.gc()时,系统建议执行Full GC,但不是必然执行
- 老年代空间不足
- 方法区空间不足
- 通过Minor GC后进入老年代的平均大小大于老年代的可用内存
- 由Eden区、Survior space0(From Space)区向Survior space1(To Space)区复制时,对象大小大于To Space可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象大小
# 7.6 堆空间分代
为什么需要把Java堆分代?不分代就不能正常工作了吗?
经研究,不同对象的声明周期不同。70%-99%的对象是临时对象
- 新生代:有Eden、两块大小相同的Survivor(又称为from/to,s0/s1)构成,to总为空
- 老年代:存放新生代中经历多次GC仍然存活的对象
不分代完全可以,分代的唯一理由就是优化GC性能
# 7.7 内存分配策略
如果对象在Eden出生并经过第一次MinorGC后任然存活,并且能被Survior容纳的话,将被移动到Survivor空间中,并将对象年龄设为1.对象在Survivor区中每熬过一次MinorGC,年龄就增加1岁,当它的年龄增加到一定程度(默认为15岁,其实每个JVM、每个GC都有所不同)时,就会被晋升到老年代中。
内存分配策略(或对象提升)
- 优先分配到 - Eden
- 大对象直接分配到老年代 - 尽量避免程序中出现过多的大对象 
- 长期存活的对象分配到老年代 
- 动态对象年龄判断 - 如果 - Survivor区中相同年龄的所有对象大小的总和大于- Survivor空间的一半,年龄大于或等于该年龄的对象可以直接进入老年代,无需等到- MaxTenuringThreshold中要求的年龄
- 空间分配担保 - -XX:HandlePromotionFailure
# 7.8 TLAB
 
 什么是TLAB?
- 从内存模型而不是垃圾收集的角度,对Eden区域继续进行划分,JVM为每个线程分配了一个私有缓存区域,它包含在Eden空间内
- 多线程同时分配内存时,使用TLAB可以避免一系列的非线程安全问题。同时还能够提升内存分配的吞吐量,因此我们可以将这种内存分配方式称为快速分配策略
为什么有TLAB(Thread Loacl Allocation Buffer)
- 堆区是线程共享区域,任何线程都可以访问到堆区中的共享数据
- 由于对象实例的创建在JVM中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的
- 为避免多个线程操作同一地址,需要使用加锁等机制,进而影响分配速度
TLAB的说明
- 尽管不是所有的对象实例都能够在TLAB中成功分配内存,但JVM确实是将TLAB作为内存分配的首选
- 在程序中,开发人员可以通过选项-XX:UseTLAB设置是否开启TLAB空间
- 默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%,当我们可以通过选项-XX:TLABWasteTargetPercent设置TLAB空间所占用空间的百分比大小
- 一旦对象在TLAB空间分配内存失败时,JVM就会尝试着通过使用加锁机制确保数据操作的原子性,从而直接在Eden空间中分配内存
# 7.9 堆空间参数设置
- 查看所有的参数的默认初始值 - -XX:+PrintFlagesInitial
- 查看所有的参数的最终值 - -XX:+PrintFlagsFinal
- 初始堆空间内存(默认为物理内存的1/64) - -Xms
- 最大堆空间内存(默认为物理内存的1/4) - -Xmx
- 设置新生代的大小 - -Xmn
- 配置新生代与老年代在堆结构的占比 - -XX:NewRatio
- 设置新生代中 - Eden和- S0和- S1空间的比例- -XX:SurvivorRatio
- 设置新生代垃圾的最大年龄 - -XX:+MaxTenuringThreshold
- 输出详细的 - GC处理日志- -XX:+PrintGC -verbose:gc
- 是否设置空间分配担保 - -XX:HandlePromotionFailure
在发生Minor GC之前,虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间
- 如果大于,则此次 - Minor GC是安全的
- 如果小于,则虚拟机会查看 - -XX:HandlePromotionFailure设置值是否允许担保失败- 如果 - handlePromotionFailure=true,那么继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小- 如果大于,则尝试进行一次Minor GC,但这次Minor GC依然是有风险的
- 如果小于,则改为进行一次Full GC
 - 如果 - HandlePromotionFailure=false,则改为进行一次- Full GC
- 如果大于,则尝试进行一次
在JDK6 Update24之后,HandlePromotionFailure参数不会影响到虚拟机的空间分配担保策略,观察OpenJDK中的源码变化,虽然源码中还定义了HandlePromotionFailure参数,但是在代码中已经不会在使用它。JDK6 Update24之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行Minor GC,否则将进行Full GC
# 7.10 堆不是分配对象的唯一选择
在《深入理解Java虚拟机》中:随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也就渐渐变得不那么“绝对了”
# 7.10.1 概述
在Java虚拟机中,对象是在Java堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是若干经过逃逸分析Escape Analysis后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配内存,也无需进行垃圾回收了。这也是最常见的堆外存储技术
此外,前面提到的基于OpenJDK深度定制的TaoBaoVM,其中创新的GCIH(GC invisible heap)技术实现off-heap,将生命周期较长的Java对象从heap中移至heap外,并且GC不能管理GCIH内部的Java对象,以此达到降低GC的回收频率和提升GC的回收效率的目的
# 7.10.2 逃逸分析
- 如果将堆上的对象分配到栈,需要使用逃逸分析手段 
- 这是一种可以有效减少 - Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法
- 通过逃逸分析, - Java Hotspot编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上
- 逃逸分析的基本行为就是对象动态作用域: - 当一个对象在方法中被定义后,对象只能在方法内部使用,则认为没有发生逃逸,栈上分配 - 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方中 
public class EscapeAnalysis {
    private EscapeAnalysis obj;
    public EscapeAnalysis getInstance() {
        // 发生逃逸
        return obj == null ? new EscapeAnalysis() : obj;
    }
    public void setObj() {
        // 发生逃逸
        this.obj = new EscapeAnalysis();
    }
    
    public void useEscapeAnalysis1() {
        // 没有发生逃逸
        EscapeAnalysis e = new EscapeAnalysis();
    }
    
    public void useEscapeAnalysis2() {
        // 发生逃逸
        EscapeAnalysis e = getInstance();
    }
}
JDK 6u23之后,Hotspot默认开启逃逸分析
# 7.10.3 代码优化
使用逃逸分析,编译器可以对代码做出如下优化
栈上分配
栈上分配。将堆分配转化为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配
JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象没有逃逸出方法的话,就可能被优化成栈上分配。分配完成后。继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量也被回收。这样就无需进行垃圾回收了
同步省略
同步省略。如果一个对象被发现只能从一个线程被访问,那么对于这个对象的操作可以不考虑同步
线程同步的代价是相当高的,同步的后果是降低并发性和性能
在动态编译同步块的时候,JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只够一个线程访问而没有被发布到其他线程。如果没有,那么JIT编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除
分离对象或标量替换
分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中
标量Scalar是指一个无法再分解更小的数据的数据。Java中原始的数据类型就是标量。
相对的,那些还可以分解的数据叫做聚合量Agggregate,Java中的对象就是聚合量,因为它可以分解成其他聚合量和标量
在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换(默认开启)
下面alloc方法可以被替换
public class ScalarReplace {
    public static class User{
        private int id;
        private String name;
    }
    
    public static void alloc() {
        User user = new User();
        user.id = 1;
        user.name = "标量替换";
    }
}
被替换为
public class ScalarReplace {
    public static class User{
        private int id;
        private String name;
    }
    
    public static void alloc() {
        int id = 1;
        String name = "标量替换";
    }
}
# 8. 方法区
 
 《Java虚拟机规范》中明确说明:"尽管所有的方法区在逻辑上是属于堆的一部分,但一些简单的实现可能不会选择去进行垃圾收集或者进行压缩"。但对于Hotspot,方法区还有一个别名叫做Non-Heap(非堆),目的就是要和堆分开。所以方法区看作是一块独立于Java堆的内存空间
 
 # 8.1 基本介绍
 
 - 方法区Method Area与Java堆一样,是各个线程共享的内存区域
- 方法区在JVM启动的时候被创建,并且它的实际的物理内存空间中和Java堆区一样都可以是不连续的
- 方法区的大小,跟堆空间一样,可以选择固定大小或者可扩展
- 方法区的大小决定了系统可以保存多少个类,如果系统定义了太多的类,导致方法区溢出,虚拟机同样抛出内存溢出溢出java.lang.OutOfMemoryError:PermGen Space或者java.lang.OutOfMemoryError:Metaspace
- 关闭JVM就会释放这个区域的内存
演变过程
- 在 - JDK7及以前,习惯上把方法区称为永久代。- JDK8之后称为元空间
- 本质上,方法区和永久代并不等价。仅是针对 - hotspot。《Java虚拟机规范》对如何实现方法区,不做统一要求。例如:- BEA JRockit / IBM J9中不存在永久代的概念
- 现在看来,使用永久代,并不是最好的方法,会导致 - Java程序更容易- OOM
- 在 - JDK8,完全废弃了永久代的概念,该用与- JRockit、- J9一样在本地内存中实现的元空间- Metaspace来代替 
- 元空间的本质和永久代类似,都是对 - JVM规范中方法区的实现。不过元空间与永久代最大的区别在于:元空间不在虚拟机设置的内存中,而是使用本地内存
- 根据《Java虚拟机规范》的规定,如果方法区无法满足新的内存分配需求时,将抛出 - OOM异常
# 8.2 设置方法区大小
方法区的大小不必是固定的,JVM可以根据应用的需要动态调整
JDK7及以前
- 通过-XX:Permize xx来设置永久初始分配空间。默认值是20.75M
- -XX:MaxPerSize来设置永久代最大可分配空间。32位机器默认是- 64M,64位机器模式是- 82M
- 当JVM加载的类信息容量超过了这个值,会报异常OutOfMemory Error:PermGen space
JDK8及以后
- 元数据区大小可以使用参数-XX:MetaspaceSize和-XX:MaxMetaspaceSize指定,替代JDK7中的参数
- 默认值依赖于平台。windows下,-XX:MetaspaceSize是21M,-XX:MaxMetaspaceSize的值是-1,即没有限制
- 与永久代不同,如果不指定大小,默认情况下,虚拟机会耗尽所有的可用系统内存。若干元数据区发生溢出,虚拟机一样会抛出异常OutOfMemoryError:Metaspace
- -XX:MetaspaceSize=xx:设置初始的元空间大小。对于一个- 64位服务端- JVM来说,其默认的- -XX:MetaspaceSize值为- 21MB。这就是初始的高水位线。一旦触及这个水位线,- Full GC将会被触发并卸载没用的类(即这些类对应的类加载器不再存活),然后这个高水位线将会重置。新的高水位线的值取决于- GC释放了多少元空间。如果释放的空间不足,那么在不超过- MaxMetaspaceSize时,适当提高该值。如果释放空间过多,则适当降低该值
- 如果初始化的高水位线设置过低,上述高水位线调整情况会发生很多次。通过垃圾回收器的日志可以观察到Full GC多次调用。为了避免频繁地GC,建议将-XX:MetaspaceSize设置为一个相对较高的值
解决OOM
- 要解决OOM异常或heap space的异常,一般的手段是首先通过内存映像分析工具Eclipse Memory Analyzer对dump出来的转储快照进行分析,重点是确认内存中对象是否是必要的,也就是要先分清楚到底是出现了内存泄露Memory Leak还是内存溢出Memory Overflow
- 如果是内存泄露,可进一步通过工具查看泄露对象到GC Roots的引用链。于是就能找打泄露对象是通过怎样的路径与GC Roots相关联并导致垃圾收集器无法自动回收它们。掌握了泄露对象的类型信息,以及GC Roots引用链的信息,就可以比较准确地定位出泄露代码的位置
- 如果不存在内存泄露,即内存中的对象确实都还存活着,那就应当检查虚拟机的堆参数(-Xmx与-Xms),与机器物理内存对比看是否还可以调大,从代码上检查是否存在某些对象生存周期过长、持有状态时间过长的情况,尝试减少车给你需运行期的内存消耗
# 8.3 方法区的内部结构
 
 它用于存储已被虚拟机加载的类型信息、常量、静态变量、及时编译器编译后的代码缓存等
 
 # 8.3.1 基本结构
类型信息
对每个加载的类型(类class、接口interface、枚举enum、注解annotation,JVM必须在方法区中存储以下类型信息)
- 这个类型的完整有效名称(全名=包名.类名)
- 这个类型直接父类的完整有效名(对于interface或是java.lang.Object,都没有父类)
- 这个类型直接接口的一个有序列表
域信息
- JVM必须在方法区中保存类型的所有域相关信息以及域的声明顺序
- 域的相关信息包括:域名称、域类型、域修饰符(public、private、portected、static、final、volatile、transient的某个子集)
方法信息
JVM必须保存所有方法的以下信息,同域信息一样包括声明顺序
- 方法名称 
- 方法的返回类型(或void) 
- 方法参数的数量和类型(按顺序) 
- 方法的修饰符( - public、- private、- protected、- static、- final、- synchronized、- native、- abstract的一个子集)
- 方法的字节码 - bytecodes、操作数栈、局部变量表及大小(- abstract和- native方法除外)
- 异常表( - abstract和- native方法除外)- 每个异常处理的开始位置、结束位置、代码处理在程序计数器中的偏移地址、被捕获的异常类的常量池索引 
# 8.3.2 常量池
一个有效的字节码文件中除了包含类的版本信息、字段、方法以及接口等描述信息外,还包含一项信息那就是常量池表(Constant Pool Table),包含各种字面量和对类型、域和方法的符号引用
方法区内部包含了运行时常量池,字节码文件内部包含了常量池
为什么需要常量池?
一个Java源文件中的类、接口,编译后产生的一个字节码文件。而Java中的字节码需要数据支持,通常这种数据会很大以至于不能直接存储到字节码里,换另外一种方式,可以存到常量池,这个字节码包含了指向常量池的引用。在动态链接的时候会用到运行时常量池
常量池中的信息
- 数量值
- 字符串值
- 类引用
- 字段引用
- 方法引用
总的来说,常量池可以看作一张表,虚拟机指令根据这张常量表找到要执行的类名、方法名、参数类型、字面量等类型
运行时常量池
运行时常量池Runtime Constant Pool是方法区的一部分
- 常量池表 - Constant Pool Table是- Class文件的一部分,用于存放编译期生成的各种字面量与符号引用,这部分内容将在类加载后存放到方法区的运行时常量池中
- 运行时常量池,在加载类和类接口到虚拟机后,就会创建对应的运行时常量池 
- JVM为每个已加载的类型(类或接口)都维护一个常量池。池中的数据项就像数组项一样,是用过索引访问的
- 运行时常量池中包含多种不同的常量,包括编译期就已经明确的数值字面量,也包括到运行期解析后才能获得的方法或字段引用。此时不再是常量池中的符号地址了,这里转换为真实地址 - 运行时常量池,相对于 - Class文件常量池的另外一重要特征是:具备动态性
- 运行时常量池类似于传统编程语言中的符号表( - symbol table),但它所包含的数据却比符号表更加丰富一些
- 当创建类或类接口的运行时常量池时,如果构造运行时常量池所需的内存空间超过了方法区所能提供的最大值,则 - JVM会抛- OutOfMemoryError异常
# 8.4 方法区演进
- 只有个 - HotSpot才有永久代,- BEA JRockit、- IBM J9等,是不存在永久代。原则上如何实现方法区属于虚拟机实现的细节,不受《Java虚拟机规范》管束,并不要求统一
- HotSpot中方法区的变化- 版本 - 说明 - JDK6及之前 - 有永久代(Permanent generation),静态变量存放发在永久代上 - JDK7 - 有永久代,但已经逐步“去永久代”,字符串常量池、静态变量移除,保存在堆中 - JDK8及之后 - 无永久代,类型信息、字段、方法、常量保存在本地内存的元空间,但字符串常量池、静态变量仍在堆 
替换永久代的原因
- 随着 - Java8的到来,- HotSpot VM中再也见不到永久代了。但是这并意味着类的元数据信息消失了。这些数据被移到了一个与堆不相连的本地内存区域,这个区域称为元空间- Metaspace
- 由于类的元数据分配在本地内存中,元空间的最大可分配空间就是系统可用内存空间 
- 这项改动很有必要,原因 - 为永久代设置内存空间大小很难确定,在某些场景下,如果动态加载类过多,容易产生永久代的 - OOM。元空间和永久代之间最大的区别在于:元空间并不在虚拟机中,而是使用本地内存。因此,默认情况下,元空间的大小仅受本地内存限制- 对永久代的调优十分困难 
StringTable为什么调整
JDK7中将StringTable放到了堆空间中,因为永久代的回收效率很低,在Full GC的时候才会触发。而Full GC是老年代的空间不足、永久代不足时才会触发。
这就会导致StringTable回收效率不高。而我们开发中会有大量的字符串被创建,回收效率低,导致永久代内存不足。放到堆中,能及时回收内存
# 8.5 方法区的垃圾收集
一般来说这个区域的回收效果不太令人满意,尤其是类型的卸载,条件相当苛刻。但是这部分区域的回收有时又确实是必要的。
方法区的垃圾收集主要回收两部分内容:常量池中废弃的常量和不再使用的类型
# 8.5.1 常量的回收
常量池中主要存放的两大类常量:字面量和符号引用。字面量比较接近Java语言层次的常量概念,如文本字符串、被声明为final的常量值等。而符号引用则属于编译原理方面的概念,包含下面三类常量
- 类和接口的全限定名
- 字段的名称和描述符
- 方法的名称和描述符
HotSpot虚拟机对常量池的回收策略是很明确的,只要常量池中的常量没有被任何地方引用,就可以被回收
回收废弃常量与回收Java堆中国年对象非常类似
# 8.5.2 类型的回收
判定一个常量是否"废弃"还是相对简单,而要判定一个类型是否属于“不再被使用的类”的条件就比较苛刻了。需要同时满足下面的三个条件
- 该类的所有实例都已经被回收,也就是Java堆中不存在该类型以及其任何派生子类的实例
- 加载该类的类加载器已经被回收,这个条件除非是经过精心设计的可替换类加载器的场景,如OSGI、JSP的重加载等,通常是很难达成的
- 该类对应的java.lang.Class对象没有在任何地方被引用,无法在任何地方通过反射访问该类的方法
Java虚拟机被允许对满足上述三个条件的无用类进行回收,这里说的仅仅是“被允许”,而不是和对象一样,没有引用了就必然回收。关于是否对类型进行回收,HotSpot虚拟机提供了-Xnoclassgc参数进行控制,还可以使用-verbose:class以及-XX:+TraceClass-Loading、-XX:+TraceClassUnLoading查看类加载和卸载信息
在大量使用反射、动态代理、CGLib等字节码框架,动态生成JSP以及OSGI这类频繁自定义类加载器的场景中,通常都需要Java虚拟机具备类型卸载的能力,以保证不会对方法区造成过大的内存压力
# 9. 对象
# 9.1 对象的实例化
创建对象的方式
- new:最常见的方式
- Class的- newInstance()
- 使用 - clone()- 不掉用任何构造器,需要实现 - Cloneable接口,实现- clone()方法
- 使用反序列化 - 从文件中、网络中国年获取一个对象的二进制流 
- 使用第三方库 - Objenesis
创建对象的步骤
- 判断对象对应的类是否加载、链接、初始化 - 虚拟机遇到一条 - new指令,首先去检查这个指令的参数是否在- Metaspace的常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已经被加载、解析和初始化。(即判断类元信息是否存在)。如果没有,那么在双亲委派模式下,使用当前类加载器以- ClassLoader+包名+类名为- Key进行查找对应的- .class文件。如果没有找到文件,则抛出- ClassNotFoundException异常,如果找到,则进行类加载,并生成对应的- Class对象
- 为对象分配内存,首先计算对象占用空间大小,接着在堆中划分一块给新对象,如果实例成员变量是引用变量,仅分配引用变量空间,仅分配引用变量空间即可,即四个字节大小、 - 如果内存规整,那么虚拟机将采用的是指针碰撞法 - Bump The Pointer作为对象分配内存。意思是所有用过的内存在一边,空闲的内存在另一边,中间放着一个指针作为分界点的指示器,分配内存就是仅仅是把指针向空闲那边挪动一段与对象大小相等的距离罢了。如果垃圾收集选择的是- Serial、- ParNew这种基于压缩算法的,虚拟机采用这种分配方式。一般使用带有- compact整理过程的收集器时,使用指针碰撞- 如果内存不是规整的,已使用的内存和未使用的内存相互交错,那么虚拟机将采用的是空闲表法来为对象分配内存。(即虚拟机维护了一个列表,记录上哪些内存块是可用的,再分配的时候从列表中找到一块足够大的空间划分给对象实例,并更新列表上的内容。这种分配方式成为“空闲列表” - Free List)- 具体采用哪种分配方式由 - Java堆是否规整决定,而- Java堆是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定
- 处理并发安全问题,采用 - CAS失败重试、区域加锁保证更新的原子性。每个线程预先分配一块- TLAB,通过- -XX:+/-UserTLAB参数来设定
- 初始化分配到的空间:所有属性设置默认值,保证对象实例字段在不赋值时可以直接使用 
- 设置对象的对象头:将对象的所属类(即类的元数据信息)、对象的 - HashCode和对象的- GC信息、锁信息等数据存储在对象的对象头中。这个过程的具体设置方式取决于- JVM实现。
- 执行 - init方法进行初始化:在- Java程序的视角来看,初始化才正式开始。初始化成员变量,执行实例化代码块,调用类的构造方法,并把堆内对象的首地址赋值给引用变量。一般来说(由字节码中是否跟随有- invokespecial指令做决定),- new指令之后接着就是执行方法,把对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算完全创建出来
# 9.2 对象的内存布局
- 对象头 - Header- 运行时元数据 - Mark Word:哈希值- HashCode、- GC分代年龄、锁状态标志、线程持有的锁、偏向线程- ID、偏向时间戳- 类型指针:指向类元数据 - InstanceClass,确定该对象所属的类型- 如果是数组,还需记录数组的长度 
- 实例数据 - Instance Data:它是对象真正存储的有效信息,包括程序代码中定义的各种类型的字段(包括从父类继承下来的和本身拥有的字段)- 规则:相同宽度的字段总是被分配在一起,父类中定义的变量会出现在子类之前,如果 - CompactFields参数为- true(默认为- true),子类的窄变量可能插入到类变量的空隙。
- 对齐填充 - Padding:不是必须的,没有特别的含义,仅仅起到占位符的作用
# 9.3 示例
待测试的类
public class Customer {
    int id = 1001;
    String name;
    Account acct;
    {
        name = "匿名客户";
    }
    public Customer() {
        acct = new Account();
    }
}
class Account{
}
测试类
public class CustomerTest {
    public static void main(String[] args) {
        Customer cust = new Customer();
    }
}
 
 # 9.4 对象访问定位
JVM是如何通过栈帧中的对象引用访问到其内部的对象实例的呢?
 
 是通过定位,通过栈上reference访问
对象访问方式有两种方式
- 句柄访问   - 好处: - reference中国年存储稳定句柄地址,对象被移动(垃圾收集时移动对象很普遍)时只会改变句柄中实例数据指针即可,- reference本身不需要被修改
- 直接指针( - Hotspot采用) 
# 10. 直接内存
- 直接内存不是虚拟机运行时数据区的一部分,也不是《Java虚拟机规范》中定义的内存区域 
- 直接内存是在 - Java堆外的、直接向系统申请的内存区间
- 来源于 - NIO,通过存在堆中的- DirectByteBuffer操作- Native内存
- 通常访问直接内存的速度优于 - Java堆。即读写性能好    - 读写文件时,需要与磁盘交互,需要由用户态切换到内核态。 - 因此出于性能考虑,读写频繁的场合可能会考虑使用直接内存 - Java的- NIO库允许- Java程序使用直接内存,用于数据缓冲区
- 操作直接内存示例 - public class BufferTest { public static void main(String[] args) { ByteBuffer byteBuffer = ByteBuffer.allocateDirect(1024 * 1024); } }
- 由于直接内存在 - Java堆外,因此它的大小不会直接受限于- -Xmx指定的最大堆大小,但是系统内存是有限的,- Java堆和直接内存的总和依然受限于操作系统能给出的最大内存,也可能会导致- OutOfMemoryError异常
- 缺点:分配回收成本较高,不受 - JVM内存回收管理
- 直接内存大小可以通过 - MaxDirectMemorySize设置,默认与堆的最大值- -Xmx参数值一致
# 11. 执行引擎
 
 # 11.1 概述
执行引擎是Java虚拟机核心的组成部分之一
“虚拟机”是一个相对于“物理机”的概念,这两种机器都有代码执行能力,其区别是物理机的执行引擎是直接建立在处理器、缓存、指令集和操作系统层面上的,而虚拟机的执行引擎则是由软件自行实现的,因此可以不受物理条件制约地定制指令集与执行引擎的结构体系,能够执行那些不被硬件直接支持的指令集格式
JVM的主要任务是负责装载字节码到其内部,但字节码并不能够直接运行在操作系统之上,因为字节码指令并非等价于本地机器指令、符号表,以及其他辅助信息
那么,如果想要让一个Java程序运行起来,执行引擎Execution Engine的任务就是将字节码指令解释/编译为对应平台上的本地机器指令才可以。简单来说,JVM中的执行引擎充当了将高级语言翻译为机器语言的译者
工作过程
 
 - 执行引擎在执行的过程中究竟需要执行什么样的字节码指令完全依赖于PC寄存器
- 每当执行完一项指令操作后,PC寄存器就会更新下一条需要被执行的指令地址
- 当然方法在执行的过程中,执行引擎有可能会通过存储在局部变量表中的对象引用准确定位到存储在Java堆区中的对象实例信息,以及通过对象头中的元数据指针定位到目标对象的类型信息
从外观上来看,所有的Java虚拟机的执行引擎输入、输出都是一致的:输入的是字节码二进制流,处理过程是字节码解析执行的等效过程,输出的是执行结果
# 11.2 代码的编译和执行
 
 大部分的程序代码转换成物理机的目标代码或虚拟机能执行的指令集之前,都需要经过上图的各个步骤
Java代码编译的流程
 
 Java字节码的执行是由JVM执行引擎来完成,如下图所示
 
 两个问题
- 什么是解释器 - Interpreter,是么是- JIT编译器- Just In Time Compiler?- 解释器:当 - Java虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行,将每条字节码文件中的内容"翻译"为对应平台的本地机器指令执行- JIT编译器:就是虚拟机将源代码直接编译成和本地机器相关的机器语言
- 为什么说 - Java是半编译半解释型语言?- JVM在执行- Java代码的时候,通常都会将解释执行与编译执行二者结合起来进行
# 11.3 编程语言
 
 机器码
- 各种二进制编码方式表示的指令,叫做机器码指令码。最初,人们使用它来编写程序,也称作机器语言
- 机器语言虽然能够被计算机理解和接受,但和人们的语言差别太大,不太容易被人么理解和记忆,并且使用它来编程容易出错
- 用它编写的程序一经输入计算机,CPU直接读取运行,因此和其他语言编的程序相比,执行速度最快
- 机器指令与硬件(CPU)耦合度较大,所以不同种类的CPU所对应的机器指令也就不同
指令
- 由于机器码是由0和1组成的二进制序列,可读性实在太差,于是人们发明了指令 
- 指令就是把机器码中 特定的0和1序列,简化成对应的指令(一般为英文简写,如 - mov,- inc等),可读性稍好
- 由于不同的硬件平台,执行同一操作,对应的机器码可能不同,所以不同的硬件平台的同一种指令(比如 - mov),对应的机器码也可能不同
- 不同的硬件平台,各自支持的指令是有差别的。因此每个平台所支持的指令,称之为对应平台的指令集 
- 常见的有: - X86指令集,对应的是- X86架构的平台- ARM指令集,对应的是- ARM架构的平台
汇编语言
- 由于指令的可读性还是太差,人们又发明了汇编语言
- 在汇编语言中,用助记符Mnemonics代替机器指令的操作码,用地址符号Symbol或标号Label代替指令或操作数的地址
- 在不同的硬件平台,汇编语言对应着不同的机器语言指令集,通过汇编过程转换成机器指令。由于计算机只认识指令码,所以用汇编编写的程序还必须翻译成机器指令码,计算机才能识别和执行、
高级语言
- 为了使计算机用户编写程序更容易些,后来就出现了各种高级计算机语言。高级语言比机器语言、汇编语言更接近人的语言 
- 当计算机执行高级语言编写的程序时,仍然需要把程序解释和编译成机器的指令码。完成这个过程的程序就叫做解释程序或编译程序 
字节码
- 字节码是一种中间状态(中间码)的二进制代码(文件),它比机器码更抽象,需要直译器转译后才能称为机器码
- 字节码主要是为了实现特定软件运行与软件环境和硬件环境无关
- 字节码的实现方式是通过编译器和虚拟机器。编译器将源码编译成字节码,特定平台上的虚拟机器将字节码转译为可以直接执行的指令。典型应用Java bytecode
# 11.4 解释器
JVM设计者们的初衷仅仅只是单纯地为了满足Java程序实现跨平台特性,因此避免采用静态编译的方式直接生成本地机器指令,从而诞生了实现解释器在运行时采用逐行解释字节码执行程序的想法。
- 解释器真正意义上所承担的角色就是一个运行时"翻译者",将字节码文件中的内容"翻译"为对应平台的本地机器指令执行
- 当下一条字节码指令被解释执行完成后,接着再根据PC寄存器中记录的下一条需要被执行的字节码指令执行解释器
在Java的发展历史里,一共有两套解释执行器,即古老的字节码解释器、和现在普遍使用的模板解释器
- 字节码解释器在执行时通过纯软件代码模拟字节码的执行,效率底下 
- 而模板解释器将每一条字节码和一个模板函数相关联,模板函数中直接产生这条字节码执行时的机器码,从而很大程度上提高了解释器的性能 - 在 - HotSpot VM中国年,解释器主要由- Interpreter模块和- Code模块构成。- Interpreter模块:实现了解释器的核心功能- Code模块:用于管理- HotSpot VM在运行时生成的本地机器指令
- 由于解释器在设计和实现上非常简单,因此除了 - java语言之外,还有许多高级语言同样也是基于解释器执行的,比如- Python、- Perl、- Ruby等。但是在今天,基于解释器执行已经沦落为低效的代名词
- 为了解决这个问题, - JVM平台支持一种叫做即时编译的技术。即时编译的目的是避免函数被解释执行,是将整个函数体编译成机器码,每次函数执行时,只执行编译后的机器码即可,这种方式可以使执行效率大幅度提升
# 11.5 JIT编译器
HotSpot VM是目前市面上高性能虚拟机的代表作之一。它采用解释器与即时编译器并存的架构。在java虚拟机运行时,解释器和即时编译器能够相互协作,各自取长补短,尽力去选择最合适的方式来权衡编译本地代码的时间和本地直接解释执行代码的时间
为什么不移除解释器而只保留JIT?
当程序启动后,解释器可以马上发挥作用,省去编译的时间,立即执行。编译器要想发挥作用,把代码编译成本地代码,需要一定的执行时间。但编译为本地代码后,执行效率会提高
HotSpot JVM的执行方式
当虚拟机启动的时候,解释器可以首先发挥作用,而不必等待即时编译器全部编译完成再执行,这样可以省去许多不必要的编译时间。并且随着程序运行时间的推移,即时编译器逐渐发挥作用,根据热点探测功能,将有价值的字节码编译为本地机器指令,以换取更高的程序执行效率
# 11.5.1 概念解释
java语言的“编译期”其实是一段“不确定”的操作过程。
- 它可能是指一个前端编译器(其实叫"编译器前端")把 - .java文件转变为- .class文件的过程。
- 也可能是指虚拟机的后端运行期编译器( - JIT编译器,- Just In Time Compiler)把字节码转变成机器码的过程
- 还可能是指使用静态提前编译器( - AOT编译器,- Ahead Of Time Compiler)直接把- .java文件编译成本地代码的过程
前端编译器:Sun的Javac、Eclipse JDT中的增量式编译器ECT
JIT编译器:HotSpot VM的C1、C2编译器
AOT编译器:GNU Compiler for the java GCJ、Excelsior JET
# 11.5.2 热点探测
是否需要启动JIT编译器将字节码直接编译为对应平台的本地机器指令,则需要根据代码被调用执行频率而定。关于那些被编译为本地代码的字节码,也被称之为“热点代码”,JIT编译器在运行时会针对那些频繁被调用的"热点代码"做出深度优化,将其直接编译为对应平台的本地机器指令,以此提升java程序的执行性能
- 一个被多次调用的方法,或者是一个方法体内部循环次数较多的循环体都可以被称之为"热点代码",因此都可以通过 - JIT编译器编译为本地机器指令。由于这种编译方式发生在方法的执行过程中,因此也被称为栈上替换,或简称为- OSR(On Stack Replacement)编译
- 一个方法究竟要被调用多少次,或者一个循环体究竟需要执行多少次循环才可以达到这个标准?必然需要一个明确的阈值,只有达到了阈值 - JIT编译器才会将这些"热点代码"编译为本地机器指令执行。这里主要依靠热点探测功能
- 目前 - HotSpot VM所采用的热点探测方式是基于计数器的热点探测
- 采用基于计数器的特点探测, - HotSpot VM将会为每一个方法都建立2个不同类型的计数器,分别为方法调用计数器- Invocation Counter和回边计数器- Back Edge Counter- 方法调用计数器用于统计方法的调用次数 - 回边计数器则用于统计循环体执行的循环次数 
方法调用计数器
- 这个计数器就用于统计方法被调用的次数,它的默认阈值在Client模式下是1500次,在Server模式下是10000次。超过这个阈值,就会触发JIT编译
- 这个阈值可以通过虚拟机参数-XXCompileThreshold来人为设定
- 当一个方法被调用时,会先检查该方法是否存在被JIT编译过的版本,如果存在,则优先使用编译后的本地代码来执行。如果不存在已被编译过的版本,则将此方法的调用计数器值加1,然后判断方法调用计数器与回边计数器值之和是否超过方法调用计数器的阈值。如果已超过阈值,那么将会向及时编译器提交一个该方法的代码编译请求
热度衰减
- 如果不做任何设置,方法调用计数器统计的并不是方法被调用的绝对次数,而是一个相对的执行频率,即一段时间之内方法被调用的次数。当超过一定的时间限度,如果方法的调用次数仍然不足以让它提交给即时编译器编译,那这个方法的调用计数器就会被减少一般,这个过程成为方法调用计数器热度的衰减Counter Decay,而这段时间就称为此方法统计的半衰期Counter Half Life Time
- 进行热度衰减的动作是在虚拟机进行垃圾收集时顺序进行的,可以使用虚拟机参数-XX:-UseCounterDecay来关闭热度衰减,让方法计数器统计方法调用的绝对次数,这样只要系统运行时间足够长,绝大部分方法都会编译成本地代码
- 另外,可以使用-XX:CounterHalfLifeTime参数设置半衰周期的时间,单位秒是秒
回边计数器
它的作用是统计一个方法中循环体代码执行的次数,在字节码中遇到控制流向后跳转的指令称为”回边“Back Edge。显然回边计数器统计的目的就是为了触发OSR编译
# 1.5.3 设置程序执行方式
缺省的情况下HotSpot VM是采用解释器与即时编译器并存的架构,开发人员可以根据具体的应用场景,通过命令显示地为Java虚拟机指定在运行时到底是采用完全解释器执行,还是完全采用及时编译器执行
 
 - -Xint:完全采用解释器模式执行程序 
- -Xcomp:完全采用及时编译器模式执行程序。如果即时编译出现问题,解释器会介入执行 
- -Xmixed:采用解释器+即时编译器的混合模式共同执行
也可以通过java程序的运行参数设置
# 1.5.4 C1和C2
在HotSpot VM中内嵌有两个JIT编译器,分别为Client Compiler和Server Compiler,但大多数情况下我们简称为C1编译器和C2编译器。可以使用以下参数指定JVM在运行时使用哪一种即时编译器
- -client:指定- Java虚拟机运行在- Client模式下,并使用- C1编译器。- C1编译器会对字节码进行简单和可靠的优化,耗时短。以达到更快的编译速度
- -server:指定- Java虚拟机运行在- Server模式下,并使用- C2编译器。- C2进行耗时较长的优化,以及激进优化。但优化的代码执行效率更高(64位的- JDK默认为- Server模式)
C1和C2的优化策略
- 在不同的编译器上有不同的优化策略, - C1编译器上主要有方法内联,去虚拟化、冗余消除- 方法内联:将引用的函数代码编译到引用点处,这样可以减少栈帧的生成,减少参数传递以及跳转过程 - 去虚拟化:对唯一的实现类进行内联 - 冗余消除:在运行期间把一些不会执行的代码折叠 
- C2的优化主要在全局方面,逃逸分析是优化的基础。基于逃逸分析在- C2上有如下几种优化- 标量替换:用标量值代替聚合对象的属性值 - 栈上分配:对于未逃逸的对象分配对象在栈而不是堆 - 同步消除:清除同步操作,通常指 - synchronized
分层编译
分层编译Tiered Compilation策略:程序解释执行(不开启性能监控)可以触发C1编译,将字节码编译成机器码,可以进行简单优化,也可以加上性能监控,C2编译会根据性能监控信息进行激进优化
Java7之后,一旦开发人员在程序中显式指定命令-server时,默认将会开启分层编译策略,由C1编译器和C2编译器相互协作共同来执行编译任务
# 1.5.5 展望
Graal编译器
- 自 - JDK10起,- HotSpot又加入了一个全新的即时编译器:- Graal编译器
- 编译效果已经追上了 - C2编译器
- 目前,带着”实验状态“标签,需要使用开关参数开启 - -XX:+UnlockExperimentalVMOptions -XX:+UseJVMCICompiler
AOT编译器
- JDK9引入了- AOT编译器(静态提前编译器,- Ahead Of Time Compiler)
- JDK9引入了实验性- AOT编译工具- jaotc。它借助了- Graal编译器,将所输入的- Java类文件转换为机器码,并存放至生成的动态共享库中
- 所谓 - AOT编译,是与即时编译器相对立的一个概念。我们知道,即时编译指的是在程序的运行过程中,将字节码转换为可在硬件上直接运行的机器码,并部署至托管环境中的过程。而- AOT编译指的则是,在程序运行之前,便将字节码转换为机器码的过程
- 优点: - Java虚拟机加载已经预编译成二进制的库,可以直接执行。不必等待即时编译器的预热
- 缺点 - 破坏了 - java”一次编译,到处运行“的特点,必须为每个不同硬件、- OS编译对应的发行包- 降低了 - Java链接过程的动态性,加载的代码在编译器就必须全部已知- 还在继续优化中,最初只支持 - Linux X64 java base
# 12. StringTable
# 12.1 基本特性
# 12.1.1 不可变性
- String:字符串,使用一对""引起来表示
- String声明为- final的,不可继承
- Srting实现了- Serializable接口,表示字符串是支持序列化的,实现了- Comparable接口,表示- String可以比较大小
- String在- JDK8及以前内部定义了- final char[] value用于存储字符串数据。- JDK9改为- byte[]
- String代表不可变的字符序列。简称:不可变性- 当对字符串重新赋值时,需要重写指定内存区域赋值,不能使用原有的 - value进行赋值- 当对现有的字符串进行连接操作时,也需要重新指定内存区域赋值,不能使用原有的 - value进行赋值- 当调用 - String的- replace方法修改指定字符或字符串时,也需要重新指定内存区域赋值,不能使用原有的- value进行赋值
- 通过字面量的方式(区别于 - new)给一个字符串赋值,此时的字符串值声明在字符串常量池中
# 12.1.2 字符串常量池
字符串常量池中是不会存储相同内容的字符串的
- String的- String Pool是一个固定大小的- Hashtable,默认值大小长度是- 1009。如果放进- String Pool的- String非常多,就会造成- Hash冲突严重,从而导致链表会很长,而链表长了后直接造成的影响就是当调用- String.intern时性能会大幅度下降
- 使用-XX:StringTableSize可设置StringTable的长度
- 在JDK6中StringTable是固定的,就是1009的长度,所以如果常量池中的字符串过多就会导致效率下降很快。StringTableSize设置没有要求
- 在JDK7中,StringTable的长度默认值是60013
- JDK8开始- 1009是可设置的最小值
# 12.2 String内存分配
在Java语言中有8种基本类型和一种比较特殊的类型String。这些类型为了使它们在运行过程中速度更快、更节省内存,都提供了一种常量池的概念
常量池就类似于一个Java系统级别提供的缓存。8种基本数据类型的常量池都是系统协调的,String类型的常量池比较特殊。它的主要使用方法有两种
- 直接使用双引号声明出来的 - String对象会直接存储在常量池中- String info = "Hello World!"
- 如果不是用双引号声明的 - String对象,可以使用- String提供的- intern()方法
常量池位置
- Java 6及以前,字符串常量池存放在永久代
- Java 7中常量池位于- Java堆内,所有的字符串都保存在堆- Heap中,和其他对象一样,这样可以让你进行调优应用时仅需要调整堆大小就可以了
- java8元空间,字符串常量在堆
# 12.3 字符串拼接
- 常量与常量的拼接结果在常量池,原理是编译期优化 - @Test public void test1() { String s1 = "a" + "b" + "c"; // 编译期优化成 s1 = "abc" String s2 = "abc"; // ”abc“一定是存放在常量池中 System.out.println(s1 == s2); // true System.out.println(s1.equals(s2)); // true }- 部分字节码 - 0 ldc #2 <abc> 2 astore_1 3 ldc #2 <abc> 5 astore_2
- 常量池中不会存在相同内容的常量 
- 只要其中有一个是变量结果就在堆中。变量拼接的原理是 - StringBuilder- @Test public void test3() { String s1 = "a"; String s2 = "b"; String s3 = s1 + s2; String s4 = "ab"; System.out.println(s3 == s4); // false // s1 + s2 的执行细节 // StringBuilder s = new StringBuilder(); // s.append("a) // s.append("b) // s.toString() --> 约等于new String("ab") } // 如果拼接符号左右两边都是字符串常量或常量引用,则仍然使用编译期优化 @Test public void test4() { final String s1 = "a"; final String s2 = "b"; String s3 = s1 + s2; String s4 = "ab"; System.out.println(s3 == s4); // true }
- 如果拼接的结果是调用 - intern()方法,则主动将常量池中还没有的字符串对象放入池中,并返回此对象的地址- @Test public void test2() { String s1 = "Hello "; String s2 = "World"; String s3 = "Hello World"; String s4 = "Hello " + "World"; String s5 = s1 + "World"; String s6 = "Hello " + s2; String s7 = s1 + s2; System.out.println(s3 == s4); // true System.out.println(s3 == s5); // false System.out.println(s3 == s6); // false System.out.println(s3 == s7); // false System.out.println(s5 == s6); // false System.out.println(s5 == s7); // false System.out.println(s6 == s7); // false String s8 = s6.intern(); System.out.println(s3 == s8); // true }
- 通过 - StringBuilder的- append()方式拼接字符串的效率要远高于使用- String的字符串拼接方式- 使用 - String的字符串拼接方式:每拼接一次都会创建一个- StringBuilder和- String的对象- 而 - StringBuilder的- append()方式:自始至终都只有一个对象
# 12.4 intern()
如果不是用双引号声明的String对象,可以使用String提供的intern方法:intern方法会从字符串常量池中查询当前字符串是否存在,若不存在就会将当前字符串放入常量池中,并返回其引用
String info = new String("Hello World!").intern();
也就是说,如果在任意字符串上调用String.intern方法,那么其返回结果所指向的那个类实例,必须和直接以常量形式出现的字符串实例完全相同。因此,下列表达式必定是true
("a" + "b" + "c").intern() == "abc";
通俗点讲,Interned String就是确保字符串在内存里只有一份拷贝,这样可以节约内存空间,加快字符串操作任务的执行速度。注意,这个值会被存放子字符串内部池String Intern Pool
问题
- new String("ab")会创建几个对象?- @Test public void test5() { String s = new String("ab"); }- 对应的字节码 - 0 new #16 <java/lang/String> 3 dup 4 ldc #15 <ab> 6 invokespecial #17 <java/lang/String.<init>> 9 astore_1 10 return- 会创建两个对象,一个对象是: - new关键字在堆空间创建的,一个对象是:字符串常量池中的对象
- new String("a") + new String("b")会创建几个对象?- @Test public void test6() { String s = new String("a") + new String("b"); }- 对应的字节码 - 0 new #9 <java/lang/StringBuilder> 3 dup 4 invokespecial #10 <java/lang/StringBuilder.<init>> 7 new #17 <java/lang/String> 10 dup 11 ldc #14 <a> 13 invokespecial #18 <java/lang/String.<init>> 16 invokevirtual #11 <java/lang/StringBuilder.append> 19 new #17 <java/lang/String> 22 dup 23 ldc #15 <b> 25 invokespecial #18 <java/lang/String.<init>> 28 invokevirtual #11 <java/lang/StringBuilder.append> 31 invokevirtual #12 <java/lang/StringBuilder.toString> 34 astore_1 35 return- 会创建5个对象 - StringBuilder()
- new String("a")
- 常量池中的a
- new String("b")
- 常量池中的b
 - 对于 - StringBuilder的- toString()的调用,会生成一个- new String("ab"),在字符串常量池中,没有生成- ab- 面试题 - public static void main(String[] args) { String s1 = new String("1"); s1.intern(); // 调用此方法前,常量池中已经存在"1" String s2 = "1"; System.out.println(s1 == s2); // false String s3 = new String("1") + new String("1"); // 常量池中不存在”11“ s3.intern(); String s4 = "11"; System.out.println(s3 == s4); // true }- public static void main(String[] args) { String s3 = new String("1") + new String("1"); // 常量池中不存在”11“ String s4 = "11"; // 字符串常量池生成"11" s3.intern(); System.out.println(s3 == s4); // false }
总结
- JDK6中,将这个字符串对象尝试放入串池- 如果串池中有,则并不会放入。返回已有的串池中的对象的地址 - 如果没有,会把此对象复制一份,放入串池,并返回串池中的对象地址 
- JDK7中,将这个字符串对象尝试放入串池- 如果串池中有,则并不会放入。返回已有的串池中的对象的地址 - 如果没有,则会把对象的引用地址复制一份,放入串池,并返回串池中的引用地址 
- 对于程序中存在很多重复字符串时,应该适当使用 - intern()
# 12.5 G1去重
背景:对许多Java应用(有大的也有小的)做的测试得出以下结果
- 堆存活数据集合里面String对象占了25%
- 堆存活数据集合里面重复的String对象有13.5%
- String对象的平均长度是- 45
许多大规模的Java应用的瓶颈在于内存,测试表明,在这些类型的应用里面,Java堆中存活的集合差不多25%是String对象。更进一步,这里面差不多一半String对象是重复的,即s1.equals(s2) == true。堆上存在重复的String对象必然是一种内存的浪费。这个项目将在G1垃圾收集器中实现自动持续对重复的String对象进行去重,这样就能避免浪费内存
实现
- 当垃圾收集器工作的时候,会访问堆上存活的对象。对每一个访问的对象都会检查是否是候选的要去重的String对象
- 如果是要去重的对象,把这个对象的一个引用插入到队列中等待后续的处理。一个去重的线程在后台运行,处理这个队列。处理队列的一个元素意味着从队列中删除这个元素,然后尝试去重它引用的String对象
- 使用一个hashtable来记录所有的被String对象使用的不重复的char数组。当去重的时候,会查这个hashtable,看堆上是否已经存在一个一模一样的char数组
- 如果存在,String对象会被调整引用那个数组,释放对原来的数组的引用,最终会被垃圾收集器回收掉
- 如果查找失败了,char数组会被插入到hashtable,这样以后就可以共享这个数组了
命令行选项
- 开启去重,默认是不开启的,需要手动开启 - UseStringDeduplication (bool)
- 打印详细的去重统计信息 - PrintStringDeduplicationStatistics (bool)
- 达到这个年龄的 - String对象被认为是去重的候选对象- StringDeduplicationAgeThreshold (uintx)
# 13. 垃圾回收
垃圾收集不是Java语言的伴生产物。早在1960年,第一门开始使用内存动态分配和垃圾收集技术的Lisp语言诞生
# 13.1 概述
# 13.1.1 什么是垃圾
垃圾Garbage:垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾
关于垃圾收集的问题
- 哪些内存需要回收? 
- 什么时候回收? 
- 如何回收? 
如果不及时对内存中的垃圾进行清理,那么,这些垃圾对象所占的内存空间会一直保持到应用程序结束,被保留的空间无法被其他对象所使用。甚至会导致内存溢出
# 13.1.2 为什么需要GC
- 对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会被消耗完,因为不断地分配内存空间而不进行回收,就好像不停地产生垃圾而从来不打扫
- 除了释放没用的对象,垃圾回收也可以清理内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一端,以便JVM将整理出的内存重新分配给新的对象
- 随着应用程序所应付的业务越来越庞大、复杂,用户越来越多,没有GC就不能保证随着应用程序的正常进行。而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化
# 13.1.3 早期的垃圾回收
- 在早期的C/C++时代,垃圾回收基本上是手工进行的。开发人员可以使用new关键字进行内存申请,并使用delete关键字进行内存释放
- 这种方式可以灵活控制内存释放的时间,但是会给开发人员带来频繁的申请和释放内存的管理负担。倘若有一处内存空间由于程序员编码的问题忘记被回收,那么就产生内存泄露,垃圾对象永远无法被清除,随着系统运行时间的不断增长,垃圾对象所耗内存可能持续上升,知道出现内存溢出并造成应用程序崩溃
# 13.1.4 Java垃圾回收
优点
- 自动内存管理,无需开发人员手动参与内存的分配与回收,这样降低内存泄露和内存溢出的风险
- 自动内存管理机制,将程序员从繁重的内存管理中释放出来,可以更专心地专注于业务开发
缺点
- 对于Java开发人员而言,自动内存管理就像是一个黑匣子,如果过度依赖于“自动”,那么将会是一场灾难,最严重的就是会弱化Java开发人员在程序出现内存溢出时定位问题和解决问题的能力
- 此时,了解JVM的自动内存分配和内存回收原理就显得非常重要,只有在真正了解JVM是如何管理内存后,我们才能在遇见OutOfMemoryError时,快速地根据异常日志定位问题和解决问题
- 当需要排查各种内存溢出、内存泄露问题时,当垃圾收集成为系统达到更高并发量的瓶颈时,我们就必须对这些“自动化”的技术实施必要的监控和调节
垃圾回收的对象
- 垃圾回收器可以对年轻代回收,也可以对老年代回收,甚至是全堆和方法区的回收,其中堆是垃圾收集器的工作重点 
- 从次数上讲 - 频繁收集 - Young区- 较少收集 - Old区- 基本不动 - Perm区
# 13.2 回收算法
回收算法主要有两个阶段:标记阶段(标记哪些对象是垃圾)和清除阶段
标记阶段
- 在堆里存放着几乎所有的Java对象实例,在GC执行垃圾回收之前,首先需要区分出哪些是存活对象,哪些是已经死亡的对象。只有被标记为已经死亡的对象,GC才会执行垃圾回收时,释放掉其所占用的内存空间,因此这个过程我们可以称为垃圾标记阶段
- 那么在JVM中究竟是如何标记一个死亡对象呢?简单来说,当一个对象已经不再被任何存活的对象继续引用时,就可以宣判为已经死亡
- 判断对象存活一般有两种方式:引用计数算法和可达性分析算法
回收阶段
当成功区分出内存中存活对象和死亡对象后,GC接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对象分配内存
目前在JVM中比较常见的三种垃圾收集算法是
- 标记-清除算法Mark-Sweep
- 复制算法Copying
- 标记-压缩算法Mark-Compact
# 13.2.1 标记阶段:引用计数算法
- 引用计数算法 - Reference Counting比较简单,对每个对象保存一个整型的引用计数器属性。用于记录对象被引用的情况
- 对于一个对象 - A,只要有任何一个对象引用了- A,则- A而引用计数器就加1,当引用失效时,引用计数器减1.只要对象A的引用计数器的值为0,即表示对象不可能再被使用,可以进行回收
- 优点:实现简单,垃圾对象便于辨识,判定效率高,回收没有延迟性 
- 缺点: - 它需要单独的字段存储计数器,这样的做法增加了存储空间的开销 - 每次赋值都需要更新计数器,伴随着加法和减法操作,这增加了时间开销 - 引用计数器有一个严重的问题,即无法处理循环引用的情况。这是一条致命的缺陷,导致在 - Java的垃圾回收器中没有使用这类算法
 
  
 修改了P的指向但剩余的对象却无法回收
小结
- 引用计数算法,是很多语言的资源回收选择,例如因人工智能而更加火热的 - Python,它更是同时支持引用计数和垃圾收集机制
- 具体哪种最优是要看场景,业界有大规模实践中仅保留引用技术机制,以提高吞吐量的尝试 
- Python如何解决循环引用?- 手动接触:很好理解,就是在合适的时机,接触引用关系 - 使用弱引用 - weakref,- weakref是- Python提供的标准库,旨在解决循环引用
# 13.2.2 标记阶段:可达性分析算法
 
 可达性分析算法(根搜索算法、跟踪性垃圾收集)
- 相对于引用计数算法而言,可达性分析算法不仅同样具备实现简单的执行高效等特点,更重要的是该算法可以有效地解决在引用技术算法中循环引用的问题,防止内存泄漏的发生
- 相较于引用计算算法,这里的可达性分析就是Java、C#选择的。这种类型的垃圾收集通常也叫做追踪性垃圾收集Tracing Garbage Collection
基本思路
- 可达性分析算法是以根对象为集合GC Roots为起始点,按照从上至下的方式搜索被根对象集合所连接的目标对象是否可达
- 使用可达性分析算法后,内存中存活的对象都会被根对象集合直接或间接连接着,搜索所走过的路径称为引用链
- 如果目标对象没有任何引用链相连,则是不可达的,就意味着该对象已经死亡,可以标记为垃圾对象
- 在可达性分析算法中,只有能够被根对象集合直接或间接连接的对象才是存活对象
GC Roots
在Java语言中,GC Roots包括以下几类元素
- 虚拟机栈中引用的对象,比如:各个线程被调用的方法中使用到的参数、局部变量等 
- 本地方法栈内 - JNI(通常说的本地方法)引用的对象
- 方法区中类静态属性引用的对象:比如 - Java类的引用类型的静态变量
- 方法区中常量引用的对象:比如字符串常量池 - String Table的引用
- 所有被同步锁 - synchroized持有的对象
- Java虚拟机内部的引用。- 基本数据类型对应的 - Class对象,一些常驻的异常对象(如:- NullPointerException、- OutOfMemoryError),系统类加载器
- 反应 - Java虚拟机内部情况的- JMXBean、- JVMTI中注册的回调、本地代码缓存等
- 除了这些固定的 - GC Roots集合以外,根据用户所选用的垃圾收集器以及当前回收的内存区域不同,还有可以有其他对象"临时性"地加入,共同构成完整- GC Roots集合。比如:分代收集和局部回收- Partial GC- 如果只针对 - Java堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这时候就需要一并将关联的区域对象也加入- GC Roots集合中去考虑,才能保证可达性分析的准确性
小技巧:由于Root采用栈方式存放变量和指针,所以如果一个指针,它保存了堆内存里面的对象,但是自己又不存放在堆内存里面,那它就是一个Root
注意
如果要使用可达性分析算法来判断内存是否可回收,那么分析工作必须在一个能保障一致性的快照中进行。这点不满足的话分析结果的准确性就无法保证
这点也是导致GC进行时必须Stop The World的一个重要原因。即使号称(几乎)不会发生停顿的CMS收集器中,枚举根节点时也必须是要停顿的
# 13.2.3 对象的finalization机制
- Java语言提供了对象终止- finalization机制来允许开发人员提供对象被销毁之前的自定义处理逻辑
- 当垃圾回收器发现没有引用指向一个对象,即:垃圾回收对象之前,总会先调用这个对象的 - finalize()方法
- finalize()方法允许在子类中被重写,用于在对象被回收时进行资源释放。通常在这个方法中进行一些资源释放和清理的工作,比如关闭文件、套接字和数据库连接
- 永远不要主动调用某个对象的 - finalize()方法,应该交给垃圾回收机制调用。理由包括下面三点- finalize()可能会导致对象复活- finalize()方法的执行时间是没有保障的,它完全由- GC线程决定,极端情况下,若不发生- GC,则- finalize()方法将没有执行机会- 一个糟糕的 - finalize()会影响- GC的性能
- 从功能上来说, - finalize()方法与- C++中的析构函数比较相似,但是- Java采用的是基于垃圾回收器的自动内存管理机制,所以- finalize()方法在本质上不同于- C++中的析构函数
- 由于 - finalize()方法的存在,虚拟机中的对象一般处于三种可能的状态
生存还是死亡?
如果从所有的根节点都无法访问到某个对象,说明对象已经不再使用了。一般来说,此对象需要被回收。但事实上,也并非是"非死不可"的,这时候它们暂时处于"缓刑"阶段。一个无法触及的对象有可能在某一个条件下"复活"字节,如果这样,那么对它的回收就是不合理的,为此,定义虚拟机中的对象可能的三种状态。如下:
- 可触及的:从根节点开始,可以到达这个对象。
- 可复活的:对象的所有引用都被释放,但是对象有可能在finalize()中复活。
- 不可触及的:对象的finalize()被调用,并且没有复活,那么就会进入不可触及的状态。不可触及的对象不可能被复活。因为finalize()只会被调用一次
以上3种状态中,是由于finalize()方法的存在,进行的区分。只有在对象不可触及时才回收
具体过程
判断一个对象obj是否可回收,至少要经历两次标记过程
- 如果对象 - obj到- GC Roots没有引用链,则进行第一次标记
- 进行筛选,判断此对象是否有必要执行 - finalize()方法- 如果对象 - obj没有重写- finalize()方法,或者- finalize()方法已经被虚拟机调用过,则虚拟机视为"没有必要执行",- obj被判定为不可触及的- 如果对象 - obj重写了- finalize()犯法,且还未执行过,那么- obj就会被插入到- F-Queue队列中,由一个虚拟机自动创建的、低优先级的- Finalizer线程触发其- finalize()方法执行- finalize()方法是对象逃脱死亡的最后机会,稍后- GC会对- F-Queue队列中的对象进行第二次标记。如果- obj在- finalize()方法中与引用链上的任何一个对象建立了联系,那么在第二次标记时,- obj会被移除"即将回收"集合。之后,对象会再次出现没有引用存在的情况。在这个情况下,- finalize()方法不会被再次调用,对象会直接变成不可触及的状态,也就是说,一个对象的- finalize方法只会被调用一次
public class CanReliveObj {
    public static CanReliveObj obj; // 属于GC Root
	
    // 方法只会被调用一次
    @Override
    protected void finalize() throws Throwable {
        System.out.println("调用当前类重写的finalize()方法");
        obj = this; // 当前待回收的对象在finalize()方法中与引用链上的一个对象obj建立了联系
    }
    public static void main(String[] args) throws InterruptedException {
        obj = new CanReliveObj();
        obj = null;
        System.gc();
        // Finallizer线程优先级很低, 暂停2秒
        Thread.sleep(2000);
        System.out.println("第一次: " + obj); 
        obj = null;
        System.gc();
        Thread.sleep(2000);
        System.out.println("第二次: " + obj);
    }
}
// 调用当前类重写的finalize()方法
// 第一次: com.valid.CanReliveObj@5cad8086
// 第二次: null
# 13.2.4 清楚阶段:标记-清除算法
标记-清除算法Mark-Sweep:是一种非常基础和常见的垃圾收集算法,该算法被J.McCarthy等人在1960年提出并应用于Lisp语言
执行过程
当堆中的有效内存空间available memory被耗尽的时候,就会停止整个程序(也被称为stop the world),然后进行两项工作,第一项标记,第二项清除
- 标记: - Collector从引用根节点开始遍历,标记所有被引用的对象。一般是在对象的- Header中记录为可达对象
- 清除: - Collector对堆内存从头到尾进行个线性的遍历,如果发现某个对象在其- Header中没有标记为可达对象,则将其回收- 所谓的清除并不是真正的置空,而是把需要清除的对象地址保存在空闲的地址列表里,下次有新对象需要加载时,判断垃圾的位置空间是否够,如果够,就直接存放 
缺点
- 效率不高
- 在进行GC的时候,需要停止整个应用程序,导致用户体验差
- 这种方式清理出来的空闲内存是不连续的,会产生内存碎片。需要维护一个空闲列表
# 13.2.5 清除阶段:复制算法
核心思想:将活着的内存空间分为两块,每次只使用其中的一块,在垃圾回收时将正在使用的内存中的存活对象复制到未使用的内存块中,之后清除正在使用的内存块中的所有对象,交换两个内存的角色,最后完成垃圾收集
优点
- 没有标记和清除的过程,实现简单,运行高效
- 复制过去之后能够保证空间的连续性,不会出现"碎片"问题
缺点
- 此算法的缺点很明显,就是需要两倍的内存空间
- 对于G1这种分拆成大量region的GC,复制而不是移动,意味着GC需要维护region之间对象引用关系,不管是内存占用或者时间开销也不小
特别的:如果系统中的垃圾对象很多,复制算法不会很理想,因为需要复制的存活对象数量并不会太大,或者说非常低才行
应用场景
在新生代,对常规应用的垃圾回收,一次通常可以回收70%-99%的内存空间。回收性价比很高。所以现在的商业虚拟机都是用这种算法回收新生代
# 13.2.6 清除阶段:标记压缩算法
复制算法的高效性是建立在存活对象少、垃圾对象多的前提下。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象较多,复制的成本将会很高。因此基于老年代垃圾回收的特性,需要使用其他的算法
标记-清除算法的确可以应用在老年代中,但是该算法不仅执行效率低下,而且在执行完内存回收后还会产生内存碎片,所以JVM的设计者需要在此基础之上进行改进。标记-压缩Mark-Compact算法由此诞生
执行过程
- 第一阶段和标记-清除算法相同,从根节点开始标记所有被引用的对象
- 第二阶段将所有的存活对象压缩到内存的一端,按顺序存放
- 之后清理边界所有的空间
 
 标记-压缩算法的最终效果等同于标记-清除算法执行完成后,再进行一次内存碎片整理,因此,也可以把它称为标记-清除-压缩Mark-Sweep-Compact算法
二者的本质差异在于标记-清楚算法是一种非移动式的回收算法,标记-压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策
可以看出,标记的存活对象将会被整理,按照内存地址一次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给独享分配内存时,JVM只需要持有一个内存的起始地址即可,这比维护一个空闲列表显然少了许多开销
优点
- 消除了标记-清楚算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM需要持有一个内存的起始地址即可
- 消除了复制算法当中,内存减半的高额代价
缺点
- 从效率上来说,标记-整理算法要低于复制算法
- 移动对象的同时,如果独享被其他对象所引用,则还需要调整引用的地址
- 移动过程中,需要全程暂停用户应用程序STW
# 13.2.7 分代收集算法
前面所有这些算法中,并没有一种算法可以完全替代其他算法,它们都具有自己独特的优势和特点。分代收集算法应运而生
分代收集算法,是基于这样一个事实:不同的对象的生命周期是不一样的。因此,不同生命周期的对象可以采用不同的收集方式,以便提高回收效率。一般是把Java堆分为新生代和老年代,这样就可以根据各个年代的特点使用不同的回收算法,以提高垃圾回收的效率
在Java程序运行过程中,会产生大量的对象,其中有些对象是与业务信息相关,比如Http请求中的Session对象、线程、Socket连接,这类对象跟业务直接挂钩,因此生命周期比较长。但是还有一些对象,主要是程序运行过程中生成的临时变量,这些对象生命周期比较短,比如:Stirng对象,由于其不变的特性,系统会产生大量的这些对象,有些对象甚至只用一次即可回收
概述
目前几乎所有的GC都是采用分代收集Generational Collecting算法执行垃圾回收的。在HotSpot中国年,基于分代的概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特点。
- 年轻代 - Young Gen- 年轻代特点:区域相对老年代较小,对象生命周期短、存活率低,回收频繁 - 这种情况复制算法的回收整理,速度是最快的。复制算法的效率只和当前存活对象大小有关,因此很适用于年轻代的回收。而复制孙发内存利用率不高的问题,通过 - hotspot中的两个- survivor的设计得到缓解。
- 老年代 - Tenured Gen- 老年代特点:区域较大,对象声明周期长、存活率高,回收不及年轻代频繁。这种情况存在大量存活率高的对象,复制算法明显变得不合适,一般是由标记-清除或是标记-清除与标记-整理的混合实现 - Mark阶段的开销与存活对象的数量成正比
- Sweep阶段的开销与所管理区域的大小成正相关
- compact阶段的开销与存活对象的数据成正比
 
# 13.2.8 增量收集算法、分区算法
增量收集算法
上述的几种算法,在垃圾回收过程中,应用软件将处于一种Stop the world的状态。Stop the World状态下,应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间过长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集Incremental Collecting算法的诞生
基本思想
如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集线程和应用线程交替执行。每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,直到垃圾收集完成
总得来说,增量收集算法的基础仍是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作
缺点
使用这种方式,由于在垃圾回收过程中,间断性地还执行了应用程序代码,所以能减少系统的停顿时间。但是,因为线程切换和上下文转换的消耗,会使得垃圾回收的总体成本上升,造成系统吞吐量的下降
分区算法
一般来说,在相同条件下,堆空间越大,一次GC所需的时间就越长,有关GC产生的停顿也越长。为了更好地控制GC产生的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一次GC所产生的停顿
分代算法将按照对象的生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不通下区间
每一个小区间都独立使用,独立回收。这种算法的好处是可以一次回收多个小区间
 
 # 13.3 垃圾回收相关概念
# 13.3.1 System.gc()
在默认情况下,通过System.gc()或者Runtime.getRuntime().gc()的调用,会显示触发Full GC,同时对老年代和新生代进行回收,尝试释放被丢弃对象占用的内存
然而System.gc()调用附带一个免责声明,无法保证对垃圾收集器的调用
JVM实现者可以通过System.gc()调用来决定JVM的GC行为。而一般情况下,垃圾回收应该是自动进行的,无需手动触发。在一些特殊的情况下,可以选择调用System.gc()
# 13.3.2 内存泄露和溢出
内存溢出OOM
内存溢出相对于内存泄露来说,会更容易理解,但是同样的,内存溢出也是引发程序崩溃的罪魁祸首之一
由于GC一直在发展,所有一般情况下,除非应用程序占用的内存增长速度非常快,造成垃圾回收已经跟不上内存消耗的速度,否则不太容易出现OOM的情况
大多数情况下,GC会进行各种年龄段的垃圾回收,是在不行了才会执行Full GC操作,这时候会回收大量的内存,供应用程序继续使用
javadoc中对OutOfMemoryError的解释是,没有空闲内存,并且垃圾收集器也无法提供更多的内存
没有空闲内存有两种情况
- Java虚拟机的堆内存设置不够- 比如:可能存在内存泄漏问题,也可能是堆的大小不合理,比如我们要处理比较可观的数据量,但是没有显示指定 - JVM堆大小或者指定数值偏小。我们可以通过参数- -Xms、- -Xmx来调整
- 代码中创建了大量大对象,并且长时间不能被垃圾收集器收集(存在被引用) - 对于老版本的 - Oracle JDK,因为永久代的大小是有限的,并且- JVM对永久代垃圾回收(如,常量池回收、卸载不再需要的类型)非常不积极,所以当我们不断添加新类型的的时候,永久代出现- OutOfMemoryError也非常难多见,尤其是在运行时存在大量动态类型生成的场合;类似- intern字符串缓存占用太多空间,也会导致- OOM问题。对应的异常类型,会标记出来和永久代相关:- java.lang.OutOfMemoryError: PermGen space- 随着元数据的引入,方法区内存已经不再那么窘迫了,所以相应的 - OOM有所改观,出现- OOM,异常信息则变成了:- java.lang.OutOfMemoryError: Metaspace。直接内存不足,也会导致- OOM
在抛出OutOfMemoryError之前,通常垃圾收集器会被触发,尽其所能去清理出空间
- 例如:在引用机制分析中,涉及到JVM会去尝试回收软引用指向的对象等
- 在java.nio.BIts.reserveMemory()方法中,我们能清除的看到,System.gc()会被调用,以清理空间
当然,也不是在任何情况下垃圾收集器都会被触发。比如,我们去分配一个超大对象,类似一个超大数组超过堆的最大值,JVM可以判断出垃圾收集并不能解决这个问题,所以直接抛出OutOfMemoryError
内存泄漏
也称作"存储渗漏"Memory Leak。严格来说,只要对象不会再程序用到了,但是GC又不能回收他们的情况,才叫内存泄露
但实际情况很多时候一些不太好的实践(或疏忽)会导致对象的生命周期变得很长甚至导致OOM,也可以叫做宽泛意义上的"内存泄漏"
尽管内存泄漏并不立刻引起程序崩溃,但是一旦发生内存泄漏,程序中的可用内存就会被逐步蚕食,直至耗尽所有内存,最终出现OutOfMemory异常,导致程序崩溃
注意,这里的存储空间并不是指物理内存,而是指虚拟机内存大小,这个虚拟机内存大小取决于磁盘交换区设定的大小
示例
- 单例模式,单例的生命周期和应用程序一样长,所以单例程序中,如果持有对外部对像的引用的话,那么这个外部对象是不能被回收的,会导致内存泄漏的产生
- 一些提供close的资源未关闭导致内存泄漏,数据库连接dataSource.getConnection(),网络连接socket和io连接必须手动close,否则是不能被回收的
# 13.3.3 STW
Stop the WOrld,简称STW,指的是GC事件发生过程中,会产生应用程序的停顿。停顿产生时整个应用程序线程都会被暂停,没有任何响应,这个停顿称为STW
可达性分心算法中枚举根节点GC Roots会导致所有Java执行线程停顿。
- 分析工作必须在一个能确保一致性的快照中进行
- 一致性指整个分心期间整个执行系统看起来像被冻结在某个时间点上
- 如果出现分析过程中对象引用关系不断变化,则分析结果的准确性无法保证
被STW中断的应用程序线程会在完成GC之后恢复,频繁中断会让用户感觉像是网速不快造成的电影卡顿一样,所以我们需要减小STW的发生
STW事件和采用哪款GC无关,所有的GC都有这个事件。哪怕是G1也不能完全避免Stop the World情况发生,只能说垃圾回收器越来越优秀,回收效率越来越高,尽可能地缩短了暂停时间
STW是JVM在后台自动发起和自动完成的。在用户不可见的情况下,把用户正常的工作线程全部停掉
开发中不要使用System.gc(),会导致STW的发生
# 13.3.4 垃圾回收的并行与并发
并发
在操作系统中,是指一个时间段中有几个程序都处于已启动运行到完毕之间之间,且这几个程序都是在同一个处理器上运行
并发Concurrent不是真正意义上的"同时进行",只是把CPU把一个时间段划分为几个时间片段(时间区间),然后在这几个时间区间之间来回切换,由于CPU处理的速度非常快,只要时间间隔处理得当,就可以让用户感觉是多个应用程序在同时运行
并行
当系统有一个以上的CPU时,当一个CPU执行一个进程时,另一个CPU可以执行另一个进程,两个进程互不抢占CPU资源,可以同时进行,我们称之为并行Parallel
决定并行的因素并不是CPU的数量,而是CPU的核心数量,比如一个CPU多个核也可以并行
适合科学计算,后台处理等弱交互场景
垃圾回收
 
 并行:指多条垃圾收集线程并行工作,但此时用户线程仍处于等待状态。
- 如ParNew、Parallel、Scavenge、Parallel Old
串行Serial
- 相较于并行的概念,单线程执行
- 如果内存不够,则程序暂停,启动JVM垃圾回收器进行垃圾回收。回收完,再启动程序的线程
并发:指用户线程与垃圾收集线程同时执行(但不一定是并行的,可能会交替执行),垃圾回收线程在执行时不会停顿用户程序的运行
- 用户程序继续运行,而垃圾收集线程运行于另一个CPU上
- 如:CMS、G1
# 13.3.5 安全点与安全区域
安全点
程序在执行时并非在所有地方都能停顿下来开始GC,只有在特定的位置才能停顿下来开始GC,这些位置称为"安全点Safepoint"
Safe Point的选择很重要,如果太少可能导致GC等待的时间太长,如果太频繁可能导致运行时的性能问题。大部分指令的执行时间都非常短暂,通常会根据"是否具有让程序长时间执行的特征"为标准。比如:选择一些执行时间较长的指令作为Safe Point,如方法调用、循环跳转和异常跳转等
如何在GC发生时,检查所有线程都跑到最近的安全点停顿下来呢?
- 抢占式中断:(目前没有虚拟机采用)首先中断所有线程。如果还有线程不在安全点,就恢复线程,让线程跑到安全点
- 主动式中断:设置一个中断标志,各个线程运行到Safe Point的时候主动轮询这个标志,如果中断标志为真,则将自己进行中断挂起
安全区域
Safe point机制保证了程序执行时,在不太长的时间内就会遇到可进入GC的SafePoint。但是程序"不执行"的时候呢?例如线程处于Sleep状态或Blocked状态,这时候线程无法响应JVM的中断请求,"走"到安全点去中断挂起,JVM也不太可能等待线程被唤醒。对于这种情况,就需要安全区域Safe Region来解决。
安全区域是指一段代码片段中,对象的引用关系不会发生变化,在这个区域中的任何位置开始GC都是安全的。我们也可以把Safe Region看做是被扩展了的Safepoint
实际执行时:
- 当线程运行到Safe Region的代码时,首先标识已经进入了Safe Region,如果这段时间内发生GC,JVM会忽略标识为Safe Region状态的线程
- 当线程即将离开Safe Region时,会检查JVM是否已经完成GC,如果完成了,则继续运行,否则线程必须等待直到可以安全离开Safe Region的信号为止
# 13.4 引用
希望一类对象:当内存空间还足够时,则能保留在内存中,如果内存空间在进行垃圾收集后还是很紧张,则可以抛弃这些对象
在JDK1.2之后,Java对引用的概念进行了扩充,将引用分为强引用Stong Reference、软引用Soft Reference、弱引用WeakReference和虚引用PhantomReference4种,这四种强度的引用依次逐渐减弱
除强引用以外的三种引用都位于java.lang.ref包下
 
 - 强引用 - StrongReference:最传统的"引用"的定义,是指在程序代码之中普遍存在的引用赋值,即类似- Object obj = new Object();- 无论任何情况下,只要强引用关心还存在,垃圾收集器就永远不会回收掉被引用的对象 
- 软引用 - SoftReference:在系统将要发生内存溢出之前,将会把这些对象列入回收范围之中进行第二次回收。如果这次会时候之后还没有足够的内存,才会抛出内存溢出异常
- 弱引用 - WeakReference:被弱引用关联的对象只能生存到下一次垃圾收集之前。当垃圾收集器工作时,无论内存空间是否足够,都会回收掉被弱引用关联的对象
- 虚引用 - PhantomReference:一个对象是否有虚引用的存在,完全不会对其生存时间构成影响,也无法通过虚引用来获得一个对象的实例。为一个对象设置虚引用关联的唯一目的就是能在这个被收集器回收时收到一个系统通知
# 13.4.1 强引用
强引用StrongReference不回收
在Java程序中,最常见的引用类型就是强引用(普通系统99%以上都是强引用),也就是我们最常见的普通对象引用,也是默认的引用类型
当在Java语言中使用new操作符创建一个新的对象,将其赋值给一个变量的时候,这个变量就成为指向该对象的一个强引用
Object obj = new Object();
强引用的对象是可触及的,垃圾收集器就永远不会回收掉被引用的对象
对于一个普通的对象,如果没有其他的引用关系,只要超过了引用的作用域或者显式地将相应(强)引用赋值为null,就是可以当做垃圾收集了
相对的,软引用、弱引用和虚引用的对象都是软可触及、弱可触及和虚可触及的,在一定条件下,都是可以被回收的。所以,强引用是造成Java内存泄漏的主要原因之一
# 13.4.2 软引用
软引用SOft Reference内存不足即回收
软引用是用来描述一些还有用,但非必需的对象。只被软引用关联着的对象,在系统将要发生内存溢出异常前,会把这些对象列进回收范围之中进行第二次回收,如果这次回收还没有足够的内存,才会抛出内存溢出异常
软引用通常用来实现内存敏感的缓存。比如:高速缓存就有用到软引用。如果还有空闲内存,就可以暂时保留缓存,当内存不足时清理掉,这样就保证了使用缓存的同时,不会耗尽内存
垃圾回收器在某个时刻决定回收软可达的对象的时候,会清理软引用,并可选地把引用存放到一个引用队列中Reference Queue
类似弱引用,只不过Java虚拟机会尽量让软引用的存活时间长一些,迫不得已才会清理
// 声明一个软引用
SoftReference<Map<String, String>> obj = new SoftReference<>(new HashMap<>());
# 13.4.3 弱引用
弱引用Weak Reference发现即回收
弱引用也是用来描述那些非必需对象,只被弱引用关联的对象只能生存到下一次垃圾收集发生为止。在系统GC时,不管系统堆空间使用是否充足,都会回收掉只被弱引用关联的对象
但是由于垃圾回收器的线程通常优先级很低,因此,并不一定能很快地发现持有软引用的对象。在这种情况下,弱引用对象可以存在较长的时间
弱引用和软引用一样,在构造弱引用时,也可以指定一个引用队列,当弱引用对象被回收时,就会加入指定的引用队列,通过这个队列可以跟踪对象的回收情况
软引用、弱引用都非常适合用来保存哪些可有可无的缓存数据。如果这么做。当系统内存不足时,这些缓存数据就会被回收,不会导致内存溢出。而当内存资源充足时,这些数据又可以存在相当长的时间,从而起到加速系统的作用
// 声明一个弱引用
WeakReference<Object> obj = new WeakReference<>(new Object());
弱引用对象与软引用对象的最大不同就在于,当GC在进行回收时,需要通过算法检查是否回收软引用对象,而对于弱引用对象,GC总是进行回收。弱引用对象更容易、更快被GC回收
# 13.4.4 虚引用
虚引用Phantom Reference对象回收跟踪。
也称为"幽灵引用"或者"幻影引用",是所有引用类型中最弱的一个
一个对象是否有虚引用的存在,完全不会决定对象的声明周期。如果一个对象仅持有虚引用,那么它和几乎没有引用是一样的,随时可能被垃圾回收器回收器回收
它不能单独使用,也无法通过虚引用来获取被引用的对象。当试图通过虚引用的get()方法获取对象时,总是null
为一个对象设置虚引用关联的唯一目的是在于跟踪垃圾回收过程。比如:能在这个对象被收集器回收时收到一个系统通知
虚引用必须和引用队列一起使用。虚引用在创建时必须提供一个引用队列作为参数。当垃圾回收器准备回收一个对象时,若果发现它还有虚引用,就会在回收对象后,将这个虚引用加入到引用队列中,以通知应用程序对象的回收情况
由于虚引用可以跟踪对象的回收时间,因此,也可以将一些资源释放操作放置在虚引用中执行和记录
Object obj = new Object();
ReferenceQueue<Object> queue = new ReferenceQueue<>(); 					// 引用队列
PhantomReference<Object> ref = new PhantomReference<>(obj, queue);		// 创建虚引用
obj = null; 															// 销毁强引用
# 13.4.5 终结器引用
终结器引用FinalReference,用于实现对象的finalize()方法,也可以称为终结器引用
无需手动编码,其内部配合引用队列使用
在GC时,终结器引用入队。由Finalizer线程通过终结器引用找到被引用对象并调用它的finalize()方法,第二次GC时才能回收被引用对象
# 13.5 垃圾回收器
# 13.5.1 GC分类与性能指标
垃圾收集器没有在规范中进行过多的规定,可以由不同的厂商、不同版本的JVM来实现
由于JDK的版本处于高速迭代过程中,因此Java发展至今已经衍生了众多的GC版本
分类
从不同角度分析垃圾收集器,可以将GC分为不同的类型
- 按照线程数分,分为串行垃圾收集器和并行垃圾收集器   - 串行回收指的是在同一时间段内只允许有一个 - CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束- 在诸如CPU处理器或者较小的引用内存等硬件平台资源不是特别丰富的场合,串行回收器的性能表现可以超过并行回收器和并发回收器。所以。串行回收默认被应用在客户端的Client模式下的JVM中
- 在并发能力较强的CPU上,并行回收器产生的停顿时间要短于串行回收期
 - 和串行回收相反,并行收集可以运行多个 - CPU同时执行垃圾回收,因此提升了应用的吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用了- Stop-the-world机制
- 在诸如
- 按照工作模式分,可以分为并发式垃圾回收器和独占式垃圾回收器 - 并发式垃圾回收器与应用程序线程交替工作,尽可能减少应用程序的停顿时间。 - 独占式垃圾回收器一旦运行,就会停止应用程序中的所有用户线程,直到垃圾回收完全结束  
- 按碎片处理方法分,可分为压缩式垃圾回收器和非压缩式垃圾回收器 - 压缩式垃圾回收器会在回收完成后,对存活对象进行压缩整理,消除回收后的碎片 - 非压缩式的垃圾回收器不进行这步操作 
- 按工作的内存区间分,又可分为年轻代垃圾回收器和老年代垃圾回收器 
性能指标
吞吐量:运行用户代码的时间占总时间运行的比例
- 总运行时间:程序的运行时间+内存回收的时间
垃圾收集开销:吞吐量的补数,垃圾收集所用时间云总运行时间的比例
暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间
收集频率:相对于应用程序的执行,收集操作发生的频率
内存占用:Java堆区所占用的内存大小
快速:一个对象从诞生到被回收所经历的时间
两大重点指标
- 吞吐量 - throughput- 吞吐量就是 - CPU用于运行用户代码的时间与- CPU消耗时间的比值。即吞吐量=运行用户代码时间/(运行用户代码时间+垃圾收集时间)。比如:虚拟机总共运行了- 100分钟,其中垃圾收集花掉1分钟,那吞吐量就是- 99%- 这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用车程序有更长的时间基准,快速响应是不必考虑的 - 吞吐量优先,意味着在单位时间内, - STW的总时间最短:- 0.2 + 0.2 = 0.4 
- 暂停时间 - pause time- "暂停时间"是指一个时间段内应用程序线程暂停,让 - GC线程执行的状态。例如,- GC期间- 100ms的暂停时间意味着在这- 100ms内没有应用程序线程是活动的- 暂停时间优先,意味着尽可能让单次 - STW的时间最短:- 0.1 + 0.1 + 0.1 + 0.1 + 0.1 = 0.5 
高吞吐量较好因为这会让应用程序的最终用户感觉只有应用程序线程在做"生产性"工作。直觉上,吞吐量越高程序运行越快
低暂停时间(低延迟)较好因为从最终用户的角度来看不管是GC还是其他原因导致一个应用被挂起始终是不好的。者取决于应用程序的类型,有时甚至短暂的200ms暂停可能会打断终端用户的体验,因此,具有较低的较大暂停时间是非常重要的,特别是对于一个交互式应用程序
不幸的是"高吞吐量"和"低暂停时间"是一对相互竞争的目标
- 因为如果选择以吞吐量优先,那么必然需要降低内存回收执行频率,但是这样导致GC需要更长的暂停时间来执行内存回收
- 相反的,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又引起了年轻代内存的缩减和导致程序吞吐量的下降
# 13.5.2 不同垃圾回收器的概述
经典垃圾回收器
串行回收器:Serial、Serial Old
并行回收器:ParNew、Parallel Scavenge、Parallel Old
并发回收器:CMS、G1
 
 垃圾分代关系
 
 - 新生代收集器:Serial、ParNew、Parallel Scavenge
- 老年代收集器:Serial Old、Parallel Old、CMS
- 整堆收集器G1
垃圾收集器组合关系
 
 有连线说明可以组合使用
- 红色虚线:优于维护和兼容性测试的成本,在JDK8时将Serial+CMS、ParaNew GC+Serial Old这个组合废弃
- 绿色虚线:JDK14中弃用Parallel Scavenge和Serial Old
- 青色虚线:JDK14中删除CMS垃圾回收器
查看默认的垃圾收集器
- -XX:+PrintCommandLineFlags:查看命令行相关参数(包含使用的垃圾收集器)
- 使用命令行指令:jinfo -flag相关垃圾回收器参数 进程ID
# 13.5.3 Serial串行回收
 
 Serial收集器是最基本、历史最悠久的垃圾收集器。JDK1.3之前回收新生代唯一的选择
Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器
Serial收集器采用复制算法、串行回收和Stop the world机制的方式执行内存回收
出了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。Serial Old收集器同样也采用了串行回收和Stop the World机制,只不过内存回收算法使用的是标记-压缩算法
- Serial Old是运行在- Client模式下默认的老年代的垃圾回收器
- Serial Old在- Server模式下主要有两个用途- 与新生代的 - Parallel Scavenge配合使用- 作为老年代 - CMS收集器的后备垃圾收集方案
这个收集器是一个单线程的收集器,但它的"单线程"的意义不仅仅说明它只会使用一个CPU或一条收集线程去完成垃圾收集工作,更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束Stop The World
优势:简单而高效(与其他收集器的单线程相比) ,对于限定单个CPU的环境来说,Serial收集器由于没有线程教会的开销,专心做垃圾收集自然可以获得最高的单线程收集效率。运行在Client模式下的虚拟机是个不错的选择
在用户的桌面应用场景中,可用内存一般不大,可以在较短时间内完成垃圾收集,只要不频繁发生,使用串行回收器是可以接受的
在HotSpot虚拟机中,使用-XX:+UseSerialGC参数可以指定年轻代和老年代都使用串行收集器。等价于新生代使用Serial GC,而老年代使用Serial Old GC
# 13.5.4 ParNew并行回收
 
 如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Serial收集器的多线程版本。Par是Parallel的缩写,New:只能处理新生代
ParNew收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法Stop-the-World机制
ParNew是很多JVM运行在Server模式下新生代的默认垃圾收集器
ParNew收集器运行在多CPU的环境下,由于可以充分利用多CPU、多核心等物理硬件资源优势,可以更快速地完成垃圾收集,提升程序的吞吐量。但是在单个CPU的环境下,ParNew收集器不比Serial收集器更高效。虽然Serial收集器是基于串行回收,但是由于CPU不需要频繁地做任务切换,因此可以有效避免多线程交互过程中产生的一些额外的开销。
除Serial以外,目前只有ParNew GC能与CMS收集器配合工作(ParNew已过时)
# 13.5.5 Parallel吞吐量优先
 
 HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样采用了复制算法、并行回收和Stop-the-World机制
和ParNew收集器不同,Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量Throughput,它也被称为吞吐量优先的垃圾收集器。自适应调节策略也是Parallel Scavenge与ParNew一个重要区别
高吞吐量则可以高效地利用CPU时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,一些执行批量处理、订单处理、工资支付、科学计算的应用程序
Parallel收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel Old收集器,用来代替老年代的Serial Old收集器
Parallel Old收集器采用了标记-压缩算法,但同样也是基于并行回收和Stop-the-World机制
JDK8中默认是Parallel收集器
参数配置
手动指定年轻代使用Parallel并行收集器执行内存回收任务
-XX:+UseParallelGC
手动指定老年代都是使用并行回收收集器,默认JDK8是开启的
-XX:+UseParallelOldGC
上面两个参数,默认开启一个,另一个也会被开启
设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能
- 在默认情况下,当 - CPU数量小于8个,- ParallelGCThreads的值等于- CPU的数量
- 当 - CPU数量大于- 8个,- ParallelGCThreads的值等于- 3 + (5 * CPU_Count) / 8
设置垃圾收集器最大停顿时间(即STW的时间)。单位:ms。为了尽可能地把停顿时间控制在MaxGCPauseMills以内,收集器在工作时会调整Java堆大小或者其他一些参数。对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重高并发,整体的吞吐量。所以服务器端适合Parallel进行控制(该参数使用需谨慎)
-XX:MaxGCPauseMillis
设置垃圾收集时间占总时间的比例1 / (N + 1)用于衡量吞吐量的大小。取值范围(0, 100)。默认值是99,也就是垃圾回收时间不超过1%。与前一个-XX:MaxGCPauseMills参数有一定的矛盾性。暂停时间越长,Radio参数就容易超过设定的比例
-XX:GCTimeRatio
设置Parallel Scavenge收集器具有自适应调节策略。在这种模式下,年轻代的大小、Eden和Survivor的比例、晋升老年代的对象年龄等参数会被自动调整,已达到堆大小、吞吐量和停顿时间之间的平衡点。在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标的吞吐量GCTImeRatio和停顿时间MaxGCPauseMills,让虚拟机自己完成调优工作
-XX:+UseAdaptiveSizePolicy
# 13.5.6 CMS低延迟
 
 在JDK1.5时期,HotSpot推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器:CMS(Concurrent-Mark-Sweep)收集器,这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集器与用户线程同时工作
CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验
- 目前很大一部分的Java应用集中在互联网站或者B/S系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来好的体验。CMS收集器就非常符合这类应用的需求
CMS的垃圾收集器算法采用标记-清除算法,并且也会Stop-the-World
CMS作为老年代的收集器,无法与新生代收集器Parallel Scavenge配合工作
工作原理
CMS整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段、并发标记阶段、重新标记阶段和并发清除阶段
- 初始标记Initial-Mark阶段:在这个阶段中,程序所有的工作线程都会因为Stop-the-World机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快
- 并发标记Concurrent-Mark阶段:从GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行
- 重新标记Remark阶段:由于在并发阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户线程继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短
- 并发清除Concurrent-Sweep阶段:此阶段清理删除标记阶段的已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的
说明
由于垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次Concurrent Mode Failure失败,这是虚拟机将启动后备预案:临时启用Serial Old收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了
CMS收集器的垃圾收集算法采用的是标记-清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将产生一些内存碎片。那么CMS在为新对象分配内存空间时,将无法使用指针碰撞Bump the Pointer技术,而只能够选择空闲列表Free List执行内存分配
优缺点
优点
- 并发收集
- 低延迟
缺点
- 会产生内存碎片,导致并发清除后,用户线程可用的内存空间不足,在无法分配大对象的情况下,不得不提前触发Full GC
- CMS收集器对- CPU资源非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低
- CMS收集器无法处理浮动垃圾。可能出现- Concurrent Mode Failure失败而导致另一次- Full GC的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如何产生新的垃圾对象,- CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行- GC时释放这些之前未被回收的内存空间
参数设置
- 手动指定使用 - CMS收集器执行内存回收任务- -XX:+UseConcMarkSweepGC- 开启该参数后会自动将 - -XX:+UserParNewGC打开,表明老年代使用- CMS,年轻代使用- ParNew
- 设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收 - -XX:CMSInitiatingOccupanyFraction- JDK5及以前版本的默认值是68,即当老年代的空间使用率达到- 68%时,会执行- CMS回收。- JDK6以上默认值是- 92%- 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效降低 - CMS的触发频率,减少老年代回收的次数可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低- Full GC的执行次数
- 压缩整理 - -XX:+UseCMSCompactAtFullCollection- 用于指定在执行完 - Full GC后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所以带来的问题就是停顿时间变得更长了
- 设置在执行多少次 - Full GC后对内存空间行压缩整理- -XX:CMSFullGCsBeforeCompaction- 设置在执行多少次 - Full GC后对内存空间进行压缩整理
- 设置 - CMS的线程数量- -XX:ParallelCMSThreads- CMS默认启动的线程数是- (ParallelGCThreads+3) / 4- ParallelGCThreads是年轻代并行收集器的线程数。当- CPU资源比较紧张时,收到- CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕
CMS在JDK9中过时,JDK14中移除
# 13.5.7 G1区域分代式⭐️
 
 官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起"全功能收集器"的重任与期望
G1(Garbage-First)是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU即大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征
在JDK1.7版本正式启用,移除了Experimental的标识,是JDK9以后默认的垃圾回收器
为什么名字叫Garbage First
因为G1是一个并行回收器,它把堆内存分割为很多不相关的区域Region(物理上是不连续的)。使用不同的Region来表示Eden、幸存者0区、幸存者1区、老年代等
G1 GC有计划地避免整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许收集时间,优先回收价值最大的Region
由于这种方式侧重点在于回收垃圾最大量的区间Region,所以我们给G1一个名字:垃圾优先Garbage First
优势
并行与并发
- 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW
- 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,一次,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况
分代收集
 
 - 从分代上看,G1仍然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区。但从堆的结构上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量
- 将堆空间分为若干个区域Region,这些区域中包含了逻辑上的年轻代和老年代
- 和之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代
空间整合
- CMS:"标记-清除"算法、内存碎片、若干次- GC后进行一次碎片整理
- G1将内存划分为一个个的- region。内存的回收是以- region作为基本单位的。- Region之间是复制算法,但整体上实际可看作是标记-压缩- Mark-Compact算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次- GC。尤其是当- Java堆非常大的时候,- G1的优势更加明显
可预测的停顿时间
这是G1相对于CMS的另一大优势,G1出了追求低停顿外,还可能建立预测的停顿时间模型,这能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒
- 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制
- G1跟踪各个- Region里面的垃圾堆积的价值大小(回收所获得空间的大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的- Region。保证了- G1收集器在有限的时间内可以获取尽可能高的收集效率
- 相对于CMS、GC、G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多
缺点
相较于CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用Footprint还是程序运行时的额外执行负载Overload都要比CMS高
从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间
参数设置
- 手动指定使用 - G1收集器执行内存回收任务- -XX:+UseG1GC
- 设置每个 - Region的大小。值是2的幂,范围是- 1MB到- 32MB之间,目标是根据最小的- Java堆划分出约- 2048个区域,默认是堆内存的- 1/2000- -XX:G1HeapRegionSize
- 设置期望达到的最大 - GC停顿时间指标(- JVM)会尽力实现,但不保证达到。默认值是- 200ms- -XX:MaxGCPauseMillis
- 设置 - STW工作线程数的值。最多设置为8- -XX:ParallelGCThread
- 设置并发标记的线程数。将n设置为并行 垃圾回收线程数 - ParallelGCThreads的- 1/4左右- -XX:ConcGCThreads
- 设置触发并发 - GC周期的- Java堆占用率阈值。超过此值,就触发- GC。默认值是45- -XX:InitiatingHeapOccupancyPercent
使用场景
面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小堆里表现并不明显)
最主要的应用是需要地延迟,并具有大堆的应用程序提供解决方案
如:在堆大小约6GB或更大时,可预测的暂停时间可以低于0.5s(G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)
用来替换JDK1.5中的CMS收集器,在下面的情况时,使用G1可能比CMS性能较好
- 超过50%的Java堆被活动数据占用
- 对象分配频率或年代提升频率变化很大
- GC停顿时间过长(长于- 0.5s~1s)
HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GV线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程
分区Region
使用G1收集器时,它将整个Java堆划分为约2048个大小相同的独立的Region块,每个Region块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB,且为2的N次幂。可以通过-XX:G1HeapRegionSize设定。所有的Region大小相同,且在JVM声明周期内不会被改变
虽然还保留有新生代和老年代的概念,但是新生代和老年代不再是物理隔离了,它们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续
 
 一个Region有可能属于Eden,Survivor或者Old/Tenured内存区域。但是一个region只可能属于一个角色。图中的E表示该region属于Eden内存区域,S表示属于Survivor内存区域,O表示属于Old内存区域。图中空白的表示未使用的内存区域
G1垃圾收集器还增加了一种新的内存Old内部区域,叫做Humongous内存区域,如图中的H块。主要用于存储大对象,如果超过1.5个region,就放到H
设置H的原因:对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待
回收过程
主要包含以下几个过程
- 年轻代GC(Young GC)
- 老年代并发标记过程Concurrent Marking
- 混合回收Mixed GC
- (如果需要,单线程、独占式、高强度的Full GC还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收)
 
 应用程序分配内存,当年轻代的Eden区用尽时开始年轻代的回收过程:G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收,然后从年轻代区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及
当堆内存使用达到一定值(默认是45%)时,开始老年代并发标记过程。
标记完成后马上开始混合回收过程。对于一个混合回收期,G1 GC从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了。同时,这个老年代Region是和年轻代一起被回收的
记忆集
记忆集Remembered Set会解决的问题
- 一个对象被不同区域引用的问题
- 一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确
- 在其他的分代收集器,也存在这样的问题(G1更加突出),这样的话会降低Minor GC的效率
解决方法
- 无论G1还是其他分代收集器,JVM都是使用Remembered Set来避免全局扫描
- 每个Region都有一个对应的Remembered Set
- 每次Reference类型数据写操作时,都会产生一个Write Barrier暂时中断操作
- 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(其他收集器:检查老年代对象是否引用了新生代)
- 如果不同,通过CardTable把相关引用信息记录到引用指向对象所在Region对应的Remembered Set中
- 当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set,就可以保证不进行全局扫描,也不会有遗漏
 
 年轻代GC
JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程
年轻代垃圾回收只会回收Eden区和Survivor区
YGC时,首先G1停止应用程序的执行Stop-the-World,G1创建回收集Collection Set,回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段
具体过程
- 扫描根 - 根是指 - static变量指向的对象,正在执行的方法调用链条上的局部变量等。根引用连同- RSet记录的外部引用作为扫描存活对象的入口
- 更新 - RSet- 处理 - dirty card queue(见备注)中的- card,更新- RSet。此阶段完成后,- RSet可以准确的反应老年代对所在的内存分段中对象的引用- 备注:对于应用程序的引用赋值语句 - object.field=object,- JVM会在之前和之后执行特殊的操作以在- dirty card queue中入队一个保存了对象引用信息的- card。在年轻代回收的时候,- G1会对- dirty card queue中所有的- card进行处理,以更新- RSet,保证- RSet实时准确的反应引用关系- 为什么不在引用赋值语句直接更新 - RSet呢?这是为了性能的需要,- RSet的处理需要线程同步,开销会很大,使用队列性能会好很多
- 处理 - RSet- 识别被老年代对象所指的 - Eden中的对象,这些是被指向的- Eden中的对象被认为是存活的对象。
- 复制对象 - 此阶段,对象树被遍历, - Eden区内存段中存活的对象会被复制到- Survivor区中空的内存分段,- Survivor区内存段中存活的对象如果年龄未达到阈值,年龄会加1,达到阈值会被复制到- Old区中空的内存分段。如果- Survivor空间不够,- Eden空间的部分数据会直接晋升到老年代空间。
- 处理引用 - 处理 - Soft、- Weak、- Phantom、- Fianl、- JNI Weak等引用。最终- Eden空间的数据为空,- GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片
并发标记过程
- 初始标记阶段:标记从根节点直接可达的对象。这个阶段是STW的,并且会触发一次年轻代GC
- 根区域扫描Root Region Scanning:G1 GC扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在young GC之前完成
- 并发标记Concurrent Marking:在整个堆中进行并发标记(和应用程序并发执行),此过程可能被young GC中断。在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)
- 再次标记Remark:由于应用程序持续进行,需要修正上一次的标记的结果。是STW的。G1中采用了比CMS更快的初始快照算法:snapshot-at-the-beginning(SATB)
- 独占清理cleanup STW:计算各个区域的存活对象和GC回收比例,并进行排序,识别可以混合回收的区域。为下阶段做铺垫。会发生STW
- 并发清理阶段:识别并清理完全空闲的区域
混合回收
 
 当越来越多的对象晋升到老年代old region时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即Mixed GC,该算法并不是一个Old GC,除了回收整个Young Region,还回收一部分的Old Region。这里需要注意:是一部分老年代,而不是全部老年代。可以选择哪些Old Region进行收集,从而,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC
并发标记结束以后,老年代中百分之百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分8次(可以通过-XX:G1MixedGCCountTarget设置)被回收
回合回收的回收集Collection Set包括八分之一的老年代内存分段,Eden区分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一致,只是回收集多了老年代的内存分段。具体过程请参考上面的年轻代回收过程
由于老年代中的内存分段默认分8次回收,G1优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收,-XX:G1MixedGCLiveThresholdPercent,默认为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间
混合回收并不一定要进行8次。有一次阈值-XX:G1HeapWastePercent,默认值为10%,意思是允许整个堆内存中有10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。
Full GC
G1的初衷就是要避免Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行Stop-The-World,使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间会很长
要避免Full GC的发生,一旦发生需要进行调整。什么时候会发生Full GC?
- 比如堆内存太小,当G1在复制存活对象的时候没有空的内存分段可用,则回退到Full GC,这种情况可以通过增大内存解决
导致G1 Full GC的原因可能有两个
- Evacutaion的时候没有足够的- to-space来存放晋升的对象
- 并发处理过程完成之前空间耗尽
# 13.5.8 总结
| 垃圾收集器 | 分类 | 作用位置 | 使用算法 | 特点 | 使用场景 | 
|---|---|---|---|---|---|
| Serial | 串行运行 | 作用于新生代 | 复制算法 | 响应速度优先 | 适用于单CPU环境下的client模式 | 
| ParNew | 并行运行 | 作用于新生代 | 复制算法 | 响应速度优先 | 多CPU环境Server模式下与CMS配合使用 | 
| Parallel | 并行运行 | 作用于新生代 | 复制算法 | 吞吐量优先 | 适用于后台运算而不需要太多交互的场景 | 
| Serial Old | 串行执行 | 作用于老年代 | 标记-压缩算法 | 响应速度优先 | 适用于单CPU环境下的Client模式 | 
| Parllel Old | 并行运行 | 作用于老年代 | 标记-压缩算法 | 吞吐量优先 | 适用于后台运算而不需要太多交互的场景 | 
| CMS | 并发运行 | 作用于老年代 | 标记-清除算法 | 响应速度优先 | 适用于互联网或B/S业务 | 
| G1 | 并发、并行运行 | 作用于新生代、老年代 | 标记-压缩算法、复制算法 | 响应速度优先 | 面向服务端应用 | 
如何选择垃圾回收器?
Java垃圾收集器的配置对于JVM优化来说是一个很重要的选择,选择合适的垃圾收集器可以让JVM的性能有一个很大的提升
- 优先调整堆的大小让JVM自适应完成
- 如果内存小于100M,使用串行收集器
- 如果是单核、单击程序,并且没有停顿时间的要求,串行收集器
- 如果是多CPU、需要高吞吐量、允许停顿时间超过1s,选择并行或者JVM自己选择
- 如果是多CPU、追求低停顿时间,需要快速响应(比如延迟不能超过1s,如互联网应用),使用并发收集器
