双重检查锁定与延迟初始化

本文属于作者原创,原文发表于InfoQ:http://www.infoq.com/cn/articles/double-checked-locking-with-delay-initialization

双重检查锁定的由来

在java程序中,有时候可能需要推迟一些高开销的对象初始化操作,并且只有在使用这些对象时才进行初始化。此时程序员可能会采用延迟初始化。但要正确实现线程安全的延迟初始化需要一些技巧,否则很容易出现问题。比如,下面是非线程安全的延迟初始化对象的示例代码:

public class UnsafeLazyInitialization {
    private static Instance instance;

    public static Instance getInstance() {
        if (instance == null)          //1:A线程执行
            instance = new Instance(); //2:B线程执行
        return instance;
    }
}

在UnsafeLazyInitialization中,假设A线程执行代码1的同时,B线程执行代码2。此时,线程A可能会看到instance引用的对象还没有完成初始化(出现这种情况的原因见后文的“问题的根源”)。

对于UnsafeLazyInitialization,我们可以对getInstance()做同步处理来实现线程安全的延迟初始化。示例代码如下:

迟初始化。示例代码如下:

public class SafeLazyInitialization {
    private static Instance instance;

    public synchronized static Instance getInstance() {
        if (instance == null)
            instance = new Instance();
        return instance;
    }
}

由于对getInstance()做了同步处理,synchronized将导致性能开销。如果getInstance()被多个线程频繁的调用,将会导致程序执行性能的下降。反之,如果getInstance()不会被多个线程频繁的调用,那么这个延迟初始化方案将能提供令人满意的性能。

在早期的JVM中,synchronized(甚至是无竞争的synchronized)存在这巨大的性能开销。因此,人们想出了一个“聪明”的技巧:双重检查锁定(double-checked locking)。人们想通过双重检查锁定来降低同步的开销。下面是使用双重检查锁定来实现延迟初始化的示例代码:

public class DoubleCheckedLocking {                 //1
    private static Instance instance;                    //2

    public static Instance getInstance() {               //3
        if (instance == null) {                          //4:第一次检查
            synchronized (DoubleCheckedLocking.class) {  //5:加锁
                if (instance == null)                    //6:第二次检查
                    instance = new Instance();           //7:问题的根源出在这里
            }                                            //8
        }                                                //9
        return instance;                                 //10
    }                                                    //11
}                                                        //12

如上面代码所示,如果第一次检查instance不为null,那么就不需要执行下面的加锁和初始化操作。因此可以大幅降低synchronized带来的性能开销。上面代码表面上看起来,似乎两全其美:

  • 在多个线程试图在同一时间创建对象时,会通过加锁来保证只有一个线程能创建对象。
  • 在对象创建好之后,执行getInstance()将不需要获取锁,直接返回已创建好的对象。

双重检查锁定看起来似乎很完美,但这是一个错误的优化!在线程执行到第4行代码读取到instance不为null时,instance引用的对象有可能还没有完成初始化。

问题的根源

前面的双重检查锁定示例代码的第7行(instance = new Singleton();)创建一个对象。这一行代码可以分解为如下的三行伪代码:

memory = allocate();   //1:分配对象的内存空间
ctorInstance(memory);  //2:初始化对象
instance = memory;     //3:设置instance指向刚分配的内存地址

上面三行伪代码中的2和3之间,可能会被重排序(在一些JIT编译器上,这种重排序是真实发生的,详情见参考文献1的“Out-of-order writes”部分)。2和3之间重排序之后的执行时序如下:

memory = allocate();   //1:分配对象的内存空间
instance = memory;     //3:设置instance指向刚分配的内存地址
                       //注意,此时对象还没有被初始化!
ctorInstance(memory);  //2:初始化对象

根据《The Java Language Specification, Java SE 7 Edition》(后文简称为java语言规范),所有线程在执行java程序时必须要遵守intra-thread semantics。intra-thread semantics保证重排序不会改变单线程内的程序执行结果。换句话来说,intra-thread semantics允许那些在单线程内,不会改变单线程程序执行结果的重排序。上面三行伪代码的2和3之间虽然被重排序了,但这个重排序并不会违反intra-thread semantics。这个重排序在没有改变单线程程序的执行结果的前提下,可以提高程序的执行性能。

为了更好的理解intra-thread semantics,请看下面的示意图(假设一个线程A在构造对象后,立即访问这个对象):

如上图所示,只要保证2排在4的前面,即使2和3之间重排序了,也不会违反intra-thread semantics。

下面,再让我们看看多线程并发执行的时候的情况。请看下面的示意图:

由于单线程内要遵守intra-thread semantics,从而能保证A线程的程序执行结果不会被改变。但是当线程A和B按上图的时序执行时,B线程将看到一个还没有被初始化的对象。

※注:本文统一用红色的虚箭线标识错误的读操作,用绿色的虚箭线标识正确的读操作。

回到本文的主题,DoubleCheckedLocking示例代码的第7行(instance = new Singleton();)如果发生重排序,另一个并发执行的线程B就有可能在第4行判断instance不为null。线程B接下来将访问instance所引用的对象,但此时这个对象可能还没有被A线程初始化!下面是这个场景的具体执行时序:

时间 线程A 线程B
t1 A1:分配对象的内存空间
t2 A3:设置instance指向内存空间
t3 B1:判断instance是否为空
t4 B2:由于instance不为null,线程B将访问instance引用的对象
t5 A2:初始化对象
t6 A4:访问instance引用的对象

这里A2和A3虽然重排序了,但java内存模型的intra-thread semantics将确保A2一定会排在A4前面执行。因此线程A的intra-thread semantics没有改变。但A2和A3的重排序,将导致线程B在B1处判断出instance不为空,线程B接下来将访问instance引用的对象。此时,线程B将会访问到一个还未初始化的对象。

在知晓了问题发生的根源之后,我们可以想出两个办法来实现线程安全的延迟初始化:

  1. 不允许2和3重排序;
  2. 允许2和3重排序,但不允许其他线程“看到”这个重排序。

后文介绍的两个解决方案,分别对应于上面这两点。

基于volatile的双重检查锁定的解决方案

对于前面的基于双重检查锁定来实现延迟初始化的方案(指DoubleCheckedLocking示例代码),我们只需要做一点小的修改(把instance声明为volatile型),就可以实现线程安全的延迟初始化。请看下面的示例代码:

public class SafeDoubleCheckedLocking {
    private volatile static Instance instance;

    public static Instance getInstance() {
        if (instance == null) {
            synchronized (SafeDoubleCheckedLocking.class) {
                if (instance == null)
                    instance = new Instance();//instance为volatile,现在没问题了
            }
        }
        return instance;
    }
}

注意,这个解决方案需要JDK5或更高版本(因为从JDK5开始使用新的JSR-133内存模型规范,这个规范增强了volatile的语义)。

当声明对象的引用为volatile后,“问题的根源”的三行伪代码中的2和3之间的重排序,在多线程环境中将会被禁止。上面示例代码将按如下的时序执行:

这个方案本质上是通过禁止上图中的2和3之间的重排序,来保证线程安全的延迟初始化。

基于类初始化的解决方案

JVM在类的初始化阶段(即在Class被加载后,且被线程使用之前),会执行类的初始化。在执行类的初始化期间,JVM会去获取一个锁。这个锁可以同步多个线程对同一个类的初始化。

基于这个特性,可以实现另一种线程安全的延迟初始化方案(这个方案被称之为Initialization On Demand Holder idiom):

public class InstanceFactory {
    private static class InstanceHolder {
        public static Instance instance = new Instance();
    }

    public static Instance getInstance() {
        return InstanceHolder.instance ;  //这里将导致InstanceHolder类被初始化
    }
}

假设两个线程并发执行getInstance(),下面是执行的示意图:

这个方案的实质是:允许“问题的根源”的三行伪代码中的2和3重排序,但不允许非构造线程(这里指线程B)“看到”这个重排序。

初始化一个类,包括执行这个类的静态初始化和初始化在这个类中声明的静态字段。根据java语言规范,在首次发生下列任意一种情况时,一个类或接口类型T将被立即初始化:

  • T是一个类,而且一个T类型的实例被创建;
  • T是一个类,且T中声明的一个静态方法被调用;
  • T中声明的一个静态字段被赋值;
  • T中声明的一个静态字段被使用,而且这个字段不是一个常量字段;
  • T是一个顶级类(top level class,见java语言规范的§7.6),而且一个断言语句嵌套在T内部被执行。

在InstanceFactory示例代码中,首次执行getInstance()的线程将导致InstanceHolder类被初始化(符合情况4)。

由于java语言是多线程的,多个线程可能在同一时间尝试去初始化同一个类或接口(比如这里多个线程可能在同一时刻调用getInstance()来初始化InstanceHolder类)。因此在java中初始化一个类或者接口时,需要做细致的同步处理。

Java语言规范规定,对于每一个类或接口C,都有一个唯一的初始化锁LC与之对应。从C到LC的映射,由JVM的具体实现去自由实现。JVM在类初始化期间会获取这个初始化锁,并且每个线程至少获取一次锁来确保这个类已经被初始化过了(事实上,java语言规范允许JVM的具体实现在这里做一些优化,见后文的说明)。

对于类或接口的初始化,java语言规范制定了精巧而复杂的类初始化处理过程。java初始化一个类或接口的处理过程如下(这里对类初始化处理过程的说明,省略了与本文无关的部分;同时为了更好的说明类初始化过程中的同步处理机制,笔者人为的把类初始化的处理过程分为了五个阶段):

第一阶段:通过在Class对象上同步(即获取Class对象的初始化锁),来控制类或接口的初始化。这个获取锁的线程会一直等待,直到当前线程能够获取到这个初始化锁。

假设Class对象当前还没有被初始化(初始化状态state此时被标记为state = noInitialization),且有两个线程A和B试图同时初始化这个Class对象。下面是对应的示意图:

下面是这个示意图的说明:

时间 线程A 线程B
t1 A1:尝试获取Class对象的初始化锁。这里假设线程A获取到了初始化锁 B1:尝试获取Class对象的初始化锁,由于线程A获取到了锁,线程B将一直等待获取初始化锁
t2 A2:线程A看到线程还未被初始化(因为读取到state == noInitialization),线程设置state = initializing
t3 A3:线程A释放初始化锁

第二阶段:线程A执行类的初始化,同时线程B在初始化锁对应的condition上等待:

下面是这个示意图的说明:

时间 线程A 线程B
t1 A1:执行类的静态初始化和初始化类中声明的静态字段 B1:获取到初始化锁
t2 B2:读取到state == initializing
t3 B3:释放初始化锁
t4 B4:在初始化锁的condition中等待

第三阶段:线程A设置state = initialized,然后唤醒在condition中等待的所有线程:

下面是这个示意图的说明:

时间 线程A
t1 A1:获取初始化锁
t2 A2:设置state = initialized
t3 A3:唤醒在condition中等待的所有线程
t4 A4:释放初始化锁
t5 A5:线程A的初始化处理过程完成

第四阶段:线程B结束类的初始化处理:

下面是这个示意图的说明:

时间 线程B
t1 B1:获取初始化锁
t2 B2:读取到state == initialized
t3 B3:释放初始化锁
t4 B4:线程B的类初始化处理过程完成

线程A在第二阶段的A1执行类的初始化,并在第三阶段的A4释放初始化锁;线程B在第四阶段的B1获取同一个初始化锁,并在第四阶段的B4之后才开始访问这个类。根据java内存模型规范的锁规则,这里将存在如下的happens-before关系:

这个happens-before关系将保证:线程A执行类的初始化时的写入操作(执行类的静态初始化和初始化类中声明的静态字段),线程B一定能看到。

第五阶段:线程C执行类的初始化的处理:

下面是这个示意图的说明:

时间 线程B
t1 C1:获取初始化锁
t2 C2:读取到state == initialized
t3 C3:释放初始化锁
t4 C4:线程C的类初始化处理过程完成

在第三阶段之后,类已经完成了初始化。因此线程C在第五阶段的类初始化处理过程相对简单一些(前面的线程A和B的类初始化处理过程都经历了两次锁获取-锁释放,而线程C的类初始化处理只需要经历一次锁获取-锁释放)。

线程A在第二阶段的A1执行类的初始化,并在第三阶段的A4释放锁;线程C在第五阶段的C1获取同一个锁,并在在第五阶段的C4之后才开始访问这个类。根据java内存模型规范的锁规则,这里将存在如下的happens-before关系:

这个happens-before关系将保证:线程A执行类的初始化时的写入操作,线程C一定能看到。

※注1:这里的condition和state标记是本文虚构出来的。Java语言规范并没有硬性规定一定要使用condition和state标记。JVM的具体实现只要实现类似功能即可。

※注2:Java语言规范允许Java的具体实现,优化类的初始化处理过程(对这里的第五阶段做优化),具体细节参见java语言规范的12.4.2章。

通过对比基于volatile的双重检查锁定的方案和基于类初始化的方案,我们会发现基于类初始化的方案的实现代码更简洁。但基于volatile的双重检查锁定的方案有一个额外的优势:除了可以对静态字段实现延迟初始化外,还可以对实例字段实现延迟初始化。

总结

延迟初始化降低了初始化类或创建实例的开销,但增加了访问被延迟初始化的字段的开销。在大多数时候,正常的初始化要优于延迟初始化。如果确实需要对实例字段使用线程安全的延迟初始化,请使用上面介绍的基于volatile的延迟初始化的方案;如果确实需要对静态字段使用线程安全的延迟初始化,请使用上面介绍的基于类初始化的方案。

参考文献

  1. Double-checked locking and the Singleton pattern
  2. The Java Language Specification, Java SE 7 Edition
  3. JSR-133: Java Memory Model and Thread Specification
  4. Java Concurrency in Practice
  5. Effective Java (2nd Edition)
  6. JSR 133 (Java Memory Model) FAQ
  7. The JSR-133 Cookbook for Compiler Writers
  8. Java theory and practice: Fixing the Java Memory Model, Part 2

感谢方腾飞对本文的审校。

原创文章,转载请注明: 转载自并发编程网 – ifeve.com本文链接地址: 双重检查锁定与延迟初始化



程晓明

程晓明,Java软件工程师,专注于并发编程,就职于富士通南大。个人邮箱:asst2003@163.com。
FavoriteLoading添加本文到我的收藏
  • Trackback are closed
  • Comments (18)
  1. 好文章

    • 北岩
    • 12/17. 2013 11:05pm

    好文,解释的很详细

  2. 请问重排序什么能改善性能?

    • 仰望
    • 12/30. 2013 2:37pm

    我有一个问题,在第二种单例创建的代码中,说道“但是当线程A和B按上图的时序执行时,B线程将看到一个还没有被初始化的对象。”,在A创建对象的时候,难道不是被锁保护吗?在创建完对象后,会释放锁,这个时候B才会进去第二次判断,难道不是这样吗?请帮我解答一下。

      • 程晓明
      • 01/04. 2014 1:34pm

      在A创建对象的时候,难道不是被锁保护吗?
      –普通的创建对象,不被锁保护。
      只有在类初始化时,才会被锁保护。

    • WenlongMeng
    • 01/06. 2014 5:21pm

    文章讨论的都是方法内指令重排序,我改了下,大家看看这种情况:把原来的直接初始化,改为通过调用方法返回初始化引用,这样还会存在重排序的问题吗?
    public class DoubleCheckedLocking { //1
    private static Instance instance; //2

    public static Instance getInstance() { //3
    if (instance == null) { //4:第一次检查
    synchronized (DoubleCheckedLocking.class) { //5:加锁
    if (instance == null) //6:第二次检查
    //instance = new Instance(); //7:问题的根源出在这里
    instance = newInstance(); //7:由原来的直接初始化改为调用方法
    } //8
    } //9
    return instance; //10
    } //11
    } //12

    //初始化方法
    private Instance newInstance(){
    return new Instance();
    }

  3. 第五阶段:线程C执行类的初始化的处理:

    下面的表格“线程B”当作“线程C”

    • 小浣熊
    • 02/13. 2014 8:29am

    有一个地方不明白:

    在双重检查锁那个例子里面,实例化明明已经放在synchronized (DoubleCheckedLocking.class){}里面了,就算有重排,怎么会影响到线程B?初始化这个操作即使在设置instance指向内存空间之后进行,它也是在同步块内部的操作,肯定要等出了同步块才会轮到线程B执行。

      • 梁海舰
      • 02/13. 2014 9:52am

      根据你后面的话,假设B线程恰好执行到第一个if(instance==null),这个时候,instance指向了内存空间,被认为已经初始化,然后把instance返回了, 外面开始使用instance,实际上它根本没有初始化完成

      • 写在synchronized中的代码,记得在happens_before的原则里,应该就不会重排了。所以线程B在能够获得锁的时候, instance一定已经在线程A里初始化完成了。

          • 程晓明
          • 04/21. 2014 11:38pm

          在JSR-133中,happens_before的锁规则的原文:
          An unlock on a monitor happens-before every subsequent lock on that monitor.
          也就是说,锁规则有一个前提:两个线程都对一个监视器加锁时,前一个线程的解锁与后一个线程的加锁才存在happens_before关系。

      • 程晓明
      • 04/21. 2014 11:49pm

      就算有重排,怎么会影响到线程B?
      –线程B在执行B1的时候,没有加锁。
      这个时候,虽然A线程加了锁,但此时线程B正在执行B1,由于B1对应的代码并没有加锁,此时A线程和B线程之间无法互斥执行。A线程在临界区内的重排序可能会被B线程看到。

    • lemon
    • 04/19. 2016 9:01pm

    你好,我买了你的书,拜读后,有个疑惑。问题如下:
    ———————————————–原文———————–
    基于类初始化的解决方案
    JVM在类的初始化阶段(即在Class被加载后,且被线程使用之前),会执行类的初始化。在执行类的初始化期间,JVM会去获取一个锁。这个锁可以同步多个线程对同一个类的初始化。

    基于这个特性,可以实现另一种线程安全的延迟初始化方案(这个方案被称之为Initialization On Demand Holder idiom):

    public class InstanceFactory {
    private static class InstanceHolder {
    public static Instance instance = new Instance();
    }

    public static Instance getInstance() {
    return InstanceHolder.instance ; //这里将导致InstanceHolder类被初始化
    }
    }
    ———————————————-疑问———————–

    我无法验证,JVM在类初始化时,会获取一个锁保证,阻塞其他线程。但是如果这样的话,我这个算是线程安全的吧??
    public class UnsafOrSafeLazyInitialization {
    private static Instance instance=new Instance();

    public static Instance getInstance() {
    if (instance == null)
    instance = new Instance();
    return instance;
    }
    }
    这个也应该是安全的,因为调用 getInstance()时,类会被初始化(首次),按照你说的 初始化期间 JVM会获取锁保证同步,当这个类初始化完成后(instance=new Instance()当然也算类初始化的一部分),那么instance肯定是完整的对象了,然后释放锁,竞争的线程肯定会看到一个完整的对象了。

    那么下边的这个例子中的synchronized就是多余的了吧??

    Example – Publication (III)
    class EagerInitialisation{
    private static Resource resouce = new Resource();
    public synchronized static Resource getInstance(){
    return resource;
    }

    谢谢!

    • lemon
    • 04/19. 2016 10:11pm

    public class SafeLazyInitialization {
    private static Instance instance;

    public static Instance getInstance() {
    if (instance == null)
    instance = new Instance();
    return instance;
    }
    }

    请教一个问题,我看到网友说,这个不安全代码会导致,”返回一个 instance!=null 但未被初始化的对象”,这种理解不对吧?应该是会导致单例多次创建对象的问题,又可能多个线程中调用getInstance,但是返回的对象不相同(内存地址)!

      • lemon
      • 04/19. 2016 10:14pm

      梁海舰 :
      根据你后面的话,假设B线程恰好执行到第一个if(instance==null),这个时候,instance指向了内存空间,被认为已经初始化,然后把instance返回了, 外面开始使用instance,实际上它根本没有初始化完成

      这个结论是错误的吧??如果没有完成初始化,只是初始了内存,这个instance==null 判断肯定是true!

    • lemon
    • 04/19. 2016 10:13pm

    梁海舰 :
    根据你后面的话,假设B线程恰好执行到第一个if(instance==null),这个时候,instance指向了内存空间,被认为已经初始化,然后把instance返回了, 外面开始使用instance,实际上它根本没有初始化完成

    这个结论是错误的吧??如果没有完成初始化,只是初始了内存,这个instance==null 判断肯定是true!

    • synceve
    • 09/01. 2016 10:10am

    这篇文章里有几个图片不能显示了,能不能加一下啊?谢谢

You must be logged in to post a comment.

return top