码迷,mamicode.com
首页 > 其他好文 > 详细

juca:Striped64

时间:2018-08-08 21:25:05      阅读:109      评论:0      收藏:0      [点我收藏+]

标签:atom   shm   read   xor   发展   4类   单元   end   对象   

Striped64类

Striped64是java1.8 juca中新增的多个计数器类的基础类。它的基本思想其实与并发数据结构的发展息息相关:

  • 最原始的并发数据结构使用粗粒度的阻塞锁。如HashTable,直接将并行转换为串行,性能很差。
  • 然后的想法是改进锁的粒度,仍然使用阻塞锁,但对加锁范围进行限定。如ConcurrentHashMap(1.6,1.7),使用了与CPU个数有关的桶,每个桶单独一个锁,但线程增多,锁争用的情况仍然明显。
  • 再然后是抛弃阻塞锁,因为阻塞锁的睡眠唤醒机制需要陷入内核,直接使用底层的硬件机制如CAS,进行无锁同步。如AtomicXXX系列类。
  • 现在是避免线程争用,无论是锁还是CAS,如本文要探讨的Striped64,以及ConcurrentHashMap(1.8)。让每个线程使用不同的单元,从而避免争用导致的性能下降。

当然具体情况还要具体分析,阻塞锁,无锁(CAS,自旋锁),避免线程争用(单元个数)都需要在考虑实际的情况下使用,比如:

  • 阻塞锁,阻塞锁实在自旋锁的基础上发明的,是为了解决多个等待线程自旋所造成的CPU浪费,而引入了等待线程队列、wait()和awake()系统原语。如果临界区内的工作任务较重,就比较适合使用阻塞锁而非自选锁。比如ConcurrentHashMap。
  • 无锁,采用CPU为实现锁提供的底层机制,是对锁使用的一种本质回归。如果临界区内的工作任务较轻,如只是加减数,就比较适合使用无锁。比如AtomicXXX。
  • 线程争用。ConcurrentHashMap(1.8)因为其结构性质,天然适合对每个插槽单独进行同步处理,因此它的同步基本单元可以近乎无限增长(当然存在上限,但一般不用考虑),而与CPU个数大小没有太大关系。Striped64却没必要这么做,过度的分散并不会明显的增长性能,反而影响汇总操作。

设计思想

具体的设计思想可以参考其注释:

     这个类维护一个懒惰初始化的原子更新变量的表,外加一个额外的“base”字段。table的大小是2的幂。
     索引使用掩码下的每个线程的hash code。这个类中几乎所有的声明都是包私有的,由子类直接访问。

     表项是Cell类,AtomicLong填充(通过@sun.misc.Contended)的一个变体,以减少缓存争用。
     对于大多数原子类来说,填充是多余的,因为它们通常不规则地分散在内存中,因此不会相互干扰。
     但是驻留在数组中的原子对象将倾向于彼此相邻放置,因此在没有这种预防措施的情况下,最常见的
     情况是共享缓存行(具有巨大的负面性能影响)。

     部分原因是因为Cells相对较大,所以我们避免创建Cells,直到需要它们。当没有争用时,
     将对base字段进行所有更新。第一次争用时(base更新时CAS失败),该表被初始化为大小2。
     在进一步竞争时,表的大小加倍,直到达到大于或等于CPU数量的2的最近幂。表插槽保持
     为空(null),直到需要为止。

     单个自旋锁(“cellsBusy”)用于初始化表,调整其大小,以及用新的Cells填充插槽。
     不需要阻塞锁;当锁不可用时,线程会尝试其他插槽(或base)。在这些重试过程中,竞争加剧,
     局部性降低,但这仍然优于替代方案。

     通过ThreadLocalRandom维护的Thread.probe字段用作每个线程的哈希代码。我们让它们保持未初始化(为零)
     (如果它们以这种方式出现),直到它们在插槽0竞争。然后将它们初始化为通常不会与其他值冲突的值。
     执行更新操作时,竞争和/或表冲突由失败的情况指示。发生冲突时,如果表的大小小于容量,
     那么它的大小将加倍,除非其他线程持有锁。如果散列槽为空,并且锁可用,则会创建一个新的Cells。
     否则,如果插槽存在,将尝试CAS。重试通过“双散列”进行,使用二级散列(Marsaglia XorShift)
     来尝试找到空闲插槽。

     表的大小是有上限的,因为当线程多于CPU时,假设每个线程都绑定到一个CPU,就会有一个完美的
     散列函数将线程映射到插槽,从而消除冲突。当我们达到容量时,我们通过随机改变冲突线程的哈希代码
     来搜索这个映射。因为搜索是随机的,冲突只有通过CAS失败才知道,收敛可能会很慢,而且因为线程通常
     不会永远绑定到CPU,所以根本不会发生。然而,尽管有这些限制,在这些情况下观察到的竞争率通常很低。

     当一个Cell的散列到它的线程一旦终止时,以及在表大小加倍导致没有线程在扩展掩码下散列到它的情况下,
     该Cell可能会变成未使用。我们不会试图检测或移除这些Cell,因为考虑对于长期运行的情况,观察到的
     竞争级别会再次出现,因此最终会再次需要这些Cell。短时间的未使用,并不重要。

juca:Striped64

标签:atom   shm   read   xor   发展   4类   单元   end   对象   

原文地址:https://www.cnblogs.com/redreampt/p/9445540.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!