4、ConcurrentLinkedQueue非阻塞无界链表队列
ConcurrentLinkedQueue是一个线程安全的队列,基于链表结构实现,是一个无界队列,理论上来说队列的长度可以无限扩大。与其他队列相同,ConcurrentLinkedQueue也采用的是先进先出(FIFO)入队规则,对元素进行排序。当我们向队列中添加元素时,新插入的元素会插入到队列的尾部;而当我们获取一个元素时,它会从队列的头部中取出。因为ConcurrentLinkedQueue是链表结构,所以当入队时,插入的元素依次向后延伸,形成链表;而出队时,则从链表的第一个元素开始获取,依次递增;
值得注意的是,在使用ConcurrentLinkedQueue时,如果涉及到队列是否为空的判断,切记不可使用size()==0的做法,因为在size()方法中,是通过遍历整个链表来实现的,在队列元素很多的时候,size()方法十分消耗性能和时间,只是单纯的判断队列为空使用isEmpty()即可。
public class ConcurrentLinkedQueueTest {
public static int threadCount = 10;
public static ConcurrentLinkedQueue<String> queue = new ConcurrentLinkedQueue<String>();
static class Offer implements Runnable {
public void run() {
//不建议使用 queue.size()==0,影响效率。可以使用!queue.isEmpty()
if (queue.size() == 0) {
String ele = new Random().nextInt(Integer.MAX_VALUE) + "";
queue.offer(ele);
System.out.println("入队元素为" + ele);
}
}
}
static class Poll implements Runnable {
public void run() {
if (!queue.isEmpty()) {
String ele = queue.poll();
System.out.println("出队元素为" + ele);
}
}
}
public static void main(String[] agrs) {
ExecutorService executorService = Executors.newFixedThreadPool(4);
for (int x = 0; x < threadCount; x++) {
executorService.submit(new Offer());
executorService.submit(new Poll());
}
executorService.shutdown();
}
}
一种输出:
入队元素为313732926
出队元素为313732926
入队元素为812655435
出队元素为812655435
入队元素为1893079357
出队元素为1893079357
入队元素为1137820958
出队元素为1137820958
入队元素为1965962048
出队元素为1965962048
出队元素为685567162
入队元素为685567162
出队元素为1441081163
入队元素为1441081163
出队元素为1627184732
入队元素为1627184732
ConcurrentLinkedQuere类图
如图ConcurrentLinkedQueue中有两个volatile类型的Node节点分别用来存在列表的首尾节点,其中head节点存放链表第一个item为null的节点,tail则并不是总指向最后一个节点。Node节点内部则维护一个变量item用来存放节点的值,next用来存放下一个节点,从而链接为一个单向无界列表。
public ConcurrentLinkedQueue(){
head=tail=new Node<E>(null);
}
如上代码初始化时候会构建一个 item 为 NULL 的空节点作为链表的首尾节点。
Offer 操作offer 操作是在链表末尾添加一个元素,下面看看实现原理。
public boolean offer(E e) {
//e 为 null 则抛出空指针异常
checkNotNull(e);
//构造 Node 节点构造函数内部调用 unsafe.putObject,后面统一讲
final Node<E> newNode = new Node<E>(e);
//从尾节点插入
for (Node<E> t = tail, p = t; ; ) {
Node<E> q = p.next;
//如果 q=null 说明 p 是尾节点则插入
if (q == null) {
//cas 插入(1)
if (p.casNext(null, newNode)) {
//cas 成功说明新增节点已经被放入链表,然后设置当前尾节点(包含 head,1,3,5.。。个节点为尾节点)
if (p != t)// hop two nodes at a time
casTail(t, newNode); // Failure is OK. return true;
}
// Lost CAS race to another thread; re-read next
} else if (p == q)//(2)
//多线程操作时候,由于 poll 时候会把老的 head 变为自引用,然后 head 的 next 变为新 head,所以这里需要
//重新找新的 head,因为新的 head 后面的节点才是激活的节点
p = (t != (t = tail)) ? t : head;
else
// 寻找尾节点(3)
p = (p != t && t != (t = tail)) ? t : q;
}
}
从构造函数知道一开始有个item为null的哨兵节点,并且head和tail都是指向这个节点。
如图首先查找尾节点,q==null,p就是尾节点,所以执行p.casNext通过cas设置p的next为新增节点,这时候p==t所以不重新设置尾节点为当前新节点。由于多线程可以调用offer方法,所以可能两个线程同时执行到了(1)进行cas,那么只有一个会成功(假如线程1成功了),成功后的链表为:
失败的线程会循环一次这时候指针为:
这时候会执行(3)所以 p=q,然后在循环后指针位置为:
所以没有其他线程干扰的情况下会执行(1)执行 cas 把新增节点插入到尾部,没有干扰的情况下线程 2 cas 会成功,然后去更新尾节点 tail,由于 p!=t 所以更新。这时候链表和指针为:
假如线程 2cas 时候线程 3 也在执行,那么线程 3 会失败,循环一次后,线程 3 的节点状态为:
这时候 p!=t ;并且 t 的原始值为 told,t 的新值为 tnew ,所以 told!=tnew,所以 p=tnew=tail
然后在循环一下后节点状态:
q==null 所以执行(1)。
现在就差 p==q 这个分支还没有走,这个要在执行 poll 操作后才会出现这个情况。poll 后会存在下面的状态
这个时候添加元素时候指针分布为:
所以会执行(2)分支 结果 p=head,然后循环,循环后指针分布:
所以执行(1),然后 p!=t 所以设置 tail 节点。现在分布图:
自引用的节点会被垃圾回收掉。
● add 操作
add操作是在链表末尾添加一个元素,下面看看实现原理。
其实内部调用的还是 offer
public boolean add(E e) {
return offer(e);
}
● poll 操作
poll 操作是在链表头部获取并且移除一个元素,下面看看实现原理。
public E poll() {
restartFromHead:
// 死 循 环
for (; ; ) {
//死循环
for (Node<E> h = head, p = h, q;
; ) {
//保存当前节点值
E item = p.item;
//当前节点有值则 cas 变为 null(1)
if (item != null && p.casItem(item, null)){
//cas 成功标志当前节点以及从链表中移除
if (p != h) // 类似 tail 间隔 2 设置一次头节点(2)
updateHead(h, ((q = p.next) != null) ? q : p);
return item;
}
//当前队列为空则返回 null(3)
else if ((q = p.next) == null) {
updateHead(h, p);
return null;
}
//自引用了,则重新找新的队列头节点(4)
else if (p == q)
continue restartFromHead;
else//(5)
p = q;
}
}
}
final void updateHead(Node<E> h,Node<E> p){
if(h!=p&&casHead(h,p))
h.lazySetNext(h);
}
● 当队列为空时候:
可知执行(3)这时候有两种情况,第一没有其他线程添加元素时候(3)结果为 true 然后因为 h!=p 为 false 所以直接返回 null。第二在执行 q=p.next 前,其他线程已经添加了一个元素到队列,这时候(3)返回 false,然后执行(5)p=q,然后循环后节点分布:
这时候执行(1)分支,进行 cas 把当前节点值值为 null,同时只有一个线程会成功,cas 成功 标示该节点从队列中移除了,然后 p!=h,调用 updateHead 方法,参数为 h,p;h!=p 所以把 p 变为当前链表 head 节点,然后 h 节点的 next 指向自己。现在状态为:
cas 失败 后 会再次循环,这时候分布图为:
这时候执行(3)返回 null.
现在还有个分支(4)没有执行过,那么什么时候会执行那?
这时候执行(1)分支,进行 cas 把当前节点值值为 null,同时只有一个线程 A 会成功,cas 成功 标示该节点从队列中移除了,然后 p!=h,调用 updateHead 方法,假如执行 updateHead 前另外一个线程 B 开始 poll 这时候它 p 指向为原来的 head 节点,然后当前线程 A 执行 updateHead 这时候 B 线程链表状态为:
所以会执行(4)重新跳到外层循环,获取当前 head,现在状态为:
● peek 操作
peek 操作是获取链表头部一个元素(只读取不移除),下面看看实现原理。
代码与 poll 类似,只是少了 castItem.并且 peek 操作会改变 head 指向,offer 后 head 指向哨兵节点,第一次 peek 后 head 会指向第一个真的节点元素。
public E peek() {
restartFromHead:
for (; ; ) {
for (Node<E> h = head, p = h, q; ; ) {
E item = p.item;
if (item != null || (q = p.next) == null) {
updateHead(h, p);
return item;
} else if (p == q)
continue restartFromHead;
else
p = q;
}
}
}
● size 操作
获取当前队列元素个数,在并发环境下不是很有用,因为使用 CAS 没有加锁所以从调用 size 函数到返回结果期间有可能增删元素,导致统计的元素个数不精确。
public int size() {
int count = 0;
for (Node<E> p = first(); p != null; p = succ(p))
if (p.item != null)
// 最大返回 Integer.MAX_VALUE
if (++count == Integer.MAX_VALUE) break;
return count;
}
//获取第一个队列元素(哨兵元素不算),没有则为 null
Node<E> first() {
restartFromHead:
for (; ; ) {
for (Node<E> h = head, p = h, q; ; ) {
boolean hasItem = (p.item != null);
if (hasItem || (q = p.next) == null) {
updateHead(h, p);
return hasItem ? p : null;
} else if (p == q)
continue restartFromHead;
else
p = q;
}
}
}
//获取当前节点的 next 元素,如果是自引入节点则返回真正头节点
final Node<E> succ(Node<E> p) {
Node<E> next = p.next;
return (p == next) ? head : next;
}
● remove 操作
如果队列里面存在该元素则删除该元素,如果存在多个则删除第一个,并返回 true,否则返回 false
ublic boolean remove(Object o){
//查找元素为空,直接返回 false
if(o==null)return false;
Node<E> pred=null;
for(Node<E> p=first();p!=null;p=succ(p)){
E item=p.item;
//相等则使用 cas 值 null,同时一个线程成功,失败的线程循环查找队列中其他元素是否有匹配的。
if(item!=null&&o.equals(item)&&p.casItem(item,null)){
//获取 next 元素
Node<E> next=succ(p);
//如果有前驱节点,并且 next 不为空则链接前驱节点到 next,
if(pred!=null&&next!=null)
pred.casNext(p,next);
return true;
}
pred=p;
}
return false;
}
● contains 操作
判断队列里面是否含有指定对象,由于是遍历整个队列,所以类似 size 不是那么精确,有可能调用该方法时候元素还在队列里面,但是遍历过程中才把该元素删除了,那么就会返回 false.
public boolean contains(Object o) {
if (o == null) return false;
for (Node<E> p = first(); p != null; p = succ(p)) {
E item = p.item;
if (item != null && o.equals(item)) return true;
}
return false;
}
关于ConcurrentLinkedQuere的offer方法有意思的问题:
offer 中有个 判断 t != (t = tail)假如 t=node1;tail=node2;并且 node1!=node2 那么这个判断是 true 还是 false 那,答案是 true,这个判断是看当前 t 是不是和 tail 相等,相等则返回 true 否者为 false,但是无论结果是啥执行后 t 的值都是 tail。
下面从字节码来分析下为啥。
举一个例子:
public static void main(String[] args){
int t=2;
int tail=3;
System.out.println(t!=(t=tail));
}
结果为:true
字节码文件:
C:\Users\Simple\Desktop\TeacherCode\Crm_Test\build\classes\com\bjpowernode\crm\util>javap-c Test001
警告:二进制文件Test001包含com.bjpowernode.crm.util.Test001 Compiled from"Test001.java"
public class com.bjpowernode.crm.util.Test001{
public class com.bjpowernode.crm.util.Test001();
Code:
0:aload_0
1:invokespecial #8 // Method java/lang/Object."<init>":()V
4:return
public static void main(java.lang.String[]){
Code:
0:iconst_2
1:istore_1
2:iconst_3
3:istore_2
4:getstatic #16 // Field java/lang/System.out:Ljava/io/PrintStream;
7:iload_1
8:iload_2
9:dup
10:istore_1
11:if_icmpeq 18
14:iconst_1
15:goto 19
18:iconst_0
19:invokevirtual #22 // Method java/io/PrintStream.println:(Z)V
22:return
}
我们从上面main方法的字节码文件中分析
一开始栈为空:
栈
第0行指令作用是把值2入栈栈顶元素为2
栈
第1行指令作用是将栈顶int类型值保存到局部变量t中
栈
第2行指令作用是把值3入栈栈顶元素为3
栈
第3行指令作用是将栈顶int类型值保存到局部变量tail中。
栈
第4调用打印命令
第7行指令作用是把变量t中的值入栈
栈
第8行指令作用是把变量tail中的值入栈
栈
现在栈里面的元素为3、2,并且3位于栈顶
第9行指令作用是当前栈顶元素入栈,所以现在栈内容3,3,2
栈
第10行指令作用是把栈顶元素存放到t,现在栈内容3,2
栈
第11行指令作用是判断栈顶两个元素值,相等则跳转18。由于现在栈顶严肃为3,2不相等所以返回true.
第14行指令作用是把1入栈
然后回头分析下!=是双目运算符,应该是首先把左边的操作数入栈,然后在去计算了右侧操作数。
● ConcurrentLinkedQuere总结
ConcurrentLinkedQueue使用CAS非阻塞算法实现使用CAS解决了当前节点与next节点之间的安全链接和对当前节点值的赋值。由于使用CAS没有使用锁,所以获取size的时候有可能进行offer,poll或者remove操作,导致获取的元素个数不精确,所以在并发情况下size函数不是很有用。另外第一次peek或者first时候会把head指向第一个真正的队列元素。
下面总结下如何实现线程安全的,可知入队出队函数都是操作volatile变量:head,tail。所以要保证队列线程安全只需要保证对这两个Node操作的可见性和原子性,由于volatile本身保证可见性,所以只需要看下多线程下如果保证对着两个变量操作的原子性。
对于offer操作是在tail后面添加元素,也就是调用tail.casNext方法,而这个方法是使用的CAS操作,只有一个线程会成功,然后失败的线程会循环一下,重新获取tail,然后执行casNext方法。对于poll也是这样的。