Semaphore:实现一个限流器

发布于 2022-8-5 17:44
浏览
0收藏

Semaphore:实现一个限流器
Semaphore 现在普遍翻译成 "信号量",从概念上讲信号量维护着一组 "凭证",获取到凭证的线程才能访问资源,使用完成后释放, 我们可以使用信号量来限制访问特定资源的并发线程数。

就像现实生活中的停车场车位,当有空位的时候才能放车子进入,不然就只能等待,出来的车子则释放凭证。

 

信号量模型
可以简单的概括为:一个计数器、一个等待队列、三个方法。 在信号量模型里,计数器和等待队列对外是透明的,只能通过信号量模型提供的三个方法访问它们,init()、acquire()、release()。

 ● init(): 设置计数器的初始值,初始化凭证数量。可以理解为停车场的车位数量。
 ● acquire():计数器的值减 1 ;如果此时计数器的值小于 0,则当前线程将被阻塞,放到等待队列之中,否则当前线程可以继续执行。
 ● release():计数器值加 1;如果此时计数器的值小于或者等于 0,则唤醒等待队列中的一个线程,并将其从等待队列中移除。
这里提到的 init()、acquire()、release() 三个方法都是原子性的,并且这个原子性是由信号量模型的实现方保证的。在 Java SDK 里面,信号量模型是由 java.util.concurrent.Semaphore 实现的,Semaphore 这个类能够保证这三个方法都是原子操作。

通过一个简化版的信号模型代码便于理解:

publicclass Semaphore {
    //计数器
    privateint count;
    //保存线程的等待队列
    private Queue queue;

    /**
     * 初始化计数器
     * @param count
     */
    public Semaphore(int count) {
        this.count = count;
    }

    /**
     * 获取凭证
     */
    public void acquire(){
        this.count--;
        if(this.count<0){
            // 将当前线程插入等待队列
            // 阻塞当前线程
        }
    }

    /**
     * 释放凭证
     */
    public void release(){
        this.count++;
        if(this.count >= 0) {
            // 移除等待队列中的某个线程 T
            // 唤醒线程 T
        }
    }
}

信号量的使用
通过上文我们了解到信号量模型原理,接下来则看如何在实际场景中使用。这里我们还是用累加器的例子来说明信号量的使用吧。在累加器的例子里面,count++ 操作是个临界区,只允许一个线程执行,也就是说要保证互斥。

publicclass TestSemaPhore {
    privatestaticint count;
    //初始化信号量为 1
    privatestaticfinal Semaphore semaphore = new Semaphore(1);

    public static void addOne() throws InterruptedException {
        //使用信号量保证互斥,只有一个线程进入
        semaphore.acquire();
        try {
            count++;
        } finally {
            semaphore.release();
        }
    }

    public static int getCount() {
        return count;
    }

    public static void main(String[] args) throws InterruptedException {
        //模拟十个线程同时访问
        CountDownLatch countDownLatch = new CountDownLatch(1);
        for (int i = 0; i < 10; i++) {
            new Thread(() -> {
                try {
                    addOne();
                    countDownLatch.await();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }).start();
        }
        countDownLatch.countDown();
        TimeUnit.SECONDS.sleep(3);
        int count = getCount();
        System.out.println(count);
    }

}

我们来分析下信号量如何保证互斥的。

假设两个线程 T1 和 T2 同时访问 addOne(),当他们都调用semaphore.acquire();的时候,由于这是一个原子操作,所以只有一个线程能把信号量计数器减为 0,另外一个线程 T2 则是将计数器减为 -1。对应线程 T1 计数器的值为 0 ,满足大于等于 0,所以线程 T1 会继续执行;对于线程 T2,信号量计数器的值为 -1,小于 0 ,按照我们之前的信号量模型 acquire()描述,线程 T2 将被阻塞进入等待队列。所以此刻只有线程 T1 进入临界区执行 count++。

当前信号量计数器的值为 -1 ,当线程 T1 执行 semaphore.release()操作执行完后 计数器 +1 则变成了 0,满足小于等于 0,按照模型的定义,此刻等待队列中的 T2 将会被唤醒,于是 T2 在 T1 执行完临界区代码后才获得进入代码临界区的机会,从而保证了互斥性。

 

实现一个限流器
上面的例子我们利用信号量实现了一个简单的互斥锁,你会不会觉得奇怪,既然 Java SDK 里面提供了 Lock,为啥还要提供一个 Semaphore ?其实 Semaphore 还有一个功能是 Lock 不容易实现的,那就是:Semaphore 可以允许多个线程访问一个临界区。

常见的就是池化资源,比如连接池、对象池、线程池等。比如熟悉的数据库连接池,在同一时刻允许多个线程同时使用连接,当然在每个连接被释放之前,是允许其他线程使用的。

现在我们假设有一个场景,对象池需求,就是一次性创建 N 个对象,之后所有的线程都复用这 N 个对象,在对象被释放前,是不允许其他线程使用。

/**
 * 对象池
 *
 */
publicclass ObjectPool {
    //使用 阻塞队列保存对象池
    privatefinal ArrayBlockingQueue<InputSaleMapDO> pool;
    //信号量
    privatefinal Semaphore sem;

    /**
     * 初始化对象池
     *
     * @param size 池大小
     */
    public ObjectPool(int size) {
        pool = new ArrayBlockingQueue<>(size);
        sem = new Semaphore(size);
        for (int i = 0; i < size; i++) {
            InputSaleMapDO inputSaleMapDO = new InputSaleMapDO();
            inputSaleMapDO.setId((long) i);
            pool.add(inputSaleMapDO);
        }
    }

    //利用对象池的对象调用 function
    public Long run(Function<InputSaleMapDO, Long> function) throws InterruptedException {
        InputSaleMapDO obj = null;
        sem.acquire();
        try {
            obj = pool.poll();
            return function.apply(obj);
        } finally {
            pool.add(obj);
            sem.release();
        }
    }

    public static void main(String[] args) throws InterruptedException {
        ObjectPool objectPool = new ObjectPool(2);

        //模拟十个线程同时访问
        CountDownLatch countDownLatch = new CountDownLatch(1);
        for (int i = 0; i < 10; i++) {
            new Thread(() -> {
                try {
                    objectPool.run(f -> {
                        System.out.println(f);
                        return f.getId();
                    });
                    countDownLatch.await();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }).start();
        }
        countDownLatch.countDown();
        TimeUnit.SECONDS.sleep(30);
    }
}

初始化线程池大小  2  ,我们模拟 10 个线程,每次只能两个线程分配对象 InputSaleMapDO。

执行完回调函数之后,它们就会释放对象(这个释放工作是通过 pool.add(obj) 实现的),同时调用 release() 方法来更新信号量的计数器。如果此时信号量里计数器的值小于等于 0,那么说明有线程在等待,此时会自动唤醒等待的线程。

 

思考
上面的例子中 保存对象池使用了 ArrayBlockingQueue ,是一个线程安全的容器,那么是否可以换成 ArrayList?欢迎留言给出答案。还有假设是停车场的车位作为对象池,车主停车是不是也可以使用 Semaphore 实现?

 

 

 

文章转载自公众号:码哥字节

已于2022-8-5 17:44:09修改
收藏
回复
举报
回复
添加资源
添加资源将有机会获得更多曝光,你也可以直接关联已上传资源 去关联
    相关推荐