Java使用Semaphore对单接口进行限流

 更新时间:2021年7月22日 00:00  点击:2006

一、实战说明

1.1 效果说明

本篇主要讲如何使用Semaphore对单接口进行限流,例如有如下场景
a. A系统的有a接口主要给B系统调用,现在希望对B系统进行限流,例如处理峰值在100,超过100的请求快速失败
b. 接口作为总闸入口,希望限制所有外来访问,例如某个房间只能同时100个玩家在线,只有前面的处理完后面的才能继续请求
c. 其他类型场景,也就是资源固定的情况下需要轮流使用资源的可以采用Semaphore

不适用场景
a. 由于是针对总入口进行限流,所以不能根据IP或者token等进行限流,适用场景比较固定
b. 后续的博客中会介绍如何使用其他的针对IP/Token级别的限流,例如AOP+Redis+Lua进行限流

优点主要有
a. 相比针对IP级别的限流,Semaphore实现相对简单,对上述场景能快速实现限流效果

实现难度:3颗星

1.2 核心知识点

主要使用以下技术点
a. springboot
b. juc包中的Semaphore(tryAcquire、release方法)

Semaphore主要说明
a. Semaphore中可以通过tryAcquire和acquire获取到一个许可证(默认),通过release释放许可证
b. 两个获取许可证的主要区别就是前者是非阻塞而后者阻塞,如果我们要实现快速失败的效果,就必须使用非阻塞获取许可证方法
注意点
a. 一定要确保release方法被调用,例如放到finally中,否则许可证得不到释放,将会导致接口被全部陷死,无法接收请求

二、环境搭建

环境使用idea+spring initializr创建
新建springboot web项目

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

包目录说明

在这里插入图片描述

新建SemaphoreController,请求路径为limit
a. 注意点已经代码注释说明

package com.codecoord.semaphore.controller;

import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

import java.util.concurrent.Semaphore;

/**
 * 限流侧测试
 *
 * @author tianxincode@163.com
 * @since 2020-08-06
 */
@RestController
public class SemaphoreController {
    /**
     * 最大信号量,例如此处3,生成环境可以做成可配置项,通过注入方式进行注入
     */
    private static final int MAX_SEMAPHORE = 3;
    /**
     * Semaphore主限流,全局就行
     */
    private static final Semaphore SEMAPHORE = new Semaphore(MAX_SEMAPHORE);

    @RequestMapping("/limit")
    public String limit() {
        // 01.使用非阻塞tryAcquire,如果获取不到就快速返回失败
        if (!SEMAPHORE.tryAcquire()) {
            return "请求频率超过限制:" + MAX_SEMAPHORE;
        }

        // 02. 如果能进入到这里,说明一定获取到了许可证
        /// todo 可能的参数校验,注意如果参数校验不通过,一定要调用release方法
        /*if (valid(xxx)) {
            SEMAPHORE.release();
        }*/

        try {
            // 03. 模拟业务处理,假如需要1s
            Thread.sleep(1000);
            return "业务处理成功";
        } catch (InterruptedException e) {
            // 错误处理
            return "业务处理失败";
        } finally {
            // 04. 一定要释放,否则导致接口假死无法处理请求
            SEMAPHORE.release();
        }
    }
}

三、限流演示

3.1 并发请求工具

 并发请求将基于apache-jmeter-5.2.1进行测试,jmeter的使用相对简单,请读者自行百度

此处线程组的线程数量为10个,真实环境中根据需要调整配置大小

在这里插入图片描述

在这里插入图片描述 

3.2 效果示例图

启动测试,可以看到处理成功的只有三个,剩下7个全部失败
a. 请求成功

在这里插入图片描述

b. 请求失败

在这里插入图片描述

到此这篇关于Java使用Semaphore对单接口进行限流的文章就介绍到这了,更多相关Java 单接口限流内容请搜索猪先飞以前的文章或继续浏览下面的相关文章希望大家以后多多支持猪先飞!

[!--infotagslink--]

相关文章