Java分布式系统限流
陈虎_63 人气:0为何使用分布式系统限流:
在分布式环境中,我们的系统都是集群化部署,那么使用了单机版的限流策略,比如我们对某一个接口的限流方案是每秒钟最多10次请求,那么因为各个实例都会自己维护一份请求次数,所以真实每秒的请求数是:
节点数 * 每秒最多请求数,这样的话就超出了我们的预期;
分布式限流解决方案:
● 可以基于redis,做分布式限流
● 可以基于nginx做分布式限流
● 可以使用阿里开源的 sentinel 中间件
本次介绍使用 redis 做分布式限流
实现思路:
设计思路:假设一个用户(用IP判断)每分钟访问某一个服务接口的次数不能超过10次,那么我们可以在Redis中根据该用户IP创建一个键,并此时我们就设置这个键的过期时间为60秒,当用户请求到来的时候,先去redis中根据用户ip获取这个用户当前分钟请求了多少次,如果获取不到,则说明这个用户当前分钟第一次访问,就创建这个健,并+1,如果获取到了就判断当前有没有超过我们限制的次数,如果到了我们限制的次数则禁止访问。
使用技术:使用redis提供的:incr命令 实现
先引入redis的依赖:
<dependency> <groupId>redis.clients</groupId> <artifactId>jedis</artifactId> <version>2.9.0</version> </dependency> <dependency> <groupId>com.alibaba</groupId> <artifactId>fastjson</artifactId> <version>1.2.70</version> </dependency>
redis配置类:
package org.xhs.redis; import redis.clients.jedis.Jedis; import redis.clients.jedis.JedisPool; import redis.clients.jedis.JedisPoolConfig; /** * @Author: hu.chen * @Description: **/ public class RedisConfig { // 服务器IP地址 private static String ADDR = "127.0.0.1"; // 端口 private static int PORT = 6379; // 密码 private static String AUTH = null; // 连接实例的最大连接数 private static int MAX_ACTIVE = 1024; // 控制一个pool最多有多少个状态为idle(空闲的)的jedis实例,默认值也是8。 private static int MAX_IDLE = 200; // 等待可用连接的最大时间,单位毫秒,默认值为-1,表示永不超时。如果超过等待时间,则直接抛出JedisConnectionException private static int MAX_WAIT = 10000; // 连接超时的时间 private static int TIMEOUT = 10000; // 在borrow一个jedis实例时,是否提前进行validate操作;如果为true,则得到的jedis实例均是可用的; private static boolean TEST_ON_BORROW = true; private static JedisPool jedisPool = null; // 数据库模式是16个数据库 0~15 public static final int DEFAULT_DATABASE = 0; /** * 初始化Redis连接池 */ static { try { JedisPoolConfig config = new JedisPoolConfig(); config.setMaxTotal(MAX_ACTIVE); config.setMaxIdle(MAX_IDLE); config.setMaxWaitMillis(MAX_WAIT); config.setTestOnBorrow(TEST_ON_BORROW); jedisPool = new JedisPool(config, ADDR, PORT, TIMEOUT, AUTH, DEFAULT_DATABASE); } catch (Exception e) { e.printStackTrace(); } } /** * 获取Jedis实例 */ public static Jedis getJedis() { try { if (jedisPool != null) { Jedis resource = jedisPool.getResource(); return resource; } else { return null; } } catch (Exception e) { e.printStackTrace(); return null; } } }
redis工具类:
package org.xhs.redis; import redis.clients.jedis.Jedis; /** * @Author: hu.chen * @Description: * @DateTime: 2022/1/21 1:06 PM **/ public class RedisUtils { /** * 将指定的key递增1(可用于乐观锁) * * @param key * @return */ public static Long incr(final String key) { Jedis jedis = RedisConfig.getJedis(); Long incr = jedis.incr(key); returnJedis(jedis); return incr; } /** * 给指定key设置过期时间 * * @param key * @param seconds * @author ruan 2013-4-11 */ public static void expire(String key, int seconds) { if (seconds <= 0) { return; } Jedis jedis = RedisConfig.getJedis(); jedis.expire(key, seconds); // 将连接还回连接池 returnJedis(jedis); } /** * 回收jedis * * @param jedis */ private static void returnJedis(Jedis jedis) { if (jedis != null) { jedis.close(); } } }
实现:
package org.xhs.redis; import java.util.ArrayList; import java.util.List; /** * @Author: hu.chen * @Description: **/ public class TestRedis { /** * 超时时间(单位秒) */ private static int TIMEOUT = 30; /** * 每分钟的请求次数限制 */ private static int COUNT = 10; public static void main(String[] args) { List<UserRequest> tasks = new ArrayList(); // 准备工作,先初始化 10个线程(用户),这10个用户同时访问一个接口 for (int i = 1; i <= 12; i++) { String ip = "127.0.0." + i; String userName = "chenhu_"; String interfaceName = "user/find_" + i; tasks.add(new UserRequest(ip, userName, interfaceName)); } for (UserRequest request : tasks) { // 以用户名为键 if (isAccess(request.getUserName(), COUNT)) { System.err.println("用户:"+request.getUserName()+" 当前时间访问次数还未达到上限,可以访问"); } else { System.err.println("当前时间访问失败,"+request.getUserName()+"无法获取令牌"); } } } /** * 是否可以访问 * * @return */ private static boolean isAccess(String userName, long count) { Long incr = RedisUtils.incr(userName); if (incr == 1) { RedisUtils.expire(userName, TIMEOUT); } if (count < incr) { return false; } return true; } /** * 实体对象 */ private static class UserRequest { /** * 请求用户ip */ private String ip; /** * 用户名 */ private String userName; /** * 请求的接口名 */ private String interfaceName; public UserRequest(String ip, String userName, String interfaceName) { this.ip = ip; this.userName = userName; this.interfaceName = interfaceName; } public String getIp() {return ip;} public String getUserName() { return userName;} public String getInterfaceName() {return interfaceName;} } }
加载全部内容