自己的项目因为会一直抓取某些信息,但是本地会和线上经常一起跑,造成冲突。这其实就是我们常说的分布式集群的问题了,本地和线上的服务器构成了集群以及QPS为2的小并发(其实也不叫并发,不知道拿什么词形容?)。

首先,分布式集群的问题大家都知道,会造成数据库的插入重复问题,会造成一系列的并发性问题。

解决的方式呢也大概如下几点,百度以及谷歌上都能搜到的解决方式:

  1. 数据库添加唯一索引
  2. 设计接口幂等性
  3. 依靠中间件使用分布式锁,而分布式锁又分为Redis和Zookeeper

由于Zookeeper我没怎么接触过,并且我项目中本来就引用了Redis,所以就想着用Redis来做分布式锁,也高端洋气上档次点。

首先基于Redis的操作,我们必须要保证其原子性,也就是要么全部成功,要么全部失败,先从Redis的客户端入手。

就Redis客户端而言,我们通过的操作是先使用setnx指令,如果成功则返回1,失败则返回0



redis 集群如何实现分布式锁 redis集群分布式锁问题_多线程

可是就分布锁锁而言,一个常用的问题就是如果一个服务setnx成功了,但是在解锁的时候如果发生了宕机或者一些特殊因素,导致无法解锁,那么其他服务将陷入死锁的状态。所以,我们在用 setnx 的同时想着去用 expire 指令对锁进行一个过期操作



redis 集群如何实现分布式锁 redis集群分布式锁问题_分布式_02

从指令可以看出 setnxexpire 指令是分开的,如果在这中间的空隙过程中如果有特殊因素导致指令无法继续,也会导致死锁的产生。

为了解决这个疑难,Redis 开源社区涌现了一堆分布式锁的 library,专门用来解决这个问题。实现方法极为复杂,小白用户一般要费很大的精力才可以搞懂。如果你需要使用分布式锁,意味着你不能仅仅使用 Jedis 或者 redis-py 就行了,还得引入分布式锁的 library

为了治理这个乱象,Redis 2.8 版本中作者加入了 set 指令的扩展参数,使得 setnxexpire 指令可以一起执行,彻底解决了分布式锁的乱象。从此以后所有的第三方分布式锁 library 可以休息了。



redis 集群如何实现分布式锁 redis集群分布式锁问题_多线程_03


首先在Redis方面我用的是RedisTemplate对Redis进行操作的 ,而RedisTemplate在目前情况下如果不借助于是无法保证其原子性的,所以我们需要借助于Redis的Lua脚本。

先上Lua脚本的代码

// 加锁
if 
        redis.call('setNx',KEYS[1],ARGV[1]) 
    then 
        if redis.call('get',KEYS[1])==ARGV[1] 
    then 
        return redis.call('expire',KEYS[1],ARGV[2]) 
    else 
        return 0 
    end 
end
 
 
 
// 解锁
if 
    redis.call('get', KEYS[1]) == ARGV[1] 
then 
    return redis.call('del', KEYS[1]) 
else 
    return 0 
end

Java调用脚本有两种方式

1.新建一个脚本文件,在代码中调用其绝对路径地址

redisScript.setScriptSource(new ResourceScriptSource(new ClassPathResource(地址)));

2.在Java代码中以字符串的方式传入

redisScript.setScriptText(脚本);

我是用的第二种方式实现的,下面是JAVA代码

/**
     * 获取锁
     * @param lockKey
     * @param value
     * @param expireTime:单位-秒
     * @return
     */
    public boolean getLock(String lockKey, String value, int expireTime){
        boolean ret = false;
        try{
            String script = "if redis.call('setNx',KEYS[1],ARGV[1]) then if redis.call('get',KEYS[1])==ARGV[1] then return redis.call('expire',KEYS[1],ARGV[2]) else return 0 end end";
 
            RedisScript<Long> redisScript = new DefaultRedisScript<>(script, Long.class);
 
            Object result = redisTemplate.execute(redisScript,new StringRedisSerializer(),new StringRedisSerializer(), Collections.singletonList(lockKey),value,expireTime + "");
            System.out.println(result + "-----------");
            //Object result = redisTemplate.execute(redisScript, Collections.singletonList(lockKey),value,expireTime + "");
 
            if(SUCCESS.equals(result)){
                return true;
            }
 
        }catch(Exception e){
            e.printStackTrace();
        }
        return ret;
    }
 
    /**
     * 释放锁
     * @param lockKey
     * @param value
     * @return
     */
    public boolean releaseLock(String lockKey, String value){
 
        String script = "if redis.call('get', KEYS[1]) == ARGV[1] then return redis.call('del', KEYS[1]) else return 0 end";
 
        RedisScript<Long> redisScript = new DefaultRedisScript<>(script, Long.class);
 
        Object result = redisTemplate.execute(redisScript,new StringRedisSerializer(),new StringRedisSerializer(), Collections.singletonList(lockKey),value);
        if(SUCCESS.equals(result)) {
            return true;
        }
 
        return false;
    }

以上代码已经在我的项目中确切可以使用了。但是在使用的过程中遇到了许多问题。

1.java.lang.IllegalStateException

在返回值方面,会经常报IllegalStateException

RedisScript<String> redisScript = new DefaultRedisScript<>(script, String.class);

用String类型时候,经常会报类型转换异常。我在代码中使用的Long类型接收该类型,在命令行中我们也看到命令行结果返回的是数字0或者1,保险起见我们也可以用Object对象来接收结果集。

2.ERR value is not an integer or out of range

这个问题纠结了我一个下午至少,Redis报的异常都是很深的,从跟踪源码的时候看到,我们在调用redisTemplate.execute的方法时候,如果不传序列化的参数的时候,代码默认调用的是 Jdkserializationredisserializer 来进行序列化和反序列化操作,这是jdk自带的序列化操作,使用该序列化的对象必须要实现Serializable接口。所以该序列化接口是用于对实体类的序列化。

所以在进行 execute 操作的时候,我们传入 Stringredisserializer,该序列化接口是专用于对字符串类型的序列化操作。具体的区别可以去这两个类的源码中看下他们的加密方式。

因为时间以及个人能力的问题,对部分源码有点未理解,所以没有做到全方位的解读这些异常的原因,以后有机会会将源码细读并分析其异常原因。