自己的项目因为会一直抓取某些信息,但是本地会和线上经常一起跑,造成冲突。这其实就是我们常说的分布式集群的问题了,本地和线上的服务器构成了集群以及QPS为2的小并发(其实也不叫并发,不知道拿什么词形容?)。
首先,分布式集群的问题大家都知道,会造成数据库的插入重复问题,会造成一系列的并发性问题。
解决的方式呢也大概如下几点,百度以及谷歌上都能搜到的解决方式:
- 数据库添加唯一索引
- 设计接口幂等性
- 依靠中间件使用分布式锁,而分布式锁又分为Redis和Zookeeper
由于Zookeeper我没怎么接触过,并且我项目中本来就引用了Redis,所以就想着用Redis来做分布式锁,也高端洋气上档次点。
首先基于Redis的操作,我们必须要保证其原子性,也就是要么全部成功,要么全部失败,先从Redis的客户端入手。
就Redis客户端而言,我们通过的操作是先使用setnx指令,如果成功则返回1,失败则返回0
可是就分布锁锁而言,一个常用的问题就是如果一个服务setnx成功了,但是在解锁的时候如果发生了宕机或者一些特殊因素,导致无法解锁,那么其他服务将陷入死锁的状态。所以,我们在用 setnx 的同时想着去用 expire 指令对锁进行一个过期操作
从指令可以看出 setnx
和 expire
指令是分开的,如果在这中间的空隙过程中如果有特殊因素导致指令无法继续,也会导致死锁的产生。
为了解决这个疑难,Redis 开源社区涌现了一堆分布式锁的 library
,专门用来解决这个问题。实现方法极为复杂,小白用户一般要费很大的精力才可以搞懂。如果你需要使用分布式锁,意味着你不能仅仅使用 Jedis
或者 redis-py
就行了,还得引入分布式锁的 library
。
为了治理这个乱象,Redis 2.8 版本中作者加入了 set
指令的扩展参数,使得 setnx
和 expire
指令可以一起执行,彻底解决了分布式锁的乱象。从此以后所有的第三方分布式锁 library
可以休息了。
首先在Redis方面我用的是RedisTemplate
对Redis进行操作的 ,而RedisTemplate
在目前情况下如果不借助于是无法保证其原子性的,所以我们需要借助于Redis的Lua脚本。
先上Lua脚本的代码
// 加锁
if
redis.call('setNx',KEYS[1],ARGV[1])
then
if redis.call('get',KEYS[1])==ARGV[1]
then
return redis.call('expire',KEYS[1],ARGV[2])
else
return 0
end
end
// 解锁
if
redis.call('get', KEYS[1]) == ARGV[1]
then
return redis.call('del', KEYS[1])
else
return 0
end
Java调用脚本有两种方式
1.新建一个脚本文件,在代码中调用其绝对路径地址
redisScript.setScriptSource(new ResourceScriptSource(new ClassPathResource(地址)));
2.在Java代码中以字符串的方式传入
redisScript.setScriptText(脚本);
我是用的第二种方式实现的,下面是JAVA代码
/**
* 获取锁
* @param lockKey
* @param value
* @param expireTime:单位-秒
* @return
*/
public boolean getLock(String lockKey, String value, int expireTime){
boolean ret = false;
try{
String script = "if redis.call('setNx',KEYS[1],ARGV[1]) then if redis.call('get',KEYS[1])==ARGV[1] then return redis.call('expire',KEYS[1],ARGV[2]) else return 0 end end";
RedisScript<Long> redisScript = new DefaultRedisScript<>(script, Long.class);
Object result = redisTemplate.execute(redisScript,new StringRedisSerializer(),new StringRedisSerializer(), Collections.singletonList(lockKey),value,expireTime + "");
System.out.println(result + "-----------");
//Object result = redisTemplate.execute(redisScript, Collections.singletonList(lockKey),value,expireTime + "");
if(SUCCESS.equals(result)){
return true;
}
}catch(Exception e){
e.printStackTrace();
}
return ret;
}
/**
* 释放锁
* @param lockKey
* @param value
* @return
*/
public boolean releaseLock(String lockKey, String value){
String script = "if redis.call('get', KEYS[1]) == ARGV[1] then return redis.call('del', KEYS[1]) else return 0 end";
RedisScript<Long> redisScript = new DefaultRedisScript<>(script, Long.class);
Object result = redisTemplate.execute(redisScript,new StringRedisSerializer(),new StringRedisSerializer(), Collections.singletonList(lockKey),value);
if(SUCCESS.equals(result)) {
return true;
}
return false;
}
以上代码已经在我的项目中确切可以使用了。但是在使用的过程中遇到了许多问题。
1.java.lang.IllegalStateException
在返回值方面,会经常报IllegalStateException
。
RedisScript<String> redisScript = new DefaultRedisScript<>(script, String.class);
用String类型时候,经常会报类型转换异常。我在代码中使用的Long类型接收该类型,在命令行中我们也看到命令行结果返回的是数字0或者1,保险起见我们也可以用Object对象来接收结果集。
2.ERR value is not an integer or out of range
这个问题纠结了我一个下午至少,Redis报的异常都是很深的,从跟踪源码的时候看到,我们在调用redisTemplate.execute
的方法时候,如果不传序列化的参数的时候,代码默认调用的是 Jdkserializationredisserializer
来进行序列化和反序列化操作,这是jdk自带的序列化操作,使用该序列化的对象必须要实现Serializable
接口。所以该序列化接口是用于对实体类的序列化。
所以在进行 execute
操作的时候,我们传入 Stringredisserializer
,该序列化接口是专用于对字符串类型的序列化操作。具体的区别可以去这两个类的源码中看下他们的加密方式。
因为时间以及个人能力的问题,对部分源码有点未理解,所以没有做到全方位的解读这些异常的原因,以后有机会会将源码细读并分析其异常原因。