redis中的bitmap你了解吗
/**
* 布隆过滤器bloom Filter
* 1.百万分之一的概率哈希冲突,所以有存在的不一定存在,但是不存在的百分百不存在
* 2.不能删除,删除的时候不能简单的直接置为0,可能会影响其他元素的判断,其实问题不大一般生产数据也不会删除的,都是软删除
* 3.新增数据时候写入bloom Filter
* 4.2^32次方40亿数据内存占用才600M,超级省内存,查找速度非常快,160M内存可以在千万级数据做到1%的误判
* 5.bitmap根据offset去申请内存的,所以要省内存的情况要限制offset值
*/
public function bloomAction(){
$t1 = time();
for($i=0;$i<99;$i++){
$bl = new BloomFilter();
//$str = "1https://arnaud.le-blanc.net/php-rdkafka-doc/phpdoc/book.rdkafka.html?id=".time();
$str = "https://dasda.le-blanc.net/php-rdkafka-doc/phpdoc/book.rdkafka.html?id=".mt_rand(1,99999999);
p($str);
$res1 = $bl->JSHash($str);//两次哈希3s,md5哈希重复的概率是百万分之一
p($res1);
}
//p($res);
$t2 = time();
echo $t2-$t1;
}
/**
* 布隆过滤器初始化 bloom Filter 执行 php index.php "index/demo/loadDb2bloom"
*/
public function isExistBloomAction(){
$redis = redisCursor();
$email = input("email","","trim");
$tel = input("tel","");
$result = false;
$msg = "";
if(filter_var($email,FILTER_VALIDATE_EMAIL)){
$key1 = "bloom_user_email";
$offset = BloomFilter::JSHash($email);
$result = $redis->getbit($key1,$offset);
$msg = $email;
}elseif($tel){
$key2 = "bloom_user_telephone";
$offset = BloomFilter::JSHash($tel);
$result = $redis->getbit($key2,$offset);
$msg = $tel;
}
$result?apiSuccess($msg.",已存在"):apiError($msg.",不存在");
}
/**
* 布隆过滤器初始化 bloom Filter 执行 php index.php "index/demo/loadDb2bloom"
*/
public function loadDb2bloomAction(){
$time1 = time();
$redis = redisCursor();
$key1 = "bloom_user_email";
$key2 = "bloom_user_telephone";
//setbit() offset 必须是数字,value必须是1或0
//$redis->setbit($key,30,1);
$table = "user";
$pkid = "id";
$field1 = "email";
$field2 = "telephone";
$maxid = Db::name($table)->max($pkid);
$size = 5000;
$page = ceil($maxid/$size);
for($i=0;$i<$page;$i++){
$start = $i*$size;
$where = " $pkid between ".$start." and ".($start+$size);
$res = Db::name($table)->where($where)->field("$field1,$field2")->select();
if($res){//同步到bitmap
foreach($res as $k=>$v){
//布隆过滤器 1.存在的不一定存在, 2.不存在的100%不存在(原因,哈希冲突可能用100W分之一的可能重复)
//所以注册的时候判断不存在的,百分百可以注册,存在的可以查询一下数据库是否真的不存在
$value1 = BloomFilter::JSHash($v["$field1"]);
$value2 = BloomFilter::JSHash($v["$field2"]);
$redis->setbit($key1,$value1,1);//email去重
$redis->setbit($key2,$value2,1);//mobile去重
}
}
$time2 = time();
echo $where." 消耗时间 ".($time2-$time1).PHP_EOL;
}
$time3 = time();
echo " 总消耗时间 ".($time3-$time1).PHP_EOL;
}
- .NET Core系列之MemoryCache 初识
- 007手机一键Root(安机网一键Root) v3.0 官方最新版 一键ROOT您的Android手机
- 12306密码被盗了怎么办?12306密码外泄解决方法
- 12个字的qq网名
- 150M迷你型无线路由器怎么设置?
- 192.168.1.1打不开怎么办?路由器192.168.1.1打不开的原因以及解决办法
- 2011年电子报合订本 电子报 编辑部 中文 PDF版 [84M]
- 2015年1月15日小米新旗舰发布会现场图文直播
- 2016.3.1vivo Xplay5新品发布会现场视频直播 优酷直播
- 2016华为P9发布会视频直播地址 4月15日华为P9国行发布会直播