缓存数据库介绍
NoSQL(NoSQL = Not Only SQL ),意即“不只仅是SQL”,泛指非关系型的数据库,随着互联网web2.0网站的兴起,传统的关系数据库在应付web2.0网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心,暴露了不少难以克服的问题,而非关系型的数据库则因为其自己的特色获得了很是迅速的发展。NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战,尤为是大数据应用难题。javascript
NoSQL数据库的四大分类
NoSQL数据库的四大分类表格分析
redis
介绍
redis是业界主流的key-value nosql 数据库之一。和Memcached相似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操做,并且这些操做都是原子性的。在此基础上,redis支持各类不一样方式的排序。与memcached同样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操做写入追加的记录文件,而且在此基础上实现了master-slave(主从)同步。java
Redis优势
-
异常快速 : Redis是很是快的,每秒能够执行大约110000设置操做,81000个/每秒的读取操做。node
-
支持丰富的数据类型 : Redis支持最大多数开发人员已经知道如列表,集合,可排序集合,哈希等数据类型。python
这使得在应用中很容易解决的各类问题,由于咱们知道哪些问题处理使用哪一种数据类型更好解决。 -
操做都是原子的 : 全部 Redis 的操做都是原子,从而确保当两个客户同时访问 Redis 服务器获得的是更新后的值(最新值)。git
-
MultiUtility工具:Redis是一个多功能实用工具,能够在不少如:缓存,消息传递队列中使用(Redis原生支持发布/订阅),在应用程序中,如:Web应用程序会话,网站页面点击数等任何短暂的数据;
安装Redis环境
$sudo apt-get update $sudo apt-get install redis-server
启动 Redis程序员
$redis-server
查看 redis 是否还在运行github
$redis-cli
redis 127.0.0.1:6379>
redis 127.0.0.1:6379> ping PONG
Python操做Redis
1
2
3
4
5
6
7
|
sudo pip install redis
or
sudo easy_install redis
or
源码安装
详见:https:
/
/
github.com
/
WoLpH
/
redis
-
py
|
在Ubuntu上安装Redis桌面管理器
要在Ubuntu 上安装 Redis桌面管理,能够从 http://redisdesktop.com/download 下载包并安装它。web
Redis API使用
redis-py 的API的使用能够分类为:redis
- 链接方式
- 链接池
- 操做
- String 操做
- Hash 操做
- List 操做
- Set 操做
- Sort Set 操做
- 管道
- 发布订阅
链接方式
一、操做模式
redis-py提供两个类Redis和StrictRedis用于实现Redis的命令,StrictRedis用于实现大部分官方的命令,并使用官方的语法和命令,Redis是StrictRedis的子类,用于向后兼容旧版本的redis-py。
1
2
3
4
5
|
import
redis
r
=
redis.Redis(host
=
'10.211.55.4'
, port
=
6379
)
r.
set
(
'foo'
,
'Bar'
)
print
r.get(
'foo'
)
|
二、链接池
redis-py使用connection pool来管理对一个redis server的全部链接,避免每次创建、释放链接的开销。默认,每一个Redis实例都会维护一个本身的链接池。能够直接创建一个链接池,而后做为参数Redis,这样就能够实现多个Redis实例共享一个链接池。
操做
1. String操做
redis中的String在在内存中按照一个name对应一个value来存储。如图:
set(name, value, ex=None, px=None, nx=False, xx=False)
1
2
3
4
5
6
|
在Redis中设置值,默认,不存在则建立,存在则修改
参数:
ex,过时时间(秒)
px,过时时间(毫秒)
nx,若是设置为True,则只有name不存在时,当前set操做才执行
xx,若是设置为True,则只有name存在时,岗前set操做才执行
|
返回 key 所关联的字符串值。
若是 key 不存在那么返回特殊值 nil 。
若给定的 key 已经存在,则 SETNX 不作任何动做。
将值 value 关联到 key ,并将 key 的生存时间设为 seconds (以秒为单位)。
若是 key 已经存在, SETEX 命令将覆写旧值。
psetex (name, time_ms, value) mset(*args, **kwargs)
同时设置一个或多个 key-value 对。
mget(keys, *args)返回 key 中字符串值的子字符串,字符串的截取范围由 start 和 end 两个偏移量决定(包括 start 和 end 在内)。
负数偏移量表示从字符串最后开始计数, -1 表示最后一个字符, -2 表示倒数第二个,以此类推
setrange(name, offset, value)
1
2
3
4
|
# 修改字符串内容,从指定字符串索引开始向后替换(新值太长时,则向后添加)
# 参数:
# offset,字符串的索引,字节(一个汉字三个字节)
# value,要设置的值
|
setbit(name, offset, value)
# 对name对应值的二进制表示的位进行操做
# 参数:
# name,redis的name
# offset,位的索引(将值变换成二进制后再进行索引)
# value,值只能是 1 或 0
# 注:若是在Redis中有一个对应: n1 = "foo",
那么字符串foo的二进制表示为:
01100110
01101111
01101111
因此,若是执行 setbit(
'n1'
,
7
,
1
),则就会将第
7
位设置为
1
,
那么最终二进制则变成
01100111
01101111
01101111
,即:
"goo"
# 扩展,转换二进制表示:
# source = "萨德"
source
=
"foo"
for
i
in
source:
num
=
ord
(i)
print
bin
(num).replace(
'b'
,'')
特别的,若是source是汉字
"萨德"
怎么办?
答:对于utf
-
8
,每个汉字占
3
个字节,那么
"萨德"
则有
9
个字节
对于汉字,
for
循环时候会按照 字节 迭代,那么在迭代时,将每个字节转换 十进制数,而后再将十进制数转换成二进制
11100110
10101101
10100110
11100110
10110010
10011011
11101001
10111101
10010000
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
|
getbit(name, offset)
1
|
# 获取name对应的值的二进制表示中的某位的值 (0或1)
|
1
2
3
4
5
6
7
8
9
10
11
12
13
|
# 增量式迭代获取,对于数据大的数据很是有用,hscan能够实现分片的获取数据,并不是一次性将数据所有获取完,从而放置内存被撑爆
# 参数:
# name,redis的name
# cursor,游标(基于游标分批取获取数据)
# match,匹配指定key,默认None 表示全部的key
# count,每次分片最少获取个数,默认None表示采用Redis的默认分片个数
# 如:
# 第一次:cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=None)
# 第二次:cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=None)
# ...
# 直到返回值cursor的值为0时,表示数据已经经过分片获取完毕
|
hscan_iter(name, match=None, count=None)
1
2
3
4
5
6
7
8
9
|
# 利用yield封装hscan建立生成器,实现分批去redis中获取数据
# 参数:
# match,匹配指定key,默认None 表示全部的key
# count,每次分片最少获取个数,默认None表示采用Redis的默认分片个数
# 如:
# for item in r.hscan_iter('xx'):
# print item
|
3. list
List操做,redis中的List在在内存中按照一个name对应一个List来存储。如图:
lpush(name,values)
1
2
3
4
5
6
7
8
|
# 在name对应的list中添加元素,每一个新的元素都添加到列表的最左边
# 如:
# r.lpush('oo', 11,22,33)
# 保存顺序为: 33,22,11
# 扩展:
# rpush(name, values) 表示从右向左操做
|
lpushx(name,value)
1
2
3
4
|
# 在name对应的list中添加元素,只有name已经存在时,值添加到列表的最左边
# 更多:
# rpushx(name, value) 表示从右向左操做
|
llen(name)
1
|
# name对应的list元素的个数
|
linsert(name, where, refvalue, value))
1
2
3
4
5
6
7
|
# 在name对应的列表的某一个值前或后插入一个新值
# 参数:
# name,redis的name
# where,BEFORE或AFTER
# refvalue,标杆值,即:在它先后插入数据
# value,要插入的数据
|
lset(name, index, value)
1
2
3
4
5
6
|
# 对name对应的list中的某一个索引位置从新赋值
# 参数:
# name,redis的name
# index,list的索引位置
# value,要设置的值
|
lrem(name, value, num)
1
2
3
4
5
6
7
8
|
# 在name对应的list中删除指定的值
# 参数:
# name,redis的name
# value,要删除的值
# num, num=0,删除列表中全部的指定值;
# num=2,从前到后,删除2个;
# num=-2,从后向前,删除2个
|
ltrim(name, start, end)
1
2
3
4
5
|
# 在name对应的列表中移除没有在start-end索引之间的值
# 参数:
# name,redis的name
# start,索引的起始位置
# end,索引结束位置
|
rpoplpush(src, dst)
1
2
3
4
|
# 从一个列表取出最右边的元素,同时将其添加至另外一个列表的最左边
# 参数:
# src,要取数据的列表的name
# dst,要添加数据的列表的name
|
blpop(keys, timeout)
1
2
3
4
5
6
7
8
|
# 将多个列表排列,按照从左到右去pop对应列表的元素
# 参数:
# keys,redis的name的集合
# timeout,超时时间,当元素全部列表的元素获取完以后,阻塞等待列表内有数据的时间(秒), 0 表示永远阻塞
# 更多:
# r.brpop(keys, timeout),从右向左获取数据
|
brpoplpush(src, dst, timeout=0)
1
2
3
4
5
6
|
# 从一个列表的右侧移除一个元素并将其添加到另外一个列表的左侧
# 参数:
# src,取出并要移除元素的列表对应的name
# dst,要插入元素的列表对应的name
# timeout,当src对应的列表中没有数据时,阻塞等待其有数据的超时时间(秒),0 表示永远阻塞
|
4.set集合操做
Set操做,Set集合就是不容许重复的列表
sadd(name,values)
1# name对应的集合中添加元素
scard(name)
1
|
获取name对应的集合中元素个数
|
sdiff(keys, *args)
1
|
在第一个name对应的集合中且不在其余name对应的集合的元素集合
|
sdiffstore(dest, keys, *args)
1
|
# 获取第一个name对应的集合中且不在其余name对应的集合,再将其新加入到dest对应的集合中
|
sinter(keys, *args)
1
|
# 获取多一个name对应集合的并集
|
sinterstore(dest, keys, *args)
1
|
# 获取多一个name对应集合的并集,再讲其加入到dest对应的集合中
|
sismember(name, value)
1
|
# 检查value是不是name对应的集合的成员
|
smembers(name)
1
|
# 获取name对应的集合的全部成员
|
smove(src, dst, value)
1
|
# 将某个成员从一个集合中移动到另一个集合
|
spop(name)
1
|
# 从集合的右侧(尾部)移除一个成员,并将其返回
|
srandmember(name, numbers)
1
|
# 从name对应的集合中随机获取 numbers 个元素
|
srem(name, values)
1
|
# 在name对应的集合中删除某些值
|
sunion(keys, *args)
1
|
# 获取多一个name对应的集合的并集
|
sunionstore(dest,keys, *args)
1
|
# 获取多一个name对应的集合的并集,并将结果保存到dest对应的集合中
|
sscan(name, cursor=0, match=None, count=None)
sscan_iter(name, match=None, count=None)
1
|
# 同字符串的操做,用于增量迭代分批获取元素,避免内存消耗太大
|
zadd(name, *args, **kwargs)
1
2
3
4
5
|
# 在name对应的有序集合中添加元素
# 如:
# zadd('zz', 'n1', 1, 'n2', 2)
# 或
# zadd('zz', n1=11, n2=22)
|
zcard(name)
1
|
# 获取name对应的有序集合元素的数量
|
zcount(name, min, max)
1
|
# 获取name对应的有序集合中分数 在 [min,max] 之间的个数
|
zincrby(name, value, amount)
1
|
# 自增name对应的有序集合的 name 对应的分数
|
zrange( name, start, end, desc=False, withscores=False, score_cast_func=float)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
# 按照索引范围获取name对应的有序集合的元素
# 参数:
# name,redis的name
# start,有序集合索引发始位置(非分数)
# end,有序集合索引结束位置(非分数)
# desc,排序规则,默认按照分数从小到大排序
# withscores,是否获取元素的分数,默认只获取元素的值
# score_cast_func,对分数进行数据转换的函数
# 更多:
# 从大到小排序
# zrevrange(name, start, end, withscores=False, score_cast_func=float)
# 按照分数范围获取name对应的有序集合的元素
# zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float)
# 从大到小排序
# zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)
|
zrank(name, value)
1
2
3
4
|
# 获取某个值在 name对应的有序集合中的排行(从 0 开始)
# 更多:
# zrevrank(name, value),从大到小排序
|
zrem(name, values)
1
2
3
|
# 删除name对应的有序集合中值是values的成员
# 如:zrem('zz', ['s1', 's2'])
|
zremrangebyrank(name, min, max)
1
|
# 根据排行范围删除
|
zremrangebyscore(name, min, max)
1
|
# 根据分数范围删除
|
zscore(name, value)
1
|
# 获取name对应有序集合中 value 对应的分数
|
zinterstore(dest, keys, aggregate=None)
1
2
|
# 获取两个有序集合的交集,若是遇到相同值不一样分数,则按照aggregate进行操做
# aggregate的值为: SUM MIN MAX
|
zunionstore(dest, keys, aggregate=None)
1
2
|
# 获取两个有序集合的并集,若是遇到相同值不一样分数,则按照aggregate进行操做
# aggregate的值为: SUM MIN MAX
|
zscan(name, cursor=0, match=None, count=None, score_cast_func=float)
zscan_iter(name, match=None, count=None,score_cast_func=float)
1
|
# 同字符串类似,相较于字符串新增score_cast_func,用来对分数进行操做
|
其余经常使用操做
delete(*names)