CategoryResourceRepost/极客时间专栏/geek/数据结构与算法之美/实战篇/52 | 算法实战(一):剖析Redis常用数据类型对应的数据结构.md
louzefeng bf99793fd0 del
2024-07-09 18:38:56 +00:00

12 KiB
Raw Blame History

到此为止,专栏前三部分我们全部讲完了。从今天开始,我们就正式进入实战篇的部分。这部分我主要通过一些开源项目、经典系统,真枪实弹地教你,如何将数据结构和算法应用到项目中。所以这部分的内容,更多的是知识点的回顾,相对于基础篇、高级篇的内容,其实这部分会更加容易看懂。

不过,我希望你不要只是看懂就完了。你要多举一反三地思考,自己接触过的开源项目、基础框架、中间件中,都用过哪些数据结构和算法。你也可以想一想,在自己做的项目中,有哪些可以用学过的数据结构和算法进一步优化。这样的学习效果才会更好。

好了,今天我就带你一块儿看下,经典数据库Redis中的常用数据类型底层都是用哪种数据结构实现的

Redis数据库介绍

Redis是一种键值Key-Value数据库。相对于关系型数据库比如MySQLRedis也被叫作非关系型数据库

像MySQL这样的关系型数据库表的结构比较复杂会包含很多字段可以通过SQL语句来实现非常复杂的查询需求。而Redis中只包含“键”和“值”两部分只能通过“键”来查询“值”。正是因为这样简单的存储结构也让Redis的读写效率非常高。

除此之外Redis主要是作为内存数据库来使用也就是说数据是存储在内存中的。尽管它经常被用作内存数据库但是它也支持将数据存储在硬盘中。这一点我们后面会介绍。

Redis中键的数据类型是字符串但是为了丰富数据存储的方式方便开发者使用值的数据类型有很多常用的数据类型有这样几种它们分别是字符串、列表、字典、集合、有序集合。

“字符串string”这种数据类型非常简单对应到数据结构里就是字符串。你应该非常熟悉,这里我就不多介绍了。我们着重看下,其他四种比较复杂点的数据类型,看看它们底层都依赖了哪些数据结构。

列表list

我们先来看列表。列表这种数据类型支持存储一组数据。这种数据类型对应两种实现方法,一种是压缩列表ziplist另一种是双向循环链表。

当列表中存储的数据量比较小的时候,列表就可以采用压缩列表的方式实现。具体需要同时满足下面两个条件:

  • 列表中保存的单个数据有可能是字符串类型的小于64字节
  • 列表中数据个数少于512个。
  • 关于压缩列表我这里稍微解释一下。它并不是基础数据结构而是Redis自己设计的一种数据存储结构。它有点儿类似数组通过一片连续的内存空间来存储数据。不过它跟数组不同的一点是它允许存储的数据大小不同。具体的存储结构也非常简单你可以看我下面画的这幅图。

    现在,我们来看看,压缩列表中的“压缩”两个字该如何理解?

    听到“压缩”两个字直观的反应就是节省内存。之所以说这种存储结构节省内存是相较于数组的存储思路而言的。我们知道数组要求每个元素的大小相同如果我们要存储不同长度的字符串那我们就需要用最大长度的字符串大小作为元素的大小假设是20个字节。那当我们存储小于20个字节长度的字符串的时候便会浪费部分存储空间。听起来有点儿拗口我画个图解释一下。

    压缩列表这种存储结构,一方面比较节省内存,另一方面可以支持不同类型数据的存储。而且,因为数据存储在一片连续的内存空间,通过键来获取值为列表类型的数据,读取的效率也非常高。

    当列表中存储的数据量比较大的时候,也就是不能同时满足刚刚讲的两个条件的时候,列表就要通过双向循环链表来实现了。

    链表我们已经讲过双向循环链表这种数据结构了如果不记得了你可以先回去复习一下。这里我们着重看一下Redis中双向链表的编码实现方式。

    Redis的这种双向链表的实现方式非常值得借鉴。它额外定义一个list结构体来组织链表的首、尾指针还有长度等信息。这样在使用的时候就会非常方便。

    // 以下是C语言代码因为Redis是用C语言实现的。
    typedef struct listnode {
      struct listNode *prev;
      struct listNode *next;
      void *value;
    } listNode;
    
    
    typedef struct list {
      listNode *head;
      listNode *tail;
      unsigned long len;
      // ....省略其他定义
    } list;
    
    

    字典hash

    字典类型用来存储一组数据对。每个数据对又包含键值两部分。字典类型也有两种实现方式。一种是我们刚刚讲到的压缩列表,另一种是散列表

    同样只有当存储的数据量比较小的情况下Redis才使用压缩列表来实现字典类型。具体需要满足两个条件

  • 字典中保存的键和值的大小都要小于64字节
  • 字典中键值对的个数要小于512个。
  • 当不能同时满足上面两个条件的时候Redis就使用散列表来实现字典类型。Redis使用MurmurHash2这种运行速度快、随机性好的哈希算法作为哈希函数。对于哈希冲突问题Redis使用链表法来解决。除此之外Redis还支持散列表的动态扩容、缩容。

    当数据动态增加之后散列表的装载因子会不停地变大。为了避免散列表性能的下降当装载因子大于1的时候Redis会触发扩容将散列表扩大为原来大小的2倍左右具体值需要计算才能得到如果感兴趣你可以去阅读源码)。

    当数据动态减少之后为了节省内存当装载因子小于0.1的时候Redis就会触发缩容缩小为字典中数据个数的大约2倍大小这个值也是计算得到的如果感兴趣你也可以去阅读源码)。

    我们前面讲过扩容缩容要做大量的数据搬移和哈希值的重新计算所以比较耗时。针对这个问题Redis使用我们在散列表(中)讲的渐进式扩容缩容策略,将数据的搬移分批进行,避免了大量数据一次性搬移导致的服务停顿。

    集合set

    集合这种数据类型用来存储一组不重复的数据。这种数据类型也有两种实现方法,一种是基于有序数组,另一种是基于散列表。

    当要存储的数据同时满足下面这样两个条件的时候Redis就采用有序数组来实现集合这种数据类型。

  • 存储的数据都是整数;
  • 存储的数据元素个数不超过512个。
  • 当不能同时满足这两个条件的时候Redis就使用散列表来存储集合中的数据。

    有序集合sortedset

    有序集合这种数据类型,我们在跳表里已经详细讲过了。它用来存储一组数据,并且每个数据会附带一个得分。通过得分的大小,我们将数据组织成跳表这样的数据结构,以支持快速地按照得分值、得分区间获取数据。

    实际上跟Redis的其他数据类型一样有序集合也并不仅仅只有跳表这一种实现方式。当数据量比较小的时候Redis会用压缩列表来实现有序集合。具体点说就是使用压缩列表来实现有序集合的前提有这样两个

  • 所有数据的大小都要小于64字节
  • 元素个数要小于128个。
  • 数据结构持久化

    尽管Redis经常会被用作内存数据库但是它也支持数据落盘也就是将内存中的数据存储到硬盘中。这样当机器断电的时候存储在Redis中的数据也不会丢失。在机器重新启动之后Redis只需要再将存储在硬盘中的数据重新读取到内存就可以继续工作了。

    刚刚我们讲到Redis的数据格式由“键”和“值”两部分组成。而“值”又支持很多数据类型比如字符串、列表、字典、集合、有序集合。像字典、集合等类型底层用到了散列表散列表中有指针的概念而指针指向的是内存中的存储地址。 那Redis是如何将这样一个跟具体内存地址有关的数据结构存储到磁盘中的呢

    实际上Redis遇到的这个问题并不特殊很多场景中都会遇到。我们把它叫作数据结构的持久化问题,或者对象的持久化问题。这里的“持久化”,你可以笼统地理解为“存储到磁盘”。

    如何将数据结构持久化到硬盘?我们主要有两种解决思路。

    第一种是清除原有的存储结构只将数据存储到磁盘中。当我们需要从磁盘还原数据到内存的时候再重新将数据组织成原来的数据结构。实际上Redis采用的就是这种持久化思路。

    不过这种方式也有一定的弊端。那就是数据从硬盘还原到内存的过程会耗用比较多的时间。比如我们现在要将散列表中的数据存储到磁盘。当我们从磁盘中取出数据重新构建散列表的时候需要重新计算每个数据的哈希值。如果磁盘中存储的是几GB的数据那重构数据结构的耗时就不可忽视了。

    第二种方式是保留原来的存储格式,将数据按照原有的格式存储在磁盘中。我们拿散列表这样的数据结构来举例。我们可以将散列表的大小、每个数据被散列到的槽的编号等信息,都保存在磁盘中。有了这些信息,我们从磁盘中将数据还原到内存中的时候,就可以避免重新计算哈希值。

    总结引申

    今天我们学习了Redis中常用数据类型底层依赖的数据结构总结一下大概有这五种压缩列表(可以看作一种特殊的数组)、有序数组链表散列表跳表。实际上Redis就是这些常用数据结构的封装。

    你有没有发现有了数据结构和算法的基础之后再去阅读Redis的源码理解起来就容易多了很多原来觉得很深奥的设计思想是不是就都会觉得顺理成章了呢

    还是那句话,夯实基础很重要。同样是看源码,有些人只能看个热闹,了解一些皮毛,无法形成自己的知识结构,不能化为己用,过不几天就忘了。而有些人基础很好,不但能知其然,还能知其所以然,从而真正理解作者设计的动机。这样不但能有助于我们理解所用的开源软件,还能为我们自己创新添砖加瓦。

    课后思考

  • 你有没有发现在数据量比较小的情况下Redis中的很多数据类型比如字典、有序集合等都是通过多种数据结构来实现的为什么会这样设计呢用一种固定的数据结构来实现不是更加简单吗
  • 我们讲到数据结构持久化有两种方法。对于二叉查找树这种数据结构,我们如何将它持久化到磁盘中呢?
  • 欢迎留言和我分享,也欢迎点击“请朋友读”,把今天的内容分享给你的好友,和他一起讨论、学习。