CategoryResourceRepost/极客时间专栏/数据结构与算法之美/基础篇/14 | 排序优化:如何实现一个通用的、高性能的排序函数?.md
louzefeng d3828a7aee mod
2024-07-11 05:50:32 +00:00

101 lines
10 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

<audio id="audio" title="14 | 排序优化:如何实现一个通用的、高性能的排序函数?" controls="" preload="none"><source id="mp3" src="https://static001.geekbang.org/resource/audio/d0/89/d01a09c1ae936811bb24412127047289.mp3"></audio>
几乎所有的编程语言都会提供排序函数比如C语言中qsort()C++ STL中的sort()、stable_sort()还有Java语言中的Collections.sort()。在平时的开发中,我们也都是直接使用这些现成的函数来实现业务逻辑中的排序功能。那你知道这些排序函数是如何实现的吗?底层都利用了哪种排序算法呢?
基于这些问题,今天我们就来看排序这部分的最后一块内容:**如何实现一个通用的、高性能的排序函数?**
## 如何选择合适的排序算法?
如果要实现一个通用的、高效率的排序函数,我们应该选择哪种排序算法?我们先回顾一下前面讲过的几种排序算法。
<img src="https://static001.geekbang.org/resource/image/1f/fd/1f6ef7e0a5365d6e9d68f0ccc71755fd.jpg" alt="">
我们前面讲过,线性排序算法的时间复杂度比较低,适用场景比较特殊。所以如果要写一个通用的排序函数,不能选择线性排序算法。
如果对小规模数据进行排序可以选择时间复杂度是O(n<sup>2</sup>)的算法如果对大规模数据进行排序时间复杂度是O(nlogn)的算法更加高效。所以为了兼顾任意规模数据的排序一般都会首选时间复杂度是O(nlogn)的排序算法来实现排序函数。
时间复杂度是O(nlogn)的排序算法不止一个我们已经讲过的有归并排序、快速排序后面讲堆的时候我们还会讲到堆排序。堆排序和快速排序都有比较多的应用比如Java语言采用堆排序实现排序函数C语言使用快速排序实现排序函数。
不知道你有没有发现使用归并排序的情况其实并不多。我们知道快排在最坏情况下的时间复杂度是O(n<sup>2</sup>)而归并排序可以做到平均情况、最坏情况下的时间复杂度都是O(nlogn),从这点上看起来很诱人,那为什么它还是没能得到“宠信”呢?
还记得我们上一节讲的归并排序的空间复杂度吗归并排序并不是原地排序算法空间复杂度是O(n)。所以粗略点、夸张点讲如果要排序100MB的数据除了数据本身占用的内存之外排序算法还要额外再占用100MB的内存空间空间耗费就翻倍了。
前面我们讲到快速排序比较适合来实现排序函数但是我们也知道快速排序在最坏情况下的时间复杂度是O(n<sup>2</sup>),如何来解决这个“复杂度恶化”的问题呢?
## 如何优化快速排序?
我们先来看下为什么最坏情况下快速排序的时间复杂度是O(n<sup>2</sup>)呢我们前面讲过如果数据原来就是有序的或者接近有序的每次分区点都选择最后一个数据那快速排序算法就会变得非常糟糕时间复杂度就会退化为O(n<sup>2</sup>)。实际上,**这种O(n<sup>2</sup>)时间复杂度出现的主要原因还是因为我们分区点选得不够合理**。
那什么样的分区点是好的分区点呢?或者说如何来选择分区点呢?
最理想的分区点是:**被分区点分开的两个分区中,数据的数量差不多**。
如果很粗暴地直接选择第一个或者最后一个数据作为分区点不考虑数据的特点肯定会出现之前讲的那样在某些情况下排序的最坏情况时间复杂度是O(n<sup>2</sup>)。为了提高排序算法的性能,我们也要尽可能地让每次分区都比较平均。
我这里介绍两个比较常用、比较简单的分区算法,你可以直观地感受一下。
### 1.三数取中法
我们从区间的首、尾、中间分别取出一个数然后对比大小取这3个数的中间值作为分区点。这样每间隔某个固定的长度取数据出来比较将中间值作为分区点的分区算法肯定要比单纯取某一个数据更好。但是如果要排序的数组比较大那“三数取中”可能就不够了可能要“五数取中”或者“十数取中”。
### 2.随机法
随机法就是每次从要排序的区间中随机选择一个元素作为分区点。这种方法并不能保证每次分区点都选的比较好但是从概率的角度来看也不大可能会出现每次分区点都选得很差的情况所以平均情况下这样选的分区点是比较好的。时间复杂度退化为最糟糕的O(n<sup>2</sup>)的情况,出现的可能性不大。
好了,我这里也只是抛砖引玉,如果想了解更多寻找分区点的方法,你可以自己课下深入去学习一下。
我们知道,快速排序是用递归来实现的。我们在递归那一节讲过,递归要警惕堆栈溢出。为了避免快速排序里,递归过深而堆栈过小,导致堆栈溢出,我们有两种解决办法:第一种是限制递归深度。一旦递归过深,超过了我们事先设定的阈值,就停止递归。第二种是通过在堆上模拟实现一个函数调用栈,手动模拟递归压栈、出栈的过程,这样就没有了系统栈大小的限制。
## 举例分析排序函数
为了让你对如何实现一个排序函数有一个更直观的感受我拿Glibc中的qsort()函数举例说明一下。虽说qsort()从名字上看,很像是基于快速排序算法实现的,实际上它并不仅仅用了快排这一种算法。
如果你去看源码,你就会发现,**qsort()会优先使用归并排序来排序输入数据**因为归并排序的空间复杂度是O(n)所以对于小数据量的排序比如1KB、2KB等归并排序额外需要1KB、2KB的内存空间这个问题不大。现在计算机的内存都挺大的我们很多时候追求的是速度。还记得我们前面讲过的用空间换时间的技巧吗这就是一个典型的应用。
但如果数据量太大就跟我们前面提到的排序100MB的数据这个时候我们再用归并排序就不合适了。所以**要排序的数据量比较大的时候qsort()会改为用快速排序算法来排序**。
那qsort()是如何选择快速排序算法的分区点的呢如果去看源码你就会发现qsort()选择分区点的方法就是“三数取中法”。是不是也并不复杂?
还有我们前面提到的递归太深会导致堆栈溢出的问题qsort()是通过自己实现一个堆上的栈,手动模拟递归来解决的。我们之前在讲递归那一节也讲过,不知道你还有没有印象?
实际上qsort()并不仅仅用到了归并排序和快速排序它还用到了插入排序。在快速排序的过程中当要排序的区间中元素的个数小于等于4时qsort()就退化为插入排序,不再继续用递归来做快速排序,因为我们前面也讲过,在小规模数据面前,**O(n<sup>2</sup>)时间复杂度的算法并不一定比O(nlogn)的算法执行时间长**。我们现在就来分析下这个说法。
我们在讲复杂度分析的时候讲过,算法的性能可以通过时间复杂度来分析,但是,这种复杂度分析是比较偏理论的,如果我们深究的话,实际上时间复杂度并不等于代码实际的运行时间。
时间复杂度代表的是一个增长趋势如果画成增长曲线图你会发现O(n<sup>2</sup>)比O(nlogn)要陡峭也就是说增长趋势要更猛一些。但是我们前面讲过在大O复杂度表示法中我们会省略低阶、系数和常数也就是说O(nlogn)在没有省略低阶、系数、常数之前可能是O(knlogn + c)而且k和c有可能还是一个比较大的数。
假设k=1000c=200当我们对小规模数据比如n=100排序时n<sup>2</sup>的值实际上比knlogn+c还要小。
```
knlogn+c = 1000 * 100 * log100 + 200 远大于10000
n^2 = 100*100 = 10000
```
所以对于小规模数据的排序O(n<sup>2</sup>)的排序算法并不一定比O(nlogn)排序算法执行的时间长。对于小数据量的排序,我们选择比较简单、不需要递归的插入排序算法。
还记得我们之前讲到的哨兵来简化代码提高执行效率吗在qsort()插入排序的算法实现中,也利用了这种编程技巧。虽然哨兵可能只是少做一次判断,但是毕竟排序函数是非常常用、非常基础的函数,性能的优化要做到极致。
好了C语言的qsort()我已经分析完了,你有没有觉得其实也不是很难?基本上都是用了我们前面讲到的知识点,有了前面的知识积累,看一些底层的类库的时候是不是也更容易了呢?
## 内容小结
今天我带你分析了一下如何来实现一个工业级的通用的、高效的排序函数内容比较偏实战而且贯穿了一些前面几节的内容你要多看几遍。我们大部分排序函数都是采用O(nlogn)排序算法来实现,但是为了尽可能地提高性能,会做很多优化。
我还着重讲了快速排序的一些优化策略比如合理选择分区点、避免递归太深等等。最后我还带你分析了一个C语言中qsort()的底层实现原理,希望你对此能有一个更加直观的感受。
## 课后思考
在今天的内容中我分析了C语言的中的qsort()的底层排序算法,你能否分析一下你所熟悉的语言中的排序函数都是用什么排序算法实现的呢?都有哪些优化技巧?
欢迎留言和我分享,我会第一时间给你反馈。
**特别说明:**
专栏已经更新一月有余,我在留言区看到很多同学说,希望给出课后思考题的标准答案。鉴于留言区里本身就有很多非常好的答案,之后我会将我认为比较好的答案置顶在留言区,供需要的同学参考。
如果文章发布一周后,留言里依旧没有比较好的答案,我会把我的答案写出来置顶在留言区。
最后,**希望你把思考的过程看得比标准答案更重要。**