Files
CategoryResourceRepost/极客时间专栏/数据结构与算法之美/入门篇/04 | 复杂度分析(下):浅析最好、最坏、平均、均摊时间复杂度.md
louzefeng d3828a7aee mod
2024-07-11 05:50:32 +00:00

179 lines
14 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

<audio id="audio" title="04 | 复杂度分析(下):浅析最好、最坏、平均、均摊时间复杂度" controls="" preload="none"><source id="mp3" src="https://static001.geekbang.org/resource/audio/9d/4b/9d8163e9190dbd9d7a82fe54yy29d04b.mp3"></audio>
上一节我们讲了复杂度的大O表示法和几个分析技巧还举了一些常见复杂度分析的例子比如O(1)、O(logn)、O(n)、O(nlogn)复杂度分析。掌握了这些内容,对于复杂度分析这个知识点,你已经可以到及格线了。但是,我想你肯定不会满足于此。
今天我会继续给你讲四个复杂度分析方面的知识点,**最好情况时间复杂度**best case time complexity、**最坏情况时间复杂度**worst case time complexity、**平均情况时间复杂度**average case time complexity、**均摊时间复杂度**amortized time complexity。如果这几个概念你都能掌握那对你来说复杂度分析这部分内容就没什么大问题了。
## 最好、最坏情况时间复杂度
上一节我举的分析复杂度的例子都很简单,今天我们来看一个稍微复杂的。你可以用我上节教你的分析技巧,自己先试着分析一下这段代码的时间复杂度。
```
// n表示数组array的长度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i &lt; n; ++i) {
if (array[i] == x) pos = i;
}
return pos;
}
```
你应该可以看出来这段代码要实现的功能是在一个无序的数组array查找变量x出现的位置。如果没有找到就返回-1。按照上节课讲的分析方法这段代码的复杂度是O(n)其中n代表数组的长度。
我们在数组中查找一个数据,并不需要每次都把整个数组都遍历一遍,因为有可能中途找到就可以提前结束循环了。但是,这段代码写得不够高效。我们可以这样优化一下这段查找代码。
```
// n表示数组array的长度
int find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i &lt; n; ++i) {
if (array[i] == x) {
pos = i;
break;
}
}
return pos;
}
```
这个时候问题就来了。我们优化完之后这段代码的时间复杂度还是O(n)吗?很显然,咱们上一节讲的分析方法,解决不了这个问题。
因为要查找的变量x可能出现在数组的任意位置。如果数组中第一个元素正好是要查找的变量x那就不需要继续遍历剩下的n-1个数据了那时间复杂度就是O(1)。但如果数组中不存在变量x那我们就需要把整个数组都遍历一遍时间复杂度就成了O(n)。所以,不同的情况下,这段代码的时间复杂度是不一样的。
为了表示代码在不同情况下的不同时间复杂度,我们需要引入三个概念:最好情况时间复杂度、最坏情况时间复杂度和平均情况时间复杂度。
顾名思义,**最好情况时间复杂度就是,在最理想的情况下,执行这段代码的时间复杂度**。就像我们刚刚讲到的在最理想的情况下要查找的变量x正好是数组的第一个元素这个时候对应的时间复杂度就是最好情况时间复杂度。
同理,**最坏情况时间复杂度就是,在最糟糕的情况下,执行这段代码的时间复杂度**。就像刚举的那个例子如果数组中没有要查找的变量x我们需要把整个数组都遍历一遍才行所以这种最糟糕情况下对应的时间复杂度就是最坏情况时间复杂度。
## 平均情况时间复杂度
我们都知道,最好情况时间复杂度和最坏情况时间复杂度对应的都是极端情况下的代码复杂度,发生的概率其实并不大。为了更好地表示平均情况下的复杂度,我们需要引入另一个概念:平均情况时间复杂度,后面我简称为平均时间复杂度。
平均时间复杂度又该怎么分析呢我还是借助刚才查找变量x的例子来给你解释。
要查找的变量x在数组中的位置有n+1种情况**在数组的0n-1位置中**和**不在数组中**。我们把每种情况下查找需要遍历的元素个数累加起来然后再除以n+1就可以得到需要遍历的元素个数的平均值
<img src="https://static001.geekbang.org/resource/image/d8/2f/d889a358b8eccc5bbb90fc16e327a22f.jpg" alt="">
我们知道时间复杂度的大O标记法中可以省略掉系数、低阶、常量所以咱们把刚刚这个公式简化之后得到的平均时间复杂度就是O(n)。
这个结论虽然是正确的但是计算过程稍微有点儿问题。究竟是什么问题呢我们刚讲的这n+1种情况出现的概率并不是一样的。我带你具体分析一下。这里要稍微用到一点儿概率论的知识不过非常简单你不用担心。
我们知道要查找的变量x要么在数组里要么就不在数组里。这两种情况对应的概率统计起来很麻烦为了方便你理解我们假设在数组中与不在数组中的概率都为1/2。另外要查找的数据出现在0n-1这n个位置的概率也是一样的为1/n。所以根据概率乘法法则要查找的数据出现在0n-1中任意位置的概率就是1/(2n)。
因此,前面的推导过程中存在的最大问题就是,没有将各种情况发生的概率考虑进去。如果我们把每种情况发生的概率也考虑进去,那平均时间复杂度的计算过程就变成了这样:
<img src="https://static001.geekbang.org/resource/image/36/7f/36c0aabdac69032f8a43368f5e90c67f.jpg" alt="">
这个值就是概率论中的**加权平均值**,也叫作**期望值**,所以平均时间复杂度的全称应该叫**加权平均时间复杂度**或者**期望时间复杂度**。
引入概率之后,前面那段代码的加权平均值为(3n+1)/4。用大O表示法来表示去掉系数和常量这段代码的加权平均时间复杂度仍然是O(n)。
你可能会说,平均时间复杂度分析好复杂啊,还要涉及概率论的知识。实际上,在大多数情况下,我们并不需要区分最好、最坏、平均情况时间复杂度三种情况。像我们上一节课举的那些例子那样,很多时候,我们使用一个复杂度就可以满足需求了。只有同一块代码在不同的情况下,时间复杂度有量级的差距,我们才会使用这三种复杂度表示法来区分。
## 均摊时间复杂度
到此为止,你应该已经掌握了算法复杂度分析的大部分内容了。下面我要给你讲一个更加高级的概念,均摊时间复杂度,以及它对应的分析方法,摊还分析(或者叫平摊分析)。
均摊时间复杂度,听起来跟平均时间复杂度有点儿像。对于初学者来说,这两个概念确实非常容易弄混。我前面说了,大部分情况下,我们并不需要区分最好、最坏、平均三种复杂度。平均复杂度只在某些特殊情况下才会用到,而均摊时间复杂度应用的场景比它更加特殊、更加有限。
老规矩,我还是借助一个具体的例子来帮助你理解。(当然,这个例子只是我为了方便讲解想出来的,实际上没人会这么写。)
```
// array表示一个长度为n的数组
// 代码中的array.length就等于n
int[] array = new int[n];
int count = 0;
void insert(int val) {
if (count == array.length) {
int sum = 0;
for (int i = 0; i &lt; array.length; ++i) {
sum = sum + array[i];
}
array[0] = sum;
count = 1;
}
array[count] = val;
++count;
}
```
我先来解释一下这段代码。这段代码实现了一个往数组中插入数据的功能。当数组满了之后也就是代码中的count == array.length时我们用for循环遍历数组求和并清空数组将求和之后的sum值放到数组的第一个位置然后再将新的数据插入。但如果数组一开始就有空闲空间则直接将数据插入数组。
那这段代码的时间复杂度是多少呢?你可以先用我们刚讲到的三种时间复杂度的分析方法来分析一下。
最理想的情况下数组中有空闲空间我们只需要将数据插入到数组下标为count的位置就可以了所以最好情况时间复杂度为O(1)。最坏的情况下数组中没有空闲空间了我们需要先做一次数组的遍历求和然后再将数据插入所以最坏情况时间复杂度为O(n)。
那平均时间复杂度是多少呢答案是O(1)。我们还是可以通过前面讲的概率论的方法来分析。
假设数组的长度是n根据数据插入的位置的不同我们可以分为n种情况每种情况的时间复杂度是O(1)。除此之外还有一种“额外”的情况就是在数组没有空闲空间时插入一个数据这个时候的时间复杂度是O(n)。而且这n+1种情况发生的概率一样都是1/(n+1)。所以,根据加权平均的计算方法,我们求得的平均时间复杂度就是:
<img src="https://static001.geekbang.org/resource/image/6d/ed/6df62366a60336d9de3bc34f488d8bed.jpg" alt="">
至此为止前面的最好、最坏、平均时间复杂度的计算理解起来应该都没有问题。但是这个例子里的平均复杂度分析其实并不需要这么复杂不需要引入概率论的知识。这是为什么呢我们先来对比一下这个insert()的例子和前面那个find()的例子,你就会发现这两者有很大差别。
首先find()函数在极端情况下复杂度才为O(1)。但insert()在大部分情况下时间复杂度都为O(1)。只有个别情况下复杂度才比较高为O(n)。这是insert()**第一个**区别于find()的地方。
我们再来看**第二个**不同的地方。对于insert()函数来说O(1)时间复杂度的插入和O(n)时间复杂度的插入出现的频率是非常有规律的而且有一定的前后时序关系一般都是一个O(n)插入之后紧跟着n-1个O(1)的插入操作,循环往复。
所以,针对这样一种特殊场景的复杂度分析,我们并不需要像之前讲平均复杂度分析方法那样,找出所有的输入情况及相应的发生概率,然后再计算加权平均值。
针对这种特殊的场景,我们引入了一种更加简单的分析方法:**摊还分析法**,通过摊还分析得到的时间复杂度我们起了一个名字,叫**均摊时间复杂度**。
那究竟如何使用摊还分析法来分析算法的均摊时间复杂度呢?
我们还是继续看在数组中插入数据的这个例子。每一次O(n)的插入操作都会跟着n-1次O(1)的插入操作所以把耗时多的那次操作均摊到接下来的n-1次耗时少的操作上均摊下来这一组连续的操作的均摊时间复杂度就是O(1)。这就是均摊分析的大致思路。你都理解了吗?
均摊时间复杂度和摊还分析应用场景比较特殊,所以我们并不会经常用到。为了方便你理解、记忆,我这里简单总结一下它们的应用场景。如果你遇到了,知道是怎么回事儿就行了。
对一个数据结构进行一组连续操作中,大部分情况下时间复杂度都很低,只有个别情况下时间复杂度比较高,而且这些操作之间存在前后连贯的时序关系,这个时候,我们就可以将这一组操作放在一块儿分析,看是否能将较高时间复杂度那次操作的耗时,平摊到其他那些时间复杂度比较低的操作上。而且,在能够应用均摊时间复杂度分析的场合,一般均摊时间复杂度就等于最好情况时间复杂度。
尽管很多数据结构和算法书籍都花了很大力气来区分平均时间复杂度和均摊时间复杂度,但其实我个人认为,**均摊时间复杂度就是一种特殊的平均时间复杂度**,我们没必要花太多精力去区分它们。你最应该掌握的是它的分析方法,摊还分析。至于分析出来的结果是叫平均还是叫均摊,这只是个说法,并不重要。
## 内容小结
今天我们学习了几个复杂度分析相关的概念,分别有:最好情况时间复杂度、最坏情况时间复杂度、平均情况时间复杂度、均摊时间复杂度。之所以引入这几个复杂度概念,是因为,同一段代码,在不同输入的情况下,复杂度量级有可能是不一样的。
在引入这几个概念之后,我们可以更加全面地表示一段代码的执行效率。而且,这几个概念理解起来都不难。最好、最坏情况下的时间复杂度分析起来比较简单,但平均、均摊两个复杂度分析相对比较复杂。如果你觉得理解得还不是很深入,不用担心,在后续具体的数据结构和算法学习中,我们可以继续慢慢实践!
## 课后思考
我们今天学的几个复杂度分析方法你都掌握了吗你可以用今天学习的知识来分析一下下面这个add()函数的时间复杂度。
```
// 全局变量大小为10的数组array长度len下标i。
int array[] = new int[10];
int len = 10;
int i = 0;
// 往数组中添加一个元素
void add(int element) {
if (i &gt;= len) { // 数组空间不够了
// 重新申请一个2倍大小的数组空间
int new_array[] = new int[len*2];
// 把原来array数组中的数据依次copy到new_array
for (int j = 0; j &lt; len; ++j) {
new_array[j] = array[j];
}
// new_array复制给arrayarray现在大小就是2倍len了
array = new_array;
len = 2 * len;
}
// 将element放到下标为i的位置下标i加一
array[i] = element;
++i;
}
```
欢迎留言和我分享,我会第一时间给你反馈。