首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  程序员

冰与火之歌:「时间」与「空间」复杂度

  CoderOnePolo · 123 天前 · 3769 次点击
这是一个创建于 123 天前的主题,其中的信息可能已经有所发展或是发生改变。

算法( Algorithm )是指用来操作数据、解决程序问题的一组方法。对于同一个问题,使用不同的算法,也许最终得到的结果是一样的,比如排序就有前面的十大经典排序和几种奇葩排序,虽然结果相同,但在过程中消耗的资源和时间却会有很大的区别,比如快速排序与猴子排序:)。

那么我们应该如何去衡量不同算法之间的优劣呢?

主要还是从算法所占用的「时间」和「空间」两个维度去考量。

  • 时间维度:是指执行当前算法所消耗的时间,我们通常用「时间复杂度」来描述。

  • 空间维度:是指执行当前算法需要占用多少内存空间,我们通常用「空间复杂度」来描述。

冰之哀伤:时间复杂度

时间的流逝宛若寒冰的融化,散发着恐惧。

大 O 符号表示法

大 O 表示法:算法的时间复杂度通常用大 O 符号表述,定义为 **T[n] = O(f(n)) **。称函数 T(n)以 f(n)为界或者称 T(n)受限于 f(n)。

如果一个问题的规模是 n,解这一问题的某一算法所需要的时间为 T(n)。T(n)称为这一算法的“时间复杂度”。

上面公式中用到的 Landau 符号是由德国数论学家保罗·巴赫曼( Paul Bachmann )在其 1892 年的著作《解析数论》首先引入,由另一位德国数论学家艾德蒙·朗道( Edmund Landau )推广。Landau 符号的作用在于用简单的函数来描述复杂函数行为,给出一个上或下(确)界。在计算算法复杂度时一般只用到大 O 符号,Landau 符号体系中的小 o 符号、Θ符号等等比较不常用。这里的 O,最初是用大写希腊字母,但现在都用大写英语字母 O ;小 o 符号也是用小写英语字母 o,Θ符号则维持大写希腊字母Θ。

大 O 符号是一种算法「复杂度」的「相对」「表示」方式。

这个句子里有一些重要而严谨的用词:

  • 相对(relative):你只能比较相同的事物。你不能把一个做算数乘法的算法和排序整数列表的算法进行比较。但是,比较 2 个算法所做的算术操作(一个做乘法,一个做加法)将会告诉你一些有意义的东西;

  • 表示(representation):大 O(用它最简单的形式)把算法间的比较简化为了一个单一变量。这个变量的选择基于观察或假设。例如,排序算法之间的对比通常是基于比较操作(比较 2 个结点来决定这 2 个结点的相对顺序)。这里面就假设了比较操作的计算开销很大。但是,如果比较操作的计算开销不大,而交换操作的计算开销很大,又会怎么样呢?这就改变了先前的比较方式;

  • 复杂度(complexity):如果排序 10,000 个元素花费了我 1 秒,那么排序 1 百万个元素会花多少时间?在这个例子里,复杂度就是相对其他东西的度量结果。

常见的时间复杂度量级

我们先从常见的时间复杂度量级进行大 O 的理解:

  • 常数阶 O(1)

  • 线性阶 O(n)

  • 平方阶 O(n²)

  • 对数阶 O(logn)

  • 线性对数阶 O(nlogn)

O(1)

无论代码执行了多少行,其他区域不会影响到操作,这个代码的时间复杂度都是 O(1)

void swapTwoInts(int &a, int &b){
  int temp = a;
  a = b;
  b = temp;
}

O(n)

在下面这段代码,for 循环里面的代码会执行 n 遍,因此它消耗的时间是随着 n 的变化而变化的,因此可以用 O(n)来表示它的时间复杂度。

int sum ( int n ){
   int ret = 0;
   for ( int i = 0 ; i <= n ; i ++){
      ret += i;
   }
   return ret;
}

特别一提的是 c * O(n) 中的 c 可能小于 1,比如下面这段代码:

void reverse ( string &s ) {
    int n = s.size();
    for (int i = 0 ; i < n/2 ; i++){
      swap ( s[i] , s[n-1-i]);
    }
}

O(n²)

当存在双重循环的时候,即把 O(n) 的代码再嵌套循环一遍,它的时间复杂度就是 O(n²) 了。

void selectionSort(int arr[],int n){
   for(int i = 0; i < n ; i++){
     int minIndex = i;
     for (int j = i + 1; j < n ; j++ )
       if (arr[j] < arr[minIndex])
           minIndex = j;
       
     swap ( arr[i], arr[minIndex]);
   }
}

这里简单的推导一下

  • 当 i = 0 时,第二重循环需要运行 (n - 1) 次
  • 当 i = 1 时,第二重循环需要运行 (n - 2) 次
  • 。。。。。。

不难得到公式:

(n - 1) + (n - 2) + (n - 3) + ... + 0
= (0 + n - 1) * n / 2
= O (n ^2)

当然并不是所有的双重循环都是 O(n²),比如下面这段输出 30n 次 Hello,五分钟学算法:)的代码。

void printInformation (int n ){
   for (int i = 1 ; i <= n ; i++)
        for (int j = 1 ; j <= 30 ; j ++)
           cout<< "Hello,五分钟学算法:)"<< endl;
}

O(logn)

int binarySearch( int arr[], int n , int target){
  int l = 0, r = n - 1;
  while ( l <= r) {
    int mid = l + (r - l) / 2;
    if (arr[mid] == target) return mid;
    if (arr[mid] > target ) r = mid - 1;
    else l = mid + 1;
  }
  return -1;
}

在二分查找法的代码中,通过 while 循环,成 2 倍数的缩减搜索范围,也就是说需要经过 log2^n 次即可跳出循环。

同样的还有下面两段代码也是 O(logn) 级别的时间复杂度。

  // 整形转成字符串
  string intToString ( int num ){
   string s = "";
   // n 经过几次“除以 10 ”的操作后,等于 0
   while (num ){
    s += '0' + num%10;
    num /= 10;
   }
   reverse(s)
   return s;
  }
void hello (int n ) {
   // n 除以几次 2 到 1
   for ( int sz = 1; sz < n ; sz += sz) 
     for (int i = 1; i < n; i++)
        cout<< "Hello,五分钟学算法:)"<< endl;
}

O(nlogn)

将时间复杂度为 O(logn)的代码循环 N 遍的话,那么它的时间复杂度就是 n * O(logn),也就是了 O(nlogn)。

void hello (){
  for( m = 1 ; m < n ; m++){
    i = 1;
    while( i < n ){
        i = i * 2;
    }
   }
}


不常见的时间复杂度

下面来分析一波另外几种复杂度: 递归算法的时间复杂度( recursive algorithm time complexity ),最好情况时间复杂度( best case time complexity )、最坏情况时间复杂度( worst case time complexity )、平均时间复杂度( average case time complexity )和均摊时间复杂度( amortized time complexity )。

递归算法的时间复杂度

如果递归函数中,只进行一次递归调用,递归深度为 depth ;

在每个递归的函数中,时间复杂度为 T ;

则总体的时间复杂度为 O(T * depth)

在前面的学习中,归并排序 与 快速排序 都带有递归的思想,并且时间复杂度都是 O(nlogn) ,但并不是有递归的函数就一定是 O(nlogn) 级别的。从以下两种情况进行分析。

① 递归中进行一次递归调用的复杂度分析
二分查找法

int binarySearch(int arr[], int l, int r, int target){
    if( l > r ) return -1;
    
    int mid = l + (r-l)/2; 
    if( arr[mid] == target ) return mid;  
    else if( arr[mid] > target ) 
    return binarySearch(arr, l, mid-1, target);    // 左边 
    else
    return binarySearch(arr, mid+1, r, target);   // 右边

}

比如在这段二分查找法的代码中,每次在 [ l , r ] 范围中去查找目标的位置,如果中间的元素 arr[mid] 不是 target,那么判断 arr[mid]是比 target 大 还是 小 ,进而再次调用 binarySearch这个函数。

在这个递归函数中,每一次没有找到target时,要么调用 左边 的 binarySearch函数,要么调用 右边 的 binarySearch函数。也就是说在此次递归中,最多调用了一次递归调用而已。根据数学知识,需要 log2n 次才能递归到底。因此,二分查找法的时间复杂度为 O(logn)。

求和

int sum (int n) {
  if (n == 0) return 0;
  return n + sum( n - 1 )
}

在这段代码中比较容易理解递归深度随输入 n 的增加而线性递增,因此时间复杂度为 O (n)。

求幂

//递归深度:logn
//时间复杂度:O(logn)
double pow( double x, int n){
  if (n == 0) return 1.0;
  
  double t = pow(x,n/2);
  if (n %2) return x*t*t;
  return t * t;
}

递归深度为 logn,因为是求需要除以 2 多少次才能到底。

② 递归中进行多次递归调用的复杂度分析

递归算法中比较难计算的是多次递归调用。

先看下面这段代码,有两次递归调用。

// O(2^n) 指数级别的数量级,后续动态规划的优化点
int f(int n){
 if (n == 0) return 1;
 return f(n-1) + f(n - 1);
}

递归树中节点数就是代码计算的调用次数。

比如 当 n = 3 时,调用次数计算公式为

1 + 2 + 4 + 8 = 15

一般的,调用次数计算公式为

2^0 + 2^1 + 2^2 + ...... + 2^n = 2^(n+1) - 1 = O(2^n)

与之有所类似的是 归并排序 的递归树,区别点在于

    1. 上述例子中树的深度为 n,而 归并排序 的递归树深度为logn
    1. 上述例子中每次处理的数据规模是一样的,而在 归并排序 中每个节点处理的数据规模是逐渐缩小的

因此,在如 归并排序 等排序算法中,每一层处理的数据量为 O(n) 级别,同时有 logn 层,时间复杂度便是 O(nlogn)。

最好、最坏情况时间复杂度

最好、最坏情况时间复杂度指的是特殊情况下的时间复杂度。

动图表明的是在数组 array 中寻找变量 x 第一次出现的位置,若没有找到,则返回 -1 ;否则返回位置下标。

int find(int[] array, int n, int x) {
  for (  int i = 0 ; i < n; i++) {
    if (array[i] == x) {
        return i;
        break;
    }
  }
  return -1;
}

在这里当数组中第一个元素就是要找的 x 时,时间复杂度是 O(1);而当最后一个元素才是 x 时,时间复杂度则是 O(n)。

最好情况时间复杂度就是在最理想情况下执行代码的时间复杂度,它的时间是最短的;最坏情况时间复杂度就是在最糟糕情况下执行代码的时间复杂度,它的时间是最长的。

平均情况时间复杂度

最好、最坏时间复杂度反应的是极端条件下的复杂度,发生的概率不大,不能代表平均水平。那么为了更好的表示平均情况下的算法复杂度,就需要引入平均时间复杂度。

平均情况时间复杂度可用代码在所有可能情况下执行次数的加权平均值表示。

还是以 find 函数为例,从概率的角度看,x 在数组中每一个位置的可能性是相同的,为 1 / n。那么,那么平均情况时间复杂度就可以用下面的方式计算:

((1 + 2 + ... + n) / n + n) / 2 = (3n + 1) / 4

find 函数的平均时间复杂度为 O(n)。

均摊复杂度分析

我们通过一个动态数组的 push_back 操作来理解 均摊复杂度

template <typename T>
class MyVector{
private:
    T* data;
    int size;       // 存储数组中的元素个数
    int capacity;   // 存储数组中可以容纳的最大的元素个数
    // 复杂度为 O(n)
    void resize(int newCapacity){
        T *newData = new T[newCapacity];
        for( int i = 0 ; i < size ; i ++ ){
              newData[i] = data[i];
            }
        data = newData;
        capacity = newCapacity;
    }
public:
    MyVector(){
        data = new T[100];
        size = 0;
        capacity = 100;
    }
    // 平均复杂度为 O(1)
    void push_back(T e){
        if(size == capacity)
            resize(2 * capacity);
        data[size++] = e;
    }
    // 平均复杂度为 O(1)
    T pop_back(){
        size --;
        return data[size];
    }

};

push_back实现的功能是往数组的末尾增加一个元素,如果数组没有满,直接往后面插入元素;如果数组满了,即 size == capacity ,则将数组扩容一倍,然后再插入元素。

例如,数组长度为 n,则前 n 次调用 push_back 复杂度都为 O(1) 级别;在第 n + 1 次则需要先进行 n 次元素转移操作,然后再进行 1 次插入操作,复杂度为 O(n)。

因此,平均来看:对于容量为 n 的动态数组,前面添加元素需要消耗了 1 * n 的时间,扩容操作消耗 n 时间 , 总共就是 2 * n 的时间,因此均摊时间复杂度为 O(2n / n) = O(2),也就是 O(1) 级别了。

可以得出一个比较有意思的结论:一个相对比较耗时的操作,如果能保证它不会每次都被触发,那么这个相对比较耗时的操作,它所相应的时间是可以分摊到其它的操作中来的。

火之晨曦:空间复杂度

🔥🔥🔥🔥,到处都是🔥

一个程序的空间复杂度是指运行完一个程序所需内存的大小。利用程序的空间复杂度,可以对程序的运行所需要的内存多少有个预先估计。一个程序执行时除了需要存储空间和存储本身所使用的指令、常数、变量和输入数据外,还需要一些对数据进行操作的工作单元和存储一些为现实计算所需信息的辅助空间。程序执行时所需存储空间包括以下两部分:

(1) 固定部分,这部分空间的大小与输入 /输出的数据的个数多少、数值无关。主要包括指令空间(即代码空间)、数据空间(常量、简单变量)等所占的空间。这部分属于静态空间。

(2) 可变空间,这部分空间的主要包括动态分配的空间,以及递归栈所需的空间等。这部分的空间大小与算法有关。

一个算法所需的存储空间用 f(n)表示。S(n)=O(f(n)),其中 n 为问题的规模,S(n)表示空间复杂度。

空间复杂度可以理解为除了原始序列大小的内存,在算法过程中用到的额外的存储空间。

以二叉查找树为例,举例说明二叉排序树的查找性能。

平衡二叉树

如果二叉树的是以红黑树等平衡二叉树实现的,则 n 个节点的二叉排序树的高度为 log2n+1,其查找效率为 O(Log2n),近似于折半查找。

列表二叉树

如果二叉树退变为列表了,则 n 个节点的高度或者说是长度变为了 n,查找效率为 O(n),变成了顺序查找。

一般二叉树

介于「列表二叉树」与「平衡二叉树」之间,查找性能也在 O(Log2n)到 O(n)之间。

冰火交融

对于一个算法,其时间复杂度和空间复杂度往往是相互影响的。

比如说,要判断某某年是不是闰年:

    1. 可以编写一个算法来计算,这也就意味着,每次给一个年份,都是要通过计算得到是否是闰年的结果。
    1. 还有另一个办法就是,事先建立一个有 5555 个元素的数组(年数比现实多就行),然后把所有的年份按下标的数字对应,如果是闰年,此数组项的值就是 1,如果不是值为 0。这样,所谓的判断某一年是否是闰年,就变成了查找这个数组的某一项的值是多少的问题。此时,我们的运算是最小化了,但是硬盘上或者内存中需要存储这 5555 个 0 和 1。

这就是典型的使用空间换时间的概念。

当追求一个较好的时间复杂度时,可能会使空间复杂度的性能变差,即可能导致占用较多的存储空间;
反之,求一个较好的空间复杂度时,可能会使时间复杂度的性能变差,即可能导致占用较长的运行时间。

另外,算法的所有性能之间都存在着或多或少的相互影响。因此,当设计一个算法(特别是大型算法)时,要综合考虑算法的各项性能,算法的使用频率,算法处理的数据量的大小,算法描述语言的特性,算法运行的机器系统环境等各方面因素,才能够设计出比较好的算法。

喜欢小恶魔的就点个收藏吧:)

第 1 条附言  ·  123 天前
对文章动画感兴趣的可以加一波微信交流交流:),备注一波 v2ex
微信号 base64:d3piXzMzNzc=
第 2 条附言  ·  123 天前

我的首发原文地址:冰与火之歌:「时间」与「空间」复杂度 感兴趣的话可以关注一波:)

49 回复  |  直到 2018-12-23 20:16:53 +08:00
    1
daweii   123 天前 via iPhone   ♥ 1
标题上不标注个长文预警么
    2
slgz   123 天前   ♥ 1
mark
    3
yiranHZT   123 天前   ♥ 1
IG 牛逼
    4
LokiSharp   123 天前
所以?火之高兴呢?
    5
homeBody   123 天前   ♥ 1
先不看内容,光看这文章长度就知道是个大神
    6
CoderOnePolo   123 天前
@LokiSharp 天秀:)
    7
trys1   123 天前 via Android   ♥ 2
很好,很棒。可是,跟冰火有啥关系?
    8
svt   123 天前   ♥ 1
写的挺好
    9
JIEHULK   123 天前   ♥ 1
很好!
    10
ctrlCV   123 天前
牛逼,mark
    11
jesonyang   123 天前
marks
    12
GoTop   123 天前
内容看不懂,就看文章长度就知道楼主牛逼
    13
cccy0   123 天前
mmmmmmmmmmmmark
    14
SeaRecluse   123 天前
结果现在的软件都是空间换时间,内存占的飞起 [摊手
    15
NullWithMe   123 天前
先马为敬
    16
zhtttyecho   123 天前
A Lannister always pays his debts
    17
Variazioni   123 天前
mark。。大学学的都忘干净了。。现在都是怎么简单怎么来。。算法不会。内存来补。。
    18
singlepig   123 天前
尴尬😅,在 chrome console 中验证 intToString 那个算法的时候 mac 居然死机了...输出了一大堆数字,好像是溢出了。另外请教一下,为什么要 s += '0' + num%10;多个字符‘ 0 ’的话,reverse 之后不还是有‘ 0 ’么?请大佬教我做人😂
    19
Cukuyo   123 天前
学习了
    20
ariza   123 天前
xiao 习
    21
Eugene1024   123 天前
大学生科普文,学习了
    22
x97bgt   123 天前
这么牛 x 的动画怎么做的? PPT ?想学
    23
sudoz   123 天前
想了解下动画是怎么绘制出来的
    24
di1012   123 天前
我是被标题吸引进来的
    25
chungzhao   123 天前
不错不错,mark。加油!!!
    26
429463267   123 天前
不明觉厉
    27
no1xsyzy   123 天前
@Livid 全文转载
原文地址:
https://mp.weixin.qq.com/s?__biz=MzUyNjQxNjYyMg==&mid=2247484284&idx=1&sn=8c4d26bd5857c93593ac65b8763cd0ef&chksm=fa0e6cfdcd79e5eb18114c6d1528c1edf304c79fd2837831f58812903b0029a5bb7a59b640ba&token=762342620&lang=zh_CN#rd

https://www.v2ex.com/about
“这里绝对不会全文转载任何文章,而只会以链接方式分享”
https://www.v2ex.com/t/10553
“• Deactivate 会对做出什么样行为的用户使用?
……
- 全文转载”

————

或者请在原出处与此处建立关联。目前除了“小吴”和 base64 decode 后的第一位为 w 其他并无关联。
网名需要一致才能建立眼熟和名声。
    28
CoderOnePolo   123 天前
@no1xsyzy 我就是程序员小吴呀,可以看我其他的文章就知道了,不贴出来是不想认为是广告贴
    29
no1xsyzy   123 天前   ♥ 1
@CoderOnePolo ……你应该建立更多的关联,使得别人认为是同一个人而不是转载其他人的。
至少这边你完全可以挂上笔名“程序员小吴”(我猜是笔名?),这也不会被认为广告。
    30
CoderOnePolo   123 天前
@no1xsyzy 明白:)
    31
no1xsyzy   123 天前
出个题吧,想了不少时间,第一次做错了,第二次没最简。
求时间复杂度
int f(int n){
if (n <= 1) return 1;
return f(n-1) + f(n-2);
}
    32
no1xsyzy   123 天前
@Livid 不好意思,楼主解释过了,没事了
    33
darkbread   123 天前
没广告差评
    34
zuoyouTU   123 天前
@no1xsyzy #31 复杂度是……是斐波那契数!?
    35
Tenma   123 天前
马了当学过
    36
Mayuri   123 天前 via Android
学习
    37
Egfly   122 天前 via iPhone
先 mark
    38
aloyuu   122 天前
完全看不懂
    39
scriptB0y   122 天前
不错
    40
xrr2016   122 天前
赞👍
    41
no1xsyzy   122 天前
@zuoyouTU 和我第二次算出的一样,不是最简
    42
zuoyouTU   122 天前
@no1xsyzy #41 是因为什么原因不是最简?
是编译器优化吗、还是别的什么原因呢?
    43
hearfish   122 天前
mark
    44
xzpjerry731   121 天前
@no1xsyzy #31 O(n^2)吗?很多重复计算
    45
no1xsyzy   121 天前
@zuoyouTU 不是,单纯地只是因为 fib(n) 还可以化简。用到一个公式,这个公式可以将 fib 函数转化为矩阵幂然后用特征分解推出来……当然随便搜一下大概一大堆
@xzpjerry731 n^2 别…… O(n^2) 也太低了,非精确的是 O(fib(n)),两个差的挺多的,这个上面已经有人说了
    46
zuoyouTU   121 天前
@no1xsyzy 了解了!
    47
zuoyouTU   121 天前
@no1xsyzy 说的很明白
    48
ottoducker   120 天前
如此精美的动图 是用什么软件制作的?
    49
CoderOnePolo   117 天前 via iPhone
@ottoducker 动图和图片都是 PPT 制作的
关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2264 人在线   最高记录 4385   ·  
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.3 · 26ms · UTC 10:39 · PVG 18:39 · LAX 03:39 · JFK 06:39
♥ Do have faith in what you're doing.
沪ICP备16043287号-1