Skip to main content

[演算法] Big O Notation, Time Complexity & Space Complexity

TL;DR;#

好的程式碼通常是指好的「閱讀性/維護性(readable/maintainable)」和「可擴展性(scalable)」,而可擴展性又可以分成時間複雜度(速度)和空間複雜度(space complexity)。其中時間複雜度就可以使用 Big O Notation 來衡量,也就是用來衡量當資料量持續增加時,程式執行的時間增加的比率為何。

Big-O Cheat Sheet

  • O(1):沒有迴圈
  • O(log N):通常會是搜尋使用的演算法,會排序後先對半分
  • O(n):一層迴圈
  • O(n*log(n)):通常是排序的操作
  • O(n^2):兩層迴圈(迴圈內有迴圈)
  • O(2^N):recursive
  • O(n!):每個元素都在跑一次回圈

Big O Notation & Time Complexity#

同樣的問題可以用許多種不同的方式加以解決,因此,我們需要一些指標來評量各種方式的好壞。在演算法中,常會使用 Big O NotationTime Complexity 來衡量一個演算法(函式)的好壞。通常,會根據這個函式隨著輸入的資料量增加時,執行時間會拉長多少來作為衡量的標準之一。

info

Big O Notation 代表演算法時間函式的上限(Upper bound),表示在「最壞的狀況」下,演算法的執行時間不會超過 Big-Ο。--- 演算法評估與資料型別

常見的時間複雜度(Time Complexity)#

常見的時間複雜度由快到慢排列包含:

  • 優良
    • O(1)
    • O(log n)
    • O(n)
  • 可接受
    • O(n log n)
    • O(n ^ 2)
    • O(2 ^ n)
    • O*(n!)

💡 在演算法中,log n 的慣例指的是以 2 為底的意思,也就是 2 的幾次方

Constant Run Time (O(1))#

第一個類型是屬於 constant run time(O(1)),這個演算法(函式)的執行時間不會隨著輸入資料量的增加而增加

以下面的函式為例,不論我們代入的資料量有多大,它都只是輸出陣列中第一和第二個元素的值,因此執行時間不會隨著輸入資料量的增加而增加。

let arr1 = [1, 2, 3, 4, 5];
let arr2 = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10];
/**
* Constant Run Time:不會隨著輸入的資料量越大而使得執行時間變長
* Big O Notation: "O(1)"
**/
function log(arr) {
console.log(arr[0]);
console.log(arr[1]);
}
log(arr1); // 1, 2
log(arr2); // 1, 2

Linear Run Time (O(n))#

keywords: 一層迴圈#

下面的函式,當我們輸入的資料越多的時候,它就會需要等比例輸出越多的內容給我們,因此會需要消耗等比例越多的時間:

/**
* Linear Run Time: 隨著資料量的增加,執行時間會等比增加
* Big O Notation: "O(n)"
**/
function logAll(arr) {
for (let item of arr) {
console.log(item);
}
}
logAll(arr1); // 1, 2, 3, 4, 5
logAll(arr2); // 1, 2, 3, 4, 5, 6, 7, 8, 9, 10

Exponential Run Time (O(n^2))#

keywords: 迴圈內有迴圈#

隨著資料量的增加,執行時間會以指數成長。以下面的函式為例,當我們輸入的陣列包含 5 個元素的時候,它會輸出 25 (5^2) 筆資料;但是當我們數入的陣列包含 10 個元素的時候,它則會輸出 100 (10^2) 筆資料:

/**
* Exponential Run Time: 隨著資料量的增加,執行時間會誇張的增長
* Big O Notation: "O(n^2)"
**/
function addAndLog(arr) {
for (let item of arr) {
for (let item2 of arr) {
console.log('First', item + item2);
}
}
}
addAndLog(arr1); // 25 pairs logged out
addAndLog(arr2); // 100 pairs logged out

Logarithmic Run Time (O(log n))#

keywords: n / 2#

隨著資料量增加,執行時間雖然會增加,但增加率會趨緩。能夠對半(n/2)處理的通常都屬於 O(log n) 的演算法,因為假設 n 是 8,表示一共會跑 3 次,也就是 log 8 = 3 的意思。

例如,每次都找到陣列中最中間的元素並保存起來:

/**
* Logarithmic Run Time: 隨著資料量增加,執行時間雖然會增加,但增加率會趨緩
* Big O Notation: "O (log n)"
**/
function half(arr: number[]): number[] {
const elements: number[] = [];
let n = arr.length - 1;
while (n > 0) {
n = Math.floor(n / 2);
elements.push(arr[n]);
}
return elements;
}

下面的程式碼類似 findIndex 的函式,當輸入的資料有 5 個元素時,它會先切對半後,再尋找,再切半再尋找,因此雖然隨著資料量增加,執行的時間會增加,但是當資料量越大時,執行速度增加的情況越不明顯:

/**
* Logarithmic Run Time: 隨著資料量增加,執行時間雖然會增加,但增加率會趨緩
* Big O Notation: "O (log n)"
**/
function binarySearch(arr, key) {
let low = 0;
let high = arr.length - 1;
let mid;
let element;
while (low <= high) {
mid = Math.floor((low + high) / 2, 10);
element = arr[mid];
if (element < key) {
low = mid + 1;
} else if (element > key) {
high = mid - 1;
} else {
return mid;
}
}
return -1;
}
console.log(binarySearch(arr1, 3));
console.log(binarySearch(arr2, 3));

sqrt n O(√n)#

keywords: x*x < n#
  • n 是 100 的話,只會跑 10 次,也就是 √100,所以可以知道是 √n
/**
* Logarithmic Run Time: 隨著資料量增加,執行時間雖然會增加,但增加率會趨緩
* Big O Notation: "O (√n)"
**/
function isPrime(n: number): boolean {
// 關鍵在這裡的 X * x
for (let x = 2; x * x < n; x += 1) {
if (n % x === 0) {
return false;
}
}
return true;
}

圖示#

把上面這四種類型用圖線表示,縱軸是時間、橫軸是輸入資料量的多少,可以用來判斷這四種類型的演算法(函式)的好壞:

Big O Complexity Chart

圖片來源:Learning Algorithms in JavaScript from Scratch by Eric Traub @ Udemy

Space Complexity#

空間複雜度指的是程式佔用記憶體的空間,一樣可以透過 Big O 來表示。

時間複雜度和空間複雜度之間有時有 trade-off 存在,也就是為了提升時間複雜度(提升處理效率)必須犧牲空間複雜度;有時則需要為了空間複雜度(減少記體體的消耗)而犧牲時間複雜度。

  • 增加變數
  • 資料結構
  • 呼叫函式
  • Allocation

範例程式碼#

O(1)#

// space complexity of foo: O(1)
function foo(n) {
for (let i = 0; i < n.length; i++) {
console.log('foo');
}
}

O(n)#

// space complexity of bar: O(n)
function bar(n) {
const arr = [];
for (let i = 0; i < n; i++) {
arr[i] = n;
}
return arr;
}

完整程式碼#

資料來源#

Last updated on