算法專題:Linear Sort

Linear Sort即線性排序,指的是一系列能做到線性時間復(fù)雜度即O(n)的排序算法,這里主要介紹三個:桶排序(bucket sort),計數(shù)排序(count sort)和基數(shù)排序(radix sort)。
排序算法基于兩類,一類是基于比較的排序,常規(guī)排序一般就是這類,例如快速排序、歸并排序、堆排序。這種排序方法有著O(nlgn)的下限限制(已有證明比較排序不可能做到比O(nlgn)好)。而非比較排序沒有這個限制。雖然這些排序方法看上去復(fù)雜度比常規(guī)的的時間復(fù)雜度O(nlgn)要好,其實都有一些其他方面的限制,所以還是要看情況進行使用。

  1. 計數(shù)排序
    顧名思義,就是通過計算各個元素出現(xiàn)的次數(shù)來排序。 假設(shè)出現(xiàn)的元素都在0-k之間,將這k+1個數(shù)進行頻次計數(shù),然后再從小到大把這些數(shù)給排出來。代碼如下:
def countingsort( aList, k ):
    counter = [0] * ( k + 1 )
    for i in aList:
        counter[i] += 1

    ndx = 0
    for i in range( len( counter ) ):
        while 0 < counter[i]:
            aList[ndx] = i
            ndx += 1
            counter[i] -= 1 
整個算法可以分成兩塊,第一塊計數(shù),時間復(fù)雜度O(n),第二塊擺放,時間復(fù)雜度O(k),因此總的時間復(fù)雜度是O(n+k),空間復(fù)雜度也是O(n+k)。很明顯,適用的情況,僅限于所需排序的序列是0-k的整數(shù)而且k比較小。
  1. 桶排序
    桶排序自然要用到“桶”,所謂的“桶”就是一個個容器,其能容納一個區(qū)間內(nèi)未排序的數(shù)值。利用“桶”,將數(shù)值按照區(qū)域分好,然后各自排序,再連到一起,就是桶排序的思想。桶內(nèi)排序,可以使用比較排序算法。

    def bucketsort(A):
        # get hash codes
        code = hashing(A)
        buckets = [list() for _ in range(code[1])]
        # distribute data into buckets: O(n)
        for i in A:
            x = re_hashing(i, code)
            buck = buckets[x]
            buck.append(i)
    
        for bucket in buckets:
            bucket.sort()
    
        ndx = 0
        # merge the buckets: O(n)
        for b in range(len(buckets)):
            for v in buckets[b]:
                A[ndx] = v
                ndx += 1
    
    import math
    def hashing(A):
        m = A[0]
        for i in range(1, len(A)):
            if (m < A[i]):
            m = A[i]
        result = [m, int(math.sqrt(len(A)))]
        return result
    def re_hashing(i, code):
        return int(i / code[0] * (code[1] - 1)) 
    

首先是把數(shù)據(jù)壓縮到01的區(qū)間內(nèi),這里的代碼是取n^(1/2)個桶。假設(shè)數(shù)組內(nèi)的最大值是K,有M個桶,那么相當(dāng)于把0-K分成M個區(qū)間,即0M-1號桶。對于某個數(shù)x,應(yīng)該分到序號為(M-1)*x/K,因為x=0時分到0號桶,x=K時分到第M-1號桶。
然后分完數(shù)之后對桶內(nèi)進行排序,排序完之后連起來。
稍微分析一下復(fù)雜度。最壞情況就是所有數(shù)據(jù)都在一個桶里面,那么相當(dāng)于白干,還不如直接常規(guī)排序。
最好情況就是數(shù)據(jù)平均分布,總共N個元素M個桶,每個桶就是N/M個元素,總時間復(fù)雜度就是O(N+Nlog(N/M)),當(dāng)M越大時總復(fù)雜度越小,但同時空間復(fù)雜度也就更高。
此外,只要桶排序內(nèi)部排序算法是穩(wěn)定的,那么整個桶排序也就是穩(wěn)定的。

  1. 基數(shù)排序
    基數(shù)排序?qū)儆诙鄈ey排序,一般是從最小的key分堆排序,然后再對較大的key排序,直至對所有key完成排序。
    網(wǎng)上很常見的一個例子就是對十進制整數(shù)排序,因為每一位的權(quán)重不一樣,因此也是對key分次排序的一個例子。
    例如170, 45, 75, 90, 802, 2, 24, 66,排序過程如下:
    先對個位進行排序:170,90,802,2,24,45,75,66
    然后進行十位排序:802,2,24,45,66,170,75,90
    最后對百位排序:2,24,45,66,75,90,175,802
    當(dāng)然,key不止限定于十進制的權(quán)重。不過基本上就是這么一個思路。假如有k個key,那么一共要排k次,如果使用桶排序,那么就是O(nk)。
def radixSort(a, n, maxLen):
    for x in range(maxLen):
        bins = [[] for i in range(n)]
        for y in a:
            bins[(y // 10 ** x) % n].append(y)
        a = []
        for section in bins:
            a.extend(section)
      return a 

上面的代碼,如果是對十進制排序,那至少要有10個桶來放,n=10.maxLen是指數(shù)值的最大長度用來確定排序次數(shù)。

總結(jié):線性排序總體來說限制比較多,不夠靈活,但是在特定場合還是可以用。

例題:maxGap。給出一個未排序的非負(fù)整數(shù)數(shù)組,找出其排序狀況下的相鄰兩個數(shù)的最大差值。要求線性時間。
【解】這個題就是線性排序的用武之地。假如不排序,幾乎沒法做。當(dāng)然也可以用Quick Sort強行線性(其復(fù)雜度從O(n)~O(n^2)),不過用正宗的線性排序顯然更好。
對這道題而言,計數(shù)排序明顯不靠譜,基數(shù)排序并沒有多key,所以桶排序是最佳的選擇。事實上,桶排序時可以不用在桶里面sort,因為題目只是要求max gap,因此如果能知道每一個桶內(nèi)的max和min,那么桶與桶之間的gap就知道了。至于桶內(nèi)的呢?平均gap是(max-min)/(N-1),如果讓每個桶剛好覆蓋平均gap大小,那么極端情況就是每個桶一個元素,桶內(nèi)gap不用考慮;否則,某些桶多某些桶少,出現(xiàn)分布不均勻的情況時,最大gap也只可能出現(xiàn)在桶與桶之間。

# Time:  O(n)
# Space: O(n)
class Solution:
     # @param numss: a list of integers
     # @return: the maximum difference
    def maximumGap(self, nums):
        if len(nums) < 2:
            return 0
        
        # Init bucket.
        max_val, min_val = max(nums), min(nums)
        gap = max(1, (max_val - min_val) // (len(nums) - 1))
        bucket_size = (max_val - min_val) // gap + 1
        bucket = [{'min': float("inf"), 'max': float("-inf")} for _ in range(bucket_size)]

        # Find the bucket where the n should be put.
        for n in nums:
            # min_val / max_val is in the first / last bucket.
            if n in (max_val, min_val):
                continue      
            i = (n - min_val) // gap
            bucket[i]['min'] = min(bucket[i]['min'], n)
            bucket[i]['max'] = max(bucket[i]['max'], n)
        
        # Count each bucket gap between the first and the last bucket.
        max_gap, pre_bucket_max = 0, min_val
        for i in range(bucket_size):
            # Skip the bucket it empty.
            if bucket[i]['min'] == float("inf") and bucket[i]['max'] == float("-inf"):
                continue
            max_gap = max(max_gap, bucket[i]['min'] - pre_bucket_max)
            pre_bucket_max = bucket[i]['max']
        # Count the last bucket.
        max_gap = max(max_gap, max_val - pre_bucket_max) 
        
        return max_gap 
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

推薦閱讀更多精彩內(nèi)容