世界末日，諾亞方舟，登船時(shí)，你只能攜帶一個(gè)信封，延續(xù)人類的知識(shí)，你會(huì)寫(xiě)什么？
這是個(gè)思維實(shí)驗(yàn)，發(fā)起者張首晟教授在信封的第二行寫(xiě)了個(gè)公式：
S = - p Log p
別著急溫習(xí)數(shù)學(xué)，你看到的是今天的主角 ：熵（ 音同 商 ）。
伴隨知識(shí)付費(fèi)的興起，這個(gè)生僻詞，越來(lái)越多進(jìn)入我們的視野。
這個(gè)公式為什么重要？
科學(xué)領(lǐng)域，張教授解釋到，熵是人類對(duì)大自然最重要的認(rèn)識(shí)。
為什么這么說(shuō)？
管理領(lǐng)域，任正非2012年會(huì)上發(fā)言：企業(yè)不斷向前發(fā)展，就是對(duì)抗熵增的過(guò)程。
熵增是什么，為什么要對(duì)抗？
學(xué)習(xí)領(lǐng)域，萬(wàn)維鋼談到：信息熵可以給自己增加選項(xiàng)，以前不會(huì)做的事兒現(xiàn)在會(huì)做了，哪怕不用，也足以形成實(shí)力威懾。
熵成了實(shí)力威懾，是好是壞？
層出不窮的術(shù)語(yǔ)，相互矛盾的解釋，隙中觀斗，眩亂反復(fù)。
好似大海行船，一望無(wú)際，流連其中，反而迷失自我。
這時(shí)候，你需要閉上眼睛，正本清源，一探所然。
熱力學(xué)第二定律
從詞典說(shuō)起，熵字左邊是火字旁，它起源于熱力學(xué)。
1865年，熱力學(xué)奠基人之一德國(guó)物理學(xué)家和數(shù)學(xué)家克勞修斯第一次使用了“ 熵（entropy） ” 。
我打算將 S 命名為系統(tǒng)的熵 ( entropy )，這個(gè)詞源自希臘詞 τροπ? ( trope ) ，原意是轉(zhuǎn)換。
精心挑選之后，熵 （ entropy ）這個(gè)詞與能量（ energy ）盡可能相似：它們所表達(dá)的物理含義如此密切相關(guān)，命名相似合情合理。”
克勞修斯發(fā)現(xiàn)，能量可以轉(zhuǎn)化，但在轉(zhuǎn)化過(guò)程中，總是有一部分能量會(huì)被浪費(fèi)掉。
例如，汽油的能量可以轉(zhuǎn)化成發(fā)動(dòng)機(jī)的能量，但會(huì)產(chǎn)生大量的熱能和廢氣。即使科技再發(fā)達(dá)，浪費(fèi)的能量也無(wú)法減小至零。
被浪費(fèi)的部分能量就稱為熵。
能量是如何浪費(fèi)的，英國(guó)科學(xué)家開(kāi)爾文爵士發(fā)現(xiàn)，能量不會(huì)損失，只會(huì)耗散，能量仍在，只是無(wú)法利用。熵越大，表現(xiàn)為越無(wú)序。
把能量比作戰(zhàn)斗力，有序的隊(duì)伍比亂糟糟的隊(duì)伍更有戰(zhàn)斗力。
為何產(chǎn)生浪費(fèi)，1944年，物理學(xué)家薛定諤在他的《生命是什么》中寫(xiě)到。
要擺脫死亡，就是說(shuō)要活著，唯一的辦法就是從環(huán)境中不斷地吸取負(fù)熵。
無(wú)序不是物質(zhì)的消亡，反而意味著生命的延續(xù)。生物只要活著，就不斷從周圍環(huán)境中汲取秩序。動(dòng)物攝取組織得井然有序的有機(jī)化合物，消化吸收之后，再將其排出體外。這時(shí)物質(zhì)的有序度已大大降低，但并未完全退化，還能被植物利用。
由于宇宙的總能量不變，每一次轉(zhuǎn)化，都有一部分能量耗散，因此不難推論，有效能量越來(lái)越少，無(wú)效能量越來(lái)越多。
克勞修斯推論：宇宙之熵趨于無(wú)窮。直到有一天，所有能量都變成無(wú)效，將不再有任何能量轉(zhuǎn)化。
這條推論也稱為「熱力學(xué)第二定律」，也就是張首晟教授所說(shuō)「人類對(duì)大自然最重要的認(rèn)識(shí)」。
它預(yù)示著宇宙的終點(diǎn)，科幻作家們稱其為宇宙的"熱寂”，阿西莫夫在《最后的問(wèn)題》中描述：
那兒什么也沒(méi)有了，只有最后一顆死星的遺骸，只有稀薄至極的塵埃，在剩余的一縷無(wú)限趨向絕對(duì)零度的熱量中隨機(jī)地振蕩。
萬(wàn)事萬(wàn)物都擴(kuò)散成一種無(wú)聊而又完美的均質(zhì)狀態(tài)。所有的星星都會(huì)熄滅，所有的秩序都會(huì)變成混亂，所有的地方溫度都一樣，再也沒(méi)有什么值得流動(dòng)的了，整個(gè)宇宙寂靜了。
誕生伊始，熵就注定不凡，平凡的公式，卻窺見(jiàn)宇宙的秘密。
從牛頓力學(xué)到統(tǒng)計(jì)力學(xué)
名字，是回家的路。
熵的出世，好似那只巴西的蝴蝶，輕輕煽動(dòng)了翅膀。
1866年，熵誕生第二年，24歲的玻爾茲曼發(fā)表論文，將熵遷移至力學(xué)研究。他把熵定義為度量運(yùn)動(dòng)無(wú)序程度的一種方法，并在11年后定義了計(jì)算公式。
玻爾茲曼運(yùn)用統(tǒng)計(jì)的觀念，只考察分子運(yùn)動(dòng)排列的概率，來(lái)對(duì)應(yīng)到相關(guān)物理量的研究，開(kāi)辟了研究宏觀的統(tǒng)計(jì)力學(xué)。為了銘記他的貢獻(xiàn)，玻爾茲曼公式刻在了他的墓碑上。
在牛頓力學(xué)中，解釋物體內(nèi)每一個(gè)分子的運(yùn)動(dòng)是不可能的，熵的出現(xiàn)，打破了僵局。用運(yùn)動(dòng)的概率統(tǒng)計(jì)替代具體的運(yùn)動(dòng)行為，豐富了科學(xué)家的武器庫(kù)，引領(lǐng)了一場(chǎng)研究范式的革命。
物理學(xué)家麥克斯韋隨即加入其中，他挑戰(zhàn)的是理論的適用邊界。
麥克斯韋認(rèn)為，熱力學(xué)第二定律描述的不是單個(gè)分子的運(yùn)動(dòng)行為，而是大量分子表現(xiàn)的統(tǒng)計(jì)規(guī)律。
他意識(shí)到大自然中必然有系統(tǒng)在某些條件下“違反了”熱力學(xué)第二定律。對(duì)統(tǒng)計(jì)規(guī)律而言，熱量只能從溫度高的流向溫度低的，但是就個(gè)別分子而言，溫度低的區(qū)域的快分子完全可能自發(fā)地跑向溫度高的區(qū)域。
當(dāng)時(shí)的麥克斯韋對(duì)此問(wèn)題似乎還說(shuō)不出個(gè)所以然，于是便詼諧地設(shè)想了一種假想的“小妖精”，即“麥克斯韋妖” 。
這是一個(gè)思想實(shí)驗(yàn)，一個(gè)絕熱容器被分成相等的兩格，中間是由一只小妖控制的一扇“小門(mén)”。
這只小妖個(gè)頭迷你，沒(méi)啥特別的本事，但眼神好，反應(yīng)敏捷，能準(zhǔn)確地探測(cè)并控制單個(gè)分子運(yùn)動(dòng)，迅速把移動(dòng)的分子從從左盒丟進(jìn)右盒，把慢速運(yùn)動(dòng)的分子從右盒丟進(jìn)左盒。因此，這個(gè)小盒子不僅左右部分有溫差，熵還自發(fā)減少。
這個(gè)妖無(wú)需做功，只需眼明手快即可。它能讓密閉容器內(nèi)的半邊空氣變得滾燙，同時(shí)另一半?yún)s變得冰冷，讓混亂變得有序，避免封閉系統(tǒng)變成一潭死水。
1867年，麥克斯韋在第一次提出麥克斯韋妖時(shí)說(shuō)：“這證明第二定律只具有統(tǒng)計(jì)的確定性”，此言表明麥克斯韋是想借此來(lái)說(shuō)明熵增原理是系統(tǒng)的統(tǒng)計(jì)規(guī)律。
但這只小妖太迷人了，它操控萬(wàn)物，它逆轉(zhuǎn)陰陽(yáng)。它如何工作，它如何制造，令人臆想連篇。
1903年，美國(guó)歷史學(xué)家亨利·亞當(dāng)斯在給弟弟布魯克斯的信中寫(xiě)道：“人如同原子，而那個(gè)掌控著熱力學(xué)第二定律的麥克斯韋妖則應(yīng)當(dāng)成為總統(tǒng)。”
麥克斯韋從來(lái)沒(méi)有想到，他的妖會(huì)如此廣為流傳，如此經(jīng)久不衰。這個(gè)小妖精困惑物理學(xué)家將近150年，一直不停地有學(xué)者研究。
從牛頓力學(xué)到統(tǒng)計(jì)力學(xué)，既是一次跨越，也積蓄了下一次跨越的能量。
玻爾茲曼和麥克斯韋沒(méi)想到，這只小妖，將打開(kāi)新世界的大門(mén)。
信息時(shí)代的誕生
1948年，博士畢業(yè)后就在貝爾實(shí)驗(yàn)室里研究通訊技術(shù)的電子工程師克勞德 ? 香農(nóng)發(fā)表了改變世界的論文：《通訊的數(shù)學(xué)理論》。
發(fā)表前夜，他遇到了難題：如何度量信息傳輸中的“不確定性”，他躊躇再三，難以定奪。想把它稱為“information（信息）”，但又認(rèn)為這個(gè)名詞太過(guò)大眾化，已被普通老百姓的日常話語(yǔ)用濫了。他又考慮過(guò)就用單詞“uncertainty（不確定性）”，但它卻更像抽象名詞，缺乏量化的余地。
這時(shí)，他遇見(jiàn)了天才的數(shù)學(xué)家馮 ? 諾依曼，馮·諾依曼馬上告訴他：
就叫它熵吧，這有兩個(gè)好理由。一是你的不確定性函數(shù)已在統(tǒng)計(jì)物理中用到過(guò)，在那里它就叫熵。
第二個(gè)理由更重要：沒(méi)人真正理解熵為何物，這就讓你在任何時(shí)候都可能進(jìn)退，立于不敗之地。
當(dāng)然，這只是貝爾實(shí)驗(yàn)室流傳的一則傳聞。
熵又一次重裝上陣，這一刻，麥克斯韋小妖顯靈。
在小妖的實(shí)驗(yàn)中，有一個(gè)容易忽略的前提：小妖有能力識(shí)別分子的運(yùn)動(dòng)。
也就是說(shuō)，小妖看見(jiàn)了我們看不見(jiàn)的東西，它為何做的到。因?yàn)樾畔ⅲ瑩碛蟹肿舆\(yùn)動(dòng)的信息，它才有能力去識(shí)別。
換句話說(shuō)，小妖每處理一個(gè)粒子，是做了一次信息與能量的交換，小妖利用信息對(duì)抗著無(wú)序。
正如萬(wàn)維鋼的表達(dá)：信息量可以給自己增加選項(xiàng)，對(duì)抗了混亂，形成實(shí)力威懾。
沿著這個(gè)啟示，匈牙利理論物理學(xué)家、曼哈頓計(jì)劃的發(fā)起者之一齊拉特發(fā)現(xiàn)，只要精確核算每次度量和記憶，信息和能量轉(zhuǎn)換也是可以精確計(jì)算的。根據(jù)他的計(jì)算，每獲取一單位的信息總是會(huì)相應(yīng)帶來(lái)一定的熵增加。
一邊是物理世界，一邊是信息世界，小妖打開(kāi)了兩個(gè)世界之間的小門(mén)。
信息熵是對(duì)信息無(wú)序程度的度量。
外在表現(xiàn)和熱力熵相同，體現(xiàn)了信息的無(wú)序程度。
內(nèi)在含義和熱力熵有異，信息越無(wú)序，信息量反而越高。
你平時(shí)講的「信息量」，是從人出發(fā)的，信息量高 = 認(rèn)知負(fù)荷高 = 人不好理解。
在信息論中，要換到計(jì)算機(jī)角度，信息量高 = 計(jì)算機(jī)不好理解。
來(lái)看兩條“消息” :
1、 怎想再很，末第鐸制釋能鎖其那策銅怎亞，狄幺瀨互梯是日方通的。
2、 對(duì)這些村民來(lái)說(shuō)，星期天是休息的日子，至少不需要到田地里干活。
第一條消息是胡亂打出來(lái)的字，第二條消息則是小說(shuō)中的一句話。請(qǐng)問(wèn)，哪條消息的信息量更大？
直覺(jué)上來(lái)說(shuō)，你可能認(rèn)為第二條的信息量更大，因?yàn)樗辽偈且粋€(gè)信息，而第一條完全是亂碼。
在信息角度，第二條消息只不過(guò)是看起來(lái)更有意義而已，信息量更大的是第一條。第一條每個(gè)字都不可替代，而第二條有很多字可以省略，雖然第一條超出了人的理解能力范圍，但計(jì)算機(jī)可以做到。
在信息角度，最重要的不是你說(shuō)了什么，而是你能說(shuō)什么，重要的是信息背后的不確定性，不確定蘊(yùn)含未知，才有存儲(chǔ)價(jià)值。
以“信息是熵”為原點(diǎn) ，信息論就此誕生，信息時(shí)代拉開(kāi)了序幕。
毫不夸張地說(shuō)，這徹底改變了人們的生活，手機(jī)、電腦、互聯(lián)網(wǎng)...這些劃時(shí)代的發(fā)明，無(wú)不源自于此。
物質(zhì)世界，從有序向無(wú)序，延續(xù)生命。
信息世界，從有序到無(wú)序，啟迪未來(lái)。
你可能感到抽象。
生活中，你看見(jiàn)的是緊密交織的世界，學(xué)一些抽象思維，才好抽絲剝繭。
高速駕駛守則
看完了理論，最后，來(lái)談?wù)勅绾涡袆?dòng)。
行駛在高速公路，你需要儀表盤(pán)的輔助，在信息公路上，你同樣需要。
信息大道不是一條直道，你常看到分支千萬(wàn)，你常迷茫下一步行動(dòng)，你也常可能原地繞圈。
這時(shí)候，需要一臺(tái)尋路儀，比較多條路線的長(zhǎng)短，哪怕提示不精確，也勝過(guò)自己試錯(cuò)。
1957年，美國(guó)物理學(xué)家埃德溫 ? 杰恩斯在論文《信息論與統(tǒng)計(jì)物理》中首次提出了“最大熵原則”。
原理很專業(yè)，通俗地講，面對(duì)未知，使得「信息熵」最大的那條路線，最有可能帶你接近其真實(shí)狀態(tài)。
這篇論文被引用了將近12000次，堪稱信息世界的尋路指南。
讀一本書(shū)，獲得的感悟再多，可能只是加強(qiáng)錯(cuò)誤信念。
讀一批書(shū)，從混亂中爬出來(lái)，更可能去觸碰真實(shí)理念。
面對(duì)信息迷霧，多樣化信息可以破除認(rèn)知偏見(jiàn)，給你指點(diǎn)迷津，幫你節(jié)省成本。
行駛至高速，別忘了，道路千萬(wàn)條，安全第一條。
大腦是個(gè)吝嗇鬼，處理信息需要計(jì)算，計(jì)算消耗體力、腦力。
彼之蜜糖，吾之毒藥。一味加速，會(huì)讓你不堪重負(fù)。
你還需要一個(gè)車速表，表盤(pán)的刻度不是時(shí)速，而是信息熵。
車速表提示你何時(shí)剎車，也高速你何時(shí)加速，使你保持安全駕駛。
好比開(kāi)車時(shí)，不能一味踩油門(mén)，你要習(xí)慣在油門(mén)和剎車中不斷切換。
陽(yáng)志平在《人生模式》中寫(xiě)到：
人生多數(shù)時(shí)候是在兩種模式之間交錯(cuò)。第一種模式是探索；第二種模式是利用。
我們?cè)谔剿骱屠弥g反復(fù)。當(dāng)陷入探索模式時(shí)，世界于你而言，是好奇的、開(kāi)放的；但同樣是搖擺的、不確定的；轉(zhuǎn)為利用模式，我們往往是保守的、防御的；但同樣是穩(wěn)固的、確定的。大到一份感情、一份工作，小到一次美食、一次理發(fā)，探索和利用，兩種模式不斷交錯(cuò)。
人是精神的，也是物質(zhì)的。
在探索階段，重要的是真實(shí)，增加不確定，讓精神的你更豐富。
在利用階段，重要的是生存，消除不確定，讓生活的你更滿意。
你要在兩種模式中切換，而信息熵則給你切換的指示。
光探索，不利用，必然焦慮；光利用，不探索，必然焦慮。
潮漲潮落，便如世事無(wú)常，前一刻還生機(jī)勃勃，下一刻便歸于沉寂。
知方寸，懂進(jìn)退，大自然如此，你又何嘗不是。
觀看世界的一扇窗
熵是一種度量無(wú)序的工具，工具本身不是答案，使用起來(lái)才有意義。
任正非拿來(lái)衡量團(tuán)隊(duì)的戰(zhàn)斗力，萬(wàn)維鋼則用來(lái)發(fā)掘文本的知識(shí)量。
同樣的工具，在不同人手中煥發(fā)不一樣的威力。
熵是一種深度思考的武器。
它拉高了思考的視角，從微觀的無(wú)序走向宏觀的有序。
它開(kāi)啟了信息的大門(mén)，從過(guò)去的經(jīng)驗(yàn)走向未來(lái)的可能。
它是探索世界的指示，面對(duì)未知，不再無(wú)所依存。
熵更是一種超越常規(guī)的力量。
這是一種智慧，諸行無(wú)常，那就計(jì)算世時(shí)的無(wú)常。
這是一種勇氣，諸法無(wú)我，那就掙脫自我的屏障。
這是一種氣度，諸漏皆苦，那就探尋內(nèi)在的快樂(lè)。
世界的真相在世界之外，熵是觀看世界的一扇窗。
超越生活的茍且，需要四海的胸懷。
我只愿面朝大海，春暖花開(kāi)。
參考資料
- 丁玖. (2019). 《信息熵是怎樣煉成的 | 紀(jì)念信息論之父香農(nóng)》.微信公眾平臺(tái)
- PM熊叔. (2019). 《什么是熵？讀這篇文章或許就夠了：從宇宙大爆炸到AI算法再到世界觀》. 微信公眾平臺(tái)
- 萬(wàn)維鋼. (2019). 《你有你的計(jì)劃，世界另有計(jì)劃》
- 詹姆斯·格雷克. (2013). 《信息簡(jiǎn)史》
- 張?zhí)烊? (2018). 《從擲骰子到阿爾法狗：趣談概率》
- 陽(yáng)志平. (2019). 《人生模式》
