DAY3——淺談分布式&云

分布式入門菜鳥的一些思考,各位大神發現錯誤歡迎指正!

這些天自己看了一些有關分布式和云相關的資料,也正在著手想玩玩Hadoop,Storm和Spark這些開源分布式的平臺。但在此之前做為小白的我(現在也是小白,只是看了幾天書對概念架構有了一定的了解),一直認為分布式就幾乎等于云,他倆之間幾乎是相等的關系。的確不可否認,分布式和云之間有著很大的關系,但是其實又是完全不同的兩個東西。從兩種東西的屬性來說就不同。

分布式是已經逐漸成熟的一種技術,對應的每一種概念,都以具體技術的形式體現出來。對于hadoop來說,hdfs管理著分布式的存儲,mapreduce做為開發架構方便程序員對大數據進行開發和處理,還有Hive,zookeeper等除Apache之外其他公司提供的一些工具,這些種種工具形成了一個大的分布式的產業鏈,能夠實在的解決很多因為數據量過大難以解決的問題。

說到數據量大的問題,突然想到前段時間的一個新聞,阿里巴巴最后一臺小型機正式下線。意味著阿里走向了完全分布式的時代。從有計算機到現在,人們就一直為解決數據處理的問題發愁,剛開始人們的思路是將茫茫多的數據移動到一臺機器上進行處理,并希望CPU的能力越來越強大,內存越來越大,硬盤也能越來越大。。。但是這一切并不隨人愿,剛開始內存從32k升級到64k簡直是簡單,成本不高,但是到后來逐漸發現,當內存從128g升級到256g的時候所需要的開銷簡直不能再大,cpu等各個部件的升級已經跟不上人們所期望的計算機對數據的處理速度。但是從另一方面來說這也促進了CPU,內存,硬盤的發展。后來谷歌(因該是谷歌最先提出的)開始轉換思路,并不一位追求機器的高性能,而是希望將多臺機器聯合起來發揮性能。從計算機方面來說,這是創新的一步,但是從正常人的生活經驗來說,這是再正常不過的思路,群毆總比單干要爽得多。所以分布式也就在谷歌的三篇論文的影響下發展起來了。

相比較而言,云現在來說其實更多的就是框架和概念,實際被落實應用的很少,有一個部分已經落實并有了很大的前景,那就是VMware。啥?這不就是虛擬機么?沒錯,就是虛擬機,現在云很大情況下就是虛擬機的概念,比如阿里云和Amazon提供的云服務,在你選擇購買方案的時候會提供你多種配置,會詢問你是要幾個CPU核數,要多大的內存,以及多大的硬盤空間,其實這不就相當于在自己電腦上安裝一個虛擬機,然后讓你設置各種參數一樣嗎?查詢了一下價格發現,我去四核以上貴的要死,內存8g簡直逆天,一個月租下來的費用能換幾個Mac。。。但是要知道相比之前的IOE(IBM,Oracle,E。。忘了)架構已經便宜了太多,IOE架構不夸張動輒幾百萬,而且還不算雇傭費用,維修費用等等。有了AWS和阿里云之后,中小型公司就不需要雇傭大量的服務器管理員管理服務器,因為這些公司可以將Web等一些服務放在阿里、亞馬遜,服務器可以由它們統一管理,有了它們甚至不用擔心服務器的安全因為有什么問題供應商可以解決,而且一旦中招倒霉的肯定也不是你一個。。這也就是現在被提及的去IOE化,其實也可以算是省錢計劃。。。

再說一下百度云,其實這個云真的不是什么了不起的東西,其實從思想上來說用到的就是分布式存儲,以及一些云端查詢計算功能,如果發現你上傳的內容已經存在,那就根本不需要你上傳文件了,給你個索引放在你的目錄下點擊就能下載了,縱使你把某些奇奇怪怪的文件改個名字還是能被查出來,這有賴于百度云里的文件檢查機制,但是你用格式工廠轉換個格式再上傳那就被認為是新文件。所以從某種程度上說百度云其實并沒有什么隱私,至少技術上沒有隱私,你存的其實都是索引。

說了分布式和云,那么兩者之間存在怎么樣的關系呢?其實通過我上面兩段的講述分布式和云是兩個相反的思想,分布式是要將多個小型機的能力聚集起來形成一個大的資源池,云的思想從當下服務來看,是將大的資源池分給各個用戶。說兩者不想管不可能,因為現在想要把資源池做大都借助于分布式的技術;但是說相等或者近似相等也是不可以的,因為本質上,云是概念,一個大的概念下需要有多種技術的支撐,分布式可以說是眾多技術中至關重要的一個,實現云海需要各種大數據分析方法,智能算法等等。。。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,406評論 6 538
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,034評論 3 423
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事?!?“怎么了?”我有些...
    開封第一講書人閱讀 177,413評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,449評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,165評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,559評論 1 325
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,606評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,781評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,327評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,084評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,278評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,849評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,495評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,927評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,172評論 1 291
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,010評論 3 396
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,241評論 2 375

推薦閱讀更多精彩內容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,692評論 25 708
  • http://geek.csdn.net/news/detail/210469http://www.36dsj.c...
    Albert陳凱閱讀 5,196評論 1 21
  • 本文轉載自http://geek.csdn.net/news/detail/112672 WeTest導讀 我們常...
    shineegirl閱讀 1,555評論 0 26
  • 我再一次感覺迷惘。坐在辦公室里整個人都覺得有點頹然,不知道該做什么。也不知道其他人在做什么,感覺自己就是脫節...
    鹿鹿無畏閱讀 862評論 0 49
  • 今夕又何年?月兒總有孤獨的那面。船的停泊曾靠近我心半步,正如天上的月亮望著大地上的人們,各處相聚。它也想接近...
    喬鶯閱讀 445評論 2 11