問題并不出在人缺乏意志力上，而在于“屏幕那邊有數(shù)千人在努力工作，為的就是破壞你的自律。”
學(xué)生講堂，L同學(xué)帶來一部紀(jì)錄片內(nèi)容與觀感的分享。我折服于當(dāng)下學(xué)生的知識面、理解力與評判性思維。
簡單摘要如下：
《監(jiān)視資本主義：智能陷阱》是由杰夫.奧洛夫斯基執(zhí)導(dǎo)，NETFILX出品的紀(jì)錄電影，于2020年上映。該片向觀眾展示了監(jiān)視資本主義的運(yùn)作機(jī)制和互聯(lián)網(wǎng)巨頭的部分盈利真相，揭示了互聯(lián)網(wǎng)在過去、現(xiàn)在和未來對個體及社會已經(jīng)產(chǎn)生和可能產(chǎn)生的負(fù)面影響。
豆瓣上有人說這部紀(jì)錄片是“年度最佳恐怖片”，我認(rèn)為此評價毫不夸張，因為監(jiān)視資本主義和互聯(lián)網(wǎng)的確已經(jīng)將絕大多數(shù)人拉入了智能陷阱之中，紀(jì)錄片所講的多數(shù)事實就正發(fā)生在我們中的絕大多數(shù)人身上 --當(dāng)你滑動手指，盯著屏幕時。
特里斯坦.哈里斯
2016年，特里斯坦·哈里斯——這位谷歌的內(nèi)部道德設(shè)計師決定離職，此時的他已經(jīng)意識到，F(xiàn)acebook、谷歌（YouTube、谷歌搜索）、推特這樣的互聯(lián)網(wǎng)科技公司為了商業(yè)利益，利用算法吸引人上癮的產(chǎn)品設(shè)計，是不道德。這已經(jīng)成為：“人類生存的一大威脅”。
他想到了對抗。實際上，特里斯坦·哈里斯任職谷歌期間，谷歌有知名的“不作惡”準(zhǔn)則。但這一準(zhǔn)則并沒有阻擋住算法基于商業(yè)利益走向的偏路。離職兩年后，特里斯坦·哈里斯拉著Facebook和Google等大公司離職或在職的技術(shù)專家，建立了一個叫“人道科技中心”（Center for Humane Technology）的組織，這個組織在2018年成立，用來——對抗硅谷互聯(lián)網(wǎng)公司讓人上癮的設(shè)計理論。
特里斯坦·哈里斯被《大西洋月刊》稱為“硅谷最接近良知的人”。?在創(chuàng)建新的人道技術(shù)中心之前，他是谷歌的設(shè)計倫理學(xué)家，開發(fā)了一個框架，研究技術(shù)應(yīng)該如何“合乎道德”地從屏幕上引導(dǎo)數(shù)十億人的思想和行動。?
在《黑鏡》中“碎片”公司CEO闡述了一種邏輯：一個產(chǎn)品成型后，它的走勢就不再是他能決定的，每一次更新和功能改進(jìn)，都是因為用戶喜歡、希望得到的結(jié)果，這并不一定是一個CEO想要的。
而現(xiàn)在，
上癮，幾乎成了所有社交App追求的東西。
2010年底，喬布斯對《紐約時報》（New York Times）的記者尼克·比爾頓（Nick Bilton）說，他的孩子從沒用過iPad。“孩子們在家里能用多少技術(shù)，我們做了限制。”比爾頓發(fā)現(xiàn)，其他科技巨頭也都設(shè)定了類似的限制舉措。《連線》（Wired）雜志的前主編克里斯·安德森（Chris Anderson）對家里每一臺設(shè)備都設(shè)定了嚴(yán)格的時間限制，“因為我們最先見證了技術(shù)的危險性。”他的5個孩子從不準(zhǔn)在臥室里使用屏幕。Blogger、Twitter和Medium三大平臺的創(chuàng)辦人之一，埃文·威廉姆斯（Evan Williams）給兩個年幼的兒子買了數(shù)百本書，卻不給他們買iPad。創(chuàng)辦了一家分析公司的萊斯利·戈爾德（Lesley Gold）給孩子們訂立了一套“本周不得使用屏幕”的嚴(yán)厲規(guī)矩。除非孩子們需要用電腦完成功課，她才會稍微放寬要求。沃爾特·艾薩克森（Walter Isaacson）在為喬布斯傳記做調(diào)查期間，曾和喬布斯一家人共進(jìn)晚餐。他告訴比爾頓說：“沒有誰拿出iPad或者電腦。孩子們對這些設(shè)備似乎完全沒有癮。”生產(chǎn)高科技產(chǎn)品的人，仿佛遵守著毒品交易的頭號規(guī)則：自己絕不能上癮。
作為谷歌前道德倫理設(shè)計師的特里斯坦說，當(dāng)年他在谷歌做郵箱設(shè)計時，意識到一個問題，歷史上從來沒有過50個左右的20-35歲的加州工程設(shè)計師做出一個決定，就能影響20億人，影響他們做出從來沒有預(yù)想到的想法或決定——當(dāng)用戶早上醒來，谷歌郵箱就告訴他，應(yīng)該這樣工作。工作、文化、生活的意義，都來自一個鬼鬼祟祟的第三方操縱。而谷歌內(nèi)部，沒有一個人想把郵箱做得不那么致癮。
為什么，網(wǎng)上很多軟件都是免費使用的？
現(xiàn)在，互聯(lián)網(wǎng)公司提供了大量的免費產(chǎn)品，F(xiàn)aceBook、微信、抖音、推特，大家都不為使用的社交產(chǎn)品付費。為這些社交App付費的那些廣告商，廣告商就是社交App的顧客，而用戶成了被銷售的商品。這就出現(xiàn)了一種現(xiàn)象：
如果你沒有花錢買產(chǎn)品，那你就是被賣的產(chǎn)品。
所以FaceBook、推特這些公司的商業(yè)模式就是，怎樣讓你最大程度的上癮，花更多的時間在這些App上，付出你人生的時間。
人生值多少錢呢？
哈佛商學(xué)院教授Shoshana Zuboff被采訪時說，在商業(yè)上，F(xiàn)aceBook、推特們?yōu)榱速u出更多的廣告，需要給與顧客確定性，所以，商業(yè)廣告賣的就是確定性，這個“確定性”就來自用戶上癮背后的“數(shù)據(jù)分析”。這就是紀(jì)錄片標(biāo)題所說的核心：監(jiān)視資本主義。
我們現(xiàn)在有了交易大范圍人類期貨的市場，這些市場創(chuàng)造了萬億美元，讓網(wǎng)絡(luò)公司成為了人類歷史上最富有的公司，我想讓人們知道的是他們在網(wǎng)上做的一切，都被監(jiān)控著、被追蹤著、被評估著，你所做出的每一個行為=都被小心翼翼地監(jiān)控著、記錄著，具體到你停在哪一張圖片上你看了多久。人們孤獨的時候，他們知道；人們抑郁的時候， 他們知道；人們看前任愛侶的時候，他們知道；你深夜在做什么，他們知道，他們?nèi)贾溃耗闶莾?nèi)向還是外向、你的神經(jīng)哪種類型、你的性格是哪種類型……他們所掌握的我們的信息超越人類歷史上所有的想象，這是史無前例的，所有這些我們不經(jīng)意間不斷流露出的數(shù)據(jù)，都被輸入到這些系統(tǒng)中，幾乎不用人類看管，會做出越來越好的預(yù)判，預(yù)判出我們要做什么我們是怎樣的人。很多人有一種誤解：認(rèn)為被賣掉的是我們的數(shù)據(jù)。臉書的商業(yè)興趣肯定不是放掉這些數(shù)據(jù)，他們用這些數(shù)據(jù)做什么呢？他們做出預(yù)判我們行為的模型，擁有最優(yōu)秀模型的公司就贏了。
這是每種商業(yè)都一直夢想的，就是投放一個廣告有一定能夠成功的保證，這就是他們的生意，他們賣的是確定性。為了在這個生意中成功，你必須要有優(yōu)秀的預(yù)判能力，優(yōu)秀的預(yù)判能力始于一個必要條件：你需要很多數(shù)據(jù)，很多人把它稱作監(jiān)視資本主義，資本主義利用大型技術(shù)公司對每個人去的每一個地方進(jìn)行無限追蹤獲利。大型技術(shù)公司的商業(yè)模式是保證廣告商能盡最大可能成功，這是現(xiàn)在的一種新市場。
FaceBook、UBER等公司的高管都曾在斯坦福大學(xué)上過這樣一個課程：怎么用技術(shù)勸服用戶？這類行為被稱為：
勸服的藝術(shù)。
在斯坦福勸服技術(shù)實驗室的時候，這就是我們所學(xué)到的，怎樣利用我們知道的一切心理學(xué)知識，什么東西能勸服人們，把這個運(yùn)用到技術(shù)中？學(xué)習(xí)怎樣讓技術(shù)更能勸服人們，勸服性技術(shù)可以說是極端應(yīng)用的刻意設(shè)計，我們真的想去修改一個人的行為，我們想讓他們這樣做，我們想讓他們繼續(xù)用手指這樣做，你往下拉、刷新，最上面就是新的內(nèi)容；再下拉、再刷新，又是新的，每一次都是，在心理學(xué)上 我們稱為“正積極強(qiáng)化，你不知道什么時候能刷到，或者你是否能刷到什么，它的原理就像是賭城的老虎機(jī)，你有意識地使用產(chǎn)品 還遠(yuǎn)遠(yuǎn)不夠，我想深度侵入你的大腦根部，在你腦中植入一個無意識的習(xí)慣，讓你在更深的層次被編程。
這一切都為了一個確定性：盡可能成功的將用戶賣給廣告商。Shoshana Zuboff將這個市場稱為：
從未出現(xiàn)的、最大的人類期貨市場。
過去我們交易豬肉期貨、鉆石期貨，現(xiàn)在人類也成了期貨。
上癮帶來的后果是，將你還沒想到的部分，用推送給你，使它們成為你思想的一部分，還讓你覺得這是自己所想的。
FaceBook曾做過一個“海量規(guī)模蔓延實驗”，測試用FaceBook上的潛意識信號來讓更多人在美國中期選舉投票，
實驗結(jié)果是：能。
這種影響并不會觸發(fā)用戶的意識，而是一種潛意識，這意味著用戶根本不會察覺。
這種實驗，谷歌和FaceBook每年要在用戶身上做很多，用戶就是實驗小白鼠。
如果一個東西是工具，它就會忠誠地坐在那里，耐心等待；如果一個東西不是工具，它會在你身上有所求，引誘你、操縱你，想從你身上獲利，我們已經(jīng)走過了，以工具為基礎(chǔ)的技術(shù)環(huán)境，來到了以致癮和操縱為基礎(chǔ)的技術(shù)環(huán)境，這是技術(shù)環(huán)境的改變，社交媒體，不是原地等在那里被使用的工具，它有自己的目標(biāo)，有自己的辦法去實現(xiàn)這些目標(biāo)，利用你的心理，來對付你。
通常，在一個像FaceBook這樣影響數(shù)十億人的公司里，能明白某個程序算法工作邏輯的就幾個人，相對于70多億的人類來說，可以看成：人類失去了對算法系統(tǒng)的控制。
在我們生活的世界里，死了的樹比活著的樹更有經(jīng)濟(jì)價值，死了的鯨比活著的鯨更有經(jīng)濟(jì)價值。只要我們的經(jīng)濟(jì)系統(tǒng)還這樣運(yùn)轉(zhuǎn)，公司不受監(jiān)管，他們就會繼續(xù)破壞樹木，捕殺鯨魚。在地球上挖礦，從地下抽石油。雖然我們知道這樣做會破壞地球，雖然我們知道這樣做會為后來幾代人留下一個更不堪的世界。
而現(xiàn)在我們就是樹，我們就是鯨，我們的注意力就是被無節(jié)制開發(fā)的礦產(chǎn)。
而對于廣告商來說，我們花時間盯著一個屏幕所產(chǎn)生的經(jīng)濟(jì)價值，比我們?nèi)ハ硎苋松⑷ミ^自己豐富的生活所產(chǎn)生的價值更大的話，我們的結(jié)局會是怎樣不難預(yù)料。
羅杰·麥克納米說，這就像一個27億人的《楚門的世界》，每個人都有自己的世界。沒有人發(fā)現(xiàn)自己所在世界的本質(zhì)真相。當(dāng)然，實際上，活在“楚門的世界”里的人可能更多。在中國，類似的產(chǎn)品有今日頭條、抖音等。
算法的每一個推送，都代表著一種商業(yè)利益。
問題并不出在人缺乏意志力上，而在于“屏幕那邊有數(shù)千人在努力工作，為的就是破壞你的自律。”
