什么是循環(huán)?本書提到三個(gè)循環(huán):第一個(gè)循環(huán)也是最核心的循環(huán),即世代沿襲的人類本能。人類天生具有偏見,而且更傾向于使用大腦的系統(tǒng)行事,在這個(gè)過程中,人類原有的偏見進(jìn)一步被強(qiáng)化,形成第一個(gè)循環(huán)。第二個(gè)循環(huán)是來自現(xiàn)代的力量,如消費(fèi)類技術(shù)、資本主義、營(yíng)銷和政治,它們對(duì)核心循環(huán)的人類行為進(jìn)行采樣,總結(jié)出模式,再將這些模式反作用于人類,最終引發(fā)了一系列問題。第三個(gè)循環(huán),即本書書名所指的循環(huán),是來自人工智能的影響。AI對(duì)人類偏見進(jìn)行采樣,總結(jié)出規(guī)律,最后把這些規(guī)律反作用于人類,形成第三個(gè)循環(huán)。
人工智能將改變我們所知的世界。但真正的危險(xiǎn)不是某個(gè)機(jī)器人會(huì)奴役我們,而是我們自己的大腦。我們的大腦經(jīng)常使用捷徑、偏見和隱藏的過程來做決定——我們正在使用同樣的方法來創(chuàng)造技術(shù),為我們做出選擇。作者雅各布·沃德認(rèn)為,人工智能對(duì)人類最大的威脅不在于機(jī)器人的反撲,我們的大腦才是最需要堤防的因子。在決策時(shí),大腦會(huì)受到偏見、情緒等因素影響。而當(dāng)我們?cè)谶x擇要喂養(yǎng)哪些信息給智能產(chǎn)品時(shí),往往也會(huì)把這些盲點(diǎn)和謬誤一并復(fù)制進(jìn)去。
人類的思維本來就有認(rèn)知偏誤,行為也受各種無形的外力牽引。而在當(dāng)今模式識(shí)別科技與引導(dǎo)式?jīng)Q策的相互作用之下,智能產(chǎn)品幫我們寫好了一切行為的劇本,人類選擇因此受到限縮。沃德提醒,如此一來,不僅不公不義的現(xiàn)象更加嚴(yán)重,人類創(chuàng)新的本能和思考的能力亦將大幅退化——這才是我們?cè)诿鎸?duì)智慧科技時(shí)真正應(yīng)該擔(dān)心的事情。
>>內(nèi)文選讀
這個(gè)星球上,我們占據(jù)的空間已經(jīng)遠(yuǎn)遠(yuǎn)超出了自然的范疇。而現(xiàn)在,我們?yōu)榱诵屎屠麧?rùn),在重新設(shè)定地球、人類的模式。我們放松了對(duì)甲板上的系統(tǒng)的控制,這將會(huì)從根本上改變船上每個(gè)人的行為,這些改變將會(huì)傳給后代子孫,而他們甚至可能還沒有意識(shí)到自己做了什么。這種模式將會(huì)自我重復(fù),并且一代又一代在行為和技術(shù)循環(huán)中持續(xù)下去。這就是本書的主題。
我為本書起名《循環(huán)》,但實(shí)際上,我想要闡述的循環(huán)有三個(gè)。讓我們想象一下,一個(gè)小循環(huán)嵌套在第二個(gè)循環(huán)中,第二個(gè)循環(huán)嵌套在第三個(gè)循環(huán)中。如果想要清楚地看到每個(gè)循環(huán),還需要檢視其他循環(huán)。我將從最小的循環(huán)開始,它是我們做的一切事情的核心,它已經(jīng)旋轉(zhuǎn)了數(shù)萬年,甚至數(shù)百萬年。
最核心的循環(huán)是我們所沿襲下來的人類的行為,是進(jìn)化賦予我們的天生的好惡傾向和依靠慣性生活的能力。這個(gè)循環(huán)無所不含,包括我們的種族偏見、準(zhǔn)確判斷風(fēng)險(xiǎn)能力的缺失,等等。這是本書的第一部分,因?yàn)橐斫馄渌h(huán),還需要懂得它們是如何依賴于這個(gè)循環(huán)的。
一旦我們理解了這一點(diǎn),我們就可以看看第二個(gè)循環(huán)。第二個(gè)循環(huán)是來自現(xiàn)代的力量,如消費(fèi)類技術(shù)、資本主義、營(yíng)銷和政治,它們對(duì)核心循環(huán)的人類行為進(jìn)行采樣,然后再將這些模式反過來用在我們身上,最終引發(fā)了一系列問題,如煙癮、賭癮,以及房地產(chǎn)和機(jī)器學(xué)習(xí)領(lǐng)域的系統(tǒng)性種族主義等。
最外層的循環(huán)就是本書書名所指的循環(huán)。計(jì)算機(jī)會(huì)對(duì)古今人類的好惡傾向進(jìn)行研究、采樣,并將其輸入自動(dòng)模式識(shí)別系統(tǒng),然后據(jù)此以一種細(xì)水長(zhǎng)流的形式,將內(nèi)容推送給我們,讓我們更習(xí)慣于不假思索地接受。我為即將到來的這一切感到憂心忡忡。這個(gè)循環(huán)扼殺了我們的音樂審美,取而代之的是Spotify根據(jù)我們上周的歌單給出的推薦。這個(gè)循環(huán)對(duì)我們的政治傾向、社交喜好進(jìn)行采樣,在Facebook上將我們與合拍的人放在一起,這樣我們就會(huì)形成強(qiáng)大的群體身份認(rèn)同,并全身心融入群體中,以至于對(duì)群體以外的人毫無興趣。這個(gè)循環(huán)會(huì)篩選所有可用的求職者,標(biāo)記出具備本領(lǐng)域佼佼者特征的人,那么你作為招聘人員,可能一兩天就能完成招聘,無須耗費(fèi)幾周時(shí)間,甚至你可以足不出戶。在這個(gè)循環(huán)中,人們擁有的選擇急劇減少,資本主義對(duì)效率的追求又加劇了這一趨勢(shì),那些讓我們無意識(shí)接受信息的系統(tǒng)設(shè)定令人無法抗拒,人類主觀能動(dòng)性因此備受威脅。
這其實(shí)已經(jīng)發(fā)生了,但真正的威脅還要隨著時(shí)間的推移而顯現(xiàn)。而最大、最持久的影響至少需要一代人的時(shí)間才會(huì)顯露。不如這樣想:我們被無意識(shí)的傾向引導(dǎo)著,但幾乎不會(huì)覺察到這種傾向遭到了分析和利用。而以此為基礎(chǔ)的模式識(shí)別和決策指導(dǎo)技術(shù)則讓我們措手不及。在當(dāng)前的社會(huì)中,我們的政策和規(guī)劃缺乏長(zhǎng)期的敏銳度,無法識(shí)別和控制那些決定著人類未來的事情。這就是本書的主題。
我希望在本書中闡明,我們所開發(fā)的那些會(huì)改變后代人類行為的技術(shù),將給我們帶來什么挑戰(zhàn)。當(dāng)今時(shí)代,依靠這些技術(shù),我們的行為可能會(huì)變得更有效率、回報(bào)更高、更可控。我們可能會(huì)立即獲得經(jīng)濟(jì)利益,或許在短時(shí)間內(nèi),我們可以免于做一些困難重重,或是令人生厭的工作。對(duì)于我在這里描述的每一個(gè)危險(xiǎn)的例子,都有其復(fù)雜的益處。但是,我們能否用達(dá)爾文的眼光展望未來,看看是否存在這種可能:一代又一代人的選擇越來越少,而且情況一路惡化?我們能否以某種方式預(yù)測(cè)它,并采取行動(dòng)糾正它,即使這樣做的回報(bào)要在我們自己,以及孩子們都已經(jīng)離世之后才能顯現(xiàn)出來?如果我們做不到這一點(diǎn),我擔(dān)心在一兩代人的時(shí)間里,我們將演變成一個(gè)完全不同的物種,對(duì)于那些代替人類決策的技術(shù),就算做出了錯(cuò)誤選擇,我們也無法凝神反抗,只能順從無助地接受。
但我認(rèn)為我們可以對(duì)抗這個(gè)循環(huán)。我們只需后退一步,勾勒出循環(huán)的輪廓,識(shí)別出存在于我們所有人身上的使循環(huán)成為可能的古老特性,再找到如今循環(huán)侵入我們生活的路徑,然后消除它對(duì)我們未來的影響。