展開選單

網站服務選單

登入

頁面路徑列表

子選單列表

充電5分鐘5-Minute Reading

【馬欣專欄|記憶中的一瞬之光】我們都活在科技造的母體裡作夢──《智能社會:進退兩難》

  • 字級



好電影散場後,它會在你的記憶裡繼續演下去。
有時只是一幕景色、有時是個角色的身影。
看似人走茶涼的一幕,卻讓你也活了進去的燈火未滅、溫度仍在,角色隨時可以回來,你總感到似曾相識。
如《新天堂樂園》膠捲中的一格,記錄了太多意在言外。
為什麼?因為它照亮了你人生中的一瞬之光,相信它是永恆,而你的心仍有星火不滅。




※本文可能有劇透,請斟酌閱讀

終於,多位社群軟體的設計者藉著一部紀錄片來告解,他們如闖了大禍般的孩子表示,這十年來,他們讓人腦成為可被開採的資源。從而創造一個財團獨大,且兩極對立的後院失火世界,儘管他們原意不是如此,但那像「小紅帽」的天真,果然將沉睡已久的惡意給喚醒了。科技就如大祭司,卻不知自己招喚來了什麼?

這聽來簡直像個黑色童話。在這部紀錄片中,設計谷歌、臉書與推特等各大軟體的設計師們,如同大祭司一樣向我們告解他們闖下了一個大禍,且他們現在無法收拾。這讓我想起《魔戒》裡,甘道夫說:「你們矮人們把地挖得太深了,不知自己喚醒了什麼惡魔。」科技也把人性挖得太深了,挖出了他們不知道的「怪物」。

我們原本以為發明社群軟體是件好事,至少它幫人找到了捐贈的器官,也幫助人找到失散的家人,但我們對於黑暗面的看法似乎太過天真了。

我們應該都記得古早那句「科技始終來自於人性」,這些高端設計師自以為可以精算人腦,但卻忘了人性是如黑洞一般深不可測。

這如果不是有關我們自身與未來,這紀錄片看來真是一個驚悚好看的童話。如他們所說,世界上光靠這五十位程式設計師,就影響了幾億人的行為模式,甚至是後來殘破不堪的民主與監控式的資本主義。

依照他們的話語是,大約十多年前,矽谷新貴開設的最熱門課程就是如何將心理學融合科技,讓免費的網路使用者成癮,從腦部深層潛意識狀態中建立習慣,並且願意將生活點滴都貢獻給網路彼端。如那句名言:「如果你沒有花錢,你自己就是商品。」而他們賣給廣告端的商品就是能逐漸改變人的行為、觀點與想法。提供足夠的羊水:如假消息、同溫層演算、動態牆資訊的過濾,讓相信陰謀論的更著迷於陰謀論、讓使用者認為同溫層外的人愚不可及。如此,無論選舉的操控,或是商業的風向操作都更容易。

其中一位設計師說:「你想,商品是全世界的人類耶,這對廣告客戶是多麼大的吸引力,全世界人類朝他們想要方向移動了百分之一,代表著多大的獲利。

原本只是將使用者的資料賣出,操作他們的行為模式,讓他們與所謂同溫層更加緊密,只是要賺錢,直到發現失控,種族與宗教對立激增,人類開始兩極分裂,才發現AI演算一日千里,但人的大腦並沒有進化。

而年輕一代自殺與憂鬱症數量在2011年後激增,更提醒了他們,自己發明了一個惡魔的玩具。「我們傾洩大量人們的資料,但沒有人監督。如今的矽谷新貴認為自己發明了超級大腦,而每個人都只是神經元,甚至只是網路節點。

黑暗騎士傳奇三部曲 6碟一般版 DVD(THE DARK KNIGHT TRILOGY 6 DISC)

黑暗騎士傳奇三部曲 6碟一般版 DVD(THE DARK KNIGHT TRILOGY 6 DISC)

他們有的人選擇離職,有的人則不准自己的孩子太早上網,他們感覺最虧欠的是網路原生世代:「我們故意讓人成癮,是用人類玩吃角子老虎的心態,操控人的腦幹,利用的是人的深層人格,群體的無意識狀態。矽谷的教戰守則跟當年華爾街搞出金融風暴一樣,應證了《黑暗騎士》裡小丑說的,人只要循著規則走,沒人會發現有多瘋狂。我們規定十天讓任何人多影響七個人,我們都是這遊戲的白老鼠,甚至是殭屍,像是玩監獄實驗,我們用人工智慧對付自己人。

但原本他們都不是壞人,「沒有人是存著惡念去發展這些軟體,但沒人發現這世上原本就有惡意在等我們。無論你關心什麼樣的議題,都不知道何者為真,因為假新聞的擴散速度平均比真新聞要快上六倍。」他們設計的玩具讓人相信真的沒人登上月球,甚至包括因此延誤了新冠肺炎的預防,刺激了美國人的分裂。

在數據與假消息、同溫層的多重作用下,人們開始感到孤立且封閉。他們承認演算法像是邪教;對巫毒娃娃的下咒,「人們變得兩極化、虛榮、易被激化,且易怒。」他們本心並非如此,「原本設計按讚,是為了表達正向與愛,現在成為人失落的來源。

如巫毒娃娃,取個案樣本做資料分析


他們設計的理想國,如電影《駭客任務》的母體,即使現在想要阻止或戒斷,需要很長一段時間,「畢竟人得要發現自己在母體裡,才會從母體裡驚醒過來。」他們甚至也引用了電影《楚門的世界》來隱喻:「現在每個人的真實都不一樣,如片中製片跟楚門說的:『出去以後也未必是真實的世界』。

駭客任務 三部曲 (藍光6BD)(Matrix Trilogy 2D+Bonus 6-Disc)

駭客任務 三部曲 (藍光6BD)(Matrix Trilogy 2D+Bonus 6-Disc)

楚門的世界 DVD(The Truman Show Sce)

楚門的世界 DVD(The Truman Show Sce)

他們所說的「真實」,讓人想起另一部熱門影集《艾蜜莉在巴黎》,其中的艾蜜莉同時也以本尊與登入的帳號踏上巴黎,在她登入的世界中,巴黎像個小甜點,用來裝飾她生活的多彩多姿,巴黎變得輕薄短小且樣板,美國跟中國在她的IG裡也被標籤化。所有虛假的「真實」,都讓「艾蜜莉」因此存在,而她的受眾情願買單這樣抓馬的生活。他們追的是風向,以及與人生劇本無關的加戲。

自認小小的,因來自芝加哥而自我貶低的艾蜜莉,彷彿真的要這樣才能被「看」到,如果不被「看」到就不存在一樣。於是,「巴黎」就像個貝雷帽被她戴在頭上。如果她去了羅馬,恐怕羅馬也是她腳上的高跟鞋,無論她去了什麼地方,都可用來裝飾她的人生,除了她的精神原鄉芝加哥淪為慘白道具外。

\\《艾蜜莉在巴黎》預告//
世界末日與冷酷異境(世界末日版)

世界末日與冷酷異境(世界末日版)

這個小例子,昭示著人們追逐的那些軟體設計師的「以假亂真」,如其中一人招認的:「科技跟玩幻術一樣。登入帳號後那個凌駕於生命的巨大分身,讓他們的人生被幻象給挾持了。也如村上春樹在《世界末日與冷酷異境》裡那些被拘押在另一頭的影子,愈來愈乾癟,問著真實的自己何時能被放出去。

我們不知道這會壓倒了人性。」其中一位軟體設計師說:「現代的人只要不安,就需要『數位奶嘴』。然潘朵拉盒子一被打開,誰也不知道被放出來的是什麼,以及之後的壓箱寶又是什麼。

被網路分身挾持的自我

人的條件

人的條件


那些科技祭司們最後仍努力保持樂觀,「我們必須樂觀,不然人類仍被當成被開採的資源。」我們終究如漢娜鄂蘭《人的條件》所寫的:「少了和他人的『客觀』關係,以及透過他們而得到的實在性,已成為大規模的寂寞現象。這世界如降下了大雪,道路亟待清理,孤島效應持續在科技大雪中蔓延。

紀錄片的最後,他們除了想喚醒睡在「楚門世界」的人外,能提出的建議是如此微小:「請不要封鎖與你意見不同的人,每天留有睡前半小時不要看手機。如同叫人不要睡啊!盡量保持清醒的時間多一點啊!不要讓企業成為你實質的政府啊!趁清醒時,好在路上留有多一點現實的線索,讓我們記得在母體之外,才是真實的世界。

\\《智能社會:進退兩難》預告片//



《智能社會:進退兩難》(The Social Dilemma)為Netflix九月上架的紀錄片,由獲得新聞及紀錄片艾美獎的《逐冰之旅》導演傑夫•奧洛夫斯基執導。片中提到現代這些社群軟體如何影響我們的想法與行為模式,從而操作選舉與最大的商業利益,甚至營造假消息與堅固同溫層來控制社會。科技專家和相關倡議者聯手敲響警鐘,揭露他們一手打造的產物是如何使人們上癮,進而危及民主政體。


作者簡介

多年寫樂評也寫電影,曾當過金曲、金音獎、金馬獎評審,但嗜好是用專欄文偷渡點觀察,有個部落格【我的Live House】,文章看似是憤青寫的(我也不知道,是人家跟我說的),但自認是個內心溫暖的少女前輩(咦?)著有《反派的力量:影史經典反派人物,有你避不開的自己》、《當代寂寞考》、《長夜之光:電影擁抱千瘡百孔的心》和階級病院

 延伸閱讀 

上下則文章

回文章列表

關閉

主題推薦

第 92 屆奧斯卡得獎&入圍片單出爐!

《寄生上流》獲最佳影片、最佳導演、最佳國際影片、最佳原創劇本四大獎,打破奧斯卡紀錄!《小丑》除了最佳配樂,也奪得最佳男主角;最佳女配角則由《婚姻故事》Laura Dern奪得,《兔嘲男孩》獲得最佳改編劇本。《1917》10項入圍,獲得最佳攝影、最佳剪輯、最佳視覺效果、最佳混音4個獎項。

478 2