在 AI 產生自我意識之前，它已經被用來破壞世界

leafwind

2020 年 12 月 28 日

IPFS

臉書可能是第一個，但不會是最後一個

前言

@黃哲斌在我為何像恐怖舊情人一樣追殺臉書一文提到，臉書在不同面向都有嚴重的問題：

操弄演算法、箝制網路訊息流、商業模式加速資訊劣化，加上臉書深入用戶個資，將隱私及人脈圖譜變現的黑暗技，讓我對這家企業的賺錢手法越來越反感

這篇文章並不打算探討全部，主要想著墨在「 AI 如何操弄演算法、箝制網路訊息流」這件事情上。

很多人可能知道，近年品牌經營者（粉絲團管理者）已經遇到觸及率下降的問題。（如果不知道也請放心，文末有參考連結）

然而，遇到問題的不是只有經營粉絲專頁的人，或許整個生態系都遇到問題了。

這篇文章嘗試從一般使用者的角度，去描述臉書讓我們遇到了什麼問題，而這個問題又怎麼跟 AI 演算法扯上關係。

在開始之前，必須先釐清一件事情：雖然「AI 發展出自我意識、開始屠殺人類」是科幻電影及很多人心中恐懼的情節，但現實生活中，AI「破壞」這個世界的方式，跟多數人想像的情節，可能不太一樣。

文章前半將會描述「這件事情是如何發生？」，後半則是說明「為什麼這件事情可怕？」

使用者逐漸失去自主權的臉書

廣告？非廣告？難以判斷

以往的廣告形式，都是大剌剌的擺在突兀的位置，甚至蓋版，直接擺明「我就是廣告，你不想看也得看」

臉書跟許多平台一樣，開始使用原生廣告（native ads），顧名思義就是讓廣告長得跟貼文有 87% 像。所以當有兩個粉絲團的貼文同時競爭顯示，即使其中一個的相關性、推薦度比較高，也很有可能因為另一個付了錢，就理所當然地勝出了（而那一個輸掉的可能就是你已經指定「搶先看」的粉絲團）

臉書說：「嘿！我們有標示那是贊助廣告呀！」

但首先，真正在乎那幾個小字的人佔多數嗎？這就像酒類廣告下方小小的一行：「飲酒過量有礙健康」一樣，大多數人都不會在意

再者，即使所有人都是道德潔癖者，意志強到把贊助貼文排除不看，但那些被排擠掉的貼文，也不會因此而有機會顯示。

塗鴉牆的緩慢演進：逆時序的消失

從前，臉書跟噗浪一樣都是「逆時序」的社群平台。只要使用者時間夠多，他就能夠看到任何一則從 A 時間到 B 時間的訊息。比如，至少我有辦法看完今天所有的動態。

但這不利於廣告平台營利，於是臉書在佈局階段，偷偷地將塗鴉牆預設的演算法改成「人氣動態」，也就是機器幫你篩選「最相關、最有人氣」的貼文。在這段過渡期，我們還有辦法手動切換回「逆時序」。

最後為了討好廣告主（也就是品牌商），臉書正式把「逆時序」淘汰。使用者的確看到了比較「有人氣」的動態，但不知不覺廣告也入侵了，出現的機會也慢慢地變成用錢去買。

到這裡還不算太壞，畢竟使用者免費使用，付出一定的注意力讓平台運作，即使沒有那麼等價，也還算合理，至少「人氣」動態還是根據我們的喜好決定。

最後一根稻草：「通知」只能用金錢買

最後一階段，也是最可怕的，或許是因為品牌商越來越多，注意力不夠臉書「販賣」了，因此連「通知」功能都開始限縮。

當粉絲團管理者們發現，貼文觸擊率降低的原因是「通知」功能並不保證 100% 會將貼文送到使用者眼前，便呼籲粉絲們將自己設為「搶先看」，但可想而知，這功能最後也無效了。

也就是說，即使你按了某個粉絲團「搶先看」，它也無法與那些花錢的品牌競爭。雖然臉書官方表示一天會「選擇性地」推播三到五次，但經過我自己實驗，仍然有可能一天都看不到一次，原因很簡單：因為臉書要把這部份的注意力保留下來，賣給有花錢的粉絲團。

或許一開始的臉書使用者不知道哪些熱門、哪些相關，希望演算法推薦；但到了現在，即使使用者直接表明「我想看 A 粉絲團」，臉書也不再提供這樣的服務。

至此，臉書正式變成一個以錢決勝負、使用者毫無選擇餘地的平台。

也因為這些功能都是「漸進式」的改變，中間甚至耗費超過一年，使用者並不容易察覺這些功能已經失效（並且也沒有公開參數的改動），臉書在這個緩慢的過程中創造了一個假象：讓使用者以為自己有選擇權。

很多人都以為塗鴉牆、通知是按照我們以為的方式運作，但其實經過長久的演進，早就已經變質了：

在臉書剛被發明的時候，它的確是一個「社群平台」，但很快地，它便走向販售注意力的道路，現在完全不會有人質疑這件事情，臉書它就是個競價注意力的平台。

披著社群平台皮的廣告平台

個人不討厭廣告競價平台，討厭的是打著「社群平台」名號，利用舊時代使用者「願意將注意力交給臉書管理」的信任度，但實際上把「推薦」與「競價」混為一談，甚至變成一個「使用者想要主動選擇關注一個粉絲團」都做不到的平台。

工業革命帶給人們的便利是建立在明顯可見的工具上，我們的各種機械、交通工具都獲得了飛快的進步；而資訊革命與 AI 帶來的影響更大、效果更劇烈，卻躲在人們無法看到的地方，不斷地運作，這是我認為需要擔憂的地方。

我們知道有錢人可以花錢搭私人飛機，因此比我快兩天跟客人談生意、或是用工廠生產大量的零件，用規模來賺取比我更多的錢；但我們無法知道有錢人如何控制我們看得到的資訊、改變我們的想法。

因此，若臉書能公開動態與通知的演算法，讓使用者清楚地知道自己是在「被販賣注意力」，而自己並沒有主控權，那我完全沒有意見。可惜的是這件事情不太可能發生，因為「不讓使用者知道自己的注意力被販賣」的模糊地帶，恰巧就是廣告得以利用注意力營利的前提，而臉書這個包袱已經大到無法丟棄了。

當 AI 演算法逐漸變成問題

以上這些演算法的改動，或許有些人早就知道了，但可能還是有些人會覺得「怎麼跟我想像中的臉書不太一樣？」、「我不知道有這回事耶」

這就是問題所在。

在 AI 擁有自主意識、進化到可以反抗人類之前，我們有更近的問題要處理：「那些按照人類設計行動的 AI 演算法，正在用決策者認為最好的方式，大量介入你我的生活，而我們卻未察覺。」

有些演算法的變化很難察覺，但卻是致命的

在《黑鏡》中有一集劇情是這樣的：

人類為了要滅絕某些基因有缺陷的人種（簡稱缺陷人），將晶片植入士兵腦袋，讓他們看到「缺陷人」的時候，影像被強制轉換成怪物，就能夠毫不留情地屠殺，也不會留下任何心靈創傷。

「把注意力交給臉書管理」跟「把感官交給殺人演算法」，可以看做是同一件事情。即使臉書不會叫你去殺人，但它們都一樣改變了我們看世界的方式、進而影響我們的想法。

另一個共通點是使用者必須在不知情的狀況下使用系統才有意義，所以它不可能告訴你演算法，一旦這些資訊公開讓使用者知道了，整個系統的控制就無效了。

現實生活中或許還沒有這種黑科技，可以植入晶片影響視覺，不過川普當選就是一個很好的例子。

而絕大多數時候，我們很難察覺到正在失去控制，這也就正是下一段要講的。

AI 的優勢：在高維度的數據中近似於神的存在

AI 對一般人來說，可以簡單理解為「比較厲害的演算法」；演算法不過就是程式，要說 AI 能發展出自己的智慧、屠殺人類，在現階段或許言之過早。

但 AI 最大的問題在於越來越能知道人類的喜好，甚至超越人類可以分析的次元範疇

古早的 AI 只能根據幾個維度或條件判斷，大部分人很快就能發現 bug、並知道這是 AI。現在 AI 可以做得更全面、更有效率，上百個維度都是可能的；反觀人類的大腦在分析數據時，能從三五個維度中找出正確的決策，已經相當了不起了，畢竟高中學線性規劃的時候只有兩個維度呢！所以只要在特定的問題下，AI 還可能比人類做出更準確的判斷。

在《星際效應》中，因為「祂們」有第五個維度，也就是重力，可以用來控制時間，這樣「更高次元的存在」在我們的觀點中，可以理解為某種鬼神。

星際效應中的高次元空間同樣地，在分析特定問題的數據空間當中，人類的視角是低維度的，而 AI 卻在高維度。因此，在這個數據空間內，AI 之於人類，就像是神的存在。

這造成的結果是「你以為 AI 的目的，跟 AI 真正的目的，可能是兩回事」

舉例來說：現在有兩派政黨，平常你在臉書都看到傾向 A 政黨的言論，也正好是你同溫層支持的政黨，但到了選舉時，臉書摻雜給你傾向 B 政黨的言論，你不知道演算法已經改變策略，便以為這些言論是 A 政黨支持者發出的聲音，進一步產生「或許 B 政黨真的比較好」的念頭，而改變政治傾向。

因為演算法可以因應選舉季節，做出不同推薦策略，而人卻不知道有這個維度會影響推薦結果。除了選舉季節，這樣的維度可能還有非常多，多到我們無法判斷臉書是如何運作的。

現在回到廣告，臉書說：「嘿！我們的 AI 可以讓你把時間花在那些有趣的動態！」

的確，這是真的，但臉書沒有告訴你的是：「我們也同時在優化廣告的收益、甚至其他人的利益！」，而這些參數怎麼交互運作的，臉書當然也不會告訴你。

因此，臉書篩選朋友的動態，也篩選粉絲團的動態，不知不覺中，某些人跟粉絲團的聲音慢慢消失，取而代之的，是那些「臉書認為對我們好」的訊息。

臉書只是開始

臉書或許是目前最早逐漸奪走控制權、也讓我最早聯想到《黑鏡》劇情的科技產品，很明顯地，它不會是接下來唯一的一個。（賣個關子，或許之後有機會談談另一個）

現階段對廣告、社群平台比較敏感的人，或許都還有辦法看得出來臉書做了什麼事情；但隨著 AI 高度發展，或許「下一個臉書」就可以做出更完美的排序演算法，用更多的維度，讓你我都無法分辨是否擁有控制權、讓我們活在一個更完美的、自以為有控制權（但其實完全沒有）的平台當中而不自知。

AI 目前還無法用自主意識屠殺人類，但它卻不知不覺改變我們看待世界的方式，我們就像黑鏡中的士兵一樣，接收著演算法想要讓我們看到的世界，這可能有好處、也有壞處。

但不管臉書往什麼方向演進，個人認為被控制並不是最可怕的事情，最可怕的是「不知道自己被控制」。