多元宇宙中的設計師（一）：工程師與奇點

For English Version: See here

This is the first chapter of the series: Design for Plurality

早上好大家！

我是豆腐，是已經參與 g0v 台灣零時政府 2 年的設計貢獻者，同時目前也在國立臺灣大學教務處擔任設計師，今年 19 歲，也是國立臺北大學經濟系的大二學生。這篇文章主要是想藉由書寫的方式，提供對未來感到不確定而感到不安的設計師一個觀察未來趨勢的其中一個切角。

同時也順便藉由這個機會分享自己的經驗（希望這些經驗可以減輕大家的焦慮感，希望啦 @@），還有透過這一系列文章，將自己腦中正在想的事情開源出去 lol（不然想法一直積在腦袋瓜裡面是真的會爆炸啊啊啊）

好，那讓我們開始吧！

引言

其實我很長一段時間沒有更新自己的近況了，不過也忽然發現自己已經在 g0v 社群待了兩年半。從接觸區塊鏈、參與 da0 社群的創立、一同見證了 g0v 創立的十週年，到接到了人生中第一份有償的設計案，甚至進到臺大的教務處資訊組擔任其設計基礎建設的貢獻者（aka 臺大的設計師）。

一方面覺得自己真的好幸運好幸運，因為這真的是一場精彩的冒險。另一方面又覺得自己對於未來想做的事的輪廓開始變得越來越明確，UX 設計、公民科技、區塊鏈、經濟學，這幾個聽起來毫不相干的關鍵字漸漸地走得越來越近，甚至早已連在一起，指明了接下來或許可以前進的方向。

我認為我可以把這個方向囊括成一個待解的設計問題，那就是：

“我們要如何設計多元宇宙當中的人類體驗 / How Might We Design for Human Experience in Plurality“

接下來的十年想做的事情，大概率會跟這個問題拖離不了關係

我知道這聽起來很生硬，畢竟「多元宇宙」這個詞在之前本來就有一些爭議（參見數發部的多元宇宙科），而且 User Experience 怎麼在這就變成 Human Experience 了呢？

且慢，讓我在接下來的一系列的文章中慢慢解釋。

「多元宇宙」是由唐鳳與政治經濟學家 Glen Weyl 共同提出的一個概念。目前他們正在合著一本有關多元宇宙的書（可見這個概念有多新穎，新到現在都還沒有任何一本書在討論這件事情）。再談多元宇宙之前，先讓我們來聊一下與之相對的概念，也就是奇點（Singularity）

工程師與奇點 Engineers and Singularity

唐鳳與 Glen Weyl 還有一起研究多元宇宙的人們以現有的 AI 產業舉例，認為 AI 奇點（Singularity）將在 2040 年來臨，且它的來臨大概率是因為各家 AI 大廠們（包括 OpenAI, Meta, DeepMind）爭相搶著開發出所謂的「通用人工智慧（AGI）」以及「人類等級的 AI」。

它們希望自己創造出來的傑作，可以幫助人類解決所有問題，做所有的工作，人類在未來將不再需要工作。只需要顧著吃喝玩樂，並享受 AI 為他們摘下來的經濟果實就好。（詳情可以看這個影片）

聽起來很理想對吧，但如果我們去試著拆解這套論述背後的意義，你的看法可能會有所不同。

作為一名設計師，先讓我試著描繪出這類可能會講出這套論述的人群的人物誌：

首先，他可能是一名 AI 工程師

而且還是一個具有影響力，且不需要擔心生存問題的 AI 工程師

大概率是居住在歐美等已開發國家的人，母語可能還是英文

觀察三家大廠的 CEO，暫且推論他們都是在那個地區的主流族群

他們的目標是：「希望自己創造出來的傑作，可以幫助人類解決所有問題，做所有的工作，人類在未來將不再需要工作。只需要顧著吃喝玩樂，並享受 AI 為他們摘下來的經濟果實就好。」

現在我們大概可以理解他們在想什麼了，當然他們的想法可能對他們來說沒有任何問題，因為人的認知能力是有限的，我們不可能知道地球上的所有資訊，並確保我們的考量都面面俱到，能夠滿足每一個人的需求。

但設想一下，假設地球上只有三個通用人工智慧（AGI），而且這些通用智慧還是由一個類似的族群所打造，那會是一件多麽可怕的事情。試著想一下以下的情景：

英語是這些通用智慧模型的母語，所有其他語言的資訊都會先被機翻成英文之後才會開始執行指令

來自第三世界國家的人們幾乎很少有機會跟開發人員進行反饋，除了地理門檻之外，語言門檻也是一個大問題。他們的意見幾乎沒有辦法傳遞到那些開發人員的耳裡。相當於是被諸多限制封上了嘴一般，他們基本上難以反抗，難以聲張自己的權益。

就算少數人群的意見有辦法傳到開發端，他們也不一定會受理他們的需求，因為他們沒有義務這麼做，畢竟他們只需要對股東的利益負責，除非這確實會影響到他們的利益（比方說這會影響到他們的聲譽），否則最大化股東的利益才是他們應盡的義務。

「奇點（singularity）」的意思是指「某一個讓人類無法再繼續預測後續因果的事件」，就跟 f(x)= 1/x 在 x=0 的位置時 f(x) 會等於多少一樣，幾乎沒有人知道 1/0 等於多少，且函數畫下去也可以知道它呈現出來的圖再接近 0 的時候將會「一發不可收拾」。

通用人工智慧可能將會是人類歷史當中的奇點之一，而從那些工程師的角度來看，這樣的人工智慧確實是對他們眼中的世界而言有用的東西。因為它可以讓人們不再需要工作，並讓大家享受好日子。

可對其他人而言真的是這樣子嗎？

「不再需要工作」對他們而言真的是件好事嗎？全民基本收入對於所有人而言，究竟是一個維持生活水準，並使人們得以持續創造的津貼，還是在被 AI 剝奪了工作權之後，有如監獄牢飯般的存在呢？

答案是沒有人知道，因為每個人所在的處境與脈絡都不一樣。

假設某些人是不斷地在未知中探索的開發者（通常具有一定的文化基礎，至少擁有一定程度的英語與自我學習能力），全民基本收入對這些人而言可能會是一個用來確保生活餘裕的存在，使他們得以將專注力放在更有創造力的事務上。這類人群粗估佔了總人口數的 20%（大約是已開發國家加起來的總人口數，包括部分中國、印度以及其他開發中國家的中產階級人口數）

但對於剩下的 80% 來說，可能就沒那麼幸運了。他們不只不一定會有和世界社群之間順暢的溝通管道，甚至他們可能連發生了什麼事都不知道。工作無緣無故地就突然不見了，自己突然就被 AI 還有機器給取代了，全民基本收入？蛤？那是什麼？可以吃嗎？

情況嚴重一點的話，那些被剝奪工作的人們所在的國家，可能會因為已開發國家的人們剝奪了他們的工作機會並使其陷入貧窮，而開始向已開發國家發起戰爭，或發起零星的恐怖攻擊（當然這只是比較極端的情況，但國內資源的匱乏還有對於特定族群的壓迫確實是戰爭的潛在肇因，所以說這完全不可能發生是不理性的）。

而且有一些證據也表明了外部資源的過度投入可能會破壞當地的經濟型態，例如 已開發國家人民捐獻出來的二手衣 非但沒有幫助非洲國家走出經濟困難，反而還破壞了當地的成衣產業，剝奪了一些人與他人進行經濟資源交換的契機，因而失去工作。基礎經濟學也告訴我們，一昧地對他國人民發錢卻不對當地的生產力進行貢獻，長期來看除了沒有任何意義之外（參見貨幣學派），短期內還有可能會讓當地陷入通貨膨脹的風險。

所以現在的我認為與其在這個時候擔心 AI 的奇點將會征服並控制人類，倒不如先擔心這個奇點在現有的社會框架之下將會加深地球經濟資源分配的不平等。（當然這只是我的淺見，可能還會有一些我還沒有考慮到的因素在裡面，如果有誤，敬請見諒，並歡迎在下方留言區進行補充）

那既然如此，這個問題要怎麼解決呢？讓我們先試著爬梳一下 AGI 可能會造成的問題：

AGI 會造成科技的過度中心化

AGI 可能會有偏見，難以考慮到所有人類的需求，同時也不是所有人都有與他之間的溝通管道

AGI 所創造的經濟成果可能沒有辦法被全人類享有，甚至可能會讓原本已經很邊陲的國家變得更加邊陲

AGI 是不穩定的，沒有人知道他們出現了之後會對人類社會造成什麼樣的影響。

有些人可能會覺得 AGI 的概念會很難理解，但其實如果把這個 AGI 的概念換成國家機器（也就是政府）可能就容易得多。比方說獨裁政府就跟這樣的情況很相似，價值的單一化其實在語言學上也算是一種 singularity（奇點的英文）。

讓我們稍微換一下主詞：

獨裁政府造成了權利的過度中心化

獨裁政府本身有偏見，難以考慮到所有人民的需求，同時也不是所有人都有與他之間的溝通管道

獨裁政府所創造出來的經濟成果可能沒有辦法被全國人民享有，甚至可能會讓原本已經很邊陲的地區變得更加邊陲

獨裁政府是不穩定的，沒有人知道它會對一個國家的社會造成什麼樣的影響。

顯然，AGI 的奇點（也就是數位的中心化）某種程度上算是數位威權產生的其中一個潛在風險。那我們要如何避免這類的情況發生呢？解決的方法有很多種，而其中一種就是推動「數位的民主化」

也就是「數位的多元化」aka “Digital Plurality“（多元宇宙）

(下回待續）