危崖絕壁——人類還有未來嗎？

哲學家、社會運動家Toby Ord所寫的The Precipice: Existential Risk and the Future of Humanity是一部精心傑作（訂閲通訊可免費獲贈此書），旨在提醒世人人類正逐漸深入危崖絕壁之境，假如不謹慎前行，有可能會滅絕，導致不可挽回的極大惡果。其實，此書只是現時西方的一些發源自學院的社會運動的其中一本代表作，該些運動會有多大影響力尚未可知。

The Precipice的論證邏輯嚴謹，所使用的科學證據亦非常豐富，考慮細密周到，是難得的高水平之作。除了作者之外，可從書中得知參與成就此書的人其實還有很多（長長的嗚謝名單），包括例如研究助理和各路專家學者。給人的印象是，此書背後的運動有一班同路人的支持，故此它亦得眾力支持而完成，是代表一個群體的作品。

以嚴格的論證（意思是高水平的，但不代表一定對），The Precipice主要想告訴人們，人類現在和未來一兩個世紀所要面對的「存亡風險」（Existential Risk）絕對值得關注，並且要積極行動去減低風險，否則人類有機會失去的會是難以想像的巨大價值和意義。該些存亡風險包括「自然風險」（Natural Risk）和「人為風險」（Anthropogenic Risk）；自然風險如涉小行星撞地球和巨形火山爆發；人為風險如涉核子戰爭（其最大的殺傷力在於「核子寒冬」（Nuclear Winter），即核戰塵埃所會造成的屏蔽日光的效果）和「未合應的人工智能」（Unaligned Artificial Intelligence；意思大概是未合符應對於人類價值觀的人工智能）。作者試圖做出量化的風險評估，使人們能更精準地了解情況。

根據作者的評估，相比於自然風險，人為風險是更致命的（而其中他認為未合應的人工智能所製造的風險最嚴重）——人為的科技使我們能夠製造巨大的災難，以致滅絕人類，然而人類似乎沒有管控此等風險的足夠能力和智慧。那麼，總體的存亡風險是否很大，以致於我們難以避禍呢？非也，不過它是足夠大，致使人類不應忽略，尤其是考慮到現在投入於防患的資源實在太少，以及涉及的惡果著實太大。人類滅絕的惡果有多大呢？作者不單止從現在的生命、價值和意義的損失去衡量惡果，還從辜負了我們祖先的努力的角度去分析，而最重要的是以未來的角度去剖析——那千千萬萬億億⋯⋯的可能的未來人類世代，以及潛藏於他們當中的無限發展的可能性。「長期主義」（Longtermism）是與此相關的一種思想，主張人類應該更重視長遠未來的價值，而對現在的思想和行為方式作出適當的調整，譬如調整而導致降低存亡風險。可參考以下精彩動畫的解說：

長期主義者要為極之遙遠的未來打算，對於應付當下問題可能亦感很吃力的人來說有說服力嗎？事實上，長期主義有其批評者，比如可聽聽很聰明的物理學家，Sabine Hossenfelder，的意見作參考：

除了長期主義，另外一種相關的思想是「有效利他主義」（Effective Altruism），主張以有效的（如經過優質研究審定的）方式去行善，使世界有效地變得更好；可參考以下視頻：

事實上，這些思潮在西方已經發展成一些社會運動，雖然仍然未算影響力很大，可是亦有一定數量的支持者和功效。他們能走多遠、能影響多深，有待時間驗證，而考驗肯定陸續有來，例如約一個月前The Economist也出了一篇質疑他們的文章，題為「The good delusion: has effective altruism broken bad?」。此文的一個肇因是那加密貨幣交易所FTX倒閉的轟動事件，當中涉及不當的經營手法，而該公司的創辦人Bankman-Fried卻是有效利他運動的大力支持者；另外文章還報告了一些曾經是有效利他運動熱心參與者的態度轉變，他們質疑運動的發展並沒有按照原初的理念去實行，有走歪路之嫌。

以上是對The Precipice及一些相關思想和社會運動的初步介紹。我自己的立場是，從大方向而言支持當中的理念，但假如針對細節，無論是理論上或實踐上的，便需要再加深入了解和判斷了。

12月尾補充：Sabine有視頻youtu.be/nQVgt5eFMh4，評了Toby及相關學者。