[討論]科技的進步應該有極限嗎？

最近幾年蓬勃發展的技術其實都一直叩問著這個問題，科技的進步需不需要有個人為的極限？我覺得兩方的立論其實都蠻強的，想要知道大家是怎麼想的。

舉幾個例子來說，第一個是我比較熟悉的CRISPR，簡單來說就是一個便宜好用的基因體編輯技術，以後可望直接用基因編輯的方式把遺傳疾病的突變修正，或是解決任何類似的問題。不過這樣的敘述可能會讓不熟悉的大家低估了這個技術的影響力，另外有個例子叫做Gene drive，研究者把CRISPR（基因剪輯的機器）跟要剪輯的模版一起放進蚊子的DNA裡面（我們現在要剪輯的話都要用外在的方式把這些東西放進去），這樣蚊子的後代就會也帶有這個機器跟剪輯的參考手冊，所以他們就會自己剪輯，如果把這樣的機器設計為讓蚊子只生的出母蚊（不會叮人），那基本上就能直接抹除整個物種，而這也被認為是目前能夠徹底消滅瘧疾的最有潛力解方。另外一個例子就是AI，有人將通用AI（就是什麼事情都可以做的）的智能超越人類的那天稱為奇點（Singularity），而大部分提到奇點的人都認為等到那天的來臨人類作為一個物種大概也岌岌可危。

面對這些問題，支持上述技術的發展的人就會說，CRISPR為什麼應該繼續進行，是因為我們從幾百年前就在做基因剪輯了啊，孟德爾把大的豌豆跟大的豌豆交配，生出大的豌豆，這也是某種程度上的基因剪輯，只是沒有那麼直接，「人類扮演上帝」這件事並不是新聞，只是現在有了更方便快速的方式。對於AI的發展也是一樣論調，他們就會說當初蒸汽機一出現以後大家也覺得人類就會滅亡，因為都不用工作了，結果工業革命後人類迎接了史無前例的富足。

霎時間我好像也找不到什麼好理由反駁這樣的論述，但我覺得這是個危險的滑坡，難道這樣指數成長的技術跟科技真的不會導致毀滅嗎？我自己覺得這個界線在於人類作為一個生物的極限，的確因為人類聰明的腦袋我們不斷創造出新的東西，好像提升了這個物種的能力，但徹徹底底的從生物學的觀點來看，我們的腦袋跟清朝時的義和團並沒有差太多，我們有各式各樣的行為偏誤（bias），有各式各樣在生物學上不夠最佳化的地方（例如要睡太久了？），而人類在生物學上的演化根本趕不上人類所創之物進化的速度。所以就會有現在facebook跟社群媒體衍生出的很多亂象，FB的演算法聰明到會想盡辦法推薦你你最想要看到的消息，而生物學上人類最想要看到的訊息無非就是兩者：來自我群、以及恐懼相關，這客觀來說可能不是個很好的特質，是個應該被優化的特質，經濟學上的理性人在攝取資訊時應該要有的態度是不帶情緒客觀分析，並且同時涉獵兩造說法，但人類就不是這樣運轉的，短時間內也不可能這樣運轉（媒體識讀教育真的有用嗎？），所以才會變成現在這些filter bubble、或隨便一些manipulation就能把另外一國的民主搞得亂七八糟。

在面對這些嶄新的技術時，真正聰明或是開創者往往一心想著的就是如何進一步的完善那些技術，Zuckerberg如果沒有桶出這些蔞子，他一心想的大概也就是如何優化演算法，但我覺得現在應該是討論上述問題的最佳時機，或甚至已到危急存亡之秋了。