此为历史版本和 IPFS 入口查阅区,回到作品页
瞿筱葳
IPFS 指纹 这是什么

作品指纹

一個阿木的 ChatGPT 追劇讀書會

瞿筱葳
·
·

本來沒怎麼在追 ChatGPT 的發展劇,但近期跟小孩的對話讓我覺得,還是在他們學會打字之前不時關注一下。

最近小孩會問 siri,「你是誰?」

「你認識 OK Google 嗎?」「你認識天貓精靈嗎?」(!)

他們也會問 siri,「大爆炸是怎麼來的?水是怎麼來的?」只要是書上看到心生疑惑的事情,全部都問問看。如果 ChatGPT 有語音外掛,應該已經被直接問爆。

前陣子跟一些朋友開始討論 AI 生成內容,也跟我家的 AI 阿宅創業家 CL 亂聊,這篇算是整理一下對話紀錄和各種資訊的自我懶人包。不知不覺記多了,分享一下。

關於小孩教育

提問:AI 對個位數年齡小孩教育會有什麼?
CL:會有很多 augmented tool 吧。

阿宅講話都很省字….。

Augmented 是擴增,AR 是擴增實境,就技術宅來說,AI 可算是一種擴增腦力的工具。

意即,現在的小孩日後學習過程,會開始有各種 augmented tools 擴增工具可以使用。影響好或不好都已不可逆,應多理解工具的運作原理。

台大李宏毅老師做的科普影片蠻清楚 [1],聊天模組始於文字接龍的能力。聊天機器人就是文字接龍的社會化過程。

另外一位阿宅老友 Freedom 也提供了另一條追劇故事線,目前研究開發者正努力教 AI 學數學 [2]。他們得先克服把自然語言的數學題目翻譯成 formal code 來讓 AI 進行運算。為什麼算數學是個難題?因為他們認為,數學是開發人工智能推理能力的完美實踐場所,因為數學可以說是最困難的推理任務之一。

關於 AI 像人

提問:聊天程式為何像人?
CL:ChatGPT 聊天看起來有脈絡是個假象,實際上每段對話之間都是獨立發生沒有關聯的。它做了兩件事製造假象。其一,在每一次對話都先簡單總結上一段。其二,它在下一段會再做一次漸進式總結 (incremental summary) ,這樣對話就會好像有點延續感。但不是真的延續,因為以現在 ChatGPT 3.5 限制只能有 4000 字的長度,所有對話都得濃縮在這個長度以內,才能像是有邏輯地說話。

這種技術造成了機器有人類特質的假象,但弄假成真的那條界線在哪?

有史丹佛心理學家日前公布了對 ChatGPT 做的 Theory of Mind 實驗 [3],ChatGPT 3.5 通過了心智理論的測驗,類同人類九歲的測驗程度。這跟先前跟 bing 會示愛和爆粗口似乎有異曲同工之妙,「很像人的機器」到底有沒有心智算不算靈魂,這題應該會一直困擾著人類。

要往哪裡去?

無論如何,AI 只會越來越強,推特上流傳一張圖,說 ChatGPT-4 的參數將是 3 的 500 倍,與人類腦的突觸數相當。但 OpenAI 的三十八歲 CEO Sam Altman 駁斥此說法,還說 ChatGPT-4 會讓大家失望,但又留下一句耐人尋味的話:「人們想要失望,我們就會讓他們失望。」不是很確定這意思,但他似乎很懂大家既期待又怕人類受傷害。

但看起來 Altman 和 OpenAI 視野不只在做無敵厲害文字接龍,他曾在訪談中說,OpenAI「正嘗試建立一種智能,它在各方面都比人類更聰明、更有能力。我們嘗試利用這種智能解決世界上最大的問題。我們試圖利用這種智能,因為我們將擁有如此強大的人工智能,我們將使數百億、數萬億美元的新企業得以實現,而且有一天,我認為我們將建造人類的後代,送他們上宇宙殖民地。」[4](這段是丟給 ChatGPT 翻的)

誰能上太空,誰要殺豬公,這似乎又開啟了另一個問題。

「什麼工作被取代」這類現在的熱門討論,到下下一代下下下一代,會不會越來越像艾西莫夫的世界,「誰會被留在擁擠的地球?」

扯遠了,我們還不會遇到。

我們先得面對 AI 可能產生的錯誤資訊、釣魚信、惡意軟體等,Google 示警為 「AI 幻覺」(AI Hallucination)的認知現象。更別說 Amazon 已經出現了兩百本與 ChatGPT 合著的出版物,直接進入內容市場。

關於 AI 生成內容是被壓縮失真?

人文方面則有批判聲音,除了 Noam Chomsky 指 ChatGPT 是「高科技抄襲」(High-Tech Plagiarism),小說家 Ted Chiang 姜峯楠前陣子的文章《ChatGPT is a Blurry JPG of the Web》也提出了批評與擔憂的觀點。

姜峯楠的文章主要是把原始版本和壓縮版本比喻,他文章尾巴的一段話很有啟發:「讓學生寫文章不僅僅是測試他們對素材的掌握程度的一種方式,它還能讓他們獲得表達自己想法的經驗。如果學生從來沒有寫過我們都讀過的文章,他們就永遠不會獲得寫我們從未讀過的東西所需的技能。」[5]

人腦的運作歷程,在作家眼中,是重要的。

最近正好在狂讀他的小說,立刻成為我最愛作家之列。可能因為在非常科幻且有技術根基的敘事中,他總能把人性用驚奇的方式緩緩流溢。

就像我花時間寫了這篇文,可能也是為了在寫字的經驗中,獲得思考的過程。

很有人性與哲思,但這篇文章才幾天時間,大家又繼續被各種新進展繼續衝擊。

總之,人類可能再也難以分辨智能 (intelligence) 和智能的假象 (the illusion of intelligence) 的差別。這對要跟 ChatGPT 一起長大的一代,特別是他們的父母,實在會是一個有點期待又有點抖的挑戰。

然後呢?關於這一大題,需要了解什麼?擔心什麼?還是要做什麼?

很多文章的確都提到倫理。去問 ChatGPT,它給出這樣的回答:

  1. 建立 AI 倫理
  2. 提倡透明的重要
  3. 鼓勵多元
  4. 重視人類的監督
  5. 促進 AI 教育以及意識

嗯哼,很像是開會第一次動腦會議會得到的初步便利貼。卻也隱含了許多人類社群可做的實務工作,也算是可以跟小孩開始聊機器人的另一種基礎談資。

在已被各種迅速發展沖刷已昏的狀況下,就先 End 在這。

有空再下一回合的補追劇心得文。

— —

[1]
李宏毅 ChatGPT (可能)是怎麼煉成的 — GPT 社會化的過程https://www.youtube.com/watch?v=e0aKI2GGZNg

[2]
To Teach Computers Math, Researchers Merge AI Approaches

[3] Stanford Theory of Mind(ToM) 實驗https://twitter.com/michalkosinski/status/1627480885296795649
https://arxiv.org/abs/2302.02083

[4]
The Company Behind ChatGPT

[5]
Ted Chiang
ChatGPT Is a Blurry JPEG of the Web

蕭上農翻譯 Ted Chiang 文
https://foxhsiao.medium.com/chatgpt-是網路上的一個模糊的jpeg文件-aaee3723db1f

CC BY-NC-ND 2.0 授权