無聊玩了三個禮拜ChatGPT遇到的問題

好消息是，兩個禮拜前問的一些班雅明的問題，本來無法作答的，現在都能說出些什麼。

壞消息是，都是模擬兩可，不然就是一堆錯誤。

很好奇它是怎麼吃資料的，我嘗試問了一些非常簡單的問題，它的回答是：

台灣有許多非常擅長描繪流行文化的純文學作家，以下列出一些：
西西：她的作品以描寫現代的都市生活、音樂、時尚、流行文化等為主，例如《小時代》系列、《左耳》等。
柏楊：他的小說作品中常常描寫大眾文化、電影、流行音樂等元素，例如《美麗新世界》、《1984年》、《世界文學名著名譯選》等。
柴銘祥：他的小說作品以描寫都市生活、時尚、音樂、流行文化等為主，例如《數位時代》、《銀河塵》等。
羅家倫：他的作品中常常描寫現代流行文化、科技、虛擬世界等元素，例如《鏡花緣》、《博物館裡的夜晚》等。
林奕含：她的小說作品中常常融入音樂、時尚、流行文化等元素，例如《聲色犬馬》、《她們的故事》等。
這些作家都非常擅長將流行文化元素融入到小說故事中，並透過不同的角度與手法進行描繪，值得一讀。

完全對不起來！我問文學問題，這傢伙卻已經開始了文學創作，如此後現代的虛構態度，佩服佩服。

我問一些小說裡的段落如何理解，它開始講述一些小說裡根本不存在的段落，我已經嚴重懷疑這不是ChatGPT，而是真實創作者，像躲在ATM裡的男人，而我們都活在他的小說裡。

以目前問答的架構來講，最大的問題或許是無法驗證，所有回答都沒有脈絡，也無來源，無從比較。他如果亂講幹話，使用者也察覺不到，除非你原本就懂。好玩的就來了，如果你原本就懂，還需要他嗎？

如果ChatGPT成了趨勢，這種狀況就會變成一種認知常態，得來的是更片段，更去脈絡化的「偽知識」，一種無法反思的「知識」，後設思考將變得更不可能。或許他的準確率會愈來愈高（很多知識甚至沒有正確這個概念），也愈來愈有模有樣，但這種便利養成的認知模式，就像一個假裝什麼都懂的巷口大叔，無從納入嚴肅討論的範疇。當然，從google世代開始，這就是個問題，連結有效性決定的排序，使知識生產趨向雷同，風格喪失，流量為王。但ChatGPT或許會使狀況往更糟的方向發展，人會變得更加不理解自己說出口的話，比今天更甚。因為他們根本不知道這些話是如何建構的。ChatGPT，或許也就成了一種新的智能科技，人們只看到更快速的資訊獲取，無法意識到這些資訊輕得如同氣球，無法承載任何思想。

完蛋，我讓自己看起來像是一個反科技、反進步的臭大叔，雖然我一直以來都有這樣的傾向。對科技的懷疑很早年就種在腦袋裡。對於科技如何影響人的思維模式（而非僅僅強化，也伴隨著疏離與典範轉移），非常推薦閱讀《網路讓我們變笨》這本書，或讀我之前寫的摘錄分析，雖然很長，但已經比原書短很多了。不讀其實也沒差，我也不信誰讀了就真的改變世界，不過至少可以在有生之年，不淪落為一個笨蛋。