試圖禁止使用LLM工作的人，既不瞭解LLM也不了解工作

剛剛看到一個消息，試圖規定製作內容產品時不得使用AI的人好像越來越多了。

嗯，光是這時候會說AI而不說LLM，大概就顯示這些人並不了解這一兩年的機器學習趨勢，也不了解大型語言模型到底是怎麼一回事。

其實網路上有很多專門研究機器學習、自然語言處理的大神。youtube或blog上都有不少淺顯易懂且足夠正確的說明。

但我還是想提一下，試圖禁止使用LLM生成內容、論文、報告、文章；禁止使用deepfake製作影片；禁止使用stable diffusion製作視覺影像等等，大概都只會帶來兩種結果。第一種是引發大量無謂爭執甚至法律訴訟，第二種是被現實世界淘汰。

我們先從經驗事實開始。目前為止已有許多工具試圖檢測AI生成文件，但誤判率都很高。OpenAI在7月已經承認這些檢測器根本無效。

但其實只要知道人類都怎麼產出內容、學習風格與技巧、還有教過學生帶過徒弟的，大概對這結果都不會太意外。

因為使用共同語辭、共同句構、共同意象、共同畫面與聲音、共同色調、以類似的方式連結這些元素，正是我們可以彼此認同、彼此理解的原因。

這是語用學與社會學，和IT科技一點關係也沒有。

LLM只是開始用機器學習來抄襲語用和社會的關係，獲得一部分成果而已，本身並沒有創造任何新的東西。

在LLM普及之後，短期內人們該思考的是，如何將信任標的從過去習慣的名片、學位、知識量大小，轉移到識人的智慧；如何將自由市場經濟的邏輯，轉變至社群經濟的邏輯。

因為每個人未來都會連結大量LLM結果，沒有任何人是純淨的(喔，那些相比之下一無所知的人也許是吧)。你只能思考誰能合作、誰能交易、出了問題誰能提供各方都能接受的仲裁。而非他們的供貨能力、創作能力、仲裁能力是否來自人類。

這會大幅衝擊既有的市場機制、契約內容、社會關係。但我認為這必然發生，且無法避免。

附帶一提，這樣的推論完全不需要任何IT知識，只要有待過現代社會以外的地方，其實多多少少都了解。

真要說起來，LLM只是讓人類開始從20世紀的現代性粉紅泡泡裡逐漸走出來，面對現實世界而已。

附上幾則LLM生成結果無法識別的新聞。見此、此、此、此

之前也跟豆泥合寫過一篇，自動化之後將發生的市場轉向，見此

洪偉寫過一篇文章，講LLM將如何影響內容產業與學習，見此