機器覺醒？人工智能當下的危險

今天聊聊人工智能。

這幾年火熱的人工智能其實並不是一個新概念。 2016年谷歌的AlphaGo在圍棋比賽中戰胜李世石，人工智能再一次引起了各行各業的關注。谷歌DeepMind在人工智能上的突破，也促成了人工智能技術在各行各業的應用嘗試。

人臉識別，語音識別，文字識別，機器翻譯，自動駕駛系統，推薦系統等等這些基於人工智能的應用正在改變著相關的各個行業，也在改變著我們的生活。同時人們又一次開始擔心人工智能的潛在危險。

談起人工智能、機器學習的危險，我們常常會聯想到機器的覺醒，原本服務人類的機器開始反抗，甚至要與人類為敵。但AI和機器學習對人類的挑戰，以目前的發展水平，顯然機器覺醒還不是人類目前所應該擔心的。

但機器學習的廣泛採用也確確實實對人類造成了切實存在的威脅。目前現實生活中人工智能的兩大主要應用是圖像識別和推薦系統。其中圖像識別，特別是人臉識別，正面臨嚴厲的監管。人們一方面擔心信息洩露，另一方面擔心個人信息誤用。而隨著監管的深入，人臉識別所帶來對個人隱私的侵犯，尚不足成為主要的威脅。

推薦系統是機器學習的另一個重要的應用。基本上目前我們所用的各種網絡服務都採用了基於AI的推薦系統。我們常常會驚訝系統推薦的準確性。打開購物軟件，心裡想的東西可能已經出現在推薦框了。剛看完一個視頻，類似一大堆的視頻跳出來，不知不覺已經過去大半天。人工智能通過觀察和分析用戶行為，給用戶推薦最適合的產品與服務，這看起來完全是人畜無害。當然也不會面臨太多的監管，但也正因如此，這種人工智能係統對人類個體構成了實實在在的威脅。

人工智能在一定程度上，特別是在言論自由有限的空間，正在重塑我們的意識，並加深群體偏見。人類的決策其實也是一種算法，其中個人經驗和通過視聽所獲取的他人經驗，是個人做出決策的關鍵。隨著人們花在視頻和網頁閱讀上的時間越來越長，甚至於超過和現實互動的時間。相比社交活動，人們更願意躲在家裡看視頻。虛擬網絡空間佔用的時間甚至超過了人們和真實世界的互動。在這種情況下，這些視聽內容將和現實世界一樣會逐漸改變我們的認知，從而也一定程度上影響我們的決策。在承載這些視聽材料的網站，人工智能技術被引入，引導用戶發現內容，並佔用用戶盡可能多的時間。對網站來說，引入人工智能的目的不是提高信息的中立性，而是為了增加網站和視頻的點擊率。其中一個例子是基於人工智能推薦的新聞網站。人工智能將點擊率、閱讀時間、點贊、評論、轉發包括點贊進行量化，對用戶進行標籤化，並針對用戶感興趣的類別和主題、關鍵詞、來源、興趣，年齡、地點等進行推送。如果用戶只依賴於該類網站獲取信息，逐漸人工智能將只推送符合用戶價值觀的新聞。這個過程中，用戶通過點擊等行為，訓練了人工智能；但另一方面，人工智能也在進一步強化用戶的思維模式。一個有偏見的思維，通過找尋同道，將進一步加強偏見。由於獲取信息的單一化，該過程將大大加快，從而人工智能也完成了對個人意識的強化甚至訓練。當該思維模式開始影響該用戶的決策時，用戶將無從分辨該決策是自己的主觀決定，還是由於人工智能對該用戶的馴化的結果。加強用戶偏見，顯然是人工智能信息推送最有益的策略。以前由於人們獲取信息的多元化，不同信息的衝擊，將有助於改變用戶的偏見。如今，人們獲取信息來自單一網站，比如今日頭條等，各種缺乏中立性的信息，甚至虛假信息，由於符合大部分人的偏見，更容易傳播，從而也更容易影響人的思維。所以一定程度上，人工智能在改變著人的思維模式，將思維模式固化，甚至加強群體思維偏見。這個馴化的過程是溫和的，甚至是愉悅的。但這個固化偏見的思維模式，對於個體來說危害巨大。人工智能推送的內容讓他認為世界上大部分人都是他的同道中人，從而在虛擬世界獲得了群體認同。但現實並非如此。認知和現實的隔離，必將在某一刻以某種方式，產生衝擊，並造成個體判斷和決策失誤。

另一個問題是人工智能技術能夠改變這些缺陷，避免給用戶標籤化麼？答案是不能。推薦系統，本身就是對用戶進行打標籤。相比人的多樣化，標籤永遠是有限的。所以最開始谷歌用人工智能技術對郵件進行分類。但對客戶進行標籤化，並針對標籤推送相關的內容，對於營銷來說無疑是最有效的。這也就以為這種技術將被更廣泛的採用。

如果你發現自己的觀點和理念似乎變得越來越正確，很難在網絡上看到與其相左的聲音，多半情況下，不是“從心所慾不踰矩”，而是網站為你屏蔽了你不喜歡的聲音。

個人如何對抗這種人工智能的馴化呢？

1. 開拓多元化的信息獲取渠道，擯棄以點擊量為目的的新聞推送媒體。

2. 如果無法避免，盡量採用匿名身份進行登陸，避免人工智能收集過多信息，對個人進行標籤化。

3. 不斷學習，並創造內容，以自己的思想和知識，創造思維的多元性。

但悲觀的是，這個馴化過程無法避免，因為整個社會正在被馴化。終究我們難以逃開群體效應。言論自由，並能夠在公共平台正常進行思維的碰撞，思辨是對抗這種馴化的關鍵一環。