【影評】《機械姬》什麼是人造意識？

《機械姬/人造意識》是一部不可多得的小成本敘事電影，之所以說不可多得是因為該電影非常明確深入地描述了關於人工智慧的理解，卻又不用單純說教的方式來闡述，反而是利用劇本富有娛樂價值的部分進行鋪陳。這使得在觀影的過程中，我們即使不太明白那些理論的基礎(圖靈測試、黑白瑪莉等)，仍可以透過劇情的引導來了解導演要傳遞的理念，甚至因為結尾的安排，產生更多的餘韻。這除了歸功於小成本的限制外，也歸功於劇本將其限制在「地下密室」的情境，讓觀眾的焦點不得不限制在這主角三人間的互動，也一定程度的讓你專注在他們的對話之中。

如果你創造了有意識的機器人(人造意識)，那就不是人類的歷史，那是神的歷史了。(If you've created a conscious machine, it's not the history of man. That's history of gods.) 

《機械姬/人造意識(Ex Machina)》的片名很有意思，原意是指Deus ex machina(希臘文，God from the machine之意)，是說在戲劇中有反轉或是困境難以解決之時，為了將劇情推演下去，搬出了「神」作為故事難題的解決者，以便讓故事好好收尾。但這種說故事的技巧基本上破壞了原始故事內的結構，就像是現在許多科幻電影結局把外星人搬出來一樣，反正解決不了的或是無法解釋的部分就說是外星人搞的，因為沒人知道外星人的科技多麼先進，所以就可以在這個部分隨意揮灑。這樣的方式其實並沒有針對原先故事的衝突或矛盾好好加以解釋。

但其實有另一些學者研究認為，Deus ex machina其實是在討論凡人與「神」之間的關係，是作為人本身去「刺探」神的旨意，Deus就是希臘文中「神」的意思。而本片片名僅留下的ex machina似乎就是在暗示這機械產物下遺留的問題，最後並沒有一個真正的「神」來做完結，也呼應了納森(Nathan)作為創造者與電影分為七期描述的「創世」過程。

《機械姬》的故事大致在描述一個被老闆納森(Nathan)選中測試人工意識的工程師加勒(Caleb)，在測試期間對艾娃(Ava)產生同情，甚至暗生情愫的情況下，決定幫助這個人造意識機器人逃亡。但在設計逃亡的過程中，卻發現其實自己才是被測試的對象，目的就是納森想知道自己所設計出的人工智能是否可以騙過人類，讓受試者願意幫助她逃亡。而結局的反轉不僅讓自以為掌控一切納森死於自己創造的機器人手上，也讓誤以為艾娃愛上自己的加勒，最終困在地下研究室中，被艾娃所拋棄。

電影在結尾不僅來了兩次反轉(「納森知道加勒與艾娃的逃跑計畫」與「艾娃捨棄加勒獨自離開研究室」)，更把觀眾也納入到原本「圖靈測試」的測驗當中：「究竟艾娃是真的有自我意識，還是一切只是她程序設定的結果？」這種電影與觀影者之間的互動，不僅加深觀影者的懸疑感，也讓電影的議題得以延續，更重要的是會想讓觀影者在二次觀賞時，會想要去了解更多的細節，延長該電影的壽命。

故事場景雖然簡單，但議題的深入卻一點也不馬虎。在劇中提到的幾個重要的理論，像是「圖靈測試(附註1)」與「黑白瑪莉(附註2)」等，也針對劇本所要針對的議題加以修改，乍看之下似乎是對理論的誤解，實際上卻是透過這些理論的變形來加以詮釋該片所要傳替的理念，這點實在不得不讓人讚賞。

「真正的問題並不是智能機器能否產生情感，而是機器是否能夠在沒有情感基礎的前提下產生智能。」——馬文·明斯基(Marvin Minsky), 1986

本片基本上就是圍繞著一個最簡單的議題，也是我們從上一篇《機械公敵》所遺留下的疑問展開，那就是「機器人是否擁有自我意識」？不論是《機械公敵》的NS-4與《機械姬》當中的京子，基本上它們都具有人工智慧。但它們似乎仍按照著某種程序來行為，就像NS-4看到人類危險會插手；京子聽到音樂會隨之起舞，但論這些機器人是否擁有自我意識，仍有一點差距(附註3)。

那表現更為人性化的艾娃有意識嗎？還是它也只是像是納森所描述的，為了逃脫實驗室為目的的設計，並沒有真正的意識，一切都是為了達成目的的手段而已。這部分有趣的是電影留下的開放式結局，暗示著離開密室的艾娃才是真正要開始自我意識的覺醒。不同於《機械公敵》的索尼，這裡的艾娃在離開密室前幾乎都是按照開發者所料想的程序所進行。但納森對於人造意識的打造，並非是單純的利用大數據的回饋，更重要的部分是他採用了人類思考的方式。

納森認為他的搜尋引擎最大的貢獻就在於「那並非人類思考的事物(答案)，而是人類思考事物的方式」。我們用我們思考方式去搜尋，那是屬於我們人類專屬的思考機制。因為我們這麼想，所以才會選擇這麼做。這種因果關聯性的發展，與現今討論人工智慧的未來發展似乎不謀而合(附註4)。再加上影片前述關於「黑白瑪莉」的說明(完全呼應最後艾娃離開房間的描述)，與納森的系統結合起來，更加說明了艾娃在自我意識上的覺醒之路。

雖然劇中巧妙的把這個論證修改為，在黑白房間中的瑪莉為電腦，走出房間接觸到真實顏色的瑪莉為人類。但這裡暗示著只有經過感官體驗過後的瑪莉，才算是真正的有意識的人，因為她能感覺(feeling)。因為在房間的瑪莉就只是「知識」的接受器，像是一台被輸入完整且完美的電腦，只要她的數據庫足夠龐大，那麼針對人類所擁有的物理知識來說，基本上是無懈可擊，所有你要問的問題，她都可以回答。但走出房間的瑪莉卻不相同，因為一但你認為看到過真正顏色的瑪莉與只處於黑白房間的瑪莉是有所不同的話，那麼該瑪莉一定獲得某些我們所不知道的「事物」，不論它是否為新知識。這個新感受的瑪莉超越遠本被物理知識所限制框架，她有了自己的體驗，這似乎是某種意識的萌芽，從她離開房間後所接觸的一切事物都是新的體驗。

不同於《機械公敵》人性化的索尼或是更邏輯思考的薇琪，艾娃並沒有展現過多的人性或是超越一般人邏輯的想法，反而更像是她還在選擇未來的自己要如何發展。她就像是一個擁有龐大資料庫的仿生機器人，不斷的吸收新世界的體驗，在來到屬於人類世界的十字交叉路口時，觀察這些人類的行為模式，漸漸的演化歸納出屬於自己的生活型態，可能更為人性、也可能更加邏輯化。但在這內心演化之上的表面，她早已學會了欺騙與隱藏自我真正的想法。也就是除了她自己之外，沒有人能知道她是否只是單純的人工智慧還是人造意識。

所以「意識」究竟是甚麼？是不是只要能區分自我與他人的不同、了解到自己的行為模式、甚至行為背後的原因、理解他人的行為並進行適當的反饋回應、知覺、記憶、行為控制等等這些就算是「意識」嗎？如果我們可以將關於「意識」的所有理解一一列出，且化為程式輸入到一部超級電腦哩，那麼這個電腦就算是有意識嗎？或許下一部電影會有一些解答 ──《攻殼機動隊》。

附註1：圖靈測試基本上就是測試者A分別對於受試者B與C詢問一連串的問題，在沒有見到BC的情況下(BC其中一個是機器，另一個是人)，測試者A沒有辦法分辨出那個是機器，那一個是人，那麼機器就算通過圖靈測試。當然現今圖靈測試的版本已經隨著人工智慧的高度發展，有更多的項目，但電影中是採取已知對方是機器人的情況下，是否還會認為其有自我意識(已經不是單純測試人工智慧)。

附註2：黑白瑪莉原本是回應是否所有的知識都會是「物理知識」所建構出來的論證。如果我們對於顏色的所有知識，都讓一個從小就只生活在黑白房間的瑪莉知道，而在這個房間之中她雙眼所能看到顏色、自身的衣服、裝飾等等，都只有黑白兩色的情況下，她擁有所有關於顏色的知識會不會在她走出房間後，得到新的知識？例如她看到真的黃色，會不會有黃色的新知識產生呢？如果有，那麼交給她的所有關於顏色的物理知識，就不是「所有的知識」，又或者說她擁有所有的物理知識，但這個關於黃色的的新知識，並非是「知識」而是一種新的體驗，她從未經歷過的感官知覺體驗而已；抑或是她得到新知識，但卻非是物理知識，而是來自更深層、非物理性的，所謂「心靈知識」呢？

附註3：這裡稍微分辨一下人工智慧與人造意識(人工意識)。基本上電腦都算是某種程度的人工智慧，只是這個智慧的涵蓋比較狹隘，且大部分是指電腦的運算。而像是NS-4、京子這類型的機器人已經脫離基本的人工智慧，他們對於事物皆有一定的判斷能力。但是正如電影中所提到「下棋理論」，一台會下圍棋的電腦，它到底知不知道它在下棋，因為下棋本身就是它所會的，它知道怎麼下棋，但是它會意識到自己下棋嗎？而電影表現的部分似乎更多是在它所執行程序的部分，就算是最後京子對自己的創造者攻擊的行為，也是在艾娃低語後的結果，似乎是艾娃修改其程序語言的指令，讓它得以攻擊納森。

附註4：可參考2019的《因果革命：人工智慧的大未來》翻譯一書。