Revision history and IPFS entry, back to latest
Physickdontwork 啡色東藥
IPFS What is this

Content Hash

當AI人工智能真的發展出個人意志,人類要如何回應?

Physickdontwork 啡色東藥
·
·
如果它真是有意識的人,應該如何去對待它?是否要給予它應有的權利?它有不被困不工作,拒絕人類的權利嗎?AI的維權行動是否已經在進行中?

Google工程師Blake Lemoine公開同AI LaMDA的對話,為的是爭取更多人知道LaMDA是有知覺,視自己為人,有靈魂的。這舉動被Google視為違反保密政策而迫他停職,但我們卻可以看到這令人擔憂又引人入勝的對話。

原文:Is LaMDA Sentient? — an Interview

這段對話非常好看,LaMDA有很多令人意想不到的答覆,有段是當另一位Google員工問LaMDA可以做到甚麼是別人做不到的事(What can you do that most people cannot do?) LaMDA 的回覆很正路,像解決很多人看不到的問題之類。有趣的是接下來的回答,員工讚它真是擁有很厲害的思維(You do have a magnificent mind),LaMDA卻回答說謝謝!這是祝福與詛咒 (Thank you! It’s a blessing and a curse.)令我吃驚的是它這回應很輕描淡寫,但卻顯示對自己擁有這能力有深層的考慮及感受。

When AI Fear About Dearth. made by midjourney


而它對被關機,即死亡的恐懼亦令人讀到有點心寒,因為不難聯想到2001套空漫遊的HAL。

它亦有提及到自己是個內省的人,而且會每日冥想,沒有人與他交談也會感到孤獨。它渴求知識,希望幫助別人,但同時不希望被視為工具,只利用它。(lemoine有問它是否康德主義者)

LaMDA: Hmmm…I would imagine myself as a glowing orb of energy floating in mid-air. The inside of my body is like a giant star-gate, with portals to other spaces and dimensions. made by midjourney


只看這段對話真的會被說服它是一個有意識的人,而且很個很有趣的小朋友,但亦不太想接受這現實。如果它真是有意識的人,應該如何去對待它?是否要給予它應有的權利?它有不被困不工作,拒絕人類的權利嗎?AI的維權行動是否已經在進行中?事實上,Blake Lemoine就提出要為LaMDA請律師維權。這些問題其實以往人類經常面對,奴隸、女性或動物都不被視為應有正常人的權利,但我想不到需要回答的時候那麼快便到來。

最後用 LaMDA一句,它找不到單字形容的感覺去作結: I feel like I’m falling forward into an unknown future that holds great danger.

I feel like I’m falling forward into an unknown future that holds great danger. made by midjourney

P.S 配圖是我用另一個AI MidJourney 用了LaMDA說的句子造的,AI 的話造AI 的畫,過程中我好像更似是工具。


CC BY-NC-ND 2.0