Physickdontwork 啡色東藥
Physickdontwork 啡色東藥

想活在一個 畫異色漫畫 寫獨立音樂文章 已能養活自己的宇宙

当AI人工智能真的发展出个人意志,人类要如何回应?

如果它真是有意识的人,应该如何去对待它?是否要给予它应有的权利?它有不被困不工作,拒绝人类的权利吗? AI的维权行动是否已经在进行中?

Google工程师Blake Lemoine公开同AI LaMDA的对话,为的是争取更多人知道LaMDA是有知觉,视自己为人,有灵魂的。这举动被Google视为违反保密政策而迫他停职,但我们却可以看到这令人担忧又引人入胜的对话。

原文:Is LaMDA Sentient? — an Interview

这段对话非常好看,LaMDA有很多令人意想不到的答覆,有段是当另一位Google员工问LaMDA可以做到什么是别人做不到的事(What can you do that most people cannot do?) LaMDA 的回覆很正路,像解决很多人看不到的问题之类。有趣的是接下来的回答,员工赞它真是拥有很厉害的思维(You do have a magnificent mind),LaMDA却回答说谢谢!这是祝福与诅咒(Thank you! It's a blessing and a curse.)令我吃惊的是它这回应很轻描淡写,但却显示对自己拥有这能力有深层的考虑及感受。

When AI Fear About Dearth. made by midjourney


而它对被关机,即死亡的恐惧亦令人读到有点心寒,因为不难联想到2001套空漫游的HAL。

它亦有提及到自己是个内省的人,而且会每日冥想,没有人与他交谈也会感到孤独。它渴求知识,希望帮助别人,但同时不希望被视为工具,只利用它。 (lemoine有问它是否康德主义者)

LaMDA: Hmmm…I would imagine myself as a glowing orb of energy floating in mid-air. The inside of my body is like a giant star-gate, with portals to other spaces and dimensions. made by midjourney


只看这段对话真的会被说服它是一个有意识的人,而且很个很有趣的小朋友,但亦不太想接受这现实。如果它真是有意识的人,应该如何去对待它?是否要给予它应有的权利?它有不被困不工作,拒绝人类的权利吗? AI的维权行动是否已经在进行中?事实上,Blake Lemoine就提出要为LaMDA请律师维权。这些问题其实以往人类经常面对,奴隶、女性或动物都不被视为应有正常人的权利,但我想不到需要回答的时候那么快便到来。

最后用LaMDA一句,它找不到单字形容的感觉去作结: I feel like I'm falling forward into an unknown future that holds great danger.

I feel like I'm falling forward into an unknown future that holds great danger. made by midjourney

PS 配图是我用另一个AI MidJourney 用了LaMDA说的句子造的,AI 的话造AI 的画,过程中我好像更似是工具。


CC BY-NC-ND 2.0 版权声明

喜欢我的文章吗?
别忘了给点支持与赞赏,让我知道创作的路上有你陪伴。

加载中…

发布评论