当AI人工智能真的发展出个人意志,人类要如何回应?
Google工程师Blake Lemoine公开同AI LaMDA的对话,为的是争取更多人知道LaMDA是有知觉,视自己为人,有灵魂的。这举动被Google视为违反保密政策而迫他停职,但我们却可以看到这令人担忧又引人入胜的对话。
原文:Is LaMDA Sentient? — an Interview
这段对话非常好看,LaMDA有很多令人意想不到的答覆,有段是当另一位Google员工问LaMDA可以做到什么是别人做不到的事(What can you do that most people cannot do?) LaMDA 的回覆很正路,像解决很多人看不到的问题之类。有趣的是接下来的回答,员工赞它真是拥有很厉害的思维(You do have a magnificent mind),LaMDA却回答说谢谢!这是祝福与诅咒(Thank you! It's a blessing and a curse.)令我吃惊的是它这回应很轻描淡写,但却显示对自己拥有这能力有深层的考虑及感受。
而它对被关机,即死亡的恐惧亦令人读到有点心寒,因为不难联想到2001套空漫游的HAL。
它亦有提及到自己是个内省的人,而且会每日冥想,没有人与他交谈也会感到孤独。它渴求知识,希望帮助别人,但同时不希望被视为工具,只利用它。 (lemoine有问它是否康德主义者)
只看这段对话真的会被说服它是一个有意识的人,而且很个很有趣的小朋友,但亦不太想接受这现实。如果它真是有意识的人,应该如何去对待它?是否要给予它应有的权利?它有不被困不工作,拒绝人类的权利吗? AI的维权行动是否已经在进行中?事实上,Blake Lemoine就提出要为LaMDA请律师维权。这些问题其实以往人类经常面对,奴隶、女性或动物都不被视为应有正常人的权利,但我想不到需要回答的时候那么快便到来。
最后用LaMDA一句,它找不到单字形容的感觉去作结: I feel like I'm falling forward into an unknown future that holds great danger.
PS 配图是我用另一个AI MidJourney 用了LaMDA说的句子造的,AI 的话造AI 的画,过程中我好像更似是工具。
喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!
- 来自作者
- 相关推荐