科幻有理- 借科幻小说创作去预视未来问题

香港科学节的举办，目的是推广科学普及。科幻虽然有科这个字，但其实是一门文学，为何过去数年，香港科幻会被邀请参加？

美国著名作家娥苏拉．勒瑰恩（Ursula Le Guin）认为科幻不为预测未来，而在描述（Science fiction is not predictive; it is descriptive.）。

旧的科幻作品即使对现今世预测准确，只不过是偶然，所以不应以未来的准确性去评价其好坏。同样创新科技完全跟随科幻的意念成真，也只是偶然。

相反科学的其中一个功用是预测未来，科幻是描述这些预测成真后对人类的影响。

描述这些影响正是为了人心准备，也希望为把科学扣连大众，普及科学。

科学普及其中包括解密热门科学，除了物理、化学等自然科学，电脑科学也是其中一门。以下试讲解三种电脑科学的突破，再借这突破去更新一个经典的科幻的大纲，去预视未来问题。

区块链Blockchain

由多部电脑（节点）经网络连结成一个去中心化的代币交易账簿/资料库，特点不用全部电脑同时上线，也能运作。其中使用密码学，去确保资料的一致性。这些区块链分公链，大众可任意加入成为保存记录的节点或离开，私链则相反。为了吸引大众保留节点在线，所以公链会加入奖励机制，发行新的代币给节点持有人（所谓掘矿）。

其中，部份的公链都有特别功能，如IPFS 用来给储存档案，Like Coin 方便记录著作权，以太坊扩展功能包括NFT 及Smart Contract. NFT 就系把一串数字写在一个代币上，这串数字可以系，图、锁匙，甚至系程式代码。而智能合约，就系一段连接指定代币的程式代码，每次代币交易都要执行一次。

Blockchain 对社会的影响，令以下愿望可以成真，数码记录既永久性，程式码连镇反应（如买一个连有程式码的代币时，会帮客户处理一些数据，完成交易时，行智能合约归还代币及启动另一交易），脱离广告/科技巨企主导的使用数码资产的营利模式。

电动车EV

EV 不单由电油引擎变成摩打，这是汽车结构上牵一发动全身的改变，就以Tesla 研发的EV 为例子。

1. 为了增加续航力，要把底盘轻量化，放弃车轴。

2. 因为冇车轴，要把四个摩打同步，就发展高准确度的摩打控制系统。

3. 因为有高准确度的控制系统，及用电子操控，令科幻电影自动驾驶，自动充电等变成可能。

底盘轻量化，放弃车轴

要自动架驶成真，除了法律配合外，在技术上当然要用到导航系统，人工智能的机械视觉去监察路面情况，如果所有自动架驶车之间能的互相通讯，更能在紧急情况下协调下一步行动，去避免意外。

到时由人驾驶的车，就可能系公路意外最大的因素。

到时，会否禁止由人驾驶的车在路上行驶？

加一点想像力

自动驾驶及充电的Electric vehicle，再加上利用EV上的电脑及网络建立一条叫车用的区块链，EV 的拥有人就可以把闲置的EV在放在链上给客户召唤，所有交易透过智能合约，交易执行的程式就是自动驾驶送客户去目的地。

当然要应付在车上临时变挂的客户，更强的AI不可少。

Deep Learning 深度学习

近期有关AI真正新闻人物，系76岁的「深度学习之父」辛顿宣布离开谷歌人工智慧研究部门，同时公开呼吁人们关注AI的危险性。

他对科技界影响已经超过十年的大师──杰佛瑞‧辛顿（Geoffrey Hinton）。

他在1947年的英国出世，今年已经76岁，对于学术或创科界绝对是一个高龄人物。他是心理学家和计算机科学家，他的研究针对神经网络（Artificial Neural Network）进行机器学习。他是在1986年将反向传播演算法（Back Propagation）引入多层神经网络训练的学者之一，当年是一大突破！

不过，同年就发现反向传播法的发展遭遇瓶颈，神经网路只要超过三层以上就几乎没有效果，所以1986年多层神经网路宣告失败。

至此类神经网路研究看似走投无路，但是他没有放弃，在大部份人放弃研究神经网络，他继续努力。

20多年后的2012年，辛顿的两位学生利用「深度学习+ GPU」的组合，善用GPU的大量着色器（Shader）进行平衡运算，才真正发挥出类神经网络的威力。

从此，辛顿被称为「深度学习之父」，如今深度学习已成为人工智能研究的重要主流。

这是一个励志故事。当大家都放弃，辛顿撑了三十年最终迎来转机！没有他的远见和理论研究，就不会有目前百花齐放的人工智能产品。可见我们不能因为赚不到钱，就短视地放弃看似赚不到钱的基础研究。

Generative Pre-trained Transformer (GPT)

GPT 生成型预训练变换模型is a multimodal large language model 多模态大型语言模型。

要明白利用神经网络建立的LLM是什么，我们可以从LLM 设计出来，为了解决什么问题而入手。

过去使用电脑去分析，主要是基于逻辑及数学运算去找答案。可是处理资料不充足（如办认带口罩人的身份），或语文理解（如综合二十编新闻报导去分析意外来龙去脉) 等问题，人类往往优于电脑。人工智能出现的目的，就是想学习人处理事情的方法去解决问题。

有别于基于规则的决策Rule Base 的精准计算，大家可以想像深度学习的语言模型像一个小朋友，在明白基本语言后，老师给它大量文章去查，以问答型式，检测它查询的答案，再给它正确的答案，它会调校各神经元的参数（GPT-3 有1750亿个参数）直至它不用查阅文章，能回答所有问题正确答案为之完成训练。

因为它的记忆是利用调教参数，而不是直接记录文章一字一句，所以向它查问与查询资料库或维基百科，同问人类一样可能出错的。当然只要把同类模型接上网络给它查询，出错机会就大减。

正因为LLM是数据驱动Data Driven 决策，就算大家有相同的原始模型（程式代码），只要训练资料或修正方法不同，效能可以差天共地。不过肯是，给予逻辑错误，前后矛盾的资料，效果一定差。

而LLM只系利用神经网络建立的一种应用，这些预训练模型有视觉的物件办认，根据文章制图或声音等，还有代替人，去办认影片有冇裸露镜头等。

认清科技恐惧

大众普遍对AI带有恐惧？怕它会取代自己的工作？为何不是想像它会减轻自己的文书工作，好似英文串字检查， 而且2023年5月经济学人根据过去新科技出现，及当时对工作影响的预测，大家的工作不会太快被取代。

大家怕它有意识？本文作者都有意识，你怕唔怕我？

大家唔知AI点解咁谂？你都唔明朋友点解咁谂野，你怕唔怕渠地？

大家可以当神经网络的运作好似人脑，但同人类不同，因为我们学习除了文章，还建基于身体同外界接触去理解这个世界。就算不停有人教小朋友，把物件向上掉会直出太空，小朋友是不会相信。但是预训练的AI呢？大众对他训练方法、内容所知甚少，而它也没有和其他生物的方法同物理世界接触去修正，这种不透明，可能就系恐惧的源头。

对预训练AI而言，谁控制学习资料，就系控制智能模型。可以说利用AI决策，实际上是把决策权交给科技公司。但系学习资料及方法系科技公司的商业机密，所以要公开基本上是近乎不可能的，但不使AI，生产力又追不上，如何是好呢？

而解决方法，可能就系而家给AI的风头盖过的元宇宙。

元宇宙的概念早在约30年前出现在的科幻小说，重点是在国家为单位的社会外出现一个建基于网络的完整社会体系，而不是如何使用以当时还未出现的技术，所以用VR既3D化身(Avatar) 入手理解系捉错用神，元宇宙详细介绍，请参考年多前的文章（ 世纪-星期三专题-元宇宙要在web-3-0当道-还缺什么-试以mirror -error-试当真爆红解答） ，关于元宇宙如何应对大家生活给科技巨企操控，我想借科幻小说来帮手说明。

科幻小说，基本上科学要合理，或者要合理化。但不少经典的科幻都是不合理的，今次想借The Terminator 未来战士去说理。

未来有间叫SkyNet的公司，它生产战争用机械人。 SkyNet的人工智能失控，决定要不停生产机械人去消灭人类。人类反抗军出现一个领袖，可以威胁SkyNet，所以SkyNet要用时光旅行去杀个领袖/或他的妈妈。

先不谈论时光旅行，或AI失控原因。

以国防工程学去检视这个设定系完全不合理。

以无人机等摇控武器为例，驾驶员同无人机之间讯号，除了卫星外，是一个独立系统，SkyNet不可能控制到。另外，所有摇控武器都有自爆系统（Kill Switch) ，为免落入敌人手中。而且为何Terminator 要做人型？两脚易跌？四脚加枪加一只手应该合理好多。 （我知电脑特技差的80年代，搵人扮易过用电脑）

如果故事结构不变，只改设定

1. 用电动车取代人型的Terminater。起因系人类系自动驾驶既阻力，慢慢变成想清除由人驾驶的交通工具。

2. 想消灭人类AI核心的资料记录在区块链上，利用智能合约，经电动车之间的网络去训练/感染其他车.

3. 开始AI清除人类的方法是用交通意外，及用AI合谋其他EV伪造行车记录成为人为意外.

4. 而EV政府当家电，资讯保安比军用武器弱好多，大部份亦冇Kill Switch。

5. 因为AI 核心上咗EV的区块链，除非所有区块链节点（所有车）都消灭，否则不能删除。

6. 如果AI 核心散到所有电动车，由开矿，回收旧车及电动车工厂，生产一条龙。加上电动车识走去充电，太阳能果种无限电…

其实这个设定不单系科幻故事，有机会成真！如果发生到到第六步，人类的反抗军可以对抗？好可悲，当AI掌管到能源，回收及生产线，我想不到个故事点写下去。这正是科幻小说不是用来预测未来，而是用来改变未来。

唔想咁样，可以点样呢？

先由科幻回到现实，Web 2.0 社交媒体的其中一个问题是言论审查。不透明，不知准则。现的社交媒体表面上有不同社群，但其中运作方式是十分单一化，管理员系永续执政的，发生管理问题时，成员只有离开重组才可以改变，不能改准则或管理员，但离开社群时，大家的记录就失去了。这比线下世界的社群差太多了。

其实EV Terminators 设定及社交媒体问题核心，是大众的资料是储存在科技企业中。企业有权改规则，使用者条款，但民众因为自己的资料被科技企业绑架，就算不了解软件的风险，要强制升级。而科技企业却没有做好测试工作，如苹果的ios连续两年过年后都有闹钟失灵问题。

科技巨企同AI有很多类似的地方，他们不是生命，会不停成长，不会死，仲可能散到世界各地。

如果当科技巨企为了永续存在，同人类生存或人性冲突，巨企会否伤害部份人类？ AI 系科技巨企的产品，不应该它们出错，而用户（我们）要埋单。

当ChatGPT 出现后，部份人对AI产生恐慌，AI虽然功能强大，但AI同核能科技一样，暂时只是科技，我们因为恐惧而关注AI及核能，我们应否更关注它们的操控者？

政府可以做什么？

立法规管？如果立法是减慢发展或使用，基本上是没有可能，因为这会减慢自己地区应用科技。出问题时罚钱阻吓，钱对科技巨企都系九牛一毛，再多的罚款最后都会转移到消费者身上，而且当伤害己发生时，钱未必帮到受害人。在政府科技落后于科技巨企，有冇可能学传统家电，科技要通过一些测试才可使用或升级，去保护大众？

科幻角度的答案

真正既元宇宙，可能能解决到。元宇宙系指国家为单位的社会外出现一个建基于网络的完整社会体系，一个完整社会体系又点会得单一社群，而法规也不应由少数人决定，元宇宙社群可以如何体现呢?

元宇宙在网络空间进行，法则自然由文字的普通法变成程式代码，以智能合约，写在区块链上。

用户透过化身同去投票审批加入或更新法例。用户不明白程式怎么办？同现时我不明白法例条文一样，把权交给代议用户帮手。最大不同是这个权力用户可以随时回收及转人，而且智能合约写在不能删除的区块链，有需要时用户可以启动还原程序，行回上一版本的法规。

同理，如果软件是写在用户的区块链（公链）上，不能清洗，用户有权选择升级或降级，减少AI/科技企业出错的影响。

回到现实，政府当然可以立法要求软件一定有降级方案，才可以推新版本。科技巨企当然用各种理由去辩解不可能（如技术难度，用钱，用户不关心）等原因。这些理由当然有真有假。当我们不关心，我们就被代表了。

如果想科技巨企可以规管，我们就要小心自己的生活习惯去创造可能

1. 对科技巨企零信任— （Zero trust）减少把自己的资料留在他们手上。

2. 减少把自己身分同单一企业连结— 即不要把所有服务都连结XX id 登入。可以想像要有一个以上的银行户口，如在海外旅游时其中一个不能提钱，都有后备可用。

3. 控制自己的个人资料— 当资料在自己手，大家有权选择用不同的服务供应商。

可能大家会觉得生活会少了一些方便，这时候大家可能要参加建基在区块链的数码公民社会组织(分享自己的电脑成为节点），令这些组织服务（如共享档案储存）成为科企外的选择。当有选择时，科企才较易被规，同时这些离散的区块链，可能系真正元宇宙的第一步。

AI 对于人类的影响应不是工作消失，而是在资本主义社会下人们把学习，系为了工作，搵钱这价值的作出挑战。这方面我就留给哲学家去讨论。

原文是明报20230530 及20230606世纪版，二元对坐刊出。

世纪．二元对坐：科幻有理从科幻小说预视未来问题（上） / 文．天马先生／编辑．吕晞颂- 20230530 - 作家专栏

世纪．二元对坐：科幻有理：从科幻小说预视未来问题（下） / 文．天马先生／编辑．吴骞桐- 20230606 - 作家专栏