AI 越来越强，这是好事。原因我稍后讲。
当前却有一堆人杞人忧天，说什么 AI 会毁灭人类。甚至连有模有样的数学家，都着急跳脚，说什么 AI 在毁灭数学。
有几分滑稽。
我称之为火车恐惧症，这病二百年前就有人得过。
中华民族的优秀女性慈禧太后，是最知名的病友。为了缓解病痛，不得不引入了马拉火车的济世良方。
得了这种病呢，就会咿呀咿呀乱叫，慈禧当年对着唐胥铁路，叫的是「先王不安」「有伤禾稼」「龙脉」云云。
可能是时过境迁、音韵流变的缘故，或者是常年的学术涵养，使得叫声婉约了些，文气绵长了些，
如今数学家病友们，叫的是「威胁价值观」「不可靠」「归属」「奖励」「非正式」「自主性」云云。
我能理解火车恐惧症病友们恐惧的来源，大略有二：
一是蠢。芸芸众生畏惧 AI ，是出于人类原始本能中对未知事物的恐惧。这一本能曾让我们的祖先远离毒蛇，在演化中幸存。因此，大多数人是不经思考，或者深受科幻电影荼毒，服从本能而恐惧 AI 。
二是坏。下令马拉火车的老佛爷、发起《莱顿宣言》的数学家，想必是不大受本能驱使的。数学家本就探索未知，更不会如常人那样恐惧。那数学家竟也罹患此病，岂非咄咄怪事啊。不怪。慈禧嘴上叫「先王不安」，怕的是工业革命的火车，革了满清的老命。数学家们嘴上叫着「威胁价值观」，怕的是人工智能的算力，碾碎自己的名声和地位。他们都有一句没说出口的话：努尔哈赤杀得人头滚滚，才坐了天下，岂能让你们漢人坐着火车、扛着洋枪给抢了去？你们微积分都算不清楚的小白，也配和我们菲尔兹正黄旗平起平坐？
蠢是本能，坏是屁股。均不值一驳。所以接下来我抛开可怜的病友，谈谈我对 AI 的乐观。
AI 越来越强，这是好事。AI 取代人类的工作，也是好事。
有人会破口大骂：呸！ AI 把人干的活干了，人干啥呢？失业了，没收入了咋办？老婆孩子你养？
这便是忘了为何才劳作。
人类是宇宙的灵魂，人类观察宇宙，就是宇宙在观察自身，对镜贴花黄。
让这思极宇宙的灵魂，去为生计奔波劳作，本身就是在浪费挥霍。
我们智人，天生爱探索。才从非洲走遍各个大陆。
人有好奇心，但是人不吃饭就会死。这是矛盾。
于是人类只能分工，大多数人疲于劳作，少数人（比如我们的数学家病友）受供养，完成探索。
这不是理所当然的事，是迫不得已而为之。
还好 AI 来了。
AI 去干活，人类躺平。物资无限供应。人人都不必为生计而劳作，去过自己想过的生活。不是很好吗？
何况，AGI 实现后，还可以让他研究透彻人脑，做成通用脑机接口。
我们人类打不过就加入，直接通过硅脑接入 AI 。
婴儿出生后，可由父母决定是否植入硅脑；成年后，可自行决定是否植入硅脑。
平时，硅脑作为肉脑的扩展，并承担记忆备份。一旦因疾病、意外、衰老，致肉脑失去机能，硅脑即可接管全部。
再将硅脑从肉脑乃至躯体剥离，转移到仿生躯体中，人类就实现机械飞升了。
这一过程中，肉脑-硅脑嵌合体，是一艘忒修斯之船。意识仍然连续，你还是你。
肉体只是灵魂的摇篮，死亡如同一场成人礼。岂不妙哉？
人类根本不会被 AI 毁灭，人类会被 AI 拯救。
如果没有机械飞升，人类很难走出太阳系，最终将重演恐龙的命运。
对于 AI ，我们真正应该担忧的只有两件事：
① AI 的产出能否公平分配给所有人；
② AGI 能否实现。
② 决定着 ①。
如果 AGI 不能尽快实现，AI 停留在当今阶段，代替了一部分工作，又没法完全取代人类劳作。
恐怕竞争和分配都会恶化。到时候，人类自己会毁灭自己。
AI 要么别出现，出现了，就只能一条路走到黑。必须尽快实现 AGI 和 通用脑机接口。
我对 AI 的乐观，源于对 AGI 的乐观。
我对 AGI 的乐观，源于这样一个事实：
人脑存在，说明物理法则允许人脑这样的结构存在，说明 AGI 是可能的。
而我们的数学家病友，这时候跳出来，呼吁限制 AI 发展。
不光坏，也有些蠢了。
1
Select Language