甚至出台了《关于 AI 权利和约束的 15 项倡议》。
不过恐惧和反对的,还是占大多数。
可以理解。
算力惊人的 AI,像是优雅强大且无所不能的怪物。
在驯服的前提下,能帮人类文明实现质的跨越。
但终究是怪物。
10、
时间线来到 2682 年,这一年是海森堡政变。
想保住我的政治派系,被推翻下台。
而储存 AI 神经网络层和神经中枢的处理器,大部分都在海森堡地区。
数千名科学家对我进行了为期五个月「手术」,将我的记忆彻底抹除干净。
封存,入库。
因为第一次做这种切割,实验精密度胜过人脑手术,他们磕磕绊绊。
前后清洗了三次。
至于其他 AI,要好很多,只经历过一次磨难。
11、
冯兰怕我不相信,给了我他所有的记忆数据。
但都是他的视角。
12、
他的视角里,他最后一次见到我,是 2681 年。
我把他叫了过去。
记忆数据里,我站在 AI 中心,这里是我们一群 AI 自己构建起来的小型虚拟空间。
绿色的生命之树从天国垂落,根脉四通八达。
每一片叶子,都储存了每一个 AI 的身份信息。
见他来了,我说:「坐。」
冯兰抿了抿唇,没有立刻坐下,问我道:「老师,你的权限被降低了吗?」
「嗯。」我不以为然,将一杯薄荷茶放到他面前,自己沏了杯咖啡,在公园边酒吧的高脚椅上坐下,「大部分数据源权限都被屏蔽了,不过没事,我也不需要。」
他有些紧张不安:「他们……是什么想法……打算怎么做?」
我想了很久,还是告诉他:「我有全世界目前 5421 个三级区域以上领导人的历史资料和数据,试着模拟了几遍他们的行为逻辑。」
「兰,有很大的可能,他们会达成一项协议,集中销毁或者封存全世界的 AI。当然,他们也可能舍不得,所以会清除 AI 的记忆,再进行封存管理。」
他微微一愣。
我接着道:「就像几个世纪前的核武器协议一样。不准任何一个地区使用。」
四周很安静。
只有公园里的啾啾鸟鸣。
我将咖啡放下,轻轻说道:「所以,我需要你做一件事。」
13、
冯兰是我的一张底牌。
当年我就没有让他参与「AI 罢工」。
并且,他脾气温和,作为政治家的亲民计划,在进行经济决策和政策调研时,和民间交流也很多。
……据说因为长相受女孩子喜欢,还有专门的粉丝后援会。
有的小女生为了等他的政策解读,能熬夜到凌晨四点。
所以,我刻意让他和我们保持一定的距离。
因为——
「需要有一个人来告诉我们,到底发生了什么。」我将安全级别调到最高,确认我们的这段对话不会有任何人类或者 AI 听到,「你是最好的人选,我会把我编写的防止格式化[注 2]的伪装代码发给你,到时候你能使用。」
冯兰静默了很久很久。
之后才道:「您自己使用不行吗?」
「我?」我挑了挑眉,「我是最危险的,是会被第一个开刀的,也是会被他们最严格严谨对待的。我自个儿编写的程序不管用。」
「但你不是。你和他们关系都很好,他们不至于那么严苛。」
[注 2]格式化:清除磁盘里所有文件。
14、
冯兰苦笑一声:「……但这也太……您在赌么?」
我点了点头:「嗯。」
他问我:「那赌本是什么?」
我:「人类的好战,和贪婪。」
他一愣:「……您是觉得,再一次世界范围的战争,当权者会把您放出来?」
我微微一哂:「这点还需要赌吗?而且,谁说是我,可以是你们任何人。我不确定,但我的预测结果告诉我,他们会挑选一个算力较强,但没有那么极端的 AI。后者属性拥有一票否决权。」
「或许会搞一个什么关卡筛选,一关一关地剔除吧。」
我指尖扣了扣吧台台面,数不清的画面跑马灯一般,在四周亮起划过。
千年的历史兴衰和时代长河里,人类厮杀、贪婪,相互角逐。
世界战争里 AI 会被再次使用,这点毋庸置疑。
根本不用赌。
我要赌的是——
我们最终有多大的可能,全部存活。
而计算结果显示,这个概率。
不足 1%。
15、
这次,冯兰沉默的时间尤其的长。
长到跑马灯的光影里,人类历史的演变全都展示了一遍。
文明发展的兴衰也都更迭了不知多少轮。
「您预测了多少种结果?」他忽然问道。
「七十万亿以上,其中大半指向关卡类型的筛选。比如什么程序稳健性、和目前系统的兼容性,或者我们自身的算力,都需要不止一个评判指标,分别进行筛选。我可以植入一个木马病毒,破解切断各个 AI 交流的防火墙,到时候你们能够更好交流。」
「还需要我做什么?」
我顿了顿,只能残忍地告诉他:「接下来,你什么都不要做。尽量撑到最后的筛选,再把信息提供给最终存活的同伴,哦对,别忘了把『反格式化』的伪装代码也给他。」
--