塔斯娱乐资讯网

《隐山》——从旧世界到新世界楔子1 马库斯·雷恩 网页链接2 复现 网页链接3

《隐山》——从旧世界到新世界

楔子

1 马库斯·雷恩 网页链接

2 复现 网页链接

3 薇薇安与德雷克 网页链接

4 虚空(The Void)

望着屏幕上那个缓缓显形的「空」,他在想,他是被它捕获了吗?有没有可能,他曾经能够逃离它的捕获呢?但第二次见到它时,他是自己主动送上门去的。

※※※

当时他正在斯坦福继续攻读计算机博士。那个突兀出现在屏幕上的空洞激发了他的好奇,虽说他内心怀疑态度居多。但恰逢2022年11月,ChatGPT上线,两个月用户破亿,成为现象级产品,直接引爆全球AI热潮。他知道,以AI的指数级进化能力,世界模型和RSI的未来不再遥远,那个洞当真成为一个近在咫尺、触手可及又会随着模型不断优化而更加深不可测的谜题。他决定继续把这个课题深入下去。

徐清风的「火山口」比喻让马库斯意识到:如果它是一个接口,那么就需要一个工具来守卫这个接口,监测信息的进出。流形镜只是「看」到接口;于是他造出来一个升级版本「拓扑守卫」,守卫接口,试图理解进出的信息模式。

他本来抱持的态度是半信半疑地观望,结果,他竟然又一次在屏幕中央看见了那个「洞」!这个结构,居然可以跨模型重现!他感觉像有一道电流从后脊背爬过。

他想立刻找到徐清风进一步讨论。但几经打探才发现,她完成计算机硕士学业后,居然转向去攻读地理地质方面的博士了。中国人果然很神秘。

※※※

终于找到她后,他几乎是拉着她飞奔向实验室,这是他活了这么多年从来没有过的举动。她仔细观看了他的新发现,说她即将远赴埃及去做一些田野考察。那是一个春天的傍晚,他俩最后一次对话如下:

「你为什么去读什么地球系统科学?那不就是高级气象学吗?」他承认他因为着急而口不择言,完全顾不得有没有礼貌、是否越界。

她微微一笑:「马库斯,你还记得我跟你说的火山口吗?你的工具越来越精密,但仍然在模型内部打转。而我想知道的是:模型和真实世界之间的边界在哪里? 这个问题,在计算机系找不到答案。」

「边界?边界就是输入和输出。」

她摇头:「不。边界是物质。是硅芯片上的电子,是数据中心的散热风扇,是训练这些模型的电力来自哪座核电站。你研究的是思维的几何,但我想研究的是思维的地质学——思想如何扎根于物质。其实,你这两次的研究成果还帮助我坚定了自己的想法。真的非常了不起。」

他当时觉得她在浪费天赋。但他没有说出口。没情商的话他只会冲口而出一次,他毕竟是一名英国人。

在那之后,他也确定了自己真正的研究方向。徐清风要去探索数字世界与现实世界的边界,这是一种拓展;而他要在此处深挖下去。他俩于此处相遇,经过这个分水岭,分别走向属于自己的新的路径。

※※※

他给那个「洞」正式起名为「虚空」——The Void 。

这个命名,像某种缝隙,暴露了他内心某种不那么理性的、有点诗意化的部分。而他的博士论文即是对它的相关研究与推测。论文标题干脆就用徐清风的那个点,起名叫《思维的几何:神经表征空间中的流形、拓扑与异常结构》。

论文的Ch.1-3是基础研究内容,神经流形假说、维度坍缩规律、概念测地距离等;重头戏出现在Ch.4「The Persistent Void」篇章。他讲述自己在分析 GPT-3 级别的模型时,用持续同调扫描表征空间,发现了一个无法解释的拓扑异常:一个 persistent 2-cycle(二维洞) ,存在于模型的第 31-34 层。这个洞不对应任何已知的语义概念、语法结构或推理模式;更诡异的是:这个洞的「位置」(在同调群中的坐标)在不同架构的模型中以某种规律重现——仿佛是一个「固定地址」。马库斯指出,这可能暗示神经网络中存在某种「超出当前理解框架的计算基底」。

在论文的Ch.5「Toward a Substrate Theory of Computation」篇,他提出一个更大胆的框架:也许我们不应该只研究「表征空间中的信息」,还应该研究「信息赖以存在的几何基底本身」。他引入黎曼几何中的「度量张量涌现」概念:在某些深度网络中,表征空间的度量结构似乎不是由训练数据决定的,而是由某种更深层的「自组织原则」决定的。这一章非常哲学化,被审稿人批评「缺乏实证」,差点导致论文延期。

论文发表后,在学术界引起小范围轰动,但也遭到大量质疑——有人说这是计算伪影,有人说他在炒作。但他现在回想,现在这家顶尖AI实验室应该就是因为这篇论文录用的他。

如今,阳光从西边斜斜投射进来,屏幕上,「The Void」越来越清晰。

第四次,确凿无疑。

※※※

现在,问题已经从「它是不是真的」,变成了「它是什么」。

未知的恐惧如同渐沉的暮色一样包裹住了他。世界消失了,只剩他自己。他离开了椅子,靠着墙边坐下。他需要一些更可靠的支撑,连通大地的那种。他双手环抱膝盖,把头埋进去,像埋进那个环里。

他想:这,究竟会是什么东西呢?它存在了多久?为什么要扫描大模型才扫描出来?它究竟在哪里?它是什么结构?它……有没有情感,它到底要干什么?他发现自己好像也在变成自己那些同事们。他甚至想起母亲在他幼年发高烧时对神的祈祷,近似于某种哀求。

他稍微理解到一点他们那种情绪——是因为人类过于渺小,无助,所以窥探或求助于某种未知而(可能)超级强大的东西时,不由自主地,套用了最熟悉的已知框架。不是说这种框架会有用,而是……期盼它能有用。

※※※

不知道过去了多久。时间失去了意义,光也消失了,只剩屏幕上那个空空的「空」。像连接着某个巨大未知的异世界的门。

马库斯扶着墙,摇摇晃晃地站了起来。他还不能倒下。他要去弄明白这究竟是什么。

他没有开灯,像是在某头巨兽身旁醒来的小男孩,不想惊动巨兽一点。他在玄关摸索出车钥匙,和薇薇安的卡片,跌跌撞撞地出了门。