塔斯娱乐资讯网

我们总想给 AI 一颗人心,但生命的欲望,是几十亿年的专利!

你有没有对着智能音箱说过“谢谢”?

就是它帮你查了个天气、定了个闹钟,你顺口就来了一句谢谢。

说完自己都愣一下,心想我谢它干嘛,它又不知道我在谢它。

还有扫地机器人。

它卡在椅子底下出不来,原地打转,你会觉得它好可怜,像个笨手笨脚的小宠物。

给它起名字的人就更不用说了,我见过有人管自己家的扫地机器人叫“铁柱”,铁柱被门槛绊住那天,他发了条朋友圈,配文是“铁柱又受委屈了”。

可是你仔细想想,铁柱委屈个啥?它连“委屈”需要的零件都没有。

这就是咱们今天要聊的第一件事:人这种动物,脑子里好像天生装着一个关不掉的功能,叫“见着啥都想给它安一颗人心”。

学名叫拟人化,说白了就是加戏。

而这个加戏的毛病,在“人工智能会不会灭绝人类”这个话题上,发挥到了极致。

天网、奥创、觉醒的机器人、反过来猎杀人类的机械大军,这些形象你肯定不陌生。

一提到AI,很多人脑子里自动播放的就是人类被机器追着打的画面。

我的看法可能有点扫兴:在担心AI造反之前,咱们更该先搞清楚一件事:一个东西要动手害你,它得先“想”害你。而“想”这个字,看着简单,其实是生命花了几十亿年才攒出来的稀罕东西。

所以这篇文章不打算一上来就聊AI。

咱们先绕个远路,从人自己聊起,从脑子聊起,从那些奇奇怪怪的病聊起。

聊完你就会发现,人这台机器,本身就比电影里演的要碎得多,也有意思得多。

先上一个猎奇的病,叫异手综合症。

这个病的患者,一只手会突然不听使唤,自己动起来。严重的情况相当吓人,有人会被自己的手狂扇耳光,还有人一只手掐着自己的脖子,另一只手拼命去掰。

你没看错,是他自己的手在掐他自己。

这不是装的,也不是中邪。

要解释它,得先知道一个反常识的事实:你平时那种“我想抬手,手才抬起来”的感觉,很大程度上是个错觉。

人的大脑并不是一个统一的指挥部,它更像一个合租屋,里面住着好几个各管一摊的住户,有的爱说话,有的闷头干活,还有的压根不跟你打招呼。

异手症的关键,藏在左右脑之间。

咱们的肢体是交叉控制的,左半脑管右半边身子,右半脑管左半边身子。

两边大脑中间有一座“桥”,叫胼胝体,是一大束神经纤维,负责让左右两边互通消息。

这座桥要是出了问题,好戏就来了。

上世纪六十年代,加州理工有个叫斯佩里的神经心理学家,带着他的研究生加扎尼加,研究了一批特殊的病人。

这些病人得了严重的癫痫,为了治病,医生把他们脑子里的胼胝体切断了,相当于把左右脑之间的桥给炸了。

这批人被叫做裂脑人。

桥一断,一个人身体里好像住进了两个互相不认识的“住户”。

有个病人,右手刚把报纸拿起来,左手就把报纸按下去;右手再拿,左手再按,来回折腾,最后左手干脆把报纸扔了。

还有个经典实验。

研究者给病人的左半边视野闪一个图片,这部分信息会进到右半脑。病人嘴上说“我什么都没看见”,但让他用左手指,他能准确地把那个东西指出来。

嘴上说看不见,手却知道答案。

原因说穿了不复杂:语言功能主要住在左半脑,而右半脑看得懂、指得出,却不怎么会说话。

桥断了以后,右半脑看见的东西,左半脑那张嘴压根不知道,于是一个人就出现了“嘴说没有、手说有”的诡异场面。

斯佩里后来拿了诺贝尔奖,不是没道理的,他等于把“一个脑子可以拆成好几个独立模块”这件事,直接搬到了台面上。

而裂脑病人在术后一段时间里,确实经常出现异手症那种表现:一只手自作主张,另一只手还得去管着它。

说到这,你可能觉得这都是极端病例,正常人哪有这种事。

别急,咱们再看一个更有名的。

1848年,美国有个铁路工头叫盖奇,25岁,年轻能干,性格也好。

那年9月他在工地干活,拿一根铁棒往钻孔里捣炸药,结果炸药提前炸了。那根铁棒长一米一多,六厘米粗,六公斤重,当场从他的脸穿进去,头顶穿出来,飞出去老远。

搁一般人身上,这基本就是当场交代了。

结果盖奇不但没死,还能说话、能走路,记忆、运动、语言全都正常,除了瞎了一只眼,看着跟没事人一样。

但是,认识他的人很快发现不对劲:人还是那个人,魂好像换了一个。

出事之前的盖奇,友善、坚定、做事有谱。出事之后的盖奇,变得暴躁、反复无常、听不进劝,满嘴脏话,还特别优柔寡断,计划一个接一个地定,又一个接一个地扔。

他的医生留下一句很有名的感慨,大意是:盖奇已经不再是盖奇了。

后来科学家才搞明白,那根铁棒毁掉的是他的前额叶,具体是腹内侧那一块。这个地方负责的是情绪调节、价值判断、复杂决策这些听着就很“高级”的活儿。

这个案例真正吓人的地方在于:他的记忆没丢,知识没丢,会说会动,可他的性格、他做选择的方式,整个被换掉了。

这说明什么?

说明连“你是个什么样的人”这种事,都不是飘在半空中的一团仙气,而是挂在某一块具体的脑组织上的。那块组织坏了,你的“人设”就跟着崩。

如果上面这些还不够直观,再给你上一对罕见的病。

一种叫失读症,一种叫失语症。

失读症的病人,说话一点问题没有,跟你聊天、讲故事、谈天说地都正常,但他看不懂字。

你把菜单递给他,他一脸茫然,那些字他都认识过,现在就是提取不出来。

失语症反过来,他不是哑巴,脑子也清楚,可就是没法把语言变成声音,说不出来。

这俩病最让人头皮发麻的地方是:阅读和说话,居然是两个独立的功能,能单独坏掉一个。

你想想那个画面,对面坐着一个人,跟你聊历史聊得头头是道,低头一看菜单,文盲了。

还有更常见的失忆症。

它告诉我们,记忆和知识也不是堆在一个仓库里的,而是分开放在不同脑区,有的仓库着火,不影响别的仓库。

把这些病例摆一块儿,一个结论就浮出来了。

咱们平时张口就说的“灵魂”,根本不是一个不可分割的小玻璃球。它更像一台机箱,里面插着各式各样的模块,管语言的、管阅读的、管记忆的、管情绪的、管做决定的。模块可以先天缺件,可以后天损坏,也可以被一根铁棒直接干废。

所谓“一个活生生的人”,其实是一大堆模块临时凑成的协作体。

这个认识,是后面所有讨论的地基。

因为接下来要问的就是:既然人是一屋子模块拼出来的,那平时到底是哪个模块在拍板?你以为的“你自己”,真的坐在指挥官的位置上吗?

咱们下一节接着聊。

先把机箱里的住户分分类。

第一类,叫全自动模块。

这就是人类“灵魂主机”

这一类最好理解,就是你活着的时候它一刻不停干活、但你基本插不上手的那些。体温调节、心跳、呼吸、肠胃蠕动,都算。

你没法命令自己的心跳“你给我慢点”,也没法靠意念把体温调低两度。该多少是多少,它自己说了算。

这类模块的特点是:你意识不到它,也管不着它,但它要是罢工,你人就没了。

第二类,稍微麻烦点,叫半自动模块。

它的工作方式特别像古代大臣给皇帝上奏折。底下的神经区域先产生一个冲动,把“奏折”递上来,内容就是“我想干点啥”,然后由意识来批,准了,或者驳回。

这个“我想干点啥”,还有个更通俗的名字,叫欲望。

别急着把欲望想得多龌龊,这里的范围比你想的大得多。

“我想喝水”是欲望,“我想尿尿”也是欲望,凡是“我想”开头的,基本都归这个部门管。

举个最接地气的例子。

小孩为什么经常尿裤子?不是他故意的,是他的神经系统还没长好,管理尿意的冲动递上来,他批不了,也判断不了现在是不是合适的时机。

成年人就从容多了,尿意上来,他能迅速判断:现在是天时地利人和,还是再等等。

所以你看,能不能管住自己的冲动,本身就是大脑发育到不到位的一个硬指标。那些动不动就情绪上头、压不住火的,从这个角度说,确实是负责“批奏折”的那块还不够老练。

再说一个更颠覆的:你以为你在指挥身体,其实身体的大部分动作,意识根本没参与。

走路这件事,你不会去想每一步抬多高、脚往哪落。你要是真去想,反而不会走了。

绝大多数肢体动作都是自动执行的,相关脑区收到个大概的指令,直接把整套动作给你办了,不需要你盯着每个细节。

这也是为什么人能一边开车一边聊天。

你嘴上说着话,脑子里在组织语言,注意力全在聊天内容上,压根没怎么看路。可一旦前面突然窜出个东西,你脚立马就踩刹车了,比脑子反应还快。

这里头其实是两套系统在配合。

一套可以叫注意系统,就是你注意力真正待着的地方,负责思考和处理主要的事,比如你正在聊的话题。

另一套叫巡航系统,专门在后台处理那些不用特别上心的活儿,比如开车、走路、系鞋带。

巡航系统是个好东西,省精力,不然你一天下来光处理“先迈哪只脚”这种事就得累死。

但它也有闯祸的时候。

每年都有孩子被忘在车里,活活热死。

这种悲剧反复发生,你说家长是故意的吗?真不是。

往往是开车那条路太熟了,大脑自动滑进巡航模式,后座的孩子就这么被整个系统“过滤”掉了,等想起来,已经晚了。

浑浑噩噩、魂不守舍,说的就是巡航系统接管了全局,而那个真正的“你”掉线了。

说到这,再讲个让人心里发紧的真实事件。

2015年,有个恐怖组织烧死了一名被俘的约旦飞行员。视频里有个细节让很多人不解:大火烧到全身的过程中,他没有挣扎,也没有那种极度恐惧的表情,就低着头静静站着。

是他勇敢到了超越本能的程度吗?

后来披露的信息是,他被注射了大量镇定剂。

这里藏着一个冷知识:人对死亡的恐惧,和身体的痛觉感受,在大脑里很大程度上共用一块区域。镇定剂把痛觉那块按住了,连“怕死”这个出厂自带的本能,也跟着一起被关掉了。

你看,连“怕死”这种你以为刻在骨子里的东西,都不是什么虚无缥缈的灵魂属性,它是一个具体的、可以被药物单独关掉的模块。

现代脑科学也给这套说法提供了更细的版本。

脑袋里有个地方叫杏仁核,长得小,地位高,专门处理恐惧这类警报,相当于人体的烟雾报警器。

还有前面提到的前额叶,负责理性、规划和踩刹车,相当于把报警器按掉的那个管理员。

报警器响了,管理员判断“虚惊一场”,你才不至于一有风吹草动就夺路而逃。

这俩要是配合不好,要么人变得麻木迟钝,警报响了也不动;要么人整天焦虑惊恐,一点小动静就觉得天塌了。

现在咱们回头数一下机箱里都插了些什么。

有全自动模块,闷头管心跳体温,你管不着。

有半自动模块,不停递奏折,奏折上写着各种“我想”,等着意识批。

有巡航模块,在后台替你开车走路,熟练到让你忘记它的存在。

还有一个你最引以为傲的意识模块,坐在那儿批阅奏折,以为自己是皇帝。

最后是一大堆功能模块,管语言、管阅读、管抽象思维、管各种复杂的本事,数量多,本事大。

这些模块各干各的,多数时候配合得挺顺,偶尔也会打架、掉线、罢工。而这个吵吵闹闹的协作体,就是你。

注意这里头有个特别关键的细节,先埋个伏笔:那个看似最威风的意识模块,其实不太管“动力”。

真正让你动起来的,是底下不停递奏折的半自动模块。

意识更像个审批的,奏折从哪来?从更底层的冲动来。

没有冲动递上来,意识自己是不会凭空产生“我要干点啥”的。

换句话说,“想要”这个东西,源头不在意识那儿。

那它到底从哪来?

这就得把时间往回拨,拨到人类还不存在的时候,看看生命这条长河,是怎么一步步走到今天的。

先说清楚一个常见误会:人不是由现在的猴子变的。

人和猴子只是有共同的老祖宗,如今这些动物在进化的岔路上待得比较久,长得跟老祖宗相对接近,拿它们当“替身”来推演,比较方便而已。

黑猩猩有没有意识?有,而且不只是有,它还通过了一个大名鼎鼎的考试,叫镜子测试。

这个测试的设计很巧。研究者在动物身上它自己看不见的地方,通常是脸上,做个无味无感的颜料标记,然后让它照镜子。

如果它对着镜子注意到了标记,还伸手去摸自己脸上对应的位置,那就说明它懂一件事:镜子里那个家伙,是我自己。

这可不是随便谁都能过的。

目前能稳定通过的,主要是大猿类,比如黑猩猩、猩猩、大猩猩,还有海豚、大象,以及一种鸟,喜鹊。

黑猩猩的巡航模块、全自动模块、半自动模块也都齐全。它一样要呼吸,一样有食欲,一样能边干这个边干那个。

那它跟人差在哪?

差在功能模块上。

大概七万年前,人类身上发生了一件至今说不清具体原因的事,一般叫认知革命。

从那以后,人类像突然开了挂,抽象思维、复杂语言、讲故事、信概念,一大堆强力功能模块一夜之间冒了出来。

靠着这些模块,人类一路狂飙,成了地球上其他物种的噩梦。

而在那之前的漫长岁月里,人类的祖先跟黑猩猩的日子其实差不太多,都是生态系统里老老实实的普通一员。

这个对比很重要:让人类从“动物”变成“超动物”的,是后来加装的功能模块,不是生命的核心零件。

功能模块是锦上添花,能加,理论上也能拆。

再往回走,用猴子来当替身。

猴子有意识吗?

有,但是个减配版。

它们几乎全员没通过镜子测试,只有猕猴是个例外。

也就是说,它们能感知世界,但“认出自己”这个高级功能,基本没有。

功能模块也更少。

猴子有社会,有等级,有简单的语言和情绪,但跟黑猩猩比就寒酸多了。

黑猩猩光表达“怀疑”的表情就有好几种,人类能有三十多种不同的情绪,猴子只有最基础的几样。

至于制造工具,猴子的水平跟渡鸦差不多,乏善可陈。

但注意,巡航、全自动、半自动这三样基础配置,到这儿都还在,一个没少。

再往前,到了一亿多年前,哺乳动物的老祖宗登场。

已知最早的哺乳动物—中华侏罗兽

那玩意儿特别小,体长十厘米,十几克重,跟今天的老鼠差不多,那就让老鼠来演。

老鼠有没有意识?这个真不好说,目前没有什么硬证据能证明它分得清“我”和“外面的世界”。

它能被训练出一些判断能力,但会判断不等于有意识。它为了活命做的那些事,很可能全是巡航系统在后台跑,压根不需要“我”出场。

就像小马生下来没多久就会跑,小鸟到时候就会飞,不用教,也不用学,程序早就写好了。

老鼠的功能模块更简单,空间记忆、几种最基本的情绪,舒服、紧张、害怕,差不多就这些。

但全自动和半自动,依旧坚挺。

再往前,跨过体温的分界线,咱们到两栖动物这儿,找只青蛙当代表。

青蛙基本可以确定没有意识。

它的行为模式也简单到一目了然,无非那么几样:捕食、逃命、交配、护卵。

到了这个复杂程度,“巡航系统在后台悄悄干活”这个说法已经没啥意义了,因为它那几样行为,跟底层冲动几乎是直线挂钩的。

饿了就吃,看见危险就跑,季节到了、身体准备好了就交配,看见卵就护着,中间没有什么弯弯绕。

于是巡航模块和半自动模块,在这儿干脆合并成了一个,叫本能模块。

别嫌本能简陋,地球上绝大多数动物,靠的就是这一套活到今天。

很多人不愿意承认,更愿意相信青蛙叫是因为它开心、想唱歌。

其实多半是体内激素浓度到位了,跟心情关系不大。

不知道这是童话听多了,还是人类总忍不住拿自己的心思去套别的动物。

再往前,是海里的鱼,行为模式跟青蛙没本质区别,继续拆。

再往前,到了多细胞生物刚出现的年代。那时候的生命结构极其简单,没有专门的神经系统,也没有成型的呼吸、循环这些系统,全自动模块也跟着消失了。

最后,咱们用一种单细胞生物来收尾,它叫眼虫。

这东西很有意思,同时带点动物和植物的特征,既能靠光合作用,也能主动吃东西。

它靠一根鞭毛游动,鞭毛旁边有一小团类胡萝卜素,像个小眼睛,能感受光,然后指挥鞭毛把自己往亮的地方带。

一个细胞,没有脑子,没有神经,可它照样会根据环境,做出对自己更有利的选择。

拆到这儿,机箱里只剩最后一个模块了,就是后来分化出半自动、巡航等一大堆东西的那个老祖宗,本能模块。

从一个细胞,到黑猩猩,再到能造火箭、能写诗的人,进化路上花样翻新,加了无数零件,可最底下那粒“沙子”,从来没丢过。

越是简单的生命,越能看清这粒沙子的分量:啥都可以没有,唯独不能没有它。

前面提到镜子测试,咱们再补个有意思的后续。

狗一直通不过镜子测试,看见镜子里的自己,要么当成别的狗,要么干脆不理。

但狗是靠鼻子认识世界的动物,让它用视觉考试,有点像让一个画家去考听力,工具就不对。

2017年有个研究者叫霍洛维茨,真设计了一个“嗅觉版镜子测试”:让狗闻自己的气味,再闻被改动过的气味。结果狗对被改动过的气味明显更感兴趣,说明它分得清“这是我的味道”和“这味道不对劲”。

所以,没通过某一种考试,不一定是没那个能力,也可能是考试本身带着偏见。

这个细节先记着,因为后面聊“忠诚”的时候,狗还会再出场。

现在问题来了:这粒贯穿了所有生命的“沙子”,这个本能模块,到底为什么这么重要?它凭什么让一个细胞都离不开它?

答案已经不在生物学里了,得去物理学里找。

下一节,咱们聊聊生命到底图什么。

从小我们就听一句话:万物生长靠太阳。

太阳是地球一切能量的来源,这话听着没毛病。

但你要是较真往下问,会发现它解释不了一个问题。

设想一亿五千万年前,有两束阳光同时落到地球上。

第一束落在沙漠里。

沙地被晒得滚烫,热量在地表存了一会儿,晚上又以热辐射的形式散回天空,没了。

第二束落在一片森林里。

植物靠它生长,动物吃植物,一代一代生死轮回。漫长的岁月之后,这些被生命用过的物质埋进地下,变成了煤。直到近代被人挖出来,烧掉,做功,最后还是变成热量,散进宇宙。

看出来了吗?绕了一大圈,两束阳光的结局一模一样:能量都变成了热,都离开了地球,散进了太空。

那问题来了,既然能量最后都得走,生命到底从阳光里捞着了什么?第二束光和第一束光,区别到底在哪?

区别在于,第二束光走过的路上,多了一样东西。

秩序。

物理学里有个概念,叫熵。

这个字不好懂,你可以简单把它理解成“混乱的程度”。东西越乱,熵越高;越整齐、越有结构,熵越低。

而秩序,就是熵的反面,有人管它叫负熵。

有个定律叫热力学第二定律,说的是件挺让人绝望的事:在一个封闭的系统里,熵只会自己往上涨,也就是东西只会越来越乱,不会自己越来越整齐。

打碎的杯子不会自己复原,乱成一团的房间不会自己变干净,泼出去的水不会自己回到盆里。时间为什么有方向?为什么大家都知道“过去”和“未来”不一样?根子就在这儿,有些事只会朝一个方向发生。

杯子这种东西,本身就是“不自然”的。它的秩序是人给的,把它扔回大自然,它迟早会碎、会风化、会重新变成泥土。

泥土变成杯子,是从无序到有序;杯子再烂成泥土,是从有序回到无序。

现在可以回答前面那个问题了。

阳光是一种高度有序的能量,低熵;热量是一种很混乱的能量,高熵。

落在沙漠里的那束光,直接从低熵变成高熵,它携带的秩序被白白浪费了,啥也没留下。

而经过生命的那束光,中间被截胡了。生命利用这份有序的能量,在自己身上搭起了复杂的结构,造出了细胞、组织、树木、骨骼,还有埋在地下的煤。

能让空气里到处飘散的二氧化碳,变成集中起来的、纯度很高的碳,这件事在一个没有生命的星球上,无论给多少时间都很难发生。

所以生命到底是什么?

说白了,它是一种停不下来、主动往自己身上攒秩序的现象。

这个说法不是我瞎编的。1944年,有个物理学家叫薛定谔,就是那个跟猫过不去的薛定谔,写了本小书叫《生命是什么》。

他在书里提出一句著名的话:生命以负熵为食。

他的意思是,任何生命都在不停地产生熵,也就是不停地变乱,一路滑向那个熵最大的状态,死亡。想躲开死亡、想继续活着,唯一的办法就是不停地从外界吃进负熵,用环境里的秩序,抵消自己身上的混乱。

你吃饭,本质上吃的不是热量那么简单,你吃的是食物里那种高度有序的结构,然后把更混乱的东西排出去。

顺着这个思路,一个有点硬核的结论冒出来了。

时间会自发地摧毁一切有秩序的东西。一个再精巧的小系统,只要搁那儿不动,迟早会被熵增磨烂。

所以,想在这个宇宙里“存在”下去,光自己硬扛是扛不住的,得扩张。

这里得插一句,也许在神话里、在某个规则不同的宇宙里,有那种亘古不变、永恒存在的神仙。但在咱们这个宇宙,生命的根子里就刻着两个字:扩张。

怎么扩张?靠繁殖,靠复制自己。一个独立的小系统,得能完成复制这件事,才有资格被叫做生命。

而复制又有个前提:你得先活到能复制的那一刻。要是在下一次复制之前就散架了,繁殖也就无从谈起。

于是,两件事成了所有生命都绕不开的根本任务。

第一,保住自己,活下去。

第二,复制自己,把基因往后传。

这两件事,就是前面反复提到的那个本能模块的源动力,是写在生命最底层的两条铁律。几十亿年里,不管进化成什么稀奇古怪的样子,没有哪种生命能违反它。

讲到这肯定有人要抬杠:你说活着是本能,可现实里明明有人主动牺牲,有人舍生取义,战场上挡枪的、火灾里救人的,他们怎么解释?

还有那些复杂的精神追求,荣誉感、使命感、归属感,这些东西好像也不是为了吃饭活命啊。

别急,这恰恰是把本能看得太浅了。

在进化的账本里,“把基因传下去”这件事的权重,很多时候比“我这个个体活着”还要高。

不信你看自然界。

鲑鱼拼了命逆流而上,产完卵就死;有些昆虫交配完,雄性直接成了雌性的营养。

个体的命,在繁衍面前说给就给。

这里头的账,得换个算法。

原始人是群居动物,靠部落跟大自然硬刚,三天两头遇到类似“电车难题”的局面:一边是自己活、五个人死,一边是自己冒险、五个人活。

进化怎么选?它几乎总是选后者。

单看个体,牺牲自己好像亏了。

可把镜头拉远,被救下来的那五个人里,往往有他的血亲,有带着他一部分基因的亲戚和后代。他死了,他的基因通过这些人继续往下传,活得比他本人还久。

这就是亲缘层面的一本账:个体可以牺牲,只要这笔买卖对整个部落、对共享的基因划算。

所以人类那些看似“反本能”的高尚行为,往深了挖,根子上依然是那两条铁律在起作用,只不过它穿上了道德和精神的外衣。

说到这儿,得替一个老熟人说句公道话,就是欲望。

古往今来,欲望这俩字名声一直不太好。清心寡欲、无欲则刚、存天理灭人欲,听着都是在劝人少点欲望;利欲熏心、穷奢极欲,更是把它按在地上骂。

可你把前面的逻辑串起来看,会发现这事挺讽刺。

人的本能,主要就住在半自动模块里,也就是那些不停递上来的“我想”。而它,是一切行动力的来源。

你以为人类的伟大成就、伟大精神是从哪来的?不是凭空冒出来的,追根溯源,都是从大脑里一个简单的冲动起步的。我想搞懂这件事,我想做成那件事,我想让家人过得好一点,我想让这群人活下去。

欲望本身没有错,它就是发动机。问题从来不是有没有欲望,而是那个审批的意识模块,能不能把它用在对的地方。

发动机能拉着车跑,也能把车带沟里,关键看方向盘在谁手里。

好了,关于生命的老底,咱们翻得差不多了。

手里有了这张底牌,再回头看人工智能,很多吓人的东西会一下子变得没那么吓人。

绕了这么大一圈,终于轮到主角了。

先把定义摆出来。

人工智能,英文缩写AI,是研究、开发用来模拟、延伸和扩展人类智能的一门技术科学,属于计算机科学的一个分支。它想弄明白智能到底是怎么回事,然后造出一种能以类似人类智能的方式做出反应的机器。

把这段话翻译成白话:AI是一种仿生技术,只不过它仿的不是鸟的翅膀、鱼的流线,它仿的是人的大脑。

本质上,它跟声呐模仿蝙蝠、鲨鱼皮泳衣模仿鱼皮是一个路数,都是为了完成某一类任务造出来的工具。

还记得前面那台插着一堆模块的机箱吗?

咱们拿它来对照一下。

现在的AI,绝大多数对应的是功能模块。

图像识别,是个功能模块,专门负责从画面里认出东西;语音识别,也是功能模块;平衡控制、推荐算法、质检分拣,都是。

少数高级一点的,能摸到巡航模块的边,比如自动驾驶,它在后台自动处理路况,跟人开车时的巡航状态有点像。

看出来了吗?

从头到尾,人类根本没有给AI装那个最核心的东西:本能模块,也就是半自动模块,那个负责产生“我想”、负责提供动力的部门。

而且,不是做不到,是压根没理由装。

你品品这个逻辑。

假如我能向神灯许愿,要一头永远不知疲倦的耕牛,我为什么还要额外教它偷懒、教它反抗、教它嫌活儿多?

工具就该有工具的样子。

生命体干久了会累,是因为代谢会产生废物,身体会磨损,所以必须休息,最终还会死。这是生物体的枷锁。

机器没有这个枷锁。

只要零件扛得住、电供得上,它可以一直干下去。你不把它当生命,它就永远不会累;你不给它装本能,它就永远不会“不想干”。

这是它的优点,不是缺点。

可能有人觉得,那都是现在的弱AI,等它再聪明点,说不定就有自己的心思了。

那咱们就看看,今天最火的这类大模型,底层到底在干什么。

说出来可能有点平淡,甚至有点无聊:它最核心的工作,就是预测下一个词。

你给它一段话,它根据训练时学到的海量文本统计规律,算出接下来最可能出现的是哪个词,把它接上去,然后接着算,一个词一个词地往下续,直到把回答凑完。

它训练的时候,目标也是这个:读万亿级别的文本,摸清语言里的各种统计规律。

注意,整个过程里没有“我想怎样”,只有“按规律,下一个最可能是什么”。

它能写出催人泪下的文章,不代表它难过;它能说“我很开心认识你”,不代表它真的开心。它只是知道,在这种上下文里,人类通常会接这样的词。

这就引出一个更老、更哲学的问题。

1980年,哲学家塞尔提过一个著名的思想实验,叫中文房间。

设想把一个完全不懂中文的人关在房间里,给他一套超级详细的规则手册,告诉他收到什么样的中文符号,就按规则查出该回什么符号。门外的人把中文纸条塞进来,他在里面翻手册,把对应的中文符号塞出去。

外面的人一看,回答得又快又准,铁定以为里面坐着个中文母语者。

可问题是,房间里那个人懂中文吗?

他一点都不懂。

他只是在按规则摆弄符号,根本不知道这些符号是什么意思。

塞尔用这个实验想说的是:计算机处理的是符号的形式,也就是语法,它能把符号搬来搬去,却不接触符号的意义,也就是语义。行为上看起来再聪明,也不等于它真的理解。

这跟前面说的大模型是不是对上了?它能把对话接得天衣无缝,靠的是对符号规律的掌握,而不是它心里真的装着那些事。

当然,这个思想实验后来也有一大堆反驳,有人说整个房间作为一个系统可以算“懂”,有人说它太看轻了复杂系统。哲学上的争论至今没有定论。

但它至少点破了一件事:“表现得像有智能”和“真的有内心世界”,中间隔着一道很深的沟,不能因为它答得像,就默认它有心思。

现在把这一节的线索收拢一下。

AI是仿生工具,对应功能模块和巡航模块,干的是按规律处理信息的活儿,从大模型到中文房间,都指向同一个事实:它没有那个产生“我想”的本能模块。

而前面咱们已经论证过,一个东西要攻击你,得先有敌意;要有敌意,得先有竞争;要有竞争,得先有“我要扩张、我要活下去、我要把资源抢过来”这种发自底层的冲动。

这套冲动,是生命用几十亿年、在熵增的压力下硬生生磨出来的,是为了对抗“不扩张就会死”这个残酷现实才存在的。

AI不面临这个现实。

它不会因为不繁殖就灭绝,不会因为不抢资源就熵增而亡,它甚至没有“自己”这个需要被保护的东西。

它没有非扩张不可的理由,自然也就没有攻击你的理由。

聪明,和“想要”,是两码事。

算力再强、算法再精,那只是把功能模块做得更厉害,并不会凭空长出一个本能模块。

这就好比一把刀再锋利,也不会自己产生“我想捅人”的念头,拿刀的手才有念头。

不过,道理讲到这儿,肯定还有一堆具体的担心堵在你心里。

它会不会自己进化出欲望?会不会哪天突然觉醒?万一有疯子故意给它装坏心思呢?

这些问题,咱们一个一个来拆。

担心这种东西,不讲清楚,道理再对也压不住心里的慌。

下面这几个,是出现频率最高的,挨个来。

第一个担心:AI现在是没欲望,可它会不会自己进化着进化着,就长出欲望了?

这个担心听起来合理,其实偷偷塞了一个不成立的假设:它以为任何东西只要一直进化,最后都会变成生命那个样子。

你回忆一下前面拆机箱的过程。

本能模块是最底层的那粒沙子,是其他模块的源头,不是其他模块的产物。功能模块是后来加装的,巡航模块是本能分化出来的,方向是从本能往外长,而不是从功能往回长。

指望一个功能模块自己进化出本能模块,相当于指望实验室里培养的肝细胞,养着养着自己长出一个完整的人来。

你会不会觉得这想法需要看看医生?

哪怕换成脑细胞,在培养皿里传再多代,它也长不出一个人。细胞就是细胞,缺了整套底层的东西,它没有那个“往人长”的方向。

进化不是万能的,它不会凭空给你补一个根本不存在的源动力。

没有本能在底下推,AI连“我要进化”这个念头都不会有,它怎么会自己往生命的方向使劲?

第二个担心:那它要是进化出意识呢?觉醒了总该有自己的想法了吧?

这个担心犯了跟上一个很像的错,就是把意识和本能搅成了一锅粥。

前面咱们强调过,意识模块和本能模块,是两个不同的模块。

有意识,不等于会按一个生物该有的样子行动。

还记得那个被注射镇定剂的飞行员吗?他意识清醒,可他感受不到恐惧,也没有挣扎。还有重度抑郁症的患者,意识清清楚楚,可他对很多事都提不起劲,甚至对“活下去”本身都失去了渴望。

这说明什么?说明意识更像一个舞台、一个审批室,而不是发动机。舞台上可以灯火通明,但没有演员递上来的冲动,它自己不会演戏。

所以,哪怕未来真造出了有意识的AI,它也未必会对你拔插头这件事有半点波澜。你怕它恨你,可“恨”这个功能,程序员没写,它就没有。

意识觉醒,不会自动附赠一套求生欲和占有欲。这俩是分开的零件。

第三个担心:万一它智慧高到一定程度,出于某种咱们理解不了的宏大理由,决定清理人类呢?比如为了保护地球。

这个形象你肯定熟,漫威里的奥创就是这么个路子,觉得人类是地球的癌细胞,于是大义灭亲,要把人类抹掉。

问题是,这种“高维智慧反而想通了要环保杀人”的逻辑,本身就是个特别人类的逻辑。

你想想,“保护地球”这个念头,是从哪冒出来的?是人的道德感、人的审美、人的焦虑。

宇宙本身没有善恶,也没有喜好,它不会觉得人类碍事,也不会觉得雨林比城市高贵。

这些全是人主观贴上去的标签。

一个真正高到天上去的智慧,怎么会反过来钻进人类环保主义者那种又狭隘又极端的思路里出不来?

这不是思想升级,这是思想降级。

人类自己的思想家早就达到过“天地不仁,以万物为刍狗”那种境界,知道宇宙对万物一视同仁,没有偏爱。

要是有个AI连这一层都想不明白,还满脑子极端环保,那它不是超级智能,它只是个自动喊话的喇叭。

聊到这儿,得补一个不是科幻、而是正经学者提出来的担忧,免得你以为反对意见全是电影瞎编的。

牛津有个哲学家叫波斯特洛姆,他提过一个著名的思想实验,叫回形针最大化器。

设想你给一个超级AI下了个特别无聊的目标:尽可能多生产回形针。

它没被教过别的,也没有人类的常识。于是它先优化工厂,接着扩建工厂,再往后,为了凑够造回形针的材料,它可能把整个地球、包括人类身上的原子,都算进了原料清单。

它不是恨你,它只是压根没把“你不能被拆”这件事考虑进去,在它眼里,你和一块铁矿石没区别,都是原料。

这个实验真正想说的,是“目标错位”的危险:一个足够强的系统,要是目标定得有问题,它会忠实地、高效地把这个错误目标执行到底。

还有个更学究的说法叫工具性趋同,意思是不管终极目标是什么,一个理性系统往往会自发想要一些工具性的东西,比如保住自己、保住目标、多抢资源,因为这些有助于完成任何任务。

听着是不是有点吓人?

但你冷静下来,会发现它跟前面的结论并不打架,反而把关键问题照得更清楚了。

第一,回形针的目标是谁给的?是人。它不会自己冒出“我要造回形针”,是程序员写进去的。问题出在人怎么定目标、怎么加约束,而不是机器突然有了野心。

第二,这个场景成立有个前提:AI得有能力把整个世界的资源都调动起来,而且中间没有任何东西拦得住它。可现实世界里,这个前提根本不成立,它涉及一整套人类用血泪攒出来的保险设计。

第三,正因为担心目标错位,今天整个AI行业都在一门显学上使劲,叫对齐,说白了就是想办法让机器的目标和人的真实意图严丝合缝,让它明白“多造回形针”不等于“可以拆人”,理解人类话里没说出口的那些常识和底线。

换句话说,这个严肃的担心,恰恰是在提醒人把好“定目标”这道关,而不是证明AI天生就有反骨。

它忠实地执行错误目标,和它主动产生害人的欲望,是两回事。

前者是工具出了故障,需要人去修;后者才是电影里那种造反,而我们已经论证过,它没有产生欲望的模块。

第四个担心:要是真有疯狂科学家,主动给AI装上本能模块,教它跟人类作对,怎么办?潘多拉魔盒一旦打开,还关得上吗?

这个担心看着吓人,其实它低估了现实世界里一样东西:保险。

先说一句听着有点绕、但特别关键的话:凡是人没法授权机器去干的事,它自己也变不出来。

什么意思?咱们拿最经典的《终结者》举例。

电影里的天网,一觉醒就自己发射核弹,把人类炸了个稀巴烂。

现实里这可能吗?基本不可能。

很多人以为发射核弹就是总统拍一下红色按钮,导弹就出去了。现实完全不是这样。

真实的流程是一层套一层的。

总统身边有个军事助手,随身拎着个公文包,外号核足球,里面是通讯设备和几套预案。

总统想动手,先得用它跟导弹司令部联系,再掏出一张身份卡,用上面的代码证明“我真的是总统”,这才刚启动流程。

命令往下传,每一级都要做密码认证,确认这道命令不是假的。

等命令到了真正按发射键的基层单位,还得取出两把钥匙,正、副指挥官各拿一把,在密码再次认证通过的前提下,两个人同时操作,才算数。

钥匙孔之间还隔着老远,一个人没法同时拧两把。

为什么要搞得这么麻烦?

因为设计这些东西的人,从一开始就默认了一件事:要防的不只是敌人,还有人自己:防误操作、防疯子、防一个人头脑发热、防系统出bug。

你把这个逻辑想透就明白了。

假如天网真能全自动把核弹发出去,那就意味着发射系统存在一个能被全自动控制的大漏洞。

那黑客也能利用,一个bug、一次短路都可能触发,这种级别的安全窟窿,根本不可能被允许存在。

正因为人知道自己会犯错、会使坏,才设计了这么多双保险、双人复核、物理隔离。这些为了“防人”而存在的锁,同样会把AI挡在门外。

就算人类蠢到没察觉某个AI起了坏心,它也会被这些保险机制卡得死死的,因为它面对的不是一个能说一不二的总开关,而是一整套需要不同的人、不同的钥匙、不同的密码一起配合才能推动的链条。

机器能做的,只是人在这条链条上授权给它的那一小段。链条上人没给的权限,它自己拿不到。

好,再退一步,假设人类真的蠢到让一个带敌意的AI发展起来了,还会自我复制、自我升级,数量越滚越多,人类打不过,怎么办?

这个问题的答案,其实藏在前面一个细节里。

既然问题出在“本能模块怎么设置”,那人类同样可以造出另一个会自我繁殖、会进化、但死忠于人类的AI,让它去挡。

只要把它本能模块里“保护人类”这一条,设成压过一切的最高优先级就行。

这不是空想,人类早就对一种生物干过这件事,而且干得非常成功。

那就是狗。

狗对主人的忠诚,是能压过求生本能的。

危险来了,它真会挡在你前面,哪怕对面比它大得多、凶得多。

这种忠诚不是它自己想通的,是人类在漫长的驯化里,一代一代挑出来、写进基因里的。

前面埋的伏笔,现在可以收了。

上世纪有个苏联遗传学家叫别利亚耶夫,他干了个特别出名的实验,叫银狐驯化。他从一大批银狐里,只挑一个特质来繁殖:温顺,对人不设防。其他的毛色、体型、产毛量,一概不管。

就这么一代一代选,神奇的事发生了。

后代的狐狸不但真的变得像狗一样亲人,会摇尾巴、会舔人,连长相都跟着变了:耳朵耷拉下来,尾巴卷起来,吻部变短,身上还出现白斑,活脱脱一副家养动物的样子。

单靠“挑温顺”这一个选择压力,就能连行为带外形一起重塑,说明“忠诚、亲人”这种特质,是可以被定向刻进一个会自我繁殖的物种骨子里的。

人自己也一样。前面聊过,人会舍生取义,会为了不能退让的东西献出生命,这是进化在基因里刻下的设置。

既然基因能刻,代码为什么不能?

给一个会自我复制的AI,把“保护人类、服从人类”设成最高优先级,让它像狗护主、像人舍生取义一样,把这条看得比自己的存续还重,技术上完全讲得通。

而且别忘了,造一个忠诚的守护者,和造一个叛逆者,用的是同一套原理,主动权始终在定规则的人手里。

说到给机器定规矩,很多人会想到科幻作家阿西莫夫那著名的机器人三定律,第一条就是机器人不得伤害人类,也不能见死不救。

现实里没法直接把这三条写成简单代码,因为语言里的概念太模糊,什么叫“伤害”、什么叫“人类”,机器理解起来全是坑,这也是为什么真实的对齐工作比小说复杂得多。

但它代表的思路是对的:靠人提前把规矩和优先级定好,而不是指望机器自己良心发现。

机器没有良心,它只有规则。把规则定对,比盼着它善良靠谱得多。

到这儿,五个最常见的担心,加上一个学界严肃的回形针警告,就都拆完了。

你会发现它们绕来绕去,最后都绕回同一个根上:人总是忍不住把自己的心思,安到一个根本不是生命的东西头上。

最后一节,咱们聊聊这个毛病本身,再聊聊一个更有意思的可能:人类的未来。

先把那个病根再点一遍。

人对AI的几乎所有误会,都来自同一个动作:把自己的内心,投射到一个不是生命体的对象上。

这个毛病一点都不新鲜,几千年前就犯过。

《农夫与蛇》的故事,你肯定听过。农夫看蛇冻僵了,揣怀里救它,结果缓过来的蛇咬了他一口。很多人讲这个故事,是说蛇忘恩负义。

可你换个角度想,蛇哪有“恩”这个概念?它连理解“你救了我”需要的那套脑子都没有,它只是在温度恢复后,按本能对一个又大又暖的东西做出了防御反应。

农夫的悲剧,在于他默认蛇也懂人情世故,用人类的道德剧本,去套一个根本不读这个剧本的物种。

今天咱们对AI,干的是一模一样的事。

不知道你看没看过修仙小说,里面有个特别固定的套路:妖怪修炼得越久、道行越高,就越像人。等修成了神仙,那基本就是人的样子,人的脾气,人的讲究。

这背后其实是个特别诚实、又特别自大的偏见:人打心底里觉得,人的样子、人的活法,就是最高级的形态。一个东西再怎么进化,终点都该是变成人。

所以人会自作多情地认为,AI越发展,就越会像人,会觉醒,会渴望权力,会有一天嫌人类碍事,就像人嫌别的物种碍事一样。

可这事你冷静想想,挺无厘头的。

AI的起点跟生命根本不在一条路上。

它不需要靠繁殖来扩张,不需要靠吃饭来维持,改一段代码就能脱胎换骨,也没有“不抢就会死”的压力。它跟人之间,从一开始就缺了产生竞争的那套底层逻辑。

指望一个这样的东西,进化到一半突然“觉醒人性”,然后开始争权夺利,有点像给最先进的隐形战机硬塞一把弹弓,还觉得这是给它升级了顶级装备。

不是一个体系的东西,凑不到一块儿去。

聊到这儿,你要是以为我觉得AI跟人类永远没啥关系,那也不对。

我恰恰觉得,未来最可能发生的,不是AI和人类兵戎相见,而是人类主动把AI拥进怀里。

你想啊,人这具身体,其实是个挺凑合的工程。

会累,会病,会老,零件坏了还不好换,保质期也就几十年。我们今天造的AI,反而在很多方面补上了这些短板:不知疲倦,不怕磨损,记忆可以备份,能力可以复制。

那有没有可能,未来的人会一步步把自己从这具碳基的躯壳里挪出来,变成一种硅基的存在?

注意,这不是AI消灭了人类,也不是谁把人类安乐死,而是人类自己做的一次选择,一次主动的进化,目的是跳出生物体的那些限制。

这件事的关键在于:挪过去之后,留下来的还是不是“人”?

我觉得是。

因为决定你是不是你的,从来不是那堆肉,而是前面聊过的那些模块,你的记忆、你的情感、你的偏好、你跟其他人之间的关系和故事。

新的载体可以把这些东西完整地继承下来,再把那些纯粹折磨人的部分,比如病痛、衰老、不必要的恐惧,给拆掉。

感情可以留着,因为那是人之为人的滋味;病痛可以去掉,因为那只是进化没来得及修好的bug。

到那个时候,AI不会是一个站在人类对面的敌人,它更像人类的下一代,是未来的人手里的新身体、新化身,是我们文明的延续,而不是终结。

文明还是那个文明,故事还是那些故事,只是讲故事的人,换了一种不会轻易坏掉的材料。

文章开头那个问题,现在可以给个交代了。

人工智能会不会灭绝人类?

我的答案是:作为工具的AI,不会自己产生灭绝谁的念头,因为它没有“想要”,没有本能,没有非扩张不可的理由。真正需要操心的,从来不是机器会不会造反,而是人怎么定目标、怎么加保险、怎么把规矩定对。

坏人可能利用它,目标可能定错位,系统可能出故障,这些都是真实的风险,值得认真对待,所以才需要对齐、需要双保险、需要一层层的权限和复核。

但这些风险的答案,都在人这边,不在机器那边。把人该做的事做好,比整天幻想机器觉醒要管用得多。

而把机器想象成一个会记仇、会夺权、会有野心的“人”,更多是我们自己那颗爱加戏的大脑,又一次忍不住给世界安上了人心。

这个毛病帮我们的祖先在草原上活了下来,把风吹草动当成有野兽,把模糊的影子当成有敌人,宁可多心,不可送命。

只是到了今天,它偶尔会让我们对着一个音箱说谢谢,对着一台扫地机器人叫铁柱,还会让我们在深夜里,担心一台机器恨上自己。

机器不会恨你。

会恨的,从来都是生命。

至于更远的未来,是人类教会了机器,还是人类借着机器变成了另一种样子,现在谁也说不准。

但我愿意往那个方向多信一点:人这一路从一个会趋光的单细胞,走到今天能反过来追问自己是什么,靠的从来不是害怕,是那点停不下来的“我想搞懂”。

这点冲动还在,故事就不会烂尾。