尤瓦尔·赫拉利/文

量子位 | 公众号 QbitAI

绝大多数人都已经发觉，我们正置身于一场前所未有的信息革命之中。

但这场革命到底是怎样的呢？在最近这几年里，有太多具有突破性的发明如洪水般接连不断地涌现出来，所以我们很难去判断究竟是什么推动了这场革命。

是互联网？智能手机？社交媒体？区块链？算法？还是人工智能？

所以，在谈及当前这场信息革命的长期影响之前，我们先把它的基础回顾一下。

本文分为三大部分，分别为：

我们真的了解计算机吗？

计算机是这场革命的种子，其他的一切，像互联网以及人工智能等，都仅仅是计算机所产生的副产品。

计算机在 20 世纪 40 年代诞生。一开始，它只是一个能够进行数学运算的电子机器，体型笨重。然而，计算机后续的发展速度极为惊人，其形式不断创新，并且还发展出了各种了不起的全新功能。

计算机发展迅速，人们难以定义其本质与功能。人类曾宣称，有些事计算机永远无法做到，像下棋、开车以及写诗等，但事实表明，“永远”其实也就是几年的时间。

目前来看，我们可以简单表述为计算机本质上是一台机器。它有两种可能做到的了不起的事情，一是自身能够做决定，二是可以创造新的想法。

计算机刚被发明出来之时，离这种能力着实还差得很远。然而，计算机科学家和科幻小说家已然清晰地察觉到了这样的潜力。

1948 年的时候，艾伦·图灵就已经开始探索能否打造他所说的“智能机器”。到了 1950 年，他推测计算机最终有能力像人类那样聪明，并且还能够伪装成人类。1968 年的时候，计算机连跳棋都无法战胜人类。然而，在《2001 太空漫游》这部作品里，亚瑟·克拉克和斯坦利·库布里克已经构想出了“哈尔 9000”这个角色，它是一个能够反叛人类创造者的超智能 AI。

如今智能机器开始崛起，它们能够自行做出决定，并且能够自己创造出新的想法。这是历史上首次出现的情况，即权力从人类转移到了其他物种的手中。

从智能方面来看，计算机超越了泥版。计算机超越了印刷机。计算机超越了收音机。这些都是过去的信息技术。

泥版可以储存关于税务的信息，然而它不能自行决定收税的额度，也不能发明新的税目；印刷机能够复制像《圣经》这样的信息，但是它无法决定《圣经》应收录哪些文本，也无法给这本宗教经典添加新的注释；收音机能够传播政治演讲和交响乐等信息，可是它无法决定播放哪些演讲或交响乐，也无法创作演讲稿或交响乐。

但这一切对现在的计算机来说都已经能够做到。

过去的印刷机或收音机仅是人类手中被动的工具，然而计算机正在转变为一种主动的行为者。它能够摆脱人类的掌控，超越人类的认知，进而主动地对社会、历史与文化进行塑造。

计算机所掌握的新力量有一个关键点，那就是社交媒体算法与印刷机或广播无线电存在根本差异。

在 2016 年到 2017 年期间，脸书的商业模式是以提升用户参与度为依托的。这种用户参与度体现在用户在脸书上花费的时间以及所进行的活动，比如点赞、分享帖子给朋友等。

如果用户参与度提升，脸书就能够收集更多数据，并且能够卖出更多广告，还能在信息市场占据更大份额。另外，提升用户参与度可以给投资人留下良好的印象，这样有利于使脸书的股价被推高。用户在脸书上停留的时间越长，脸书就会拥有越多的资金。

人类管理者依据这种商业模式，给脸书的算法设定了一个首要目标，这个目标就是提升用户的参与度。

算法接着用几百万用户进行实验，发现能够提升参与度的办法是让人愤慨。因此，为了获取用户参与度，算法做出了一个重要决定，即传播愤怒。

很重要的一点在于，算法自身也脱不了干系。在反复实验后，算法了解到愤怒能够提升参与度，并且在没有上级给出明确指示的情况下，算法自行决定要促使愤怒增加。

人工智能具有典型特征。它们虽是机器，却拥有学习与行动的能力。

在21世纪20年代初，算法已经能够自行制造假新闻与阴谋论。

21 世纪 10 年代末的诸多事件表明，非人类智能所做的决策已能塑造重要的历史事件。人类正处于对自身未来失去掌控的危险之中。当下正在形成一种全新的信息网络，其背后有一套难以捉摸的智能决策与目标控制。

人类现今在这个信息网络中依然起着核心作用，然而很有可能正逐渐被边缘化，到最终整个网络或许无需人类也能正常运转。

计算机正在塑造一个全新的信息网络

计算机逐渐积累了更多的力量，这样一来，很可能会出现一个全新的信息网络。

当然，不是说网络中的一切都是新的。在一段时间内，大多数旧的信息链会被保留。并且，这个新的信息网络会保留人与人的连接，像家庭；也会保留人与文件的连接，如教会。

然而，这个信息网络还会有越来越多的另外两种新型链条。

一是计算机与人类的连接，计算机在人类之间起到中介的作用，有时甚至能对人类进行控制。

脸书和 TikTok 是我们熟知的两个例子。这些计算机与人的连接和传统的人与文件的连接不同。计算机现在能够自行做决策，能够创造想法，还能够深度伪造亲密关系，从而对人类发挥出过去文件无法做到的影响力。

目前已经开始出现第二种情况，即计算机与计算机之间的连接。在这种连接中，计算机能够自行彼此互动，而人类被排除在外，甚至连理解其中正在发生的事情都很困难。

谷歌大脑曾尝试让计算机研发新的加密方法。在当时的实验中，要求两台计算机（分别代号为艾丽斯和鲍伯）需交换加密信息，同时第三台计算机伊夫要尝试破解加密代码。

伊夫在一定时间内若能破解加密代码，就能够得到分数；而如果失败了，那么就由艾丽斯和鲍伯得分。

艾丽斯和鲍伯经过约 15000 次交流后，最终想出了一套伊夫无法破解的加密代码。关键在于，实施该实验的谷歌工程师未给艾丽斯和鲍伯传授任何加密知识，而是那两台计算机完全自主创造出了专属于它们的私密语言。

像这样的事情也已经发生在实验室外的现实世界中了。

外汇市场是全球外汇交易的场域，它决定了各种货币（像欧元与美元等）之间的汇率。2022 年 4 月，外汇市场每日的交易量平均为 7.5 万亿美元。其中，超过 90%的交易量已经由计算机之间的对话直接完成。

有多少人懂得外汇市场的运作方式呢？又有多少人了解一群计算机在价值数万亿美元的交易上是怎样达成共识的呢？以及它们又是如何决定欧元与美元的价值的呢？

在可预见的未来，在这个全新的以计算机为基础的网络当中。这里面会包括我们这几十亿人类。但人类有可能只是其中的少数。因为除了人类之外，这个网络的成员还包含着数十亿甚至数千亿个具备超智能且行为高深莫测的存在。

这样的网络与地球生命史上曾经存在的一切不同。

大约 40 亿年前地球首次出现生命之后，所有的信息网络都是生物（有机）网络。倘若信息网络变为由非生物的计算机来主导，那么整个运作方式就会变得相当不一样，并且会超出我们的想象。

我们身为人类，想象力是有机生化的产物，并且无法跳出原本设计的生物戏剧。

第一台数字计算机问世至今已有 80 年。如今，改变的步伐仍在持续加快。我们距离发挥计算机的全部潜力还很遥远。计算机有可能继续演化数百万年。过去 80 年发生的事情与即将发生的事情相比，是微不足道的。

如果进行粗略比较，我们可以想象自己来到古代美索不达米亚的某个时间点。在这个时间点的 80 年前，才有人首次想到用棍子在一块湿湿的黏土泥版上画些符号。此刻，我们能否想象未来会发展出亚历山大图书馆呢？甚至这样的比较也严重低估了未来计算机发展的潜力。

让我们想象自己回到早期地球的某个时间点，这个时间点大约是 40 亿年前。在这个时间点的 80 年前，地球呈现出一片“有机汤”的状态。最终，在这片“有机汤”中凝结出了第一个能够自我复制的遗传密码。

在这个阶段，单细胞的阿米巴原虫，它的细胞组织是一种幻想，它的成千上万的内部细胞器是一种幻想，它控制运动及营养的能力也是一种幻想，这些都还只是带着未来风格的幻想。

在这个时间点，我们能否想象出未来会出现霸王龙呢？我们能否想象出未来会有亚马孙雨林呢？我们能否想象出未来人类会登上月球呢？

目前提及“计算机”，我们脑海中浮现的依旧是带有屏幕和键盘的金属盒子，因为这是我们的生物想象赋予 20 世纪初期那批计算机的形状。随着计算机持续成长和发展，它们正逐步摆脱以往的形态，采用全新的配置，突破人类的想象限制。

有机生物在一个时间点通常只能出现在一个地方，而计算机则不同，它在一个时间点不一定只能出现在一个地方，能够散布于整个空间，不同的组件可以位于不同的城市甚至大陆。从阿米巴原虫到霸王龙这样的改变，对于计算机的演化来说，可能只需要 10 年。

如果GPT-4还只是阿米巴原虫，未来的霸王龙会是什么样？

生物演化历经 40 亿年，才从有机汤演变成能够登上月球的人类；计算机或许只需几个世纪就能发展出超智能，这种超智能既能放大至整个行星大小，又能收缩到亚原子级别，还能延伸跨越整个星系的时空。

从计算机术语的混乱状况能够看出计算机发展的速度之快。几十年前，仅“计算机”这一个词便可涵盖所有相关概念，然而现在的用词除了“计算机”之外，还包含了算法、机器人、自动化程序、人工智能、网络以及云等。仅“难以确定该使用哪个词”这一情况就已经颇具意义了。

生物包含许多不同的个别实体，这些个别实体能集合成“种”和“属”这样的分类。而对于计算机来说，要判断某个实体到何处结束，另一个实体从何处开始，以及怎样准确地对它们进行分类，已经变得越来越困难。

信息交换与数据价值

对于这个以计算机为基础的网络，我们无法预测在几百或几千年之后它的长期演变情况。不过，我们能够谈谈目前它的演变情况。并且，这种对当下的讨论更为迫切，因为无论在什么层面，这个新计算机网络的兴起都会对所有人产生影响。

接下来，我们将谈谈这个网络以计算机为基础，它有哪些新颖之处，以及对人类生活有着怎样的意义。

我们首先应该讲清楚的是，这个网络会创造出全新的个人现实。信息并非真理与真相，信息革命也不会揭露事实真相。

信息革命能做的是创造出新的政治结构、经济模式与文化规范。

当前的信息革命非常重要，远超过往。它很可能会以一种前所未有的规模，创造出前所未有的现实。

有必要了解这一点，原因是目前的情况处于人类的掌控范围内。虽然不清楚这种掌控能持续多久，但目前人类具备左右这些新现实的能力。

为了做出明智的决定，我们需要知晓当下正在发生的事。在编写计算机代码时，我们并非仅仅在设计一个产品，而是在对人类的政治、社会与文化进行重新设计，因此我们最好对政治、社会与文化都有所了解。并且我们所做的决定，最终都得由我们自己来承担责任。

我们曾认为“顾客永远是对的”以及“选民能做出最好的选择”。然而，这些原则的前提是假定人们对自身周边发生的事情都有清晰的认知。他们假定，选择使用 Instagram 的用户完全知晓该选择所带来的全部后果，并且认为负责监管苹果等公司的人员完全了解这些公司的商业模式与活动。他们假设大家都切实知晓这个新信息网络的具体情况与细微之处，并且真诚地送上自身的祝福。

但事实上，我们根本没那么了解。

这并非是因为我们极为愚蠢，而是由于科技本身极为复杂，并且其发展的速度着实惊人。我们需要花费大量的心思才能够理解许多事物，并且当你自认为已经理解的时候，事情却已经发生了变化。

在这里，金融是个格外重要的例子，原因有二。

第一，现代金融工具完全是由信息构成的。因此，与创造实物对象相比，计算机创造或改变金融工具要容易得多。过去人们提到货币、股票和债券时，它们都是由黄金或纸张制成的实物对象，但如今它们已变成主要存在于数据库中的数字实体。

第二，这些数字实体对社会和政治世界有着重大影响。倘若人类不再具备理解金融体系运作方式的能力，那么这会给社会带来怎样的影响呢？

以信息换信息的交易已经无所不在。

目前，每天都有数十亿人同科技巨头进行大量的交易。然而，由于几乎不存在任何金钱的流动，所以无法从银行账户中察觉到相关迹象。我们从科技巨头那里获取信息，而我们所付出的代价恰恰就是信息。

随着交易越来越多地采用以信息换信息的模式，信息经济在成长。这种成长实际上是以牺牲货币经济为代价的，到最后，甚至可能连货币的概念都有可能会受到动摇。

货币应当是一种被广泛运用的价值标准，而非仅适用于某些特定情境的价值象征。

随着越来越多的东西的价值以信息的形式被衡量，然而从货币角度看却都是“免费”的。在一定程度上，如果仅仅依据个人或企业拥有的美元或其他货币的数量来判断他们是否富有，是无法真实反映现实情况的。

一个人在银行里没什么钱，然而却拥有庞大的数据库，那么这个人有可能是该国最富有的实体。一家企业在银行里没什么钱，可是却拥有庞大的数据库，那么这家企业有可能是该国最强大的实体。

本文是由中信出版集团的《智人之上》尤瓦尔·赫拉利（2024 年 9 月版）整理而来的，其中进行了部分删减和调整。

拓宽视野，看看人类的信息网络在过去几千年的发展情况。这样我们或许能更了解今日发生的事情，也能更了解未来发生的事情。