奇点更近
作者小传
之前，库兹韦尔曾发布了一份名为《我的预测结果如何》(How My Predictions Are Faring) 的报告，分析了他在出版的多部作品中所作的预测。结果显示，他的预测准确率高达 86％！库兹韦尔曾预言，人工智能计算机会在 1998 年战胜人类国际象棋世界冠军，这一预言在 1997 年应验。他也曾预言会出现一种世界级的计算机网络，到那时，信息传递将更加便捷——今天的互联网、Facebook、T...
《华尔街日报》称他为“永不满足的天才”；《福布斯》杂志称他为“终极思考机器”；《公司》杂志将其评选为“顶尖创业家”之一，并形容他是“爱迪生的法定继承人”；美国公共广播公司将库兹韦尔与过去两个世纪的发明家一起评选为“开创美国的 16 位改革家”之一。
他是个天生的发明家，而且似乎永远不会满足。自小，他就是科幻文学的拥趸，熟读“汤姆·斯威夫特系列”图书。七八岁时，他创立了一个机器人木偶剧院，而且还开办了机器人比赛。12 岁时，库兹韦尔开始花费大量精。..
奇点大学的神圣使命就是培养面向未来的人才，这所大学也被称为“未来领袖训练营”。从世界各地严格甄选出来的天才们，将在这里致力于神经科学、人工智能、纳米技术、基因工程、空间探索、虚拟现实以及物联网等领域的技术探索，比如，尝试通过 3D 打印建造房屋或者研制太阳能航天器等。在库兹韦尔的带领下，人们已经为应对气候恶化、能源紧缺、疾病和贫困等重大问题做好了准备。
引言 人类迈向奇点的千年征程已步入冲刺阶段
我无法确定地说奇点之后的生活会是什么样子。但通过理解和预测带领人类走向奇点的过程，我们可以确保人类在最后接近奇点时的道路是安全和成功的。
2005 年，在《奇点临近》(The Singularity Is Near) 中，我提出：不断融合的指数增长的技术趋势将带来一场对人类具有根本性意义的变革。今时今日，这场变革正在多个关键领域同时加速：计算的性价比越来越高，我们对人体生物学的理解越发深入，在微观尺度上的研究变得更具可行性。随着 AI 的能力日甚一日，信息变得越来越触手可及，我们正在将这些能力与人类智能愈发紧密地整合起来。纳米技术将使这些趋势达到高潮，开启一条利用云端虚拟神经元层直接扩展人类大脑的道路。通过这种方式，我们将与 AI 融为一体，并利用比人类强数百万倍的计算能力来增强自己的能力，这种智能和意识的提升影响深远，以至于人们会感到难以完全理解。我所谓的“奇点”，正是指这一事件。...
极大地减少了人类与机器之间沟通的障碍。你阅读这段文字的时候，很可能已经有数千万人亲身体验了这些功能。与此同时，人类基因组测序的成本下降了约 99.997％，而神经网络通过数字模拟打开了医学研究的新篇章。我们甚至获得了直接将计算机与大脑连接的能力。
这一系列的进步都建立在我所称的“加速回报定律”(Law of Accelerating Returns) 之上：随着技术的不断进步，计算和其他信息技术的成本呈指数级下降，因为每一次的进步都会让它们下。..
图 0-1 中的内容我将在后面的章节中做深入讨论。图中概述了推动人类技术文明进步的核心趋势：在长期范围内来看，随着时间的推移，一美元能购买的计算能力呈指数级增长（在对数刻度图上是一条直线）。众所周知，摩尔定律指出，晶体管尺寸在逐年缩小，随之而来的是计算机日益强大，但这只是“加速回报定律”的一种表现形式。在晶体管发明之前，这个定律就已经成立，即便在晶体管达到物理极限并被新技术取代之后，它仍有望会持续下去。这个趋势定义了现代世界，在本书中讨论的即将实现的所有突破，都直接或间接地依赖于它。
正因如此，我才写了这本《奇点更近》。人类迈向奇点的千年征程已经步入冲刺阶段。在《奇点临近》的前言中，我曾写到我们当时正处在这一转变的初期。而现在，我们进入了高潮期。那本书是对遥远地平线的一瞥，这本书则讲述的是走向地平线的最后几公里。
幸运的是，我们如今更能清晰地看懂这条道路。尽管要实现奇点还面临诸多技术挑战，但关键的先行指标正迅速地从理论科学走向积极的研究与开发之路。在未来 10 年里，人们将与看起来非常人性化的 AI 互动，简单的脑。..
造成的经济动荡之痛，而我们所有人都将面临对新技术的不慎或蓄意误用导致的风险。到 21 世纪 30 年代，不断进步的 AI 和日渐成熟的纳米技术将以前所未有的方式促进人机结合，这将进一步放大可能的希望与潜在的危机。如果我们能够成功应对由这些进步带来的科学、伦理、社会和政治方面的挑战，那么在 2045 年，我们将深刻改变人类在地球上的生活，使之变得更美好。反之，如果我们失败了，我们的生存就会受到威胁。因此，这本书将聚焦于人类奔向奇点的最终路径——我们所了解和熟悉的世界的最后一代人将共同
第一部分 奇点迫近，与超级 AI 融合的终极未来
第 1 章 我们在六个阶段中的哪个位置
...
合。例如，如果引力的强度稍微弱一点，就不会有超新星产生构成生命的化学元素；如果它稍微强一点，恒星就会在智慧生命形成之前燃烧殆尽。正因为引力常数在一个非常窄的范围内，人类才得以存在。因此，我们所在的宇宙似乎是被精心调谐过的，以允许秩序的存在，从而让生命进化得以展开。
几十亿年前迎来了第二个时代：生命的诞生。分子变得日益复杂，以至于一个分子就能定义一个完整的生物体。于是，有自己 DNA 的生物得以进化并繁衍生息。
第五个时代涉及直接将人类的生物认知与数字技术的速度和力量结合起来，即脑机接口。人类大脑的神经处理速度为每秒几百个周期，而数字计算的速度为每秒数十亿个周期。除了速度和存储能力，用非生物计算机增强人类的大脑，还允许我们在新皮质上增加更多的层，释放现在难以想象的更为复杂和抽象的认知能力。在第六个时代，我们的智能将延展至整个宇宙，把普通物质转变为能在最密集计算水平上进行组织的数层计算材料 (Computronium)。
在我 1999 年出版的《机器之心》中，我预测在 2029 年 AI 将通过图灵测试。图灵测试是指 AI 系统可以通过人类无法区分的文本与人类交流。我在 2005 年出版的《奇点临近》中重申了这一预测。AI 通过图灵测试表明 AI 掌握了人类的语言和常识性推理能力。虽然艾伦·图灵 (Alan Turi
从宇宙大爆炸到生命诞生再到大脑出现
...
通过图灵测试，实现人机融合
...
括博弈游戏，如《危险边缘》，以及像放射学和药物发现等严肃应用。截至目前，如 Gemini 和 GPT-4 这样的顶尖 AI 系统正在将它们的能力拓展至许多不同的领域，这些都是通往通用智能道路上令人鼓舞的成就。
值得注意的是，当 AI 系统真的通过图灵测试时，它必须在很多领域内故意表现得不那么聪明，否则人们将很容易识破。例如，如果它能够即时解决任何数学问题，它就无法通过图灵测试。因此，达到通过图灵测试的水平时，AI 在大多数领域的能力将远超最优秀的人类。如今，人类正生活在第四个时代，我们的技术已经在某些任务上产生了超越人类理解力的成果。因此，对于图灵测试中 AI 尚未掌握的方面，我们正在快速取得进展。我一直期待着 AI 在 2029 年通过图灵测试，这将带领我们进入第五个时代。21 世纪 30 年代的一个关键进展将是，人类大脑新皮质的上部连接到云，这将直接扩展我们的思维。到那时，AI 不再是我们的竞争对手，而是人类个体的延伸。当这个时刻来临时，我们大脑的非生物部分的认知能力将比生物部分强数千倍。
第 2 章 重塑智能意味着什么
我们为什么必须重塑智能
...
AI 的诞生与两大流派之争
1950 年，当英国数学家艾伦·图灵在《心智》(Mind) 杂志发表《计算机器与智能》(Computing Machinery and Intelligence) 一文时，他就提出了科学史上最深刻的问题之一：“机器会思考吗？”尽管在此之前，希腊神话中就存在着像塔罗斯 (Talos) 这样的青铜自动机，但图灵的突破是将这个构想归结为一个可以实证检验的概念。他提出的“模仿游戏”，也就是今日我们所熟知的图灵测试，用来评判机器的计算能力能否够执行与人脑相同的认知任务。在这一测试中，评判员通过即时通信工具与 AI 和人类参与者进行对话，但不知道具体在和谁对话。评判。..
尽管进行了研究，但在最初规定的两个月时间内，他们并未达成让机器理解自然语言描述的问题的目标。我们直至今天仍在这个问题上孜孜不倦地努力，现在已非当初的十余人之师了。根据2017 年科技巨头腾讯的统计数据，世界范围内大约有 30 万名活跃的 AI 研究者和实践者。由琼-弗朗索瓦·加涅 (Jean-Francois Gagne)、格雷斯·凯泽 (Grace Kiser) 和约安·曼塔 (Yoan Mantha) 联合撰写的《2019 全球 AI 人才报告》(2019Global...
标，尽管当时很多观察家认为这是永远无法实现的里程碑。直至最近，这样的预测在业界仍被视为过于乐观。例如，在 2018 年的一项调查中，众多 AI 专家预测能达到人类级别的机器智能要到约 2060 年才会出现。然而，最新的大语言模型研究进展使得人们迅速调整了预期。在我撰写此书初稿时，全球顶尖预测网站 Metaculus 上人们达成共识的时间为 21 世纪 40 年代到 21 世纪 50 年代。然而，最近两年 AI 令人震惊的进步颠覆了这一预期。不出所料，到 2022 年 5 月，Metacu...
多里安 (Raffi Khatchadourian) 问他这个问题时，波吉奥退回到了一种更具哲学性的怀疑态度，即对“这种能力是否代表真正的智能”表示了怀疑。我提到这一点，并不是要批评波吉奥，而是想指出一个我们可能都有的倾向：在 AI 达成某项目标之前，我们会认为这个目标非常困难，几乎是人类的专利。然而一旦 AI 实现了这个目标，这项成就在我们眼中似乎就变得没有那么了不起了。也就是说，我们取得的进步，实际上要比我们回顾时认为的更加重大。这也是我对于 2029 年的预测依旧持乐观态度的原因之一。
这个问题可以追溯到该领域诞生之初。在我读高中时，也就是 1964 年，我有幸见到了 AI 领域的两位奠基人：马文·明斯基 (Marvin Minsky) 和弗兰克·罗斯布拉特 (Frank Rosenblatt)。明斯基是达特茅斯会议的组织者之一。随后的 1965 年，我进入了麻省理工学院，师从于他。他的基础性工作为我们今天目睹的 AI 的惊人进步奠定了基础。明斯基教导我，创建问题的自动化解决方案的技术主要有两种：一种是符号主义方法，另一种是联结主义（... 符号主义方法，就是用一套基于规则的术语来描述人类专家解决问题的过程。这种方法有时十分有效。比如，在 1959 年，兰德公司研发了一款名为“通用问题求解器”(General Problem Solver...
想象一下，如果在每个决策点都有 10 个这样的公理可以选择，并且假设你需要 20 个这样的公理来得到一个解决方案，那可能性就达到了惊人的 1020，也就是 1000 亿亿种可能的解法。用现代计算机来处理如此庞大的数据量是可行的，但 1959 年时的计算速度远不能满足。当时最强的 DEC PDP-1 计算机每秒只能执行大约 10 万次操作，而到了 2023 年，谷歌 Cloud A3 虚拟机每秒可以执行大约 26000000000000000000 次操作。现在，我们用一美元可以买到的计算能力是通用问题求解器发明时的 1.6 万亿倍。用 1959 年时的技术需要数万年才能解决的问题，现在在零售计算硬件上只需要几分钟。为了弥补其局限性，通用问题求解器设置了启发式程序，试图对可能的解决方案的优先级进行排序。启发式方法有时是有效的，它们的成。..
型，并且结合各种证据来源来做出决策。虽然单个“如果-那么”(IF-THEN) 规则本身可能不足以解决问题，但是当成千上万这样的规则结合起来之后，整个系统就能够为一个有约束条件的问题提出可靠的决策了。
尽管符号主义方法已被使用了半个多世纪，但它存在一个主要瓶颈——复杂性的上限。以 MYCIN 等系统为例，当它犯下错误时，对错误的纠正也许能够解决眼前的问题，反过来又会引起在其他情境下的三个错误。这种局限意味着它们能够解决的实际问题的范畴非常有限。
Cyc 项目是运行时间最长的专家系统之一，由 Cycorp 公司的道格拉斯·莱纳特 (Douglas Lenat) 及其同事们创建，于 1984 年启动。Cyc 的目标是编码人类的所有“常识性知识”，这些众所周知的事实存在于各个领域，如“掉落的鸡蛋会破碎”，或者“一个孩子穿着脏鞋在厨房里跑会让父母感到不快”。这些数以百万计的小常识并没有明确写在某个地方，而是人类理念和推理背后不言而喻的假设，它们对于理解一个普通人在多个领域的知识是必不可少的。但是，由于 Cyc 系统同样以符号规则形式表示这些知识，它仍然免不了。..
20 世纪 60 年代，正是在明斯基的指导下，我开始了解符号主义方法的利弊。同时，我也逐渐领会到联结主义方法的附加价值。联结主义主张通过网络化的节点结构来生成智能，而非依赖于内容。与使用智能规则不同，通过哑节点，它们能直接从数据中挖掘出深层次的洞见。这样的系统可以发现那些人类程序员在设计符号规则时未曾想到的细微模式，它们甚至能在完全不理解问题的情况下解决问题。即使我们能够精确制。.. 虽然这种方法非常适合应对复杂问题，但它也有缺陷。联结主义 A...
• 利用训练好的神经网络解决问题的新例子。
• 让你的神经网络公司上市。
以下详细描述了上述步骤（除了最后一步）。
(iii) 请注意，即使训练试验的答案不全是正确的，神经网络的训练也是有效的。这允许使用可能具有固有错误率的真实世界的训练数据。神经网络基础识别系统成功的一个关键在于用于训练的数据量。通常需要大量的数据才能获得满意的结果。就像人类学生一样，神经网络学习课程的时间量是影响其表现的。..
上述模式描述的是一个“同步”神经网络，在每次识别试验中，从第 0 层开始到第 M 层，依次计算出每一层的输出。在一个真正的并行系统中，每个神经元独立于其他神经元运作，神经元可以“异步”（即独立地）运作。在异步方法中，每个神经元不断扫描输入，并且在加权输入之和超过阈值（或者其输出函数指定的任何值）时触发。
我们的目标是找到具体的实例，系统可以从中找出解决问题的方法。一个典型的起点是神经网络的连接和突触权重是随机设定的，在未经训练的状态下，神经网络给出的回答也是随机的。神经网络的核心任务便是学习，它的。..
经过一段时间的学习，神经网络能够自主提供正确答案，不再需要外部指导。实验显示，即使教师的指导存在不可靠因素，神经网络也能有效学习。例如，在标注正确率只有 60％的情况下，神经网络仍能以超过 90％的高准确度掌握所学知识。在某些情况下，甚至使用更小比例的准确标注也取得了有效的学习结果。
核心问题在于，前馈感知机无法利用异或 (XOR) 功能去解决问题，而异或功能正是用来判断图像中的线段是否属于一个连续的整体，而不是另一个形状的一部分的关键。单层节点网络由于结构限制，在没有反馈机制的情况下，无法实现异或运算。异或运算需要一个反馈步骤，而非简单的线性规则（如“如果这两个节点都触发，则输出为真”），...
随着这一迭代过程的不断重复，它最终将越来越胜任处理不变性问题。只要有足够多的层级和训练数据，感知机就可以处理极为复杂的问题。当我询问他是否尝试过此方法时，他表示还没有，但这在他的研究计划中优先级很高。这一深刻的洞见如今显得极具先见之明，可惜的是，罗斯布拉特在 1971 年去世，没来得及验证自己的理论。直到大约 10 年后，多层网络才被广泛采用。然而，当时的计算能力和数据量都限制了多层网络的应用。而今天 AI 领域的巨大发展，就得益于在罗斯布拉特提出这一构想 50 多年后，多层神经网络的广泛使用。
小脑：用模块构建“无意识的能力”
了明显的优势。当动物们为资源竞争时，那些智力较高的往往更易胜出。与之前的演变相比，智力的发展历经的时间相对较短：仅数百万年，显现出明显的加速趋势。在哺乳动物的祖先中，大脑的一个重要变化发生在小脑区域。如今的人类大脑中，小脑中的神经元数量甚至超过了负责高级功能的新皮质。小脑能够储存并触发众多控制运动任务的脚本，例如签名便是其中之一。（这些脚本通常被非正式地称为“肌肉记忆”，虽然这并非肌肉本身的现象，而是基于小脑的作用。随着动作的反复执行，大脑就会适应，使动作变得更容。..
将这个问题简化为：如何有效地将手置于球和身体之间。小脑会假设你的手和球在每次接球时应该出现在相似的相对位置。如果感觉到球下降得太快，手动作太慢，小脑会迅速调整，让你的手更快地移动到熟悉的相对定位。
这些由小脑控制的动作，实际上是一种将感官信息转化为肌肉运动的过程，与数学中的“基函数”概念类似，让我们能够在不解微分方程的情况下也能抓到球。小脑还能帮助我们预判动作，即便我们最后没有采取行动。例如，小脑可能会告诉你：你可以接到球，但这么做可能会导致与其他球员碰撞，因此也许你不应该采取行动。这些判断和动作，多半是无意识的直觉反应。同样，如果你在跳舞，你的小脑也会在你没有意识到的情况下指导你的动作。因受伤或疾病导致小脑功能不全的人，虽然可以通过大脑皮层主动控制自己的行为，但这需要额外集中精力，并可能出现共济失调的问题。
然而，小脑的这种能力并不是某种极其复杂的结构的结果。尽管小脑包含了成年人（或其他物种）大脑中的大多数神经元，但基因组中关于其整体设计的信息并不多，它主要由小而简单的模块组成。神经科学家发现，小脑由成千上万个以前馈结构排列的小型处理单元组成。这为我们更好地理解完成小脑功能所需要的神经架构提供了基础，并可能对 AI 领域的研究提供有用的见解。
在动物王国中，哺乳动物携带了新皮质这一独特优势，而非哺乳动物则没有这一优势。后者的小脑精确记录下了生存所需的关键行为，这类由小脑驱动的动物行为被称作固有行为模式。与通过观察及模仿习得的行为不同，这些行为是一个物种的成员与生俱来的。哺乳动物身上有些相当复杂的行为也是天生的。例如，鹿鼠挖短洞，而海滩鼠会挖带逃生通道的长洞。就算是从未有过挖洞经验的实验室鹿鼠和海滩鼠，一旦把它们放在沙地之上，它们也能挖出各自物种特有的洞穴类型。在大多数情况下，小脑中负责特定动作的机制会在物种中一直延续下去，直到拥有改进动作的种群通过自然选。..
然而，自然界中实现这种进化方式需要耗费数百万年的时间。尽管这个过程显得十分缓慢，但我们不妨回想一下，在生物出现之前的进化过程，如生命所需的复杂前体化合物的形成，往往需要数亿年时间。因此，从这个角度看，小脑实际上起到了加速进化的作用。
新皮质：层次分明、可自我调整的灵巧结构
在 2 亿年前，由于环境变化非常缓慢，非哺乳类动物对环境的适应之慢并不是问题。环境的改变往往需要数千年，才会促使小脑发生相应的改变。因此，新皮质似乎是在等待某场大灾变，来获得统治地球的机会。最终，这场灾变——我们现称之为白垩纪大灭绝，发生在 6500 万年前，也就是新皮质出现 1.35 亿年后。由于小行星的撞击，可能还有火山爆发，这些事件联手改变了地球的环境，导致约 75％的动植物物种，包括恐龙，走向了灭绝的深渊（尽管我们熟知的恐龙消失了，但一些科学家认为，鸟类或许是恐龙的一个幸存的分支）。新皮质凭借其快速创造解决方案的能力，在此时登上了生物界的舞台。哺乳动物的体型随之增大，它们的大脑发育速度更快，占据了体重更大的比例。新皮质更是迅猛伸展，通过发展出皱褶来大幅扩大其表面积。如果把人类。..
我在 2012 年出版的《人工智能的未来》中详细介绍了新皮质的运作机制，这里我将简要介绍其核心概念。新皮质由简单的重复结构组成，每个单元包含大约 100 个神经元。这些功能模块能够学习、识别以及记忆各种模式，并且组织成层级结构，每一层级都能掌握更复杂的概念。这些重复的子结构。..
科学家估算，人类大脑内大约拥有 210 亿到 260 亿个神经元，其中有 90％位于新皮质。以每个皮质微柱约有 100 个神经元来计算，我们大脑中大约含有 2 亿个这样的结构单位。与按部就班执行任务的数字计算机不同，最新研究显示，新皮质的各个模块采用了大规模并行的处理方式，也就是说，许多不同的事情可。..
尽管新皮质层级数量决定了它相对于从感官输入向上传播的一组信号的抽象水平，但这个处理过程并不是单向的。新皮质的 6 个主要层级会在两个方向上动态地相互交流，所以我们不能断定抽象思维只在最高层发生。相比之下，从物种的角度考虑层次与抽象的关系更有意义。换句话说，人类拥有多个层次的新皮质使我们具有更强的抽象思维能力，超越了皮质构造更简单的其他生物。而一旦我们能将新皮质与云计算直接结合，我们就能解锁更。..
尽管有些媒体的新闻标题会让人误认为其他动物也能做到这些，但实际上，除了人类之外，没有任何物种能够在脑海中打节拍、讲笑话、发表演讲，或者写作或阅读这本书。虽然其他一些动物，比如黑猩猩，可以制作原始的工具，然而这些工具的复杂度不足以触发快速的进化过程。类似地，虽然一些动物也使用简单的沟通形式，但它们无法像人类用语言那样交流等级观念。作为没有额叶皮层的灵长。..
然而，大脑的进化只是人类作为一个物种进化中的一部分。尽管人类的新皮质功能强大，但如果没有另一个关键的身体结构创新，即拇指，人类的科学和艺术成就也不会实现。大脑新皮质与人类相当或比人类更大的动物，比如鲸鱼、海豚和大象，因为没有能够精确操控天然材料并将其改造成工具的对生拇指，所以无法达到人类的成就。这一点告诉我们，人类在进化上是极其幸运的。
此外，新皮质放电模式的相似性促进了类比思维的发展。例如，代表手部位置下降的模式与表达声音音高下降的模式有关，甚至与温度的下降或帝国的衰落等隐喻性降低的概念相关。这样一来，我们就能够从一个领域中学到一个概念，并将其应用于完全不同的另一个领域，从而形成一。..
方人普遍认为，峡谷是上帝创造的，一条流经它的河流只是恰好因为地心引力找到了峡谷的底部。莱尔则认为，河流先于峡谷而存在，峡谷的形成是后来的事情。尽管他的理论最初遭到了强烈反对，经过一段时间后才被接受，但科学家们最终认识到，连绵不断的流水冲刷岩石，即便流水对岩石的影响很小，在数百万年的过程中，也能冲刷出像大峡谷一样深的深渊。莱尔的理论很大程度上得益于他的同事、苏格兰地质学家詹姆斯·赫顿 (James Hutton) 的研究，赫顿首次提出了均变论，该理论认为地球不是由《圣经》中提到的灾难性洪水塑造的，而是一系列自然力量随时间逐。..
这引发了人类文明史上迄今为止最深刻的科学变革。从牛顿的万有引力到爱因斯坦的相对论，这些重大发现都是基于类似的类比洞见而得出的。
深度学习：新皮质魔力的数字化再现
去，他们认为，当晶体管密度达到原子尺度的物理极限时，摩尔定律将不可避免地走向终结。但他们忽略了一个更深层次的事实：摩尔定律实际上是“加速回报定律”的更基本力量的一个示例，信息技术创造了创新的反馈循环。在摩尔做出他的伟大发现之前，电机、继电器、真空管和晶体管引领的四种主要技术范式的计算性价比呈指数级提高，而在集成电路达到其极限之后，纳米材料或三维计算技术将占据主导地位。
自 1888 年以来（早在摩尔出生之前），这一趋势就在稳步地呈指数级增长，并在 2010 年左右达到了一个关键点，足以释放出联结主义的隐藏力量，这种基于新皮质的多层分层计算模型建构的方法被称为深度学习。自。..
但深度强化学习并没有局限于掌握这类游戏。那些能够玩《星际争霸 II》(StarCraft II) 或扑克的 AI 近期的表现也超越了所有人类。这些游戏都具有不确定性并且需要对对手玩家有深入了解。唯一的例外情况是桌游，这类游戏需要非常强的语言能力。《强权外交》(Diplomacy) 可能是最好的例子——这是一款玩家不可能依靠运气或自己的技能获胜的、统治世界的游戏，玩家必须与彼此交流。为了赢得比赛，你必须能够说服他人，让他们采取有助于你的举动，同时也符合他们自己的利益。因此，一个能够在外交游戏中持续占据主导地位的 AI，很可能也掌握了欺骗和说服的技巧。但即使是在外交游戏方面，AI 在 2...
它结合了对对话内容的层次化表示，捕捉交流中的言语往来。一开始，Gmail 的智能回复可能让一些用户感到不习惯，但它很快就因自然流畅和便捷性赢得了广泛接受，现在它在 Gmail 流量中已经占据了一小部分。
谷歌曾推出了一项名为“与书对话”(Talk to Books) 的独特功能——它曾作为一项实验性的独立服务，从 2018 年运作到 2023 年。一旦用户加载了这个功能，只需提出一个问题，它就会在短短半秒内浏览超过 10 万本书中的全部 5 亿个句子，以寻找最佳答案。它的工作机制并不同于一。..
，我们必须知道，Transformer 的精度依赖于大量的参数，这需要大量的计算用于训练和使用。以 OpenAI 于 2019 年开发的模型 GPT-2 为例，该模型有 15 亿个参数，虽然有一线希望，但效果并不好。而当参数数量增至超过 1000 亿时，模型在对自然语言处理和控制方面取得了历史性的突破，可以独立回答问题，表现出智能与微妙的理解。2020 年开发的 GPT-3 采用了 1750 亿个参数，次年 DeepMind 推出的 Gopher 模型参数更是高达 2800 亿，表现更加出色。同样在 2021 年，谷歌推出了一个具有 1.6 万亿参数的 Transform...
名的“中文房间论证”中的一段话。这个思维实验提出，即使一个不说中文的人能通过纸笔手动操作计算机翻译算法将中文翻译成其他语言，他也不会真正理解被翻译的故事。那么，运行同一程序的 AI 又怎能说它真正理解呢？GPT-3 的回答是：“很显然，我一个字都看不懂。”因为翻译程序只是一个形式系统，“它并不能解释理解，就像食谱并不能解释饭菜一样”。这种隐喻以前从未出现过，它似乎是对哲学家戴维·查默斯 (David Chalmers) 关于食谱不能完全解释蛋糕的隐喻的重新创造。这种类比的能力，正是达尔文提出进化论时所用的思考方法。
示下，它便能生成符合描述的可爱卡通图像。对于“一只有着竖琴质地的蜗牛”，以及“一个热恋中的珍珠奶茶的专业高品质表情符号”，DALL-E 同样能够准确实现——在漂浮着的木薯球上方，心形的眼睛闪闪发亮。
零样本学习正是类比思维和智能的核心。这表明，AI 不是单纯地复述我们给它的信息，而是在真正地学习相关概念，并能够将这些概念创造性地应用到新场景中。21 世纪 20 年代，完善 AI 在这方面的能力并将其应用到更广泛的领域，将会是 AI 领域的决定性挑战。..
输入：迈克尔在法国一个非常著名的博物馆里观赏最著名的画作。然而，这幅画的艺术家只是让迈克尔想起了童年时最喜欢的卡通角色。那个卡通角色通常手持的物品是从哪个国家来的呢？
输出：卢浮宫最有名的画作是《蒙娜丽莎》。《蒙娜丽莎》的创作者是莱昂纳多·达·芬奇。菜昂纳多·达·芬奇也是动画片《忍者神龟》中主角的名字。画家莱昂纳多·达·芬奇来自意大利，而动画片中莱昂纳多·达·芬。..
然而，2020 年至 2023 年联结主义领域取得的突破证明，计算量对于实现高水平智能至关重要。我从 1963 年开始研究 AI，计算量达到现在的水平用了 60 年的时间。如今，用于训练尖端模型的计算量正在以每年大约 4 倍的速度增长，其能力也在日趋成熟。
AI 尚需跨越的三大里程碑
在最近几年的发展中，我们已经大步朝着重建新皮质能力的道路前进。然而，今天的 AI 还存在一些不足之处，大致可以概括为几类：情境记忆、常识理解和社交互动能力。
首先来谈谈情境记忆。在一段对话或一篇文章中，我们需要理解并跟踪不同想法之间复杂且不断变化的关系。当我们试图连接的上下文范围扩大时，这些想法间的关系网络会以指数形式暴增。正如本章一开始提到的“复杂性的上限”所描述的，要让大语言模型处理更大的上下文范围，计算量会变得相当庞大。例如，一个句子中有 10 个类词概念（即符号），它们的子集之间可能形成的关系就有 210-1，即 102...
在你的卧室突然不起作用会发生什么情况，但你还是能够快速构想出这一幻想场景，并对可能的后果做出推断。这种推理对于因果推理同样至关重要，比如你有一只狗，当你回家发现一只花瓶碎了，你能够迅速判断发生了什么。虽然 AI 越来越频繁地显示出惊人的洞察力，但它在常识方面依然挣扎不前，因为它尚未构建出一个关于现实世界如何运作的强有力模型，且训练数据也鲜少包含这类隐性知识。
最后是社交互动。社交互动的微妙之处，如讽刺的语调，是目前 AI 训练所依赖的文本数据库中一个尚未很好体现出来的方面。若缺乏这种理解，形成“心智理论”，即意识到其他人拥有不同于自己的信念和知识，能够设身。..
我们不妨将数据比作石油。石油矿藏在开采难度上形成了一个广阔的谱系。有的石油会自行涌出地表，易于提炼且成本低廉；有的石油则需通过深层钻探、水力压裂或特殊的加热过程才能从页岩层中提取。当油价低迷时，能源公司只能开采那些成本较低、易于抽取的石油。然而，随着油价的攀升，那些开采难度大的油田在经济上变得更具可行性。同理，当大数据的好处相对较小时，公司只能在成本相对较低的情况下收集数据。但随着机器学习技术的进步和计算成本的降低，许多难以访问的数据变得越来越有价值，无论是在经济上还是在社会价值层面。得益于大数据和机。..
把 AI 的进步看作一系列独立技能的集合揭示了一个重要的事实：尽管我们习惯将人类智能看作一种统一的全知全能，但是将人类智能视为一系列各不相同的认知能力的集合，不仅更精确，也更有意义。有些能力，比如大象和黑猩猩能在镜子中认出自己，我们也具备；还有一些能力，如作曲，则只有人类具备，且每个人的能力参差不齐。这些认知能力不仅在个体间有差异，在个体内也有明显的不同。举个例子，有人可能在数学。..
当探讨“技术奇点”这一概念时，我们必须认识到，在众多认知技能中，编程能力以及理论计算机科学等相关能力无疑占据着重要位置。它们是实现超级智能 AI(Superintelligent AI) 的关键瓶颈。只要我们创造出能自我增强编程技能的 AI，无论是依赖于自己还是在人类的帮助下，它们就能在正反馈循环中愈发强大。与图灵齐名的科学家 I. J. 古德 (I. J. Good) 早在 1965 年就预言，这将引发一场“智能大爆炸”。计算机的运转速度比人类快得多，如果人类被排除在 AI 的进化链外，AI 的发展速度将达到令人震惊的程度。AI 理论家开玩笑地称之为“FOOM”，仿佛是漫画中表现速度之快的音效。
另外，随着机器学习成本效益越来越高，原始计算能力不大可能成为实现人类水平 AI 的限制因素。当前超级计算机的计算能力已远超模拟人脑所需。2023 年初，世界顶尖的超级计算机——美国橡树岭国家实验室的 Frontier 的运算速度可达每秒 1018 次，这已是人类大脑可能的最大计算速度（每秒 1014 次运算）的一万倍之多。
而实际上，我在 2005 年的著作《奇点临近》中指出，人脑的处理速度上限为每秒 1016 次运算。这个数据是考虑到我们大概有 1011 个神经元，约有 103 个突触，而每个突触每秒大约能触发 100 次。但我也指出，这是一个保守估计。真实的情况是，大脑的实际计算量通常远低于此数值。过去 20 年的一系列研究发现，神经元的实际触发频率比之前预估的 200 次/秒要慢得多，接近于 1 次/秒。据“AI Impact 项
通过图灵测试的意义
...
界定 AI 是否达到了与人类智能相当的水平呢？本章开篇描述的图灵测试为这一问题提供了一个严格的科学评判标准。然而，图灵并未详尽说明测试的全部细节，譬如人类评委需要与选手交流多久，以及评委需具备何种技能等。2002 年 4 月 9 日，个人计算机先驱米奇·卡普尔与我约定了一个长期赌注，事关到 2029 年 AI 能否通过图灵测试。这个讨论引出了诸多问题，例如，评委或人类参与者可以有多大程度的认知增强仍可以被视为一个人。
AI 最新的进步是可以更加流畅地理解和运用自然语言。比如，2018 年，谷歌发布了一款名为 Duplex 的 AI 助手，它通过电话与人交流时表现得非常自然，以至于不知情的接电话者认为自己正在与真人对话。IBM 同年推出的 Project Debater 则能以近乎逼真的方式参与到竞争性辩论中。直至 2023 年，大语言模型已能撰写出达到人类标准的完整论文。然而，尽管取得了这些显著的进步，包括 GPT-4 在内的模。..
信的故事。或者，当你请求它引用真实科学研究资料时，它可能会虚构出不存在的学术论文。在我撰写这篇文章时，尽管业界已经付出巨大努力来控制这些“幻觉”现象，但要克服此挑战将会有多困难仍是一个悬而未决的问题。这些小差错凸显了一个事实，即使是这些强大如“沃森”一般的 AI，它们也是通过复杂的数学和统计方法来生成回应的，这与我们所了解的人类的思维过程有很大差异。
直觉上，这看起来像是一个问题。人们很容易认为，“沃森”应当像人类一样推理。但我的看法是，这是一种迷信。在现实世界中，重要的是一个智能的生物如何行动。如果不同的计算过程导致未来的 AI 做出开创性的科学。..
管图灵测试对于评估 AI 的研究进展极为有用，我们不该将其视作衡量先进智能的唯一标准。正如 PaLM 2 和 GPT-4 展示的那样，机器在一些认知要求较高的任务中能超越人类，而无需在其他领域令人信服地模仿人类。我预测，在 2023 年至 2029 年，第一个严格的图灵测试终将被通过，届时计算机将在越来越多的领域展现出超越人类的能力（见图 2-4）。实际上，AI 很可能在掌握图灵测试中的常识性社交细节之前，就在编程方面超越人类水平。这一问题目前尚无解，但这种可能性表明，对人类智能水平的理解需要包含更为丰富和细腻的层面。图灵测试无疑是其中的关键部分，...
尽管一些人反对用图灵测试来衡量机器所具备的人类认知水平，但我相信，通过图灵测试的真实演示将会极富吸引力，观察到这一过程的人们将会相信这确实是一种真正的智能，而不仅仅是模仿。正如图灵在 1950 年所说的，“难道机器不能完成某些应该被描述为思考的活动，尽管这些
扩展大脑新皮质至云端
...
到目前为止，科学家们在用放置在颅骨内外的电子设备与大脑进行沟通的研究中还没有取得多少进展。采用非侵入性技术与大脑进行通信时，研究人员必须在空间分辨率和时间分辨率之间做出权衡，即他们想要在空间和时间尺度上以何种精确度测量大脑活动。功能性磁共振成像扫描通过测定大脑的血流量来作为监测神经活动的指标。一旦大脑的某个区域活跃起来，它就会消耗更多的葡萄糖和氧气，从而需要更多的氧合血液供应。这种血流变化可以精确到边长约 0.7～0.8 毫米的立方“体素”，足以提供非常有价值的数据。但是，因为大脑活动和血流变。..
与此相反，脑电图能够直接检测大脑的电活动，因此它能够将信号的捕捉时间精确到约 1 毫秒。但因为这些信号是从颅骨表面探测的，所以很难精确地确定它们来自哪里，导致其空间分辨率仅为 6～8 立方厘米，尽管有时可以提升至 1～3 立方厘米。
项目，它同时植入了一大批线状电极。在实验老鼠身上的测试显示，该系统可以读取 1500 个电极的信号，远超只能读取几百个电极的其他项目。后来，一只被植入该设备的猴子甚至能通过该系统玩《乒乓》游戏。截至目前，Neuralink 已获得美国食品和药物管理局的批准，可以开始人体试验。马斯克最近的声明暗示，这些试验将在 2023 年末启动，就在本书英文版即将出版时，Neuralink 在人体中植入了第一个有 1024 个电极的设备。
认知活动有关。然而，即使大脑内每秒可以执行 1014 次的运算，设计脑机接口时也不需要考虑这么高的计算量。因为它们大多数是发生在新皮质顶层以下的初级活动，我们真正需要做的只是与大脑的上层区域建立联系。至于像调节消化这类非认知性的运行过程，我们可以完全不加理会。因此，我认为一个高效的脑机接口可能只需数百万至数千万个并行连接。
迈向奇点的关键进展
第 3 章 我是谁：成为一个特殊的人意味着什么
...
巴特勒在 1871 年写了这段话。那么，我们是否可以根据他的观察认定植物具有意识？或者说某种特定的植物具有意识？我们怎样才能确定呢？我们常常自信地认为，另一个人是有意识的，因为他们的交流和决策能力与我们相似。但严格说来，这只是一个假设。我们无法直接探测到意识的存在或缺失。
那么，什么是意识呢？人们通常使用“意识”这一术语来描述两种不同但相关的含义。一种是功能性的，即意识到自己周遭的环境，并能够感知到内在思想和一个与之不同的外部世界。根据这一定义，我们可以说处在深度睡。..
人脑中神经元数量的十万分之一左右，因此在复杂和层次化网络的构建上有很大的局限性。那变形虫呢？这些单细胞生物并未展现出任何类似于人类或高等动物的功能性意识。尽管如此，21 世纪的科学家们已经进一步认识到，即便是最原始的生命形式也能展示出基本的智能形式，如记忆。
在某种程度上，意识可以被视为是二元的——一个生物是否有任何的主观体验？但我在这里还想探讨另一个层面的问题，那就是程度。想象一下，如果你正在做一个模糊的梦，或者处于醒着但醉酒或困倦状态，又或者完全清。..
飞跃都发生在自石器时代以来结构未发生改变的生物大脑中。如今，外部技术让每个人都能够访问人类同胞所做出的大多数发现，但我们的意识水平与新石器时代的祖先相比并没有太大变化。当能在 21 世纪 30 年代和 40 年代扩展新皮质本身时，不仅是我们解决抽象问题的能力会增强，我们的主观体验也将得到深化。
我们的意识水平与新石器时代的祖先并无二致
...
僵尸、主观体验与意识难题
正如我在《人工智能的未来》中所述，这种认识引出了一个更加令人不安的思想实验：如果有人根本就没有所谓的主观体验呢？哲学家戴维·查默斯 (David Chalmers) 将这样的假想生物称为“僵尸”——他们在神经学和行为学上表现出了可监测到的与意识相关的神经和行为，但实际上没有任何主观体验。科学无法区分这样的“僵尸”和正常人。
有一种方法可以帮助探讨功能性意识与主观体验之间的差异，我们可以比较狗和假设的、没有主观体验的人造人（即“僵尸”）。虽然所谓的“僵尸”可能表现出比狗更复杂的认知功能，但大部分人可能认为，伤害具有主观。..
面对意识这一难题，查默斯提出了一种他称之为“泛原心论”(Panprotopsychism) 的哲学概念。泛原心论认为，意识类似于宇宙中的一种基本力量，无法简单地视其为他物理力量影响的结果。可以想象存在一种拥有潜在意识的普遍场域。我对这一观点的解释，是大脑中处理信息的复杂性唤起了我们所熟知的主观体验。因此，无论大脑是由碳还是硅构成的，能让它表现出意识迹象的复杂性，同样也赋予了它主观的内在。.. 虽然我们无法通过科学方法证实这一理论，但强有力的道德要求促使我们必须假定它为真。换言之，如果你虐待的某个实体可能具有意识，最安全的道德选择是默认它是有意识的，而不是冒险折磨一个有知觉的生命。也就是说，我们应当表现得好像僵尸是不可能存在的。
从泛原心论的角度看，图灵测试不仅可以确认机器是否拥有与人类相当的能力，还能为验证主观体验提供有力的证据，由此为机器确立道德权利。有意识的 AI 将带来深刻的法律变革，但我怀疑在第一批达到图灵标准的 AI 问世之时，我们的体系能否快速适应、将它们的权利纳入法律。因此在最初的时候，制定可以限制滥用的道德框架的任务将落在开发者的肩上。
决定论、涌现与自由意志的困境
...
然而，当哲学家寻求一个更精确的定义时，他们几乎无法达成一致。不少哲学家相信，自由意志的存在意味着未来不能被预先确定。毕竟，如果未来发生的事情已经确定，那么我们的意志怎么可能是有意义的自由呢？但如果自由意志仅意味着我们的行为可以在量子层面被归结为完全随机的过程，这似乎并不符合我们对真正自由意志的认识。如英国哲学家西蒙·布莱克本 (Simon Blackburn) 所述：“随机性与必然性同样无情地排除了自由意志的存在。”因此，一个有意义的自由意志的概念应该是决定论和非决定论思想的综合，既非完全可预测也非。..
fram) 的研究为这一困境提供了洞见。长期以来，他的研究一直影响着我对物理与计算交叉领域的思考。在 2002 年出版的《一种新的科学》(A New Kind of Science) 一书中，沃尔弗拉姆探讨了同时具有决定性和非决定性特征的现象——细胞自动机。
细胞自动机是一种由细胞构成的简易模型，这些细胞根据许多可能的规则集之一变换状态（如黑/白、生/死）。这些规则决定了每个细胞根据周围细胞的状态如何变化。这个过程通过一系列离散的步骤展开，能够产生极其。..
关键在于，除非一个一个地计算，否则我们无法确定第一千行，或是第 100 万的第 100 万次方行会呈现什么样的情况。这意味着基于第四类规则的系统——正如沃尔弗拉姆所论述的，包括我们所在的宇宙，拥有一种不可简化的复杂性，它颠覆了那些传统的、简化过的确定性理论。尽管这种复杂性源自确定性编程，但在关键意义上，这种规划并不能完全解释它的丰富性。
然而，这些规则产生意识和许多其他自然现象并非偶然。沃尔弗拉姆提出了一个强有力的案例，即物理定律本身源自某些与细胞自动机相关的计算规则。2020 年，他启动了名为“沃尔弗拉姆物理项目”(Wolfram Physics Project) 的宏伟计划，以期通过一个类似于细胞自动机，但更广义的模型来解释全部的物理现象。
这种方法允许在经典决定论和量子不确定性之间达成某种妥协。尽管可以使用算法技巧来近似预测宏观世界的某些方面，例如预测一颗卫星从现在开始在 100 万个轨道上运行的位置，但在最基本的尺度上，这样的近似并不。..
息，然后通过极其复杂的网络对其进行处理。实际上，科学家最近发现，大脑中的网络竟然具有多达 11 个维度！这样的复杂性很可能涉及规则 110 类型的现象，如果不按顺序模拟每一步，就没有办法在计算上提前预知结果。由于大脑是开放系统，无法将未知的未来输入逐步模拟中，因此，复制大脑的功能并不意味着能预测其未来状态。这或许是宇宙存在的一个合理解释。
世界。即使我们的决定由现实的基础法则所决定，我们仍然可以做出自由的决定，即不由其他事物，如其他人引起。在一个决定论主宰的世界里，理论上我们可以在时间上向前或向后看，因为任何事情在两个方向上都是确定的。但在规则 110 下，我们能够完美预见未来的唯一方法是通过所有实际展开的步骤。因此，从泛原心论的视角看，我们大脑中涌现的过程并没有控制我们，它们构成了我们。我们源自更深层的力量，但我们的选择无法预测——只要产生人类意识的过程能通过人类在世界中的行动表达，我们就拥有自由意志。
当一个人存在多个大脑时
实际上，如果不局限于大脑的两个半球，我们会发现人体内还有许多能够做出决定的结构，这些结构也许都拥有上文提到的自由意志。例如，负责决策的新皮质包含许多小的功能模块。因此，当我们考虑一个决策时，不同的选项可能由不同的模块提出，每个模块都试图形成自己的观点。我的导师马文·明斯基很有先见之明，他认为大脑并不是一个统一的决策器，而是一个复杂的神经网络，在我们考虑一个决定
“2 号你”是你吗
...
分的理由认为，你的主观体验将被保留下来。实际上，正如之前提到的，我们已经在治疗某些大脑疾病时以非常初级的形式做到了这一点，新的神经假体比它所替代的部分能力更强。因此，它与被替代的部分并不完全一样。虽然早期的植入设备，比如人工耳蜗，能够刺激大脑活动，但它们并不能取代任何核心的大脑结构。但自 21 世纪初以来，科学家一直在开发大脑假体，以帮助大脑结构受损或有功能障碍的患者。例如，现在的假体设备能够部分替代有记忆问题的患者大脑海马的功能。截至 2023 年，这些技术仍处于起步阶段，但在这 10 年。..
在一个月内更新；神经微管几天就会更新一次；突触中负责提供能量的蛋白质每 2～5 天就会重新合成；突触中的 N-甲基-D-天冬氨酸受体更新周期为数小时；而树突内的肌动蛋白丝只能维持大约 40 秒就会断裂重组。所以，我们的大脑在几个月的时间里几乎就会全部更新一遍，这意味着与不久之前的你相比，你在生物学上已经是一个全新的“2 号你”了。重要的是，你的身份的完整性是由信息和功能决定的，而不是任何特定的结构或材料。
多年来，我经常凝望我家附近美丽的查尔斯河。当我今天看着这条河时，我依然认为它和一天前或 10 年前我在《人工智能的未来》一书中提到它时是一样的，虽然每隔几毫秒，流经河流某个地点的水分子就已经完全不同了
生命本身就是难以置信的奇迹
...
中平均会产生多达 2 万亿个精子，而一个女性平均会产出 100 万颗卵子。所以，你的身份取决于造就你的那颗精子与卵子，这种事情发生的可能性仅是 1/1018。尽管所有这些性细胞在基因上并非独一无二，但许多因素，如年龄等都会影响表观遗传学，比如你的父亲在 25 岁和 45 岁时产出了两个染色体相同的精子，它们在新生命形成时的作用也是不同的。因此，作为一种近似，我们必须将每颗精子和每个卵子都视为独一无二的。除此之外，发生在你的双亲、四位祖父母、...
杰·彭罗斯 (Roger Penrose) 基于我们对熵和随机性的了解提出，在所有可能的个宇宙中，只有一个在开始时有足够低的熵，以形成类似我们的宇宙的结构。那个数字后面跟着的 0 的个数比已知宇宙中的原子数量还要多得多（原子的预估数量为 1078～...
，为了生命的形成，这些因素中每一个都必须对生命存在有利。如果有任何一个因素缺失，生命就无从谈起。用天文学家休·罗斯 (Hugh Ross) 令人难忘的话来说，所有这些精细微调的参数偶然达成的可能性，就像是“一场龙卷风刮过一个废品堆，结果完美组装出一架波音 747”。最常见的对这种精细微调的解释是，在这样一个宇宙中生存的概率非常低，可以用观察者选择偏差来解释。也就是说，我们之所以能够考虑这个问题，是因为我们生活在一个经过精细调整的宇宙中——如果不是这样，我们就不会意识到，也不能思考这个现象。这就是所谓的“人择原理”。一些科学家认为，这样的解释是充分的。但如果我们认为现实是独立于作为观察者的我们而存在的，这个解释就无法让人完全接受。宇宙学家马丁·里斯提出了一个我们可能仍然会问的、令人信服的问题。如里斯所言：“假设你站在行刑队面前，结果他们全都开枪了却没有击中你。你可能会想：‘如果他们全都没有失手，我现在就无法在此考虑这个问题了。
来生：制造出令人信服的仿生人
期阶段，但已经有一些重要的研究正在进行中，这些研究将为未来 10 年的重大突破打下基础。提到仿生人的功能时，相关技术进展面临着我朋友汉斯·莫拉维克 (Hans Moravec) 几十年前提出的挑战，现今被称为莫拉维克悖论。简而言之，人类觉得难以执行的智力任务，比如对大数开平方和记忆大量信息，对于计算机而言相对来说比较容易。而相反，对人类而言毫无压力的心智任务，比如识别一张脸或在行走时保持平衡，对于 AI 来说却困难得多。
21 世纪 40 年代初，纳米机器人将能够进入活人大脑，并复制构成个人记忆和性格的所有数据，形成“2 号你”。这样的实体能够通过针对个人的图灵测试——能够让熟悉这个人的人相信它就是那个人。从所有可检测的证据来看，复制人会同被复制人一样真实。如果你认为身份的本质在于信息、记忆与性格，那么复制人就是那个人。你可以和复制人开始或继续一段关系，甚至包括身体关系。尽管可能存在细微差别，但这和生活中千变万化的生物体又有何不同？我们也在不断变化，有时是渐进的，有时是突然的，比如因战争、创伤、地位或是关系导致的变化。..
在非生物介质上模拟大脑在计算层面上可能意味着截然不同的含义。在2008 年，约翰·菲亚拉 (John Fiala)、安德斯·桑德伯格和尼克·博斯特罗姆确定了 11 种可能的大脑模拟水平。为简化起见，大脑模拟大致可以分为五类，从最抽象到最详尽排序分别是：功能性、连接组学、细胞级、生物分子级和量子级。
功能性仿真指的是可以像生物思维一样运作，但实际上不需要复制特定人脑的具体计算结构。这种仿真在计算处理上最为简单，但其对原大脑的模拟也最为粗略。连接组学仿真会再现神经元间的层次连接和逻辑关系，但不需。..
在未来 20 年，一个重要的研究方向将是确定需要达到的大脑仿真精度。许多人认为需要达到量子级别的仿真，因为他们相信主观体验可能与尚未揭示的量子效应有关。然而，正如我在本章及《人工智能的未来》中所论述的，我认为达到这种仿真水平并非必需。如果泛原心论等理论成立，主观体验很可能源于大脑对信息的复杂组织方式，因此我们不需要担心数字仿真遗漏了生物原型中的某些蛋白质分子。就像不管你的 JPEG 文件保存在软盘、CD-ROM，还是 USB 闪存盘上一样，只要信息的 1 和 0 序列相同，它们的显示和功能都会是一致的。实际上，如果你用铅笔和纸记录下这些数字，然后将这一大堆纸张邮寄给朋友，
“雷·库兹韦尔”能成为的人
...
由于大约有 1 万代智人，你的精确身份依赖于约 2210000 万次祖先事件——约 4×103010。因此，2×1018 的此幂次方得出了整体概率的分母，大约是 10103011。这个数字远大于 googol plex，并且比已知宇宙中。..
人类最早的有性繁殖祖先原口动物，大约有 3 亿代。虽然没有确凿的数据可以追溯到近 40 亿年前生命的起源，但最可能的估计大约是 1 万亿代。可以说，这整个谱系的概率比值是如此巨大，以至于我们无法在智力上真正理解。我们都站在一个偶然性和幸运的山顶上，这座山在时空中延绵万里，以至于我们无法看到它的底部。Max Ingman et al., “Mitochondrial Genome Variation and the Origin of Modern Humans,” Nature 408(Dece
第二部分 生活、工作与寿命，人类迎来繁荣增长的三大未来路线图
第 4 章 生活正在指数级变得更好
...
就我刚才提到的例子而言，从 2016 年到 2019 年（截至本书撰写时有全面数据的最近节点），全球极端贫困人口的预估数量（以 2017 年的美元为基准衡量，每天的生活费低于 2.15 美元）从大约 7.87 亿下降到 6.97 亿。如果这一下降趋势在每年保持不变，那么这相当于每年下降近 4％，或每天下降近 0.011％。虽然确切数字存在相当大的不确定性，但我们有理由相信，这个数字在数量级上是正确的。
进发生的积极变化，这并不奇怪。在人类历史的大部分时间里，生活质量的提高是如此细微和脆弱，以至于很多人在完整的一生内也几乎察觉不到。事实上，直到中世纪，人类的生存状态与石器时代的祖先相比也没有太大差别。在英国，1400 年的人均 GDP 估计为 1605 英镑（以 2023 年英镑计算，下同）。如果在那一年出生的人活到 80 岁，那么在他们去世时，英国的人均 GDP 与他们出生时相比没有任何变化。对于 1500 年出生的人来说，他们出生时的人均 GDP 已经下降到 1586 英镑，80 年后才反弹到 1604 英镑。相比之下，在 1900 年出生的人，如果他们有 80 年寿命，可以见证人均 GDP 从 6734 英镑跃升到 20979 英镑。因此，不仅生物进化没有使我们适应渐进的进步，我们的文化进化也没有。柏拉图或莎士比亚的作品中也没有任何提醒我们要注意社会的物质进步的内容，因为在他们生活的年代，这种进步是不明显的。
与捕食者藏在树丛中。..
去比实际情况更美好。痛苦和悲伤的记忆比积极的记忆消退得更快。在科罗拉多州立大学心理学家理查德·沃克 (Richard Walker)1997 年的一项研究中，受访者根据愉悦和痛苦的感受对事件进行了评估，并分别在 3 个月、18 个月和 4.5 年后再次进行了评估。结果发现，负面感受消退的速度远远快于正面感受，而愉快的记忆则会持续存在。2014 年，在包括澳大利亚、德国、加纳等国家进行的一项研究表明，这种“消极影响偏差的消退”是一种全球性现象。
“血腥的新闻更吸引眼球”这一格言概括了导致这些误解的一个主要原因。暴力事件会被广泛报道，而犯罪率的下降（例如以数据为依据执法或警察与社区之间更好的沟通）实际上是“非事件”。因此，它们不会被广泛报道。
这不一定是任何人有意识决定的结果，媒体的激励机制在结构上本就偏向于报道暴力或负面的事件。由于本章前面描述的认知偏差，人类天生更容易被威胁性信息吸引。大多数媒体（包括传统新闻媒体和社交媒体）通过吸引。..
现实产生偏差的媒体内容。它总是关注已发生的事件，而不是没有发生的事情。所以，当有一名警察没有被枪杀或一个城市没有发生暴力示威时，它们不会上新闻。只要暴力事件没有彻底消失，就总会有可以点击的头条新闻……悲观主义可能是一种自我实现的预言。”现在，社交媒体上汇集了整个地球上发生的令人震惊的新闻，而之前的人们只了解当地或周边地区发生的事件。然而，我的相反看法是：“乐观主义不是对未来的无谓猜测，而是一种自我实现的预言。”相信一个更美好的世界确实可能存在是一种强大的动力，可以让我们更努力地创造一个更美好的世界。
丹尼尔·卡尼曼 (Daniel Kahneman) 因其解释人们在对世界进行估计时使用的无效和无意识的启发式的工作［其中一些是与阿莫斯·特沃斯基 (Amos Tversky) 合作完成的］而获得了诺贝尔经
为什么公众共识恰恰相反
...
几乎生活的每个方面都在逐步变得更好（一）
...
信息技术之所以呈指数级发展，因为它直接促进了自身的进一步创新。与此同时，这一趋势也助推了其他领域众多相互强化的进步机制。在过去的两个世纪里，这催生了一个良性循环，增进了人类福祉的各个方面，包括识字、教育、财富、卫生、健康、民主化和减少暴力。
我们经常从经济角度来思考人类的发展：随着人们每年能够赚取更多的钱，他们就有机会过上更高质量的生活。但真正的发展并不仅仅意味着积累财富。经济周期起伏不定，财富可以获得也可以失去。但技术变革本质上是永久性的。一旦人类文明学会了如何做一些有用的事情，我们通常会保存相关知识，并在此基础上继续发展。这种单向的进步历程已经成为抵消因自然灾害、战争和流行病等导致社会倒退的短暂性灾难的强大力量。
教育、医疗保健、卫生设施和民主化等相互交织的因素形成了相互强化的反馈循环，这些领域的任何改善都可能给其他。..
花时间学习如何阅读是不值得的。时间是唯一稀缺的资源——无论你是谁，每天都只有 24 小时可以支配。当人们在决定如何利用时间时，理性地考虑每个选择可能带来的收益是很自然的做法。学习如何阅读需要投入大量时间。在一个生存本身就很困难、普通人无法接触书籍的社会里，把时间用在学习如何阅读上并不明智。因此，我们不应该认为不识字的祖先是愚昧无知或缺乏好奇心的。相反，是他们所处的环境严重阻碍了文化的发展。
图 4-4 美国及世界范围内人口识字率自 1820 年以来的变化情况
主要资料来源：Our World in Data; UNESCO。
不过，这方面仍有进步空间。上述人口识字率数据主要是指掌握最基本的读写能力，如能读写自己的姓名等简单内容。为更全面地评估识字能力，一些新的、更丰富的测评指标已经被开发出来。例如，根据 2003 年的美国国家成人读写能力评估项目（National Assessment of Adult Literacy，简称 N...
主要资料来源：National Center for Education Statistics。
纵观历史，造成疾病和死亡的最大原因之一是食物和水源受到人类粪便的污染。冲水马桶是解决这一问题的决定性技术方案，早在 1829 年就出现在美国城市中（见图 4-9），但直到 20 世纪初才在城市地区得到普及。在 20 世纪 20 年代和 30 年代，冲水马桶迅速在美国农村地区推广，到 1950 年普及率达到 75％，到 1960 年更是达到 90％。到 2023 年，美国极少数家庭没有冲水马桶，在很多情况下是由于生活方式的选择（如偏爱乡村生活），而非赤贫所致。
相比之下，贫困一直是发展中国家的人们至今仍缺少冲水马桶或其他改良的卫生设施（如堆肥厕所）的主要原因。不过，随着相关技术日益便宜，加上曾经动荡不安的地区渐趋稳定，有能力投资卫生基础设施，全球安全厕所。..
始时，电气化进程放缓，但在 20 世纪 30 年代和 40 年代，罗斯福总统发起了大规模的农村电气化计划，旨在将电力机械的效率带到美国的农业中心地带。到 1951 年，超过 95％的美国家庭都通上了电（见图 4-10），到 1956 年，美国国家电气化工作基本完成。
图 4-10 美国家庭和世界人口的通电情况。..
在世界其他地区，电气化的发展通常遵循类似的模式：首先是城市，其次是郊区，最后是农村地区。今天，地球上超过 90％的人口都用上了电。对于那些仍然没有通上电的人来说，主要障碍是政治上的，而不是技术上的。麻省理工学院教授达龙·阿西莫格鲁 (Daron Acemoğlu) 和他的同事詹姆斯·鲁宾逊 (J...
注：近年来，虽然拥有收音机的美国家庭的比例似乎大幅下降（一项研究的数据显示，从 2008 年的 96％下降到 2020 年的 68％，该研究使用的方法与本图中数据获取所用的方法不同），但这其中存在较大的统计误差，因为现在其他设备也具有和收音机相同的功能。例如，截至 2021 年，85％的美国成年人拥有智能手机，不需要收音机就可以免费收听广播节目。
）和 1975 年广受欢迎的 Altair 8800（第一台微型计算机）以自己动手组装的套件形式出售。到 20 世纪 70 年代末，苹果和微软等公司用普通人可以在一个下午就学会操作的用户友好型个人计算机改变了市场。1984 年，苹果公司著名的超级碗广告让全美人民都在谈论计算机，广告播出后 5 年内，拥有计算机的家庭比例几乎翻了一番。在那个时期，人们主要使用计算机做文字处理、数据输入和玩简单游戏等。
世纪初出现的社交媒体使用户在线体验变得丰富多彩。2017 年到 2021 年，约 93.1％的美国家庭拥有计算机，随着“最伟大的一代”（Greatest Generation, 1939—1945 年）的减少和“千禧一代”（Millennials，在 2000 年以后达到成年的一代人）开始组建自己的家庭，这一比例在继续上升（见图 4-13）。与此同时，全球计算机拥有量稳步上升。嵌入智能手机中的计算机架构的市场渗透率在发展中国家迅速扩大，截至 2022 年，全球约 2/3 的人口至少拥有一台计。..
模式下的发现很大程度上要归功于偶然。医学史上最著名的突破可能是偶然发现了青霉素——它开启了抗生素革命，迄今可能已经挽救了多达 2 亿人的生命。但即使发现不是偶然的，研究人员使用传统方法取得突破也需要运气。由于没有能力详尽地模拟可能的药物分子，研究人员必须依赖高通量筛选 (High-Throughput Screening) 和其他费时费力的实验室方法，效率要低得多。
公平地说，这些方法确实为人类带来了巨大的好处。1000 年前，欧洲人出生时的预期寿命仅为 20 多岁，因为许多人在婴儿期或青年时期就会死于霍乱、痢疾等疾病，而这些病现在很容易预防。到 19 世纪中叶，英国和。..
今天，这些容易实现的进展大多已经实现。导致疾病和残障的其余原因主要源自我们体内。由于细胞功能失调和组织崩溃，我们会患上癌症、动脉粥样硬化、糖尿病和阿尔茨海默病等疾病。我们可以在一定程度上通过改变生活方式、饮食和服用营养补充剂来降低这些风险，我称之为通向大幅延长寿命的第一座桥梁。但这些方法只能推迟不可避免的死亡。这就是为什么自 20 世纪中期以来，发达国家的人口预期寿命增长放缓。例如，从 1880 年到 1900 年，美国人出生时的预期寿命从大约 39 岁延长到 49 岁，但从 1980 年到 2000 年，在医学的研究重点从传染病转向慢性病和退行性疾病之后，人口预期寿命只是从 74 岁延长到了 76 岁。幸运的是，在 21 世纪 20 年代，我们正在走上第二座桥梁：将 AI 和生物技术结合起来，战胜那些退行性疾病。研究人员已经不再仅仅依靠使用计算机来整合干预措施和临床试验的相关信息。如今，他们正在利用 AI 来寻找新药，并且在 2030 年左右，数字模拟可用于扩大并最终取代进展缓慢、效率低下的人体试验。实际上，我们正在。.. 这方面最早和最重要的例子之一出现在遗传学领域。自 2003 年人类基因组计划完成以来，基因组测序的成本。..
在 21 世纪 30 年代，我们将跨上彻底延长寿命的第三座桥梁：医用纳米机器人，它们能够在我们的身体内智能地进行细胞层面的维护和修复。根据某些定义，一些生物分子其实已经可以被看作纳米机器人了。但是，纳米机器人的独特之处在于，它们能够被 AI 控制，以执行不同的任务。在这个阶段，我们将获得对自己生物学身体的控制能力，就像维修工对汽车部件的。..
的车在一次重大事故中完全报废，否则你可以无限制地继续修理它或更换零件。同样，智能纳米机器人将能够有针对性地修复或升级个别细胞，从而帮助人类彻底战胜衰老。在后面的第 6 章，我们将对此进行更详细的讨论。
第四座桥梁——能够以数字化方式备份我们的思维文件，将是 21 世纪 40 年代的技术。正如我在第 3 章中所论证的那样，决定一个人身份的核心因素不是他的大脑，而是他的大脑能够表示和操纵的信息的特殊排列。一旦我们能够以足够高的精度扫描这些信息，我们就能够在数字载体。..
东亚的贫困人口数量下降幅度最大，这主要得益于中国的经济发展使数亿人摆脱了贫困，生活水平达到了与某些发达国家相当的程度。从 1990 年到 2013 年，尽管东亚总人口从 16 亿增长到 20 亿，但该地区的极端贫困人口却惊人地减少了 95％（见图 4-17）。
图 4-17 极端贫困人口比例的下降趋势（按地区划分）...
不过，自冷战结束以来，国际社会已经将更多注意力集中在帮助地球上最贫困的地区摆脱严重贫困。苏联解体后不久，许多发达国家削减了对外援助预算，降低了对国际发展的优先关注。这种情况的出现，是因为在冷战期间，发达国家主要是从战略角度来看待发展中国家的，东西方国家争相在发展中国家扩大自身的影响力。但到了 20 世纪 90 年代中期，经济合作与发展组织认识到，无论是从人道主义角度来看，还是从全球事业的角度来看，促进发展都至关重要，而且建立一个安全、繁荣的世界将使所有人受益。2000 年，联合国在其千年发展。..
是因为法规和工会要求缩短工作时长，并为工人提供了更多的休息时间。此外，雇主发现，休息好的员工工作效率更高，准确性也更高。因此，与工业革命初期相比，将需要一定工作时间完成的工作分配给更多工人是有意义的。大萧条期间，人们的平均工作时长骤降至每年不到 1750 小时，因为公司不得不削减那些仍然有工作的员工的工作时长。
图 4-23 美国人平均每年工作小时数。..
与其他几代人相比，就业需求的变化促使千禧一代和 Z 世代更多地寻求创造性的，通常是创业型的职业，这使得他们可以自由地远程工作，减少了通勤时间和费用，但也可能导致工作和生活之间的界限变得模糊。COVID-19 大流行导致劳动力突然和戏剧性地转向了远程办公，或形成了雇主-雇员关系的其他替代模式。根据一项研究，98％的受访者表示，他们希望在职业生涯的剩余时间里可以选择远程工作。技术变革使越来越多
几乎生活的每个方面都在逐步变得更好（二）
...
降一直呈指数级趋势。在我们有可靠数据可以追溯到中世纪时期的西欧国家中，每年每 10 万人中的凶杀案从 14 世纪和 15 世纪的平均约 33 起下降到今天的不到 1 起（见图 4-25），下降幅度超过 97％。需要注意的是，这些统计数据主要关注的是“普通”凶杀案，如谋杀和过失杀人，不包括战争和种族灭绝。
图 4-25 自 1300 年以来西欧的凶杀案件数量变化趋势。..
国的暴力犯罪在 20 世纪 80 年代初达到历史最高水平（见图 4-27），犯罪学家开始寻找新的解决方案。学者乔治·凯林 (George Kelling) 和詹姆斯·威尔逊 (James Q. Wilson) 观察到，一些低级犯罪行为，如涂鸦和破坏公物会让社区居民产生不安感，并让一些人相信他们可以逃脱更严重的暴力犯罪。这个观点后来被称为破窗理论，在这种理论的影响下，美国警界形成了一种新的警务观念，强调制止那些轻微的犯罪行为，以预防更严重的犯罪行为。与此同时，其他一些更积极主动的犯罪预防方法开始出现，例如在犯罪率较高的社区增加步行巡逻，以及使用。..
图 4-28 光伏组件每瓦成本（对数刻度）
注：正如这张图所示，光伏组件的成本在近 50 年来呈指数级下降，这种趋势有时被称为斯旺森定律。请注意，虽然光伏组件成本是太阳能发电安装总成本中最大的一个组成部分，但其他因素，如安装许可证和劳动力，可能使总成本达到组件成本的三倍左右。虽然模组成本下降得非常快，但其他因素下降得比较慢。AI 和机器人技术可以降低劳动力和设计成本，但我们也需要推进有效的公用事业规划和相关许可政策。
主要资料来源：Our World in Data; G...
都会改变。当然，由于硬件和软件的不断改进，制造和运输这些类型资源的效率已经提高，但我们即将进入一个新时代，到那个时候，食品和服装等商品不仅会因为信息技术而变得更加经济，而且它们本身也正在成为信息技术。随着自动化和 AI 在生产中占据主导地位，资源和生产成本正在下降。因此，这些商品将受到与其他信息技术相同的高通缩率的影响。
而且对环境的危害可以通过使用更清洁的技术降到最低。技术推广的关键在于培养肉能否做到以假乱真。截至 2023 年，该技术可以复制没有太多结构的肉类，如类似碎牛肉的肉制品，但还无法从头开始生成完整的菲力牛排。当人造肉可以令人信服地达到所有动物肉的水平时，我预计大多数人对它的不适感将很快减弱。
迈向奇点的关键进展。..
更详细地描述的那样，我们很快就能够以较低的成本生产用于建造房屋和其他建筑物的模块。这将使数百万人能够负担得起舒适的居住环境。这些技术都已经成功试验过了，并将在未来 10 年变得越来越先进，被大多数人采用。与物理世界的这场革命并行的，将是下一代 VR 和 AR 技术的革命性发展，有时被称为元宇宙 (Metaverse)。多年来，元宇宙这个概念在科幻小说和未来主义圈子之外基本上无人知晓。但 Facebook 在 2021 年将品牌更名为 Meta，并宣布其长期战略的核心是在构建元宇宙方面发挥关键作用，这大大提升了公众对元宇宙的认知，以至于现在许多人错误地认为是 Meta 发明了这个概念。
就像互联网将网页、应用程序和服务集成到一个持久的在线环境中一样，21 世纪 20 年代后期的 VR 和 AR 技术将融合成一个引人注目的新现实层。在这个数字世界中，许多产品甚至不需要以实物形态存在，因为高度逼真的模拟版本已经足够好了。例如，虚拟会议可以让人们像面对面一样与同事互动和协作；虚拟音乐会可以提供身临其境的听觉体验，仿佛置身于交响乐大厅。..
像这样扩大太阳能发电规模的主要挑战之一是更有效的储能技术。化石燃料的优势在于我们可以储存它们，然后在需要发电时燃烧它们。但太阳只在白天照射，而且太阳能的强度会随季节发生变化。因此，我们必须有效地储存太阳能，以便我们可以在需要使用电力时（可能是几小时后或几个月后）使用它。
我们正在接近为每个人提供清洁水的目标
努力和技术进步，这一数字现在已降至大约 1/10。然而，这仍然是一个严峻的问题。根据健康指标与评估研究所 (Institute for Health Metrics and Evaluation) 的数据，2019 年全球约有 150 万人（其中包括 50 万名儿童）死于腹泻疾病，主要是死于饮用被粪便中的细菌污染的水。这些疾病包括霍乱、痢疾和伤寒，对儿童尤其致命。
总的来说，去中心化技术将在许多领域定义 21 世纪 20 年代，并在许多领域延续下去，包括能源生产（太阳能电池）、食品生产（垂直农业）和日常物品的生产（3D 打印）。对于水的净化，相关的方法有多种形式，Janicki Omniprocessor 这样的建筑物大小的机器可以为整个村庄提供净化水，而个人可以使用如 LifeStraw 这样的便携式水净化装置。
的水，达到可注射液体的标准。这种饮水机的运行需要不到一千瓦的电力。它采用蒸气压缩蒸馏（将输入的水转化为蒸气，留下污染物）并且不需要过滤器。这种饮水机由一种适应性非常强的发动机提供动力，这种发动机被称为斯特林 (Stirling) 发动机，它可以利用任何热源产生电力，包括燃烧牛粪。
垂直农业将提供廉价的高质量食物，并释放我们用于水平农业的土地
国的玉米生产对土地的利用效率比一个半世纪前提高了 7 倍多。1866 年，美国农民平均每英亩（约 0.4 公顷）的玉米产量约为 24.3 蒲式耳（约 0.6 吨），到 2021 年达到每英亩 176.7 蒲式耳（约 4.5 吨）。在全球范围内，土地利用效率的提高大致呈指数级。平均而言，与 1961 年相比，今天我们种植一定数量作物所需的土地不到之前的 30％。这一趋势对于当时全球人口的增长至关重要，并使人类免于人口过剩造成的大规模饥荒。在我成长的过程中，许多人都曾对人口过剩问题。..
目前作物种植密度已经接近了在一定室外区域内理论上可以种植作物数量的极限。一个新兴的解决方案是种植多层堆叠的作物，这就是所谓的“垂直农业”。垂直农场目前采用的技术有几种。它们通常采用水培方式种植，这意味着植物不是生长在土壤中，而是生长在位于室内的营养丰富的水槽中。这些托盘被装入框架并堆叠成多层（见图 4-41），这样上一层的多余水分可以滴落到下一层，而不会以径流的形式流失。一些垂直农场现在使用。.. 图片来源：Valcenteu, 2010。
Gotham Greens 公司是。..
不过，在 20 世纪 80 年代，一系列新的技术开始出现。与以前的方法不同，这些技术通过堆叠或沉积形成相对平坦的层，逐步构建成三维形状来制造零件。这些技术被称为增材制造、三维打印或 3D 打印。
最常见的 3D 打印机的工作方式有点像喷墨打印机。典型的喷墨打印机会在一张纸上来回移动，根据软件的指示将墨水从墨盒喷嘴中喷射到指定位置。3D 打印机用的不是墨水，而是塑料等材料，并将其加热到变软。打印机的喷嘴会按照软件指令为每一层设计的模式沉积材料，这。..
材料可用于制造轻质防弹服和超高能电子产品。受益于 AI 的进步，3D 打印还可以从 AI 的进步中受益，例如有了优化有关物体强度、空气动力学设计或其他属性的软件，甚至可以设计出目前采用的方法无法制造的形状。
新的、直观的软件使得普通人无须接受高级培训就能更轻松地创建 3D 打印零件。随着 3D 打印的普及，它已经开始为制造业带来革命性的变化。3D 打印的一大优势在于能够实现低成本、快速的原型制作。工程师可以在计算机上设计新零件，并在几分钟或几小时内拿到 3D 打印模型。而采用之前的技术，这个过程可能需要几周时间。3D 打印让工程师能够进行快速的测试和修改，付出成本只是旧方法的一小部分。因此，那些拥有。..
式下，小城镇和发展中国家不得不从遥远的地方购买产品，运输既昂贵又耗时。去中心化的制造模式还将带来显著的环境效益。将产品从工厂运送到数百或数千千米外的消费者手中会产生大量碳排放。根据国际运输论坛的数据，货运占燃料燃烧产生的碳排放总量的约 30％。去中心化的 3D 打印技术可以使这些都变得不再重要。随着时间的推移，3D 打印的分辨率逐年提高，同时成本也在不断降低。随着分辨率的提高，即可实现的最小设计特征尺寸的缩小，以及成本的下降，可以经济地打印的商品种类将会增多。例如，许多常见织物的纤维直径为 10～22 微米。一些 3D 打印机已经可以达到 1 微米甚至更高的分辨率。一旦该技术能够以与普通织物相当的价格生产织物般的纤维直径和材料，打印出我们想要的任何服装在经济方面的可行性都会更高。由于打印速度也在提高，大批量制造将变得更具可行性。
3D 打印的一个潜在缺点是，它可能被用于制造“盗版”产品。如果你可以下载文件并自己打印出来，为什么还要花 200 美元购买一双设计师设计的鞋子呢？我们在音乐、书籍、电影和其他创意形式的知识产权方面已经面临着类似的问题。所有这些都需要新的方法来加以保护。
去中心化制造将允许平民制造他们原本无法轻易获得的武器。网上已经流传着一些文件，人们可以根据这些文件打印零件，然后组装成枪支。这将对枪支管控构成挑战，因为这些自制枪支没有序列号，执法部门将更难追踪罪犯。由高级塑料制成的 3D 打印枪支甚至可以逃过金属探测器。这需要我们重新审慎评估现行的法规和政策。
勤奋的人将在 2030 年左右实现长寿逃逸速度
险的药物是安全的；另一方面，模拟试验可以使用大量模拟患者，研究各种并发症和人口统计学因素，详细地告诉医生，新治疗方法将如何影响许多不同类型的患者。此外，更快地给患者提供救命药物可能会挽救许多人的生命。向模拟试验的过渡还将面临政治不确定性和官僚主义的阻碍，但最终技术的有效性将会胜出。
这里有两个值得注意的例子，可以说明计算机模拟试验将带来的益处。
细胞一样，分化成几乎所有类型的人体细胞。该疗法仍处于实验阶段，但已成功用于人类患者。对于那些有心脏问题的人来说，该疗法需要从患者身上创建诱导性多能干细胞，将它们培养成心肌组织，然后移植到受损的心脏上。诱导性多能干细胞通过释放生长因子来刺激现有心脏组织再生，从而发挥作用。实际上，它们可能是在欺骗心脏，使其认为自身处于胎儿期。这个方法正被用于在各种生物组织上展开研究。一旦我们能够用先进的 AI 分析诱导性多能干细胞的作用机制，再生医学就可以有效地解锁身体自身的愈合蓝图。
有些人对公平和不平等有伦理上的担忧。这些预测面临的一个共同的挑战是，只有富人才能负担得起彻底延长寿命的技术。对此我的回应是，让我们回顾一下手机的发展历史。事实上，就在 30 年前，你必须很富有才能拥有一部手机，而且那时手机的性能也不尽如人意。今天，有数十亿部手机在世界各地被频繁使用，而且它们的功能远不止于打电话。它们现在是我们的记忆扩展器，利用它可以访问所有的人类知识。这样的技术一开始是昂贵的，功能有限；但当它们完善时，几乎每个人都能负担
更轻松，更安全，更丰富，更美好
...
第 5 章 工作的未来：是好还是坏
...
未来 20 年的融合技术将给全世界带来巨大的繁荣和物质财富。但这些力量也将扰乱全球经济，迫使社会以前所未有的速度适应这一趋势。
2005 年，美国国防部高级研究计划局向赢得自动驾驶汽车重大挑战赛的斯坦福大学团队颁发了 200 万美元的奖金。当时，自动驾驶汽车对于公众而言仍然是科幻小说中的物品，甚至许多专家认为离实现还有一个世纪之久。但是当谷歌在 2009 年启动了一个雄心勃勃的 AI 驾驶项目时，进展开始迅速加快。该项目后来发展成为一家名为 Wa...
店的店员和汽车旅馆的服务人员的需求也会减少。清洁卡车、停车场、浴室所需的员工也会减少。尽管我们大致知道这些情况会发生，但很难精确估计影响的规模有多大，或者这些变化会以多快的速度展开。不过值得注意的是，根据美国运输统计局 2021 年的最新估计，交通运输及相关产业直接雇用了大约 10.2％的美国劳动力。在如此庞大的行业中，即使相对较小的冲击也会产生重大后果。
尽管我们并不清楚内德·卢德 (Ned Ludd) 是否真实存在，但据传说他曾不小心损坏过纺织厂的机器。此后，任何设备的损坏，无论是出于意外还是为了抗议自动化，都被归咎于卢德。1811 年，绝望的织工组成了一支城市游击队，宣布卢德为他们的领袖。这些被称为卢德分子 (Luddites) 的人奋起反抗工厂主。起初，他们采用暴力毁坏机器，但很快就演变成了流血冲突。最终，这场运动以卢德分子的主要领导人被英国政府逮捕和处决而告终。而内德·卢德的下落至今仍是个谜。
AI 革命将继续以指数级发生
...
新工作亟待被创造，旧工作注定要毁灭
虽然许多失去工作的农场工人在工厂找到了新的就业机会，但大约一个半世纪后，工厂工人也遭遇了类似的情况。在 19 世纪的第一个 10 年，大约每 35 个美国工人中就有 1 人受雇于制造业。工业革命很快改变了主要城市的面貌，蒸汽工厂如雨后春笋般涌现，需要数以百万计的低技能工人。到 1870 年，几乎每 5 个工人中就有 1 人从事制造业，主要集中在快速工业化的北方。第二次工业革命浪潮在 20 世纪初将大量新的工人，主要是移民，卷入了制造业。装配线的发展大大提高了生产效率，随着产品价格的下降。..
Economic Research, 1966)。
尽管农场和工厂的工作岗位都大幅减少，但是自有统计数据以来，即使出现了一波又一波的自动化浪潮，美国的劳动力数量也一直在稳步增长。从早期的工业革命到 20 世纪中叶，经济发展不仅创造了充足的新工作岗位，为快速增长的人口提供就业机会，还吸纳了大量妇女进入劳动力市场。
这一次会有所不同吗
但一些著名经济学家预测，这一次的情况将有所不同。斯坦福大学教授埃里克·布林约尔松 (Erik Brynjolfsson) 是这一观点的主要支持者之一。他认为，即将到来的基于 AI 的自动化浪潮将成为就业杀手。与以往由技术驱动的转型不同，最新形式的自动化导致的就业岗位流失将超过其创造的就业岗位。持这一观点的经济学家认为，当前的情况是之前几次技术变革浪潮累积效应的结果。
第一次浪潮通常被称为“去技能化”(Deskilling)。举个例子，驾驶马车的车夫需要掌握各种技能来驾驭和驯养难以捉摸的动物，而驾驶汽车的司机则不需要掌握这些能力。去技能化的主要影响之一是，人们无。..
然而，区分任务和职业是很重要的。在某些情况下（不是全部），当某些任务被完全自动化时，相应的工作岗位可以被安排完成另一组不同的任务——实质上是所需技能的要求提升了。例如，自动取款机现在可以在许多常规现金交易中代替银行出纳员，但出纳员在营销和与客户建立个人关系方面发挥了更大的作用。类似地，尽管用于法律研究和文档分析的软件已经取代了律师助理的某些职能，但该职业已经随之做出了改变，现在该职位所承担的任务与几十年前相比有了显著的不同。这种效应可能很快就会在艺术界发生。从 2022 年开始。..
于 AI 根据人类给出的文本提示创建高质量的图形艺术。随着这项技术的进步，现在的平面设计师花在亲自绘制艺术作品上的时间可能会减少，他们可能会花更多时间与客户一起头脑风暴，以及筛选或修改 AI 生成的作品。
从长远来看，自动化带来的经济利益将推动 AI 接管越来越多的任务。在其他条件不变的情况下，购买机器或 AI 软件比支付长期的人工成本要便宜得多。当企业主设计运营流程时，他们通常会在资本和劳动力之间的平衡上保有一定的灵活性。在工资相对较低的地区，采用劳动密集型流程更有意义。..
经通货膨胀水平调整后）除以生产它们的总工作时间。从 1950 年第一季度到 1990 年第一季度，美国每小时的实际产出平均每季度增长 0.55％。随着个人计算机和互联网在 20 世纪 90 年代的普及，生产力增长加速。从 1990 年第一季度到 2003 年第一季度，季度平均增长率为 0.68％。万维网似乎开启了一个快速增长的新时代，截至 2003 年，人们普遍预期这一增长速度将持续下去。然而，从 2004 年开始，生产力增长开始显著放缓。从 2003 年第一季度到 2022 年第一季度，季度平均增长率仅为 0.36％。这是过去 10 年来最大的经济谜团之一。随着信息技术在如此多的领域改变商业，我们本应看到更强劲的增长势头。关于我们为什么没有看到这种趋势，学界有着各种各样的理论。
如果自动化真的产生了如此巨大的影响，那么似乎有数万亿美元的经济产出“失踪”了。在我看来，这一观点在经济学家中越来越被接受，很大一部分解释是我们没有将信息产品指数级增长的价值计入 GDP，其中许多是免费的，代表了直到最近才出现的价值计算类别。当麻省理工学院在 1963 年以约 310 万美元的价格购买我在读本科时使用的 IBM 7094 计算机时，这在经济活动中相当于 310 万美元（相当于 2023...
然而，许多信息技术的实用性已经大大提高，而价格却没有变化。2015 年，蒂姆·沃斯托尔 (Tim Worstall) 在《福布斯》杂志上估计称，Facebook 在美国的收入约为 80 亿美元，这应该是其对美国 GDP 的官方贡献。但是，如果把人们花在 Facebook 上的时间价值按照最低工资标准计算，那么消费者从中获得的实际收益约为 2300 亿美元。截至 2020 年（本书付印时可获得的最近一年的数据），美国使用社交媒体的成年人平均每天会花 35 分钟在 Facebook 上。美国大约有 2.58 亿成年人，其中约 72％的人使用社交媒体，按照沃斯托尔的估算方法，...
况下，比如排队买咖啡的时候浏览 Facebook，要比利用这几分钟做远程自由职业工作更符合实际。但作为一个总体近似值，它揭示了人们使用社交媒体的巨大价值，但经济学家可以观察到的收入只占其价值的一小部分。维基百科是一个更极端的例子：它对 GDP 的官方贡献基本为零。同样的分析也适用于无数基于网络和应用程序提供的服务。
如果这个分析是正确的，那么在所有这些领域，由技术带来的通货紧缩只会扩大名义生产力（即按当前价格计算的生产力）和人类每小时的工作为社会带来的实际平均效益之间的差距。随着这种影响从数字领域扩展到其他行业，并涵盖整个经济活动更广泛的部分，我们预计全美通胀率会下降，并最终导致整体通货紧缩。换句话说，随着时间的推移，我们可以期待人们将会对“生产力之谜”给出更清晰的解释。还有另一个难题：为什么经济数据显示美国劳动力人口的比例正在下降？支持就业岗位净减少理论的经济学家指出，美国平民劳动参与率（即就业人数加上正在找工作的失业人数占 16 岁及以上人口的百分比）在从 1950 年的约 59％上升到 2002 年的略低于 67％之后，到 2015 年已跌至 63％以下，在新冠疫情之前长期保持在这一水平，尽管表面上看。..
扰因素。首先，随着美国人受教育程度的提高，参与工作的青少年越来越少，许多人会一直在大学和研究生院学习到 20 多岁。其次，随着数量庞大的婴儿潮一代越来越多地步入退休年龄，美国劳动年龄人口比例正在下降。
如果我们转而观察 25～54 岁主要劳动年龄人口的劳动参与率（见图 5-6），就会发现下降趋势几乎消失了。截至 2023 年初，这一年龄段人口的劳动参与率为 83.4％，而 2000 年的峰值为 84.5％。按照当今的人口基数计算，这 1.1 个百分点的差距仍然相当于约 170 万人，但远低于图 5-5 所展示的差距。
然而，所有这些分析都受到一个事实的限制，即劳动参与率这一概念本身的缺陷越来越明显。有两大趋势正在重塑工作的性质，但经济统计数据并没有很好地反映这一点。
第一个趋势是地下经济的存在，它一直都存在，但互联网极大地促进了其发展。地下经济涵盖多种类型的服务，包括付现金的家政服务、替代性治疗方式等。促进地下经济发展的另一个因素是加密技术（如加密货币）的出现，这使得交易可以隐藏在税收、监管和执法部门的监管范围外。
那么，我们将走向何方
何顺序观看这些节目并沉浸其中。但是点播意味着观众总是可以按照一定的顺序观看。这让像《马男波杰克》(BoJack Horseman) 这样的开创性节目制作了一集又一集，并在这种连续性中累积笑料，达成表达。这些艺术形式在以前的广播技术中根本不可能实现。
在接下来的 20 年里，这种转变将大大加速。想想 AI 在过去几年里通过 DALL-E、Midjourney 和 Stable Diffusion 等系统在视觉图像方面取得的创造性成就。这些功能将变得更加复杂，并。..
迈向奇点的关键进展
在过去的两个世纪里，人类提高技能的主要方法是接受教育。正如我之前描述的那样，美国在教育上的投资在过去的一个世纪里飞速增长。但是我们已经进入了自我提升的下一个阶段，那就是通过与我们正在创造的智能技术相融合来增强自身的能力。我们现在还没有把计算机化的设备植入我们的身体和大脑，但它们实际上已经近在咫尺。如今，如果没有大脑扩展器——智能手机，几乎没有人能完成他们的工作或接受教育，智能手机可以访问几乎所有的人类知识，或者只需点。..
16.7％。英国略高，为 20.6％，相当于其 2.8 万亿美元 GDP 中的约 5800 亿美元，或者说在 6600 万人口中人均不到 8800 美元（见图 5-7）。但由于美国的人均 GDP 更高，因此其人均支出也相应更高。2019 年，美国 GDP 超过 21.4 万亿美元，其中约有 4 万亿美元用于社会公共支出（见图 5-8）。以当年人口约 3.3 亿计算，人均支出超过 12000 美元。
图 5-7 部分国家和组织在社会福利项目上的支出。..
022 年的 1 美元可以购买的计算能力是 2000 年的 50000 多倍（经通货膨胀水平调整后）。相比之下，根据官方统计数据，2022 年的 1 美元只能购买 2000 年医疗保健服务的约 81％（经通货膨胀水平调整后）。尽管一些医疗手段，如癌症免疫疗法，在效果上有所改善，但大多数医疗保健支出，如住院和 X 射线检查，基本没有变化。因此，那些在计算机上花费大量资金的人，如学生和年轻人，从计算机价格下降中获益颇丰。与此同时，那些将大部分收入用于医疗保健的人，如老年人和慢性病患者，总体上的境况可能更加糟糕。因此，我们需要制定明智的政策，以平缓地完成这一过渡，并确保繁荣成果能够广泛共享。虽然从技术和经济角度来看，每个人都有可能享受到以现在的标准来衡量的高生活水平，但我们是否可以真正向每一个需要帮助的人提供这种支持，将取决于政治决策。相比之下，虽然当今世界偶尔会发生饥荒，但这并不是因为粮食产能不足，也不是因为发展优质农业的秘诀掌握在少数精英手中。相反，饥荒通常是由于治理不善或内战造成的。在这些情况下，人们更难以应对当地的干旱和其他。..
赋予了生命意义。但在我看来，这种观点只是试图把死亡的悲剧合理化为一件好事。现实是，亲人的离世实际上夺走了我们的一部分自我。那些原本用于与亲人互动交流、享受陪伴的新皮质区域，现在只剩下失落、空虚和痛苦。死亡夺走了所有在我看来可以赋予生命意义的事物——技能、经历、记忆和人际关系。它阻碍了我们享受更多能够定义自我的卓越时刻，例如创作和欣赏创造性作品、表达爱意、分享幽默等。
生一段旷日持久的冲突，甚至是暴力。他指出，随着自动化的影响持续扩大，必然会出现赢家和输家。一个失业的司机不会因为人类整体有望满足更高层次需求的承诺而感到满意，因为作为个人，他可能无法完成这种转变。
适应技术变革的一大挑战在于，它们往往会给广大的群体带来分散的利益，但给小部分群体带来集中的危害。例如，自动驾驶汽车（无人驾驶汽车）将给社会带来巨大的好处，比如挽救生命、减少污染、缓解拥堵、节省时间和降低交通成本。预计到 2050 年，美国人口将接近 4 亿，他们将在不同程度上共享这些进步。根据采用假设的。..
是社会安全网并不能取代工作赋予人们的目标感，正如卡尼曼所说，劳动力市场将会有许多失败者。虽然美国在没有引发严重社会动荡的情况下经历了几次自动化浪潮，但这一次变革的广度、深度和速度都与之前几次有所不同。卡尼曼认为，人们需要时间来适应变化并抓住新的机会，许多人将无法快速地接受再培训以适应新型就业岗位或其他个人创业机会。
我认为卡尼曼在某些方面是对的，但我们应该记住，在许多技术变革领域，失败者并不存在，或者至少人们不会知道自己是输家。以一种新的疾病治疗方法的普及为例。尽管从治疗该疾病中获利的公司和个人将失去长期的收。..
人们常常想象未经增强的人类与机器竞争的景象，但这是一个误解。想象一个人类在很大程度上要与 AI 驱动的机器竞争的世界，是一种错误的思考未来的方式。为了说明这一点，你想象一下一个带着 2024 年的智能手机的时间旅行者回到了 1924 年。这个人的智力在卡尔文·柯立芝 (Calvin Coolidge) 时代的人看来简直就是超人。他们可以毫不费力地做高等数学题，可以很好地翻译任何主要语言，下棋比任何国际象棋大师都厉害，并且掌握了相当于整个维基百科的知识量。对 1924 年的人来说，手机从根本上增强了时间旅行者的能力，这似乎是不言而喻的。但对于生活在 2020 年的人来说，我们很容易忽略这种视角。我们并不觉得自己的能力得到了增强。同样，我们将利用 2030 年和 20...
话虽如此，我确实认为，在过渡期间，对可能产生的令人困扰的社会动荡（包括暴力），我们应该有所准备并努力化解。但我预计，鉴于我所讨论的那些将稳定增长的强大且长期的趋势，不太可能发生暴力过渡。
对于即将到来的社会转型持乐观态度的最重要原因是，日益增长的物质财富将降低暴力的诱因。当人们缺乏基本的生活必需品，或者犯罪率已经很高时，人们可能会觉得付诸暴力也没有什么可失去的。但是，导致社会混乱的技术也将使食品、住房、交通和医疗保健变得更加便宜。而且，通过更好的教育、更明智的治安管理方法以及减少像铅这样毒害人脑的环境毒素的综合作用，犯罪率可能会持续下降。当人们觉得他们未来可以过上更长久、安全的生活时，他们会更倾向于通过政治手段来消除分歧，而不是冒着失去一切的风险诉诸武力。
卡尼曼和我推测，我们对即将到来的转型性质的不同看法可能受到我们截然不同的童年经历的影响。为了逃离纳粹的迫害和家人，他在性格形成期生活在法国。而我出生在第二次世界大战后相对安全的纽约市，尽管作为“战后一代”中的一员，我还是受到了大屠杀的影响。因此，卡尼曼生活在第一次世界大战之后的欧洲，亲身经历了非同寻常的冲突、动荡和仇恨。
第 6 章 未来 30 年的健康和幸福：从与 AI 融合到完全突破生理局限
...
损毁最严重的汽车在技术上也有修复的可能。但人体却并非如此。在过去 200 年里，尽管现代医学取得了许多令人惊叹的进步，但医学仍未成为一门精确的科学。医生仍然在做许多已知有效却并不完全理解其工作原理的事情。很多医学知识建立在粗略的近似的基础之上，这些近似对大多数患者而言通常是有效的，但可能并不适合你。
要让医学成为一门精确的科学，需要将其转变为一种信息技术，使其能够从信息技术的指数级进步中获益。这一深刻的范式转变目前正在稳步进行，它涉及将生物技术与 AI 和数字模拟相结合。正如我将在本章中所讲的，我。..
理想的治疗方法，因为它需要探索其他替代方案，而这些替代方案也需要几年的时间来测试。在这些结果出来之前，人们很难取得更多的进展。美国的监管程序涉及三个主要的临床试验阶段，根据麻省理工学院最近的一项研究，只有 13.8％的候选药物能够通过美国食品和药物管理局的批准。最终，将一种新药推向市场通常需要 10 年的时间，平均成本估计在 13 亿～26 亿美元。
在过去几年中，医学研究在 AI 辅助下取得突破的速度明显加快。2019 年，澳大利亚弗林德斯大学的研究人员利用生物模拟器发现了激活人体免疫系统的物质，创造了一种“涡轮增压”流感疫苗。该模拟器以数字方式生。..
但到目前为止，2020 年 AI 在医学领域最重要的应用是在创纪录的时间内设计出安全有效的新冠病毒疫苗。2020 年 1 月 12 日，中国分享了该病毒的基因序列。莫德纳公司 (Moderna) 的科学家开始使用强大的机器学习工具分析哪种疫苗最有效，仅仅两天后，他们就创建了 mRNA 疫苗的序列。2 月 7 日，第一批临床试验疫苗生产出来，经过初步测试后，于 2 月 24 日发送到美国国家卫生研究院。3 月 16 日，也就是序列选定后的第 63 天，第一剂疫苗被注射进试验受试者体内。在新冠疫情之前，疫苗的开发通常需要。..
遗憾的是，人类在预测蛋白质的折叠方面的准确率一直不高，因为其所涉及的复杂性无法用任何简单易懂的规则来概括。因此，新发现仍然依赖于运气和艰苦的努力，而最佳解决方案仍未被发现。这一直是实现新药突破的主要障碍之一。
迈向奇点的关键进展
目前，AI 药物发现仍是一个由人类引导的过程。科学家必须识别和确定他们试图解决的问题，用化学术语表述问题，并设置模拟的参数。不过，在未来几十年，AI 将获得更有创造性地搜索的能力。例如，它可能会发现临床医生没有注意到的问题，例如患有某种特定疾病的特定人群对标准治疗反应不佳，并提出复杂和新颖的疗法。
些复杂性超出当今医学能力范围的疾病。例如，过去 10 年出现了许多有前景的癌症治疗方法，包括 CAR-T、BiTEs 和免疫检查点抑制剂等免疫疗法。这些疗法已经拯救了成千上万人的生命，但它们仍然经常失败，因为癌细胞会产生耐药性。肿瘤通常会以一种我们用当前技术无法完全理解的方式改变其微环境，从而导致耐药性。然而，当 AI 能够可靠地模拟肿瘤及其微环境时，我们将能够定制疗法以克服这种耐药性。
目前尚不清楚这种模拟涉及多少细节。例如，拇指上的皮肤细胞不太可能与测试肝癌药物相关。但为了验证这些工具的安全性，我们可能需要以分子级别的分辨率对整个人体进行数字化。只有这样，研究人员才能可靠地确定对于特定的应用，哪些因素可以有把握地忽略不计。这是一个长期目标，同时也是 AI 最重要的挽救生命的目标之一，我们将在 21 世纪 20 年代末取得有意义的进展。
尽管我们还没有强大的生物模拟技术，但 AI 已经开始在遗传生物学领域产生影响。98％不编码蛋白质的基因曾一度被认为是垃圾“DNA”，现在我们知道它们对基因表达（即哪些基因被积极使用以及在多大程度上被积极使用）至关重要，但是很难从非编码 DNA 本身确定这些关系。而由于 AI 可以检测到非常细微的模式，它已经被用于打破这个僵局，就像 2019 年纽约科学家发现非编码 DNA 与孤独症之间存在联系一样。该项目的首席研究员奥尔佳·特罗扬斯卡娅 (Olga Troyanskaya
21 世纪 20 年代：AI 与生物技术的结合
...
21 世纪 30 年代和 21 世纪 40 年代：开发和完善纳米技术
...
具有很强的灵活性，同时身体又具有协调性（例如，对生拇指），从而实现了技术的发展，这一点很了不起。然而，我们远没有达到最佳状态，尤其是在思考方面。正如汉斯·莫拉维克在 1988 年思考技术进步的影响时所说，无论我们如何微调自己基于 DNA 的生物结构，相对于我们专门设计的创造物，我们的血肉之躯都将处于劣势。正如作家彼得·维贝尔 (Peter Weibel) 所说，莫拉维克明白，人类在这方面只能是“二等机器人”。这意味着即使我们致力于优化和完善人类的生物大脑的能力，它们的运行速度也将比完全改造过的身体慢得多，...
为了让纳米技术影响大型物体，它需要有一个自我复制系统。杰出数学家约翰·冯·诺伊曼在 20 世纪 40 年代后期的一系列讲座和 1955 年发表在《科学美国人》(Scientific American) 杂志上的一篇文章中，正式提出了如何创建自我复制模块的想法。但他的全部想法直到 1966 年，也就是他去世近 10 年后，才被收集并广泛发表。冯·诺伊曼的方法是高度抽象和数学化的，主要集中在逻辑基础上，而不是构建自我复制机器的详细物理方法和用处。在他的概念中，自我复制。..
正如第 2 章中所讨论的，我估计要模拟每个神经元需要 1014 次运算。然而，大脑采用了大规模并行的方式工作。因为我们头骨内部潮湿的生物环境（至少在分子层面上是这样），可以说这是一个非常混乱的地方，任何单个神经元都可能会死亡或者在需要的时刻无法正确触发。如果人类的认知严重依赖于任何单个神经元的表现，那么整个系统将是非常不可靠的。但当许多神经元并行工作时，这种“干扰”就会被抵消，我们就能正常思考。
使用这种“广播”架构还可以解决一个关键的安全问题。如果自我复制过程失控，或者出现错误或安全漏洞，复制指令的源可以立即关闭，从而阻止纳米机器人的任何进一步活动。正如第 7 章将进一步讨论的那样，纳米技术应用中最坏的情况是形成所谓的“灰色黏液”(gray goo)——自我复制的纳米机器人形成不可控的连锁反应。理论上，这可能消耗地球上的大部分生物量，并将其转化为更多的纳米机器人。拉夫·默克尔提出的“广播”架构可以对这种情况进行有力防御。如果指令都必须来自中央源，在紧急情况下关闭广播将使纳米机器人失去活动能力。..
真正执行这些指令的构建机器将是一个简单的分子机器人，只有一只手臂，类似于冯·诺依曼的通用构造器，只是规模很小。制造分子尺度的机械手臂、齿轮、转子和电机的可行性已经被多次验证过了。
在物理学上，分子尺度的机械臂无法像人手那样移动原子，抓取并携带它们。这使得纳米技术的未来充满争议。2001 年，美国物理学家和化学家理查德·斯莫利 (Richard Smalley) 与埃里克·德雷克斯。..
置释放它。德雷克斯勒在其 1992 年出版的著作《纳米系统》(Nanosystems) 中提出，有许多不同的化学方法可以实现这一点。一种方法是移动碳原子，用一种叫作金刚石的纳米尺寸的金刚石物质构建物体。
类金刚石是由（少至 10 个）碳原子组成的微小笼子，排列成最基本的金刚石晶体类型，氢原子键合在笼子的外面。这些可能能够形成极轻、极强的纳米工程结构的基石。德雷克斯勒在他 1986 年的著作《创造引擎和纳米系统》(Engines of Creation and in Nanosystems) 中探索了纳米技术和金刚石制造的想法，这启发了科幻小说家尼尔·史蒂芬森 (Neal Stephenson) 创作了《钻石年代》(The Diamond Age)，这部小说还获得了 1995 年的雨果奖。他在小说中想象了一个未来，以钻石为基础的纳米技术定义了文明，就像青铜定义了青铜时代，铁定义了铁器时代。在小说发布后的 25 年甚至更长的时间里，金刚石研究取得了巨大进展，科学家们开始在实验室研究中看到实际。..
塑料强得多，大多数结构可以用大约为之前物体总质量的十分之一来建造。即使在成品中使用的原材料很昂贵，比如电子产品中的金、铜和稀土金属，这在未来通常也可以用更便宜、更丰富的元素（如碳）来代替其零部件。
因此，产品的真正价值将体现在它们所包含的信息上。从本质上说，是投入其中的所有创新，从创意到控制其制造过程的软件代码。这种情况已经发生在可以数字化的商品上。以电子书为例，当书籍最初被发明时，它们必须手工复制，所以人力是构成其价值的重要组成部分。随着印刷机的出现，纸张、装订材料和油墨等物理材料构成了其成本的主要部分。但有了电子书之后，复制、存储和传输一本书。..
装饰品的美感无关，与我们认为天然形成的钻石价值更高的观念有关。同样，大师的画作在装点起居室方面并不比高质量的复制品好多少。但由于人们更看重原作的地位，它们的售价可能会比复制品高出大约 100 万倍。因此，纳米技术制造革命不会消除所有的经济稀缺性。具有历史意义的钻石和伦勃朗的画作仍将稀缺。但是，在几代人的时间尺度上，文化价值观确实会发生变化。谁能断言现在的孩子们长大成人后会有怎样的价值取向？他们的后代又会如何？
将纳米技术应用于健康和长寿
迄今为止，有记录表明只有一个人的寿命超过了 120 岁，她就是活到 122 岁的法国女性珍妮·卡尔芒 (Jeanne Calment)。那么，为什么 120 岁是人类寿命如此难以逾越的极限呢？有人可能会猜测，人们活不过这个年龄是因为统计学原因，即老年人每年都面临着患阿尔茨海默病、中风、心脏病或癌症的某种风险，经过多年暴露于这些风险之中，每个人最终都会因某种原因而死。但事实并非如此。精算数据显示，从 90 岁到 110 岁，一个人在接下来一年内死亡的概率每年增加约 2％。例如，一名 97 岁的美国男性在 98 岁之前死亡的概率约为 30％，如果他活到了 98 岁，那么他在 99 岁之前死亡的概率将为 32％。但从 110 岁开始，死亡风险每年上升约 3.5％。
医生给出了一个解释：在 110 岁左右，老年人的身体开始以不同于更年轻一些的老年人衰老的方式出现衰竭。超级百岁老人（110 岁以上）的衰老不仅仅是晚年统计风险的延续或恶化。虽然这个年龄段的人每年也面临患。..
ies for Engineered Negligible Senescence, SENS) 研究基金会已经提出了一个详细的研究议程，用于说明如何实现这一目标，尽管这需要数十年的时间才能完全实现。
我们需要在单个细胞和局部组织层面修复衰老造成的损伤。目前人们正在探索许多可能的方法来实现这一目标，但我认为最有前途的终极解决方案是纳米机器人，它们能够进入人体并直接进行修复。这并不意味着人类将永生不死。我们仍然可能死于意外和灾难，但随着年龄的增长，死亡。..
我们不需要等到这些技术完全成熟才能从中受益。如果你可以活得足够久，抗衰老研究每年至少可以帮你延长一年的预期寿命，这将为纳米医学治愈任何遗留的衰老问题争取足够的时间。这就是所谓的“长寿逃逸速度”。
这就是为什么奥布里·德格雷惊世骇俗的声明背后有着合理的逻辑：第一个可以活到 1000 岁的人可能已经出生了。如果 2050 年的纳米技术能解决足够多的衰老问题，让 100 岁的人开始活到 150 岁，那么到 2100 年，我们将有时间来解决在那个年龄可能出现的任何新问题。届时，AI 将在研究中发挥关键作用，在那段时间里，人们。..
但纳米技术究竟将如何使这成为可能呢？在我看来，长远目标是创造医用纳米机器人。这些纳米机器人将由带有机载传感器、操纵器、计算机、通信器甚至电源的金刚石部件制成。直观上，我们可以将纳米机器人想象成在血液中穿梭的微型金属潜水艇，但纳米尺度下的物理学采用的是一种完全不同的方法。在这个尺度下，水是一种强大的溶剂，氧化分子具有较高的活性，因此需要金刚石等高强度的材料。
宏观尺度的潜艇可以在液体中平稳地推进，但对于纳米尺度的物体，其流体动力学主要受黏性摩擦力的影响。这就好像在花生酱中游泳一样困难！因此，纳米机器人需要利用不同的推进原理设计。同样，纳米机器人可能无法储存足够的机载能量或计算能力来独立完成所有任务，所以它们需要被设计成能够从周围环境中获取能量。..
治疗癌症的手段仍然相对迟钝。化疗常常不能完全根除癌细胞，还会对身体各处其他非癌细胞造成严重的伤害。这不仅会给许多癌症患者带来严重的副作用，而且会削弱他们的免疫系统，使他们更容易受到其他健康风险的影响。即使是先进的免疫疗法和靶向药物，其疗效和精准程度也远远不够。
相比之下，医用纳米机器人将能够检查每个细胞，确定它是否发生了癌变，然后摧毁所有的恶性细胞。回想一下本章开头提到的汽车修理工的类比。一旦纳米机器人可以选择性地修复或破坏单个细胞，我们就能完全掌控自己。..
随着 AI 对人类生物学方面的理解能力不断提高，纳米机器人将能够在问题被医生检测到之前，就在细胞层面率先“出手”。在很多情况下，这将有助于预防那些在 2023 年仍无法解释的病症。例如，今天有约 25％的缺血性中风是“隐源性”的，即没有可检测到的病因。但我们知道，它们的发生一定是有原因的。在血液中巡逻的纳米机器人可以检测到有可能引发中风的小斑块或结构缺陷，分解正在形成的血栓，或者在中风悄然发生时发出警报。
结语 我们将会面临的四个巨大危机
截至 2023 年，已知有多个国家拥有完整的“三位一体”核武器（即洲际弹道导弹、空投核弹和潜射弹道导弹），其中美国（5244 枚）、俄罗斯（5889 枚）、巴基斯坦（170 枚）和印度（164 枚）。另外有的国家拥有更有限的运载系统：法国（290 枚）、英国（225 枚）和朝鲜（约 30 枚）。以色列尚未正式承认拥有核。..
这样做无异于自杀。为了让 MAD 发挥作用，双方都必须有能力在不被反导系统阻止的情况下对对方使用核武器。原因是，如果一个国家能够拦截来袭的核弹头，那么先发制人地使用自己的核弹头攻击就不再是自杀行为。不过，一些理论家也提出，核爆产生的放射性尘埃仍会摧毁进攻国，导致自我确保毁灭 (Self-Assured Destruction, SAD)。
部分由于破坏稳定的 MAD 平衡的风险，世界各国军队在开发导弹防御系统方面投入的努力相当有限，截至 2023 年，没有一个国家拥有足够强大的防御能力，能够自信地经受住大规模核打击。但近年来，新的运载技术开。..
，在收到病毒的基因序列后 65 天内，莫德纳公司就给第一个人体受试者接种了疫苗，并在 277 天后获得了美国食品和药物管理局的紧急授权。这一进步令人惊叹，要知道在此之前，人们开发疫苗的最短时间大约是 4 年。
在撰写本书时，相关人员正在对新冠病毒在实验室进行基因工程研究后意外泄露的可能性进行调查。围绕不成熟的理论存在大量错误的信息，因此我们的推论必须基于高质量的科学来源。然而，这种可能性本身凸显了一种真正的危险：真实情况可能会糟糕得多。这种病毒可能具有极强的传染性，同时也具有很强的致命性，因此。..
生物技术中的大多数风险都与自我复制有关。任何一个细胞出现缺陷都不太可能构成威胁。纳米技术也是如此：无论单个纳米机器人的破坏力有多大，它都必须能够自我复制，才能造成真正的全球性灾难。纳米技术将使制造各种攻击性武器成为可能，其中许多可能具有极大的破坏力。此外，一旦纳米技术成熟，这些武器就可以以低廉的成本制造出来，而不像今天的核武库一样，需要大量资源来构建。（要粗略了解一些国家制造核武器的成本，可以考虑朝鲜的例子。据韩国政府估计，2016 年朝鲜的核武器计划耗资 11 亿～32 亿美元，这一年它成功开发了核导弹。）...
，生产生物武器的成本可能非常低。根据 1996 年北约的一份报告，这种武器可以在几周内由 5 名生物学家组成的团队开发出来，费用为 10 万美元（2023 年约为 19 万美元），而且不需要任何特殊的设备。就影响而言，1969 年的一个专家小组向联合国报告称，以平民为目标的生物武器的成本效益大约是核武器的 800 倍，而且自那以后的 50 年里，生物技术的进步几乎可以肯定大大提高了这一比例。虽然我们无法确定未来纳米技术发展至成熟阶段将耗资多少，但由于它将采用与生物学类似的自我复制原理，我们可以将生物武器的成本作为初步的。..
并不比今天的太阳能电池更高效，它们可能会与真正的植物竞争，用不可食用的叶子挤占生物圈。顽强的杂食性‘细菌’可能会与真正的细菌竞争：它们可以像被吹散的花粉一样传播，迅速复制，并在几天内使生物圈化为尘土。危险的复制器很容易变得过于顽强、微小和传播速度太快，以至于无法阻止，至少是在我们没有做好准备的情况下。我们在控制病毒和果蝇方面已经面临着足够多的挑战”。
最常被讨论的最坏情况是可能产生的“灰色黏液”，这是一种自我复制的机器，消耗碳基物质并将其转化为更多的自我复制机器。这样的过程可能导致失控的连锁反应，有可能将地球上的所有生物都转变为这样的机器。
根据弗雷塔斯的计算，如果以最优方式在全世界范围内进行部署，88000 吨防御性“蓝色黏液”纳米机器人足以在 24 小时内横扫整个大气层。但这一重量还不及一艘大型航空母舰的排水量，虽然数量庞大，但与整个地球的质量相比仍然非常小。不过，这些数字是建立在理想的效率和部署条件的假设之上的，而在实践中可能难以实现。截至 2023 年，由于纳米技术的。..
由于生物技术的风险，我们仍然可能遭受如新冠疫情这样的大流行的影响。截至 2023 年，这场大流行已经在全世界造成了近 700 万人死亡。但我们正在开发快速对新病毒进行测序和开发药物的方法，以避免威胁人类文明的灾难。对于纳米技术，虽然“灰色黏液”还不是一个现实威胁，但我们已经有了总体防御策略，应该可以抵御其攻击，甚至是最终的两阶段攻击。
有一个技术研究领域正在积极寻求方法来防御后两种 AI 失准的情况。尽管还有大量工作要做，但已经出现了许多有前景的理论方法。“模仿泛化”(Imitative Generalization) 是指训练 AI 模仿人类如何进行推理，以便在不熟悉的情况下应用其知识时更安全、更可靠。“通过辩论来保证 AI 的安全”(AI Safety Via Debate) 是指利用互为对手的 AI 指出彼此想法中的缺陷，帮助人类判断过于复杂而无法在没有帮助的情况下进行适当评估的问题。“迭代放大”(Iterated Amplific... 因此，尽管 AI 对齐问题非常难解。..
尽管如此，阿西洛马 AI 原则为发展负责任的 AI 奠定了基础，并正在推动该领域向积极的方向发展。该文件的 23 条原则中有 6 条旨在倡导“人类”价值观或“人性”。例如，原则 10“价值观对齐”(Value Alignment) 指出，“高度自主的 AI 系统的设计应确保其目标与行为在整个运行过程中与人类价值观保持一致”。
另一份文件《致命性自主武器宣言》(Lethal Autonomous Weapons Pledge) 提出了相同的概念：“签署人一致认为，绝不应该把夺取人类性命的决定权交给机器。这个立场有一个道德层面，即我们不应该允许机器做出他人或者没有人为此负责的决定。”虽然史蒂芬·霍金、埃隆·马斯克、马丁·里斯和诺姆·乔姆斯基等有影响力的人物已经签署了这一宣言，但包括美国、俄罗斯、英国、...
Artificial Intelligence and Autonomy)，敦促各国采取明智的政策，包括确保人类对核武器的最终掌控权。然而，正如其字面意义给人的感觉，“人类掌控”这个概念本身非常模糊。如果人类授权未来的 AI 系统“阻止即将到来的核攻击”，它应该拥有多大的自主权来决定如何做到这一点？值得注意的是，一个具有较高通用性、能够成功阻止此类攻击的 AI 系统，也可以被用于进攻。
我们还必须考虑，如果敌对军事力量不遵守《致命性自主武器宣言》，那么我们是否希望我方真的遵守。如果一个敌对国家派遣了一支由 AI 控制的先进战争机器组成的特遣部队，对你的安全造成了威胁，你难道不希望你方拥有更智能的能力来击退它们并保证你的安全吗？这就是“禁止致命性自主武器运动”(Campaign to Stop Killer Robots) 未能获得关注的主要原因。截至 2023 年，除了中国在 2018 年表示支持该运动，所有主要军事大国都拒绝支持该运动。我自己的观点是，如果我们受到此类武器的攻击，我们肯定希望拥有反制武器，而这必然意味着违反禁令。
y)：“如果 AI 系统造成伤害，应该能够确定原因。”原则 8“司法透明性”(Judicial Transparency)：“任何自主系统参与司法决策时，都应提供令人信服的解释，并由主管部门进行审核。”
努力提高 AI 决策的可理解性固然有价值，但核心问题在于，无论它们提供何种解释，我们都无法完全理解超智能 AI 做出的大多数决策。假设一个远超人类水平的围棋程序要解释其战略决策，即使是世界顶尖的围棋选手（在没有辅助系统的情况下）也难以完全理解。旨在降低不透明 AI 系统的风险的一个有前景的研究方向是“挖掘潜在知识”(Elicitin...
(Human Value) 进一步阐明了 AI 要遵循的价值观：“AI 系统的设计和运行应与人类尊严、权利、自由和文化多样性的理想相兼容。”然而，仅仅设定这个目标并不能保证实现它，这恰恰说明了 AI 的危险所在。一个具有有害目标的 AI 可以轻而易举地辩称它的行为对于某些更广泛的目的是有意义的，它甚至可以用人们普遍认同的价值观来证明其行为的合理性。
限制任何 AI 基本能力的发展是非常困难的，特别是因为通用智能背后的基本思想是如此广泛。本书英文版付印时，有令人鼓舞的迹象表明，一些重要国家的政府正在认真对待这一挑战，例如 2023 年英国 AI 安全峰会之。..
经济系统中出现的，它将反映我们的价值观，因为从重要的意义上讲，它就是我们自己。我们已经进入人机共生的文明发展阶段。最终，我们可以采取的确保 AI 安全的重要方法是，改善人类的治理水平，保护我们的社会制度。避免未来发生破坏性冲突的最佳方式是继续推进我们的道德理想。人类的道德理想在最近几个世纪和几十年已经极大地减少了暴力。
我认为我们还需要认真对待那些被误导的、越来越尖锐的卢德分子的观点，他们主张放弃追求技术进步以避免遗传学、纳米技术和机器人技术可能带来的真正危险。然而，面对人类的苦难，选择延迟克服仍然会造成严重的后。..
随着技术开始改变我们的身体和大脑，另一种反对进步的声音出现了，那就是“原教旨主义人文主义”：反对可能改变人类本质的任何尝试。这将包括修改我们的基因和蛋白质折叠方式，以及采取其他延长寿命的根本性措施。然而，这种反对最终一定会失败，因为人们对能够克服我们 1.0 版的身体固有的痛苦、疾病和短暂寿命的治疗方法的需求，最终将被证明是不。..
。虽然 AI 正在带来新的技术威胁，但它也将从根本上提升人类应对这些威胁的能力。至于 AI 被滥用的问题，由于这些技术将提高人类的智力，不管我们的价值取向如何，所以它们既可用于造福人类，也可能带来危害。因此，我们应该努力创造一个 AI 的力量广泛分布的世界，这样 AI 的影响就能反映全人类的价值观。
繁荣的背面
...
核武器：急需更智能的指挥与控制系统
...
生物技术：呼唤 AI 驱动的对策
...
纳米技术：设计“广播”架构与“免疫系统”
...
人工智能：安全对齐，构建负责任的 AI
...
附录一 卡珊德拉与库兹韦尔的对话：2029 年之前，AI 将全面超越人类
...
库兹韦尔：是的。它们将在 2029 年之前全面超越人类。
卡珊德拉：为了通过图灵测试，AI 必须被设计得没你想象的那么智能。
库兹韦尔：是的，否则我们就会发现它们不是能力未经强化的人类。
卡珊德拉：你还预测，在 21 世纪 30 年代早期，脑机接口技术将有办法进入大脑内部并连接到新皮质的顶层，既可以知道大脑中正在发生什么，也可以触发连接。
库兹韦尔：不是计算机，因为我们的福祉将依赖于计算机，而是那些可能被认为利用 AI 来增加自己的财富、扩大自己的权力、牺牲失业工人利益的人类。
卡珊德拉：是的，我怀疑卡尼曼考虑到的是中间阶段，在这个时期，一些人类仍握有权力，而 AI 还没有创造足够丰富的物质来消解冲突。
库兹韦尔：但是当人们有目标感时，冲突就可以最小化。将我们的新皮质扩展到云端对于人类保持目标感至关重要。就像几十万年前，人类的灵长类祖先的大脑皮层越来越多，可以从思考生存本能提升到思考哲学一样，“进
附录二 价格-计算性能的未来走向
...
器或由不同的零售部件组装而成的计算机会影响整体分析。那些设计出来但没有制造出来的机器，比如查尔斯·巴贝奇的分析机，以及那些制造出来但功能不可靠的机器，比如康拉德·祖泽的 Z1，都不包括在内。同样，这个图忽略了一些高度专业化的设备，如数字信号处理器，它们在技术上能够大量的数字运算，但没有被广泛用作通用 CPU。
名义价格是根据美国劳工统计局的 CPI 数据调整的 2023 年 2 月的实际价格（链式 CPI-U,1982-1984=100）。每年的 CPI 以年平均值表示。因此，尽管基础的实际价格计算不会使用四舍五入的数字
致谢
...
导读手册
...
如果站在今日人类的视角回顾当初，作者当时提出的事关人类文明形态下一步跃迁的GNR 技术，即结合了信息与生物的基因技术 (Genetics)、结合了信息与物理世界的纳米技术 (Nanotechnology) 和结合了人类知识与机器能力的智能机器 (Robotics)，在经历了 20 多年发展之后，被证明的确产生了远远超越大多数人想象的进步。其发展的速度，也暗合了作者始终强调的“加速回报定律”。那么，继续站在今天人类的视角，如果我们想要展望未来，本书中关于“人类迈向奇点的千年征程已经步入冲刺阶段”的所有阐述，不仅可以让我们学习与了解到更多前沿知识与技术可能性，还可以借助库兹韦尔的视角，重新检视我们本以为的与每个人和我们的后代都息息相关的未来到底会有哪些不同的可能性，在这些可能性中，我们又会扮演一种什么样的角色。
但是，正如人们常说的“知道并不等于做到，做到并不等于做好，做好并不等于做对”，对于每一个人而言，就算我们通读本书，吸收并掌握了书中介绍的所有知识与观念，我们还有一个终极的挑战，那就是：如何采取下一。..
有些人可能以为，所谓的灵活机动就是随意改变，恰恰相反，真要做到灵活应变，反而先要明确什么是不能变的。在这个变动不居的时代，各种流派的思潮汹涌澎湃，如果没有坚定的信仰与人生观，很容易被各种似是而非、此消彼长的观点搞得精神错乱、信仰崩塌，最后搞得一生随波逐流、一无是处。在混乱的环境里，真正能够指导我们稳步前行的是我们发自内心真正相信的东西，可惜的是，正如本文接下来将要阐述的，在信息发达的社会形态里，认知上的随波逐流成为常态，真知灼见反而成了稀缺之物。
、阅历与学术背景，在他的作品中将诸多与人类命运密切相关的前沿技术做了清晰的分类、整理与介绍，有助于我们高效、迅速地掌握技术发展的最新成果与未来趋势。但是即便如此，如前面谈及的有关复杂性与概率性的观念，在这样一个文明范式转变的时代，真相常常以多维度的角度展现在不同人的面前，因此我们每一个人其实都是在“盲人摸象”，仅仅靠一家之言很难描绘出正在变化的世界全貌。我们每个人无论学识多么渊博，也有必要借鉴“小马过河”寓言的启发，不盲从权威，以实证的精神走出适合自己的道路。
会发展阶段，奇点虽然即将到来，这是一个信息时代的现象，但如果我们没有针对信息时代的特点提升人类理解与利用信息的能力，还在用工业文明的思想考虑信息文明的问题，那么就算奇点来临，也与我们关系不大。要知道，在人类文明从农业文明进入工业文明时，有太多的文明形态，不是因为不具备工业文明的能力，而是不具备工业文明的思想，而被淘汰于人类的历史长河之中。
在信息化高度发达的社会形态下，我们除了面临寻找到正确问题与合适答案的挑战，还面临虚假信息与错误信息的干扰。根据通信与传播原理，在充斥了信号与噪声的媒体环境里，如何确保一条消息能够无损与保真地从发送方传播到接收方面前，并能够被接收方无歧义地理解，几乎成为一个不可能完成的任务。
诺贝尔经济学奖与图灵奖双料得主赫伯特·西蒙（中文名为司马贺）曾经强调，“信息过载的时代也是注意力稀缺的时代”。由于数字化媒体的普及和发达的通信技术，再加上因为生成式 AI 技术的进步而导致的机器生成内容泛滥，人类为了高效沟通而建设的通信网络已经被远超全体人类所能够处理和理解的海量信息所淹没。其中“真–假–虚–实。..
而造成的社会与文明重构，但是其力度和广度，尤其是因为电子和量子计算机器的引入而形成的指数增长效应和生成式智能信息机器能力，都将是人类有史以来所发明的最强大同时也是最有可能发生不可控制的结果的变革源泉。上一轮文艺复兴之后，人类社会经过五六百年完成了宗教改革、科学革命、启蒙运动与工业革命，这一轮信息文明的重构力量又将使目前各种先进的、落后的、相关的、不相关的文明重新置于同一条新的起跑线上，借用库兹韦尔的技术进化“加速回报定律”的思路，人类将因为智能计算机器的参与而面临一个双倍指数增长。..
器学习中常见的 Sigmoid 激活函数。虽然这两种矛盾的观点孰是孰非尚无定论，但是它们都有其适用的前提条件，核心问题不是增长是否有极限，而是支持无限加速增长的前提条件是否存在。依据这种思维逻辑，只要能够遵循合理的论证流程，一旦把支持某种结论为真的前提条件论证清楚，其结果也就自然明了。这虽然是题外话，由于人类技术越往前发展，越会接近无人区，都是一些前人没有走过的路，也越来越难。..
方式。但是就像农业时代的人类很难理解工业时代以蒸汽机和电动机为代表的动力源泉，大多数信息时代的人类还是以物质或能量的角度理解信息，而低估了信息本身就是一种改变物质和能量的力量，也是改变社会的力量。
信息时代的一大特征是任何实体，无论是文明形态，还是群体或个体，都需要通过建模的过程表征为数字化的信息，这类信息以数据的形式被机器所学习。在发展完备的信息社会中，具备学习能力的智能信息机器充当了人类知识的继承者与传播者，所有新人类都会通过具备人类全部知识的智能机器完成学习任务。能够被智能机器学习到的知识就是未来人类社会主流的知识。所有有。..
，除了理解文明传承与信息之间的关系，还要理解信息与承载信息的数据作为一种生产要素能够产生价值的前提。信息与物质和能量最大的不同在于，信息需要流通之后方能通过信息接收方思想与意识的改变而产生现实的作用。根据 DIKW［即 Data（数据）, Information（信息），knowledge（知识），Wisdom（智慧）］信息金字塔理论，承载信息的数据只有在转化为知识后才能够对人类社会产生影响。
没有意义的数据是没用的数据：数据十分重要，被喻为“数字经济的石油”。这种比喻的本义指的是石油的确很重要，但是其本身并没有太多直接用处，石油需要提炼为柴油、汽油方能为机器使用；只有建立起化工产业才能让石油提炼后的副产品继续发挥它的作用。同样的道理，数据看似重要，但是数据本身的“含油量”，也就是数据中所蕴含的信息量更为重要。这就需要在生成和收集数据之前，对数据进行有效建模，使得数据能够表征物理世界中的某种现象，产生相关的意义，而这种意。..
明的消逝。”诺兰的《星际穿越》如此，库兹韦尔的奇点系列亦如此。作为最后的总结，奇点理论涉及而没有充分展开的话题，即库兹韦尔所说的奇点来临后的第五与第六阶段，其实是我们每一个人都需要认真思考的话题。
按照当前认知科学的主流观点，人类是依据“眼、耳、鼻、舌、身”的五感，或者被科学家更加细分的 30 多种人类能够察觉到的感受而形成的电化学信号，通过神经的传导至大脑进行相应的信号加工与处理，从而产生意识的；人类的行动能力则来源于大脑通过神经发出的电化学信号驱动肌纤维形成的收缩与舒张作用。这两种意识生成能力和人体行动能力都正在被同样具备环境感知、信号传输与处理和行动能力的机器所赶超，只不过对于机器而言，传。..
当人们开口闭口都是图灵之时，有没有想过维纳、罗素、哥德尔、王浩所思考的问题？当人们开口闭口谈论大脑机制的同时，是否也会思考一下久未提及的心脑连接和肠脑连接？我们有没有思考过科学理论，从本质而言是一种归纳逻辑，只提供“是什么”(What) 与“如何做”(How)，并不承诺提供“为什么”(Why)，那么在这样一个事关全体人类未来的重大问题上，是否只能由计算机科学家推动？哲学家呢？如果哲学家因为不具备最先进的科学知识而无法提供有科学依据的观点，我们有没有思考过为什么哲学家不可以同时也是科学家、计算机学家呢？要知道，上一轮人类科学革命的先锋人物，大都同时是哲学家、艺术家或神学家，从何时开始，人类自以为科学、哲学、艺术与神学是分裂的呢？为什么非要非此即彼，而不可以互相借鉴呢？这种种的问题，其实都指向了人类生存与发展的根本问题，即“何以为人”以及“何以益于人”。
居然是“The Sciences Of The Artificial”（人工科学），Artificial（“人工”）这个概念本身就值得写一本专著！而“Intelligence”更是一个充满歧义的名词，单就 Artificial Intelligence 的中文翻译而言，就起码同时存在“人工知能”“人工智能”和“人工智慧”三种译法，那么我们真的已经对人类大脑表现出的能力达成共识了吗？
在我看来，起码在目前阶段，机器通过对数据的计算所表现出来的，更多是 DIKW 信息金字塔的理论所定义的知识的层面。知识是分立的、专业的、深入的、形而下的；智慧是综合的、融汇的、深刻的、形而上的。正是对。..
，也与波普尔的世界三元组或皮尔斯的符号表征三元组有关，即与物理世界、精神世界和符号世界相关。一旦进入这个领域，我们或许可以尝试借鉴一下古人的智慧做一个总结，如本节标题所述，理解机器的潜能和未来的趋势，首先需要理解人类智慧的来源，才有可能定义机器具备的到底是智能还是知能，其本质是对于“能指”与“所指”的辨析。当然，古人给出了那个时代的答案，那就是所有的符号，包括通过符号表征的知识，也包括当前智能学习机器通过符号学习到的知识，这些都属于“能指”的范畴，它们都像影子一样追随着代表“所指”的形体，我的理解是，这。..
有可能在墙角深处有一个小门正等待我们努力地推开，或许在这个即将被我们打开的小门背后，隐藏着人类继续探索宇宙奥秘的星辰大海。这种理解，也是本书中所提及的宇宙进化第六阶段的另一种解读，当然这是我的解读，如统计学家乔治·博克斯所言，“所有的模型都是错误的，只不过有一些是有用的”，重要的不是我的解读，也不是库兹韦尔的解读，重要的是你自己的解读，那么，你自己的观点是什么呢？
为哪怕不搞人机融合，人也有意义；哪怕 AI 再强，人也有人的用处。人的作用主要在两个方面。一个是输出主动性。就是你的人生经历、你所在文化的历史、你的基因，所有的一切微妙元素共同决定了你喜欢什么、想要什么。因为涉及的因素实在太多也太细微，其中很多早已无法数字化，所以 AI 永远都没办法预测你的喜好。而且因为 AI 自身没有历史也没有人生经历，所以它们没有自己的人生意义，所以它们应该服从我们的人生意义和我们的价值观。因为我们是历史演化的产物而 AI 可以随便复制，所以我们比 AI 更宝贵。另一个是拍板做决定。
比如，明朝著名文化人王世贞是个书画鉴赏家，传说他就是《金瓶梅》的作者。他非常懂，也很喜欢谈论书法，但是自己写不好，所以他有句话叫“吾腕有鬼，吾眼有神”——我的审美力是神级的，但是我的手没练好，表达不出来。
要想实时、精确读取大脑信息，乃至于给大脑输入信息，就必须突破头骨，直接跟大脑接触。这就是“植入式脑机接口”(implanted brain-computer interface, BCI)。
2024 年 1 月，马斯克的 Neuralink 在美国食品和药物管理局的允许下，把一个芯片植入了一个人的大脑。这个装置有 1024 个电极，接入大脑的运动皮层，能处理神经元信号。所有信号被传递到植入的芯片之。..
身体对人的意识是有影响的，比如，心跳和肠道都会影响思维与感知，所以身体的复刻还是很重要的。有的哲学家建议应该复刻大脑神经元的所有连接，甚至在每一个细胞层面进行复刻，有人甚至认为必须考虑量子层面才行。但是请注意，物理学根本不允许量子层面的精确复刻，那会违反不确定性原理……
不过在库兹韦尔看来，既然大脑只是一个信息处理装置，而且现在没有任何证据表明大脑受到量子效应影响，我们不用复刻得那么精细。也许一个内部使用简化材质、外表使用真实皮肤的机器人就够了。
如果人造人不能随着时间演化，我们要 TA 有什么意义呢？如果人造人能随着时间演化，TA 像不像又有什么意义呢？分身只是一个执念罢了。
你想用 AI 分身复活一位亲人吗？对我来说，我更想知道如果我爸爸活到今天，他会如何，而不只是回忆生前的他是如何。
芦义 Brilliant Phoenix 合伙人前微博平台负责人。..
用通信平台。长远来看，它的目标是通过增加人类和机器之间的通信带宽，来改善 AI 与人类的共生关系，缩小双方沟通带宽的差距。当 AI 之间的交流带宽达到兆级别的时候，人类目前的交流速度就像对着树木说话一样缓慢。预计 5 年内，Neuralink 电极数量和信号处理能力将大幅提升，可能达到每秒 1 兆比特的速度，远超人类目前的交流速度。高带宽的人机交互可能会改变人类的思维和交流方式，创造全新的交互模式。
其次，AI 作为最新也最为重要的通用目的技术 (GPT, general purpose technology)，不仅自身会持续指数级的发展，同时也会成为其他一系列技术发展的重要推动力。这些技术，不仅涵盖了我们人类社会未来发展所需要的各种重要技术，比如可再生能源（可再生能源取代化石能源的速度可能比我们想象的更。..
从历史的角度看，技术性失业并不是什么新话题。从蒸汽机的发明，到电力的应用，再到互联网的普及，都曾产生过显著的“创造性毁灭”(Creative Destruction) 效应，导致大量基于旧技术的岗位消失，造成很多从事相关职业的人失业。不过，历史上的这几波技术性失业大多是暂时性的。随着新技术的普及，很多新的岗位会被创造出来。
在所有的新问题中，最为突出的一个可能就是 AI 对齐问题。所谓 AI 对齐，简而言之，就是确保 AI 能理解人类的规范和价值，懂得人类的意愿和意图，按照人类的意志行事。从表面上看，这似乎并不是一件难事，毕竟 AI 的程序根本上都是由人设定的，人难道还会给其设定一个与自己利益相违背的目标吗？但事实上，答案并没有那么简单，原因有二。