我还记得我第一次对光明未来的信心消失时，我对技术进步的灵丹妙药的信心动摇了。那是2007年9月一个温暖的夜晚，在旧金山，我在一家廉价的汽车旅馆里休息。此前两天，我正在报道奇点峰会(The Singularity Summit)。奇点峰会是科学家、技术专家和企业家们一年一度的聚会，讨论人类未来的退化问题。
在数学中，“奇点”是一个具有无限值的函数，通常会损害方程的理智和情感。在物理学中，这个词通常指密度无限、空间无限弯曲的区域，即黑洞内部和大爆炸初期存在的东西。用硅谷的另一种说法，“奇点”是一个不可阻挡的即将到来的事件，在这个事件中，人类乘着加速的技术进步浪潮，以某种方式创造了卓越的人工智能——这种智能具有可预见的不可预测性，然后爆炸性地进一步创造出破坏性创新，如此强大和深刻，以至于我们的文明，我们的物种，甚至我们的整个星球也可能迅速转变成某种难以想象的状态。奇点的支持者认为，奇点出现后不久，人类对地球的统治就会结束。
我在会议上遇到了广泛的思路。有些与会者夸大了富裕，等待着爱情的机器的到来，在稀缺的乌托邦的稀缺性乌托邦观察他们，而其他人则更加思考历史，可怕的新技术可以释放新技术。即使是出席的自称怀疑论者也被认为是世界上的一些大规模技术驱动过渡的尖端。A typical conversation at the conference would refer at least once to some exotic concept like whole-brain emulation, cognitive enhancement, artificial life, virtual reality, or molecular nanotechnology, and many carried a cynical sheen of eschatological hucksterism: Climb aboard, don’t delay, invest right now, and you, too, may be among the chosen who rise to power from the ashes of the former world!
素食餐前小点心和红酒在海湾地区别墅,我有聊天的亿万富翁风险投资家彼得•泰尔计划采取的“咄咄逼人”的战略投资一个“积极的”奇点,这将是“有史以来最大的繁荣”,如果不首先“炸毁整个世界。”我曾与自学型人工智能研究人员埃利泽·尤多科夫斯基(Eliezer Yudkowsky)谈过他的担忧，他担心人工智能一旦被创造出来，可能会迅速摧毁地球。有一次，这位发明家变成了布道者 雷·库兹韦尔(Ray Kurzweil)召开了电话会议，讨论他成为超人类的计划，超越自己的生物学， 获得某种 的永生。Kurzweil 相信这是可能的， 甚至是很有可能的，只要他能活着看到 奇点的黎明， ，他认为在21世纪中期的某个时候， 会出现。为此，他每天要服用150余种维生素。
如果我们的技术文明要避免衰退，那么人类在某种形式上的过时是不可避免的。
也在文学在科幻小说中，我们从未回家
通过导演AlfonsoCuarón的重力，Sandra Bullock遭受了最宇宙暗情的宇宙案例，因为Keir Dulerea于2001年对无限的影响：一个近半个世纪前的空间奥德赛。对于布洛克，回家是（就像它......阅读更多
返回我的汽车旅馆房间每晚都筋疲力尽，我通过阅读一本旧书的摘录来解开，Summa Technologiae.．晚点作者Stanislaw Lem在20世纪60年代初写了它，让自己为锻造了十三世纪的世纪辩护的崇高目标神学大全，托马斯·阿奎那的里程碑式的纲要，探索基督教神学的基础和局限。当阿奎那认为造物主、不朽的灵魂和永恒的救赎是基于圣经的确定性时，莱姆关注的是在现代科学的原则指导下，整个宇宙的智能和技术的不确定的未来。
套用莱姆的话来说，这本书是对尚未开花的科技玫瑰刺的调查。然而，尽管莱姆后来观察到“没有什么比未来衰老得更快”，但令我惊讶的是，这本书中近半个世纪前的预言，大部分都与我在大会上遇到的话题有关，而且同样让我感到新鲜。最令人惊讶的是，在随后的对话中，我证实了自己的怀疑:在聚集在旧金山打造超人类未来的科技世界里，很少有人熟悉这本书，也很少有人熟悉莱姆。我觉得自己就像一名坐在车里的乘客，在驾驶员视野的中心焦点上发现了一个盲点。
这么盲情可能是可理解的。2007年，只有碎片Summa Technologiae.由文学学者彼得·斯维尔斯基(Peter Swirski)和德国软件开发者弗兰克·普伦格尔(Frank Prengel)独立进行部分翻译。这些碎片是我在汽车旅馆读到的。第一本完整的英译本是由媒体研究员乔安娜·齐林斯卡(Joanna Zylinska)在2013年出版的。莱姆自己承认，这本书从一开始就是一个商业和评论性的失败，在首次出版时就“消失得无影无踪”。莱姆的术语和密集的巴洛克风格是部分原因——他的许多最好的观点都是在离题的寓言、寓言和脚注中提出的，他还为那些在当时明显超出地平线的领域创造了自己的新词。在莱姆的字典里，虚拟现实是“幻影学”，分子纳米技术是“分子电子学”，认知增强是“大脑学”，仿生学和人工生命的创造是“模仿学”。他甚至为搜索引擎优化创造了一个术语，命名为谷歌:“ariadnology”。他将通往高级人工智能的道路称为“智能电子学”的“技术进化”。
即使是现在，如果说莱姆为英语世界的绝大多数人所知，那也主要是因为他的著作Solaris这部1961年出版的科幻小说曾被改编成两部广受好评的电影，一部由安德烈·塔科夫斯基(Andrei Tarkovsky)创作，另一部由史蒂文·索德伯格(Steven Soderbergh)创作。然而，说这位多产作家只写科幻小说是愚蠢的轻视。他的这么多作品能被归为一类，是因为他的许多知识漫游把他带到了知识的边缘。
LEM是一位Polymath，一个贪婪的读者，不仅是经典的文学佳能，而且还吞噬了普遍的研究期刊，科学期刊和领先的研究人员的流行书籍。他的天才在科学巨人的肩膀上站在他们的工作中的本质，用苦乐参半的洞察力和思想实验调味，并将其数学抽象与深层存在的奥秘和人类状况的性质相连。出于这个原因，读书lem是一种教育，其中一个人可以了解突破性的突破性的深度后果，例如Claude Shannon的信息理论的发展，Alan Tures对计算的工作，以及John Von Neumann对博弈论的探索。他的大部分最佳工作都需要根据任何人同意的逻辑构建分析，然后展示这些精致的房屋如何导致惊人的结论。以及所有它的根本urtext，他的产出的剩余时间流动的井展是Summa Technologiae.．
本书的核心是进化生物学的剧烈组合，热力学 - 通过系统和控制论的能量研究，由诺伯特维纳在20世纪40年代开创的漫反射领域，研究了反馈回路如何自动调节机器和生物的行为．考虑到这方面的行星文明，LEM在社会稳定和其技术发展程度之间进行了一系列反馈。在其早期阶段，LEM写道，技术的发展是一种自我加强过程，促进稳态，在面对持续的变化和增加紊乱的情况下保持稳定性的能力。也就是说，技术的增量进展往往逐渐增加了社会对破坏性环境力量的恢复力，例如流行病，饥荒，地震和小行星罢工。更多的进步导致更多的保护，仍然仍然提高进步。
结果是一个令人讨厌的悖论：为了保持对自己的命运的控制，我们必须使我们的代理能够指数思想比我们自己更强大。
然而，LEM辩称，同样的技术驱动的积极反馈回路也是行星文明的Achilles脚跟，至少在地球上有了我们。由于科学和技术的进展以及发现的步伐继续加速，我们的社会将接近一个“信息障碍”，超出了我们的大脑 - 器官盲目，随着种子化的，因为大大不同的目的而言 - 可以不再有效地解释和采取行动洪水的信息。
过去这一点，我们的文明应该达到科技呈指数增长时期的结束。稳态将分解，而没有一些重大干预，我们将崩溃陷入“发展危机”，我们可能永远不会完全恢复。据盲目地沿着随机，路径依赖的科学发现和技术发展盲目地蜿蜒，只会导致动态和胸围经济泡沫的恶性循环。“胜利，即突然出现了一些新的美妙活动的领域，”他写道，“将我们透过纯粹的大小，从而阻止我们注意到其他一些机会 - 这可能会在长远来看，这可能会变得更加有价值。“
莱姆因此得出结论，如果我们的技术文明要避免陷入衰退，人类在某种形式或另一种形式的淘汰是不可避免的。那么，继续进步的唯一剩余选择将是通过开发算法“信息农场”和超人类人工智能实现“认知过程自动化”。莱姆干巴巴地指出，生物进化是宇宙中唯一已知的构建哲学家的技术，而不仅仅是哲学。
结果是一个令人不安的悖论，莱姆在书的开头就表达了这个悖论:为了保持对自己命运的控制，我们必须把自己的
机构交给比我们自己更强大的思想，这些思想通过我们无法完全理解的过程创造出来，因此可能对我们来说是不可知的。这是莱姆探索奇点的基础，在描述奇点的结果时，他得出了许多结论，现在的大多数奇点追随者也都有这些结论。但是，在典型的现代方法和莱姆的方法之间有一个不同，不是在程度上，而是在性质上。
不像如今在硅谷亿万富翁的泡沫世界中如此普遍的商业化未来主义，莱姆的预测实际上并不是要从市场波动、闪亮的新设备或“颠覆性创新”的简单化意识形态中寻求个人财富。在Summa Technologiae.在接下来的大部分工作中，莱姆试图为一些问题找到合理的答案，这些问题在今天常常被默默忽略，或许是因为它们无法完全符合任何TED演讲或初创企业的商业计划:是技术控制人类，还是人类控制技术?我们的知识和成就的绝对界限在哪里?这些界限是由自然的基本规律还是由我们心灵的内在限制所形成的?如果我们有能力满足几乎所有的物质欲望，我们真正想要的是什么?
LEM对这些问题的探索是他对机会的痴迷，混乱之间的概率紧张和作为人类命运的仲裁者的痴迷主导。他对熵感到深深的欣赏，紊乱的能力自然，自发地出现和蔓延，诅咒一些人在幸免他人的同时。我t was an appreciation born from his experience as a young man in Poland before, during, and after World War II, where he saw chance’s role in the destruction of countless dreams, and where, perhaps by pure chance alone, his Jewish heritage did not result in his death. “We were like ants bustling in an anthill over which the heel of a boot is raised,” he wrote inHighcastle，自传的回忆录。“有些人看到了它的影子，或者以为他们所做的，但每个人都包括不安，在最后一分钟跑到他们的平时的业务，跑热情，奉献 - 为了安全，安抚，驯服未来。”从那些经历的积累权重中写道《纽约客》1986年，他“来了解所有系统共同的脆弱性”和“人类如何在极端条件下表现 - 他们在巨大压力下的行为几乎无法预测。”
对莱姆(以及相当数量的现代思想家来说，值得赞扬的是)来说，奇点与其说是一个机会，不如说是一个问号，一个多维的熔炉，人类的未来将在其中形成。
2007年夏天，我忍不住想起了莱姆的问号。奇点峰会(Singularity Summit)就在新古典主义的艺术宫殿剧院(Palace of Fine Arts Theater)周围的花园里举行，黑暗和破坏性的阴影似乎笼罩着聚集在一起的富人的计划和抱负。但它们与邪恶的超级智能或失控的纳米技术几乎毫无关系。在我住的汽车旅馆和会场之间，乞丐们沿着人行道休息，或者拿着空杯子站在繁忙的十字路口，几乎每个人都看不见。有一次我在课间休息时出去散步，无意中发现一个无家可归的人在两棵修剪整齐的灌木之间排便。即便是在大会的背景下，有关融资的谈话中偶尔也会出现绝望的暗示;次贷危机已经开始显现，一年后，它将引发全球金融体系几近崩溃。当我们社会的科技巨头们在寻求优势，以创造他们希望是所有可能的未来中最好的时候，外面的世界提醒那些愿意倾听的人，即使在今天，我们也几乎无法控制。
在莱姆看来，尽管人类并不完美，但我们应该始终努力进步和提高。
我在2008年和2009年又参加了两次奇点峰会，在那三年里，各种技术的所有被大肆吹嘘的性能提升，与一个更明显但较少被讨论的加速变化模式相比，似乎微不足道:全球生态恶化、经济不平等和社会不稳定的快速持续增长。在这方面，对我们未来信息技术能力的预测往往远没有那么乐观。他们有信心地指出，如果我们将灵魂吸入我们的机器，大多数人类将不会梦想超越他们的生理，而是梦想淡水、饱腹和温暖、安全的床。如果超级智能计算机被海平面上升引发的风暴潮淹没，或者无法获得稳定的电力供应，它还能有多大用处?在一个被武装的、愤怒的、饥饿的暴民和流离失所的人们蹂躏的世界里，生物技术提高个人寿命有价值吗?我不止一次地想知道，为什么这么多的高科技专家更关心那些还不存在的威胁，而不是那些更平凡、更真实的威胁，就在他们眼前。
莱姆能够讲述我对奇点会议窗外世界的体验。在他的作品中贯穿着一种人文主义的谦卑，一种来之不易的确信，即技术发展往往只是为了服务于我们最原始的欲望，奖励个人的贪婪而不是公共利益。他认为我们的世界是极其脆弱的，是由大量的巧合所决定的，在这些巧合中，人类精神的变幻无常成为最不稳定的变量。
在这里，我们发现了莱姆作为未来主义者的主要优势。他拒绝低估人性对超人类可能性的影响，并相信，了解我们作为人类的优势和弱点这一尚未完成的任务，是通往任何后奇点未来的所有推测路径的关键先决条件。然而,这种力量也会导致登月舱可能是伟大的弱点,一个他和今天的希望超人:一个通过otherwise-dispassionate照耀黑暗的人性的乐观,一个狂热的信仰,当面对一个超越未来的挑战,我们会英勇地盲目轻率地去它的深度。在莱姆看来，像我们一样不完美的人类，应该永远努力进步和改进，寻找所有美好和可能的东西，而不是仅仅是方便和有利可图的东西，通过这一点，我们可能会找到救赎。相反，我们可能会屈服于自满、停滞、倒退和灭绝，这是他承认的，但几乎不能支持的事情。最后，莱姆也被诱惑了——尽管不是被个人永生、无穷成长或宇宙目的论的准宗教观念所诱惑，而是被不屈不挠的人类精神所诱惑。
就像许多其他的想法Summa Technologiae.这一点在莱姆1981年的一部中篇小说中得到了最好的表达傀儡十四，其中一个自我编程的军事超级计算机，将自身引入感知的人提供了一系列题为批评演变和人性的讲座。有人会说，在虚构中寻求真相，或者在想象中的人物的思想和作者的真正信仰之间吸取等价，但对于我来说，结论是不可避免的。当Novella的人工哲学家通过连接的声码器做出明文时，它是人类的声音，它出现了一旦他最有希望的超越，也可能是今天的趋势，他最错误的：
“我觉得你正在进入一个蜕变的时代。你们将决定抛弃你们的整个历史、你们的全部遗产和所有人性的遗存——人性的形象被放大成美丽的悲剧，成为你们信仰的镜子的焦点;你要前进(因为没有别的路可走)，而在这一点上，对你来说，现在不过是跳进深渊，你会发现一种挑战，如果不是一种美的话;你还是要走你自己的路，因为抛弃了人，人也就救了自己。”
自由撰稿人李·比林斯是《50亿年的孤独:在恒星中寻找生命》
照片由论坛/ UIG / Getty Images
本文最初发表于2014年10月的《天才》杂志网络版。
