我还记得第一次我对光明未来的把握破灭时，我对技术进步灵丹妙药的信心动摇了。那是在2007，九月的一个温暖的夜晚，在旧金山，我在一个廉价的汽车旅馆房间里休息了两天，在一次奇特峰会上，一个科学家、技术专家和企业家的年度聚会讨论了人类未来的过时。
在数学中，“奇点”是一个具有无穷大值的函数，通常会损害方程的感觉和敏感性。在物理学中，这个术语通常指的是一个密度无限、空间无限弯曲的区域，这个区域被认为存在于黑洞内部，并且在大爆炸的最初阶段。用硅谷截然不同的说法，“奇点”这是一个势不可挡的即将到来的事件，在这一事件中，人类乘着技术进步的加速浪潮，以某种方式创造出卓越的人工智能，这种智能具有可预测的不可预测性，然后爆炸性地进行进一步的破坏性创新，其强大而深刻，以至于我们的文明，我们的物种，甚至我们的整个星球也可能迅速地转变成难以想象的状态。奇点的支持者认为，在奇点到来后不久，人类对地球的统治将结束。
我在会议内外遇到了各种各样的想法。一些与会者兴高采烈，等待着充满爱的优雅机器的到来，在一个天堂般的后稀缺乌托邦中守护着他们，而另一些人则更加关注历史，担心新技术可能释放出的恶魔。就连与会的那些自称怀疑论者也感觉到，世界正处于某种大规模技术驱动转型的风口浪尖上。会议上的一次典型对话至少会提到一些奇特的概念，如全脑仿真、认知增强、人工生命、虚拟现实或分子纳米技术，其中许多都带有末世胡克主义的愤世嫉俗色彩：爬上去，不要拖延，现在就投资，还有你，也许是从前世界的灰烬中崛起的被选中的人之一！
素食餐前小点心和红酒在海湾地区别墅,我有聊天的亿万富翁风险投资家彼得•泰尔计划采取的“咄咄逼人”的战略投资一个“积极的”奇点,这将是“有史以来最大的繁荣”,如果不首先“炸毁整个世界。”我曾与自学型人工智能研究人员埃利泽·尤多科夫斯基(Eliezer Yudkowsky)谈过他的担忧，他担心人工智能一旦被创造出来，可能会迅速摧毁地球。有一次，这位发明家变成了布道者 雷·库兹韦尔(Ray Kurzweil)召开了电话会议，讨论他成为超人类的计划，超越自己的生物学， 获得某种 的永生。Kurzweil 相信这是可能的， 甚至是很有可能的，只要他能活着看到 奇点的黎明， ，他认为在21世纪中期的某个时候， 会出现。为此，他每天要服用150余种维生素。
如果我们的技术文明要避免陷入衰退，人类就不可避免地会以这样或那样的形式被淘汰。
每天晚上回到我的汽车旅馆房间时，我都精疲力竭地读着一本旧书的节选，技术高峰．已故波兰作家斯坦尼斯拉夫·莱姆(Stanislaw Lem)在20世纪60年代初写了这本书，为自己定下了一个崇高的目标，打造一个与13世纪相当的世俗作品神学总论托马斯·阿奎那（Thomas Aquinas）的里程碑式纲要，探讨了基督教神学的基础和局限性。阿奎那主张造物主的确定性、不朽的灵魂和基于圣经的永恒救赎，莱姆则在现代科学原则的指导下关注整个宇宙中智能和技术的不确定未来。
用莱姆自己的话说，这本书是对尚未绽放的科技玫瑰的荆棘的调查。然而，尽管莱姆后来观察到“没有什么东西比未来更容易衰老”，但令我惊讶的是，这本书近半个世纪以来的大部分预言都与我在会议期间遇到的相同主题有关，并且感觉同样新鲜。最令人惊讶的是，在随后的谈话中，我证实了我的怀疑，即在我们的技术世界的大师们聚集在旧金山建立一个坦桑尼亚的未来，很少有人熟悉这本书，或者说，与莱姆有关。我感觉自己就像一个坐在车里的乘客，在司机视线的中心发现了一个盲点。
这种盲目或许是可以理解的。2007年，只有碎片技术高峰由文学学者彼得·斯沃斯基和一位名叫弗兰克·普伦格尔的德国软件开发人员独立进行部分翻译，以英语出现。这些碎片是我在汽车旅馆读到的。媒体研究人员乔安娜·齐林斯卡（Joanna Zylinska）的第一份完整英文译本于2013年出版。莱姆自己也承认，从一开始，这本书就是一个商业性的、关键性的失败，在第一次出版时“毫无痕迹地沉没”。莱姆的术语和浓厚的巴洛克风格在一定程度上要归咎于他的许多优秀观点都是在离题的寓言、寓言和脚注中提出的，他还为当时明显超地平线的领域创造了自己的新词。在莱姆的词典中，虚拟现实是“幻象学”，分子纳米技术是“分子电子学”，认知增强是“脑力学”，仿生学和人工生命的创造是“仿生学”。他甚至为搜索引擎优化创造了一个术语，一个类似谷歌的术语：“阿里阿德诺学”他称之为“智能电子技术”的“技术进化”的高级人工智能之路
即使是现在，如果说英语世界的绝大多数人都知道莱姆，那主要是因为他是《圣经》的作者Solaris，1961年的一部流行科幻小说，改编了两部广受好评的电影，一部由安德烈·塔尔科夫斯基（Andrei Tarkovsky）改编，另一部由史蒂文·索德伯格（Steven Soderbergh）改编。然而，如果说这位多产的作家只写科幻小说，那将是愚蠢的轻蔑。他如此多的作品可以归类为这样的作品，是因为他如此多的智力漂泊把他带到了知识的外部边界。
莱姆是一个博学多才的人，他如饥似渴地阅读，不仅阅读经典文学经典，还阅读大量的研究期刊、科学期刊，以及顶尖研究人员的流行书籍。他的天才之处在于站在科学巨人的肩膀上，从他们的工作中提炼出精华，其中有苦乐参半的洞察力和思维实验，将他们的数学抽象与深刻的存在主义奥秘和人类状况的本质联系起来。仅就这个原因而言，阅读莱姆就像是一种教育，你可以从中学到诸如克劳德·香农(Claude Shannon)对信息理论的发展、艾伦·图灵(Alan Turing)对计算的研究，以及约翰·冯·诺伊曼(John von Neumann)对博弈论的探索等重大突破的深远影响。他的许多优秀作品都是基于任何人都会同意的逻辑构建分析，然后展示这些非常合理的前提如何导致惊人的结论。而这一切的基本原始文本，也是他剩余产出的源泉，是技术高峰．
这本书的核心是进化生物学、热力学、通过系统的能量流动研究和控制论的令人兴奋的结合，这是一个由诺伯特·维纳（Norbert Wiener）在20世纪40年代开创的扩散领域，研究反馈回路如何能自动调节机器和生物体的行为。以这种方式考虑一个行星文明，Lem在一个社会的稳定性和它的技术发展程度之间建立了一套反馈。Lem写道，在早期阶段，技术的发展是一个自我强化的过程，它促进了内环境稳定，即在不断变化和不断增加的紊乱面前保持稳定的能力。也就是说，技术的不断进步往往会逐渐增强社会抵御破坏性环境因素（如流行病、饥荒、地震和小行星撞击）的能力。更多的进步会带来更多的保护，这会促进更多的进步。
其结果是一个令人不安的悖论:为了保持对我们自己命运的控制，我们必须把我们的力量交给比我们自己更强大的思想。
然而，莱姆认为，同样由技术驱动的正反馈回路也是行星文明的阿喀琉斯之踵，至少对我们在地球上的文明是如此。随着科学技术的进步和发现的步伐继续加速，我们的社会将接近一个“信息屏障”，超过这个屏障，我们的大脑——由于进化而盲目、随机地塑造的器官——将无法再有效地解释信息洪流并对其采取行动。
过了这一阶段，我们的文明将达到科学技术指数增长时期的终点。体内平衡将被打破，如果没有一些重大干预，我们将陷入一场“发展危机”，我们可能永远无法完全恢复。莱姆写道，试图简单地蒙混过去，只会导致经济泡沫繁荣和萧条的恶性循环，因为社会盲目地沿着随机的、依赖路径的科学发现和技术发展道路蜿蜒前行。他写道:“胜利，也就是突然出现的一些新的精彩活动领域，将把我们淹没在它们的巨大规模中，从而阻止我们注意到其他一些机会——从长远来看，这些机会可能更有价值。”
莱姆因此得出结论，如果我们的技术文明要避免陷入衰退，人类就不可避免地会以某种形式被淘汰。继续进步的唯一剩余选择将是通过发展算法“信息农场”和超人人工智能实现“认知过程自动化”。这将通过一种复杂的剽窃来实现，这种剽窃是对我们在生物进化中看到的无意识、野蛮的自然选择的虚拟模拟。莱姆·德莱利指出，这是宇宙中已知的唯一一种构造哲学家的技术，而不仅仅是哲学。
结果是一个令人不安的悖论，莱姆在书的早期就表达了这一点：为了保持对我们自己命运的控制，我们必须放弃自己的命运 心灵的能动性比我们自己的更强大，通过我们无法完全理解的过程产生，因此我们可能不知道。这是登月舱探索奇点的基础，在描述奇点的后果时，他得出了许多结论，而当今的大多数追随者都会分享这些结论。但典型的现代方法与Lem方法之间存在差异，不是程度上的差异，而是种类上的差异。
与如今在硅谷亿万富翁的泡沫世界中如此普遍的商品化未来主义不同，莱姆的预测并不是真正从市场波动、闪亮的新产品或“颠覆性创新”的简单意识形态中寻求个人财富技术高峰在接下来的大部分工作中，莱姆试图为一些问题找到合理的答案，这些问题在今天常常被默默忽略，或许是因为它们无法完全符合任何TED演讲或初创企业的商业计划:是技术控制人类，还是人类控制技术?我们的知识和成就的绝对界限在哪里?这些界限是由自然的基本规律还是由我们心灵的内在限制所形成的?如果我们有能力满足几乎所有的物质欲望，我们真正想要的是什么?
莱姆对这些问题的探索主要是因为他对机会的痴迷，即混沌与秩序之间的概率张力，作为人类命运的仲裁者。他对熵有着深刻的欣赏，熵是一种无序自然、自发地产生和传播的能力，既诅咒一些人，又保护其他人。这是一种欣赏，源于他年轻时在波兰的经历，在二战之前、期间和之后，他看到机会在无数梦想的毁灭中所起的作用，也许仅仅是因为纯粹的机会，他的犹太遗产并没有导致他的死亡。“我们就像蚂蚁在蚁丘中忙碌，而蚁丘上的靴后跟是凸起的，”他在一篇文章中写道Highcastle，一本自传体回忆录。“有些人看到了它的影子，或者认为他们看到了，但是每个人，包括不安的人，都在做他们的日常工作，直到最后一刻，都带着热情，专注于安全，安抚，驯服未来。”Lem在文章中写道，从这些经验积累的分量来看《纽约客》1986年，他“开始理解所有系统都具有的脆弱性”，以及“人类在极端条件下的行为——他们在巨大压力下的行为几乎是无法预测的。”
对于莱姆（值得赞扬的是，他们还有相当数量的现代思想家），奇点与其说是一个机会，不如说是一个问号，一个铸造人类未来的多维熔炉。
2007年夏天，我禁不住想起了莱姆的问号。在奇点峰会所在的新古典主义艺术宫剧院周围的花园里，黑暗和破坏性的阴影似乎笼罩着聚集在一起的富人的计划和愿望。但它们与恶意的超级智能或失控的纳米技术几乎没有什么关系。在我的汽车旅馆和会场之间，乞丐们沿着人行道休息，或者在繁忙的十字路口站着空杯子，几乎每个人都看不见。在课间休息的时候，我走到外面，偶然发现一个无家可归的人在两片修剪得很好的灌木丛中大便。即使是在会议的背景下，绝望的暗示有时也会影响到关于筹集资金的频繁对话；次贷危机已经开始，一年后，将引发世界金融体系几近崩溃。当我们社会的技术巨头们在寻求优势，创造他们希望的最好的未来时，外面的世界提醒那些愿意倾听的人，即使在今天，我们也几乎无法控制。
在莱姆看来，像我们这样不完美的人类，将永远努力进步和提高。
我在2008年和2009年又参加了两次奇点峰会，在那三年里，各种技术的所有被大肆吹嘘的性能提升，与一个更明显但较少被讨论的加速变化模式相比，似乎微不足道:全球生态恶化、经济不平等和社会不稳定的快速持续增长。在这方面，对我们未来信息技术能力的预测往往远没有那么乐观。他们有信心地指出，如果我们将灵魂吸入我们的机器，大多数人类将不会梦想超越他们的生理，而是梦想淡水、饱腹和温暖、安全的床。如果超级智能计算机被海平面上升引发的风暴潮淹没，或者无法获得稳定的电力供应，它还能有多大用处?在一个被武装的、愤怒的、饥饿的暴民和流离失所的人们蹂躏的世界里，生物技术提高个人寿命有价值吗?我不止一次地想知道，为什么这么多的高科技专家更关心那些还不存在的威胁，而不是那些更平凡、更真实的威胁，就在他们眼前。
莱姆能够在奇点会议的窗口之外讲述我对世界的体验。他的作品中贯穿着一条人道主义的谦逊之线，这是一条来之不易的确定之线，即技术发展往往只为满足我们最原始的需求而进行，奖励个人对共同利益的贪婪。他认为我们的世界极其脆弱，取决于天文数字上的巧合，在这些巧合中，人类精神的变幻莫测已经成为所有变数中最不稳定的变数。
在这里，我们发现了莱姆作为未来主义者的主要优势。他拒绝低估人性对超人类可能性的影响，并相信，了解我们作为人类的优势和弱点这一尚未完成的任务，是通往任何后奇点未来的所有推测路径的关键先决条件。然而,这种力量也会导致登月舱可能是伟大的弱点,一个他和今天的希望超人:一个通过otherwise-dispassionate照耀黑暗的人性的乐观,一个狂热的信仰,当面对一个超越未来的挑战,我们会英勇地盲目轻率地去它的深度。在莱姆看来，像我们一样不完美的人类，应该永远努力进步和改进，寻找所有美好和可能的东西，而不是仅仅是方便和有利可图的东西，通过这一点，我们可能会找到救赎。相反，我们可能会屈服于自满、停滞、倒退和灭绝，这是他承认的，但几乎不能支持的事情。最后，莱姆也被诱惑了——尽管不是被个人永生、无穷成长或宇宙目的论的准宗教观念所诱惑，而是被不屈不挠的人类精神所诱惑。
就像许多其他的想法一样技术高峰这一点在莱姆1981年的一部中篇小说中得到了最好的表达傀儡十四一台自我编程的军用超级计算机，它已经引导自己进入感知系统，并在其中发表了一系列批评进化和人类的演讲。有人会说，在小说中寻求真理，或者在虚构人物的思想和作者的真实信仰之间画上等号是愚蠢的，但对我来说，这个结论是不可避免的。当中篇小说中的人工哲学家通过一个相连的声码器发表声明时，是莱姆的人类声音出现了，发出了一个超越的预言，这是他最有希望的，也许根据今天的趋势，也是他最错误的预言：
“我觉得你们正在进入一个蜕变的时代；你们将决定抛弃你们的整个历史、你们的全部遗产和所有自然人类的残余，这些人类的形象被放大成美丽的悲剧，是你们信仰镜子的焦点；你们将前进（因为没有其他方式）在这一点上，你将发现一种挑战，如果不是一种美的话；你终究会按照自己的方式前进，因为抛弃人类，人类将拯救自己。”
自由撰稿人李·比林斯是五十亿年的孤独：在星空中寻找生命。
摄影:Forum/UIG/Getty Images
这篇文章最初出现在2014年秋天鹦鹉螺的季度。
