j就在几年前，尤瓦尔·诺亚·哈拉里(Yuval Noah Harari)还是一位名不见经传的以色列历史学家，却善于玩弄宏大的思想。然后,他写了Sapiens.这本书对人类历史进行了全面、跨学科的描述，登上了畅销书排行榜，四年后仍位居榜首。像Jared Diamond的枪，细菌和钢铁那Sapiens.他提出了一个令人眼花缭乱的历史综合，哈拉里自己古怪的声明——“现代工业化农业可能是历史上最大的罪行”——让人读了忍不住。这本书也为他赢得了一大批高调的崇拜者，包括巴拉克·奥巴马、比尔·盖茨和马克·扎克伯格。
在他的新书中，21世纪的21个教训从新技术到政治和宗教，哈拉里提供了一个大杂烩预言。虽然他已经成为硅谷的宠儿，但他公开批评Facebook和其他科技公司如何利用我们的个人数据，他担心在线互动正在取代实际的面对面接触。这本书的大部分篇幅都在推测人工智能的革命性影响。如果计算机算法能比你更了解你自己，还有自由意志的空间吗?这对我们的政治有什么影响?
哈拉里是个健谈的人，似乎对每件事都有自己的看法。他非常自信，显然很喜欢充当煽动者的角色。一开始，我们一致认为，在这个历史时刻，有些东西给人的感觉非常不同。我们正处在一场革命的边缘，这场革命将改变人类，要么是为了我们的永久利益，要么是为了毁灭——目前尚不清楚是哪一种。“这是历史上第一次，”哈拉里说，“我们完全不知道30年后的世界会是什么样子。”
这个历史时刻有什么不同?
不同之处在于技术变革的步伐，尤其是人工智能和生物工程这两场革命。它们使侵入人类和其他有机体成为可能，然后重新设计它们，创造新的生命形式。
这项技术可以在改变我们是多远的时候？
非常远。超出了我们的想象。它也可以改变我们的想象力。如果你的想象力太有限，无法思考新的可能性，我们可以改进它。数十亿年来，所有的生命都局限于有机领域。就算你是变形虫也没关系雷克斯霸王龙，椰子，黄瓜，或智人．你是由有机化合物组成的，并遵循有机生物化学的法则。但现在我们即将突破这个有限的有机领域，开始将有机机器人和无机机器人结合起来，创造出半机械人。
历史上最重要的力量之一就是人类的愚蠢。我们永远不应该低估人类的愚蠢。
新的电子人有什么让你担心的?
用无机仿生系统增强人体免疫系统的实验已经在进行中。数以百万计的微型纳米机器人和传感器监测着你体内发生的事情。他们可以发现癌症或其他传染病的起源，并与这些危害健康的疾病作斗争。该系统不仅可以监控出了什么问题。它可以监控你的情绪、情绪和想法。这意味着外部系统对你的了解比你对自己的了解要多得多。你为了接触自己的情绪而接受多年的治疗，但这个系统，无论是谷歌、亚马逊还是政府的，都可以监控你的情绪，而你和你的治疗师都无法以任何方式接近它。
你是说计算机算法可以在我们不知情的情况下分解个人数据吗?
是的。恐惧、愤怒、爱，或任何人类情感，最终都只是一个生化过程。你可以用同样的方法诊断流感，也可以诊断愤怒。你可能会问某人，“你为什么生气?”你在生气什么?”他们会说，“我什么都不生气，你想要什么?”但是这个外部系统不需要问你。它可以监测你的心脏、大脑和血压。它有一个愤怒的等级，它知道你现在的愤怒等级是6.8(1- 10)。将此与每天24小时收集的海量数据相结合，可以提供历史上最好的医疗保健。 It can also be the foundation of the worst dictatorial regimes in history.
你写的，“谁拥有数据拥有未来。”你的意思是？
历史上最重要的资源是土地。然后是机器。现在数据是最重要的资源。政治正在成为控制数据的斗争，未来属于数据的垄断者。我们这个时代最大的政治问题之一是，如何监管数据的所有权?
这里最大的恐惧是什么?
这意味着外部系统可以比你更了解你自己。它可以预测你的选择和决定。它可以操纵你的情绪，它可以卖给你任何东西，无论是产品还是政治家。
那么，为什么不把我们自己交给电脑呢?让他们为我们做决定。也许我们会更快乐。
在某些情况下，这将是一个非常好的主意。从信任开车的人开始。目前，全世界每年有100多万人死于交通事故。这比死于战争、犯罪和恐怖主义的人数加起来还要多。几乎所有的交通事故都是因为人类做出了错误的决定。如果我们转换，让算法，电脑，来驾驶车辆，这不会把交通事故减少到零，但可能会减少90%的交通事故，挽救数十万人的生命。
那么，什么时候赋予算法权威是个坏主意呢?
当你开始赋予算法权力来决定学习什么，在哪里生活，和谁结婚，投票给谁。算法会给出建议，你可以决定是否遵循这些建议。在许多情况下，人们会遵循这些建议，因为他们从经验中认识到，算法会做出更好的选择。这些建议可能永远都不完美，但也不必完美。他们只要平均比人类强就行了。这并非不可能，因为人类经常会犯可怕的错误，即使是在他们生命中最重要的决定中。这不是未来的情况。我们已经授权算法来决定看什么电影，买什么书。但你越相信算法，你就越失去自己做决定的能力。在遵循谷歌Maps的建议几年之后，您不再有去哪里的直觉。 You no longer know your city. So even though theoretically you still have authority, in practice this authority has been shifting to the algorithm.
如果哈姆雷特只是拿出手机，问Siri该怎么做，我们的人性概念会发生什么变化?
我们经常听到人工智能的恐惧是它将允许机器人接管。他们将获得自主权并成为我们的主人。但是你说的是完全不同的。你说我们会进入机器。
正确的。我们将把权力移交给他们。在大多数科幻电影中，机器人会自我重建并试图杀死人类。人类必须反击并摧毁机器人。这是一个非常令人欣慰的神话。它告诉人们，没有人能比你做得更好。如果你依赖机器人，它将以灾难告终。更可怕的情况是，机器人将做出比我们更好的决定。那么问题来了:“人生到底是什么?”几千年来，我们一直将人类生活构建为一出决策的戏剧。 Life is a road with many intersections, and every couple of days or months or years, you need to make decisions.
这是我们的道德体系的基础。这在某种程度上是宗教的基础。
完全正确。你做了正确的决定，就能上天堂。如果你做了错误的决定，你就会下地狱。从莎士比亚的戏剧到愚蠢的好莱坞喜剧。他们应该和谁结婚?我应该开战还是媾和?如果哈姆雷特拿出他的智能手机，问Siri该怎么做，我们的人性概念会发生什么变化?
这种技术变革是如何影响政治体系的?占主导地位的政治意识形态——自由民主——现在似乎受到了威胁。
现在的情况是，我们缺乏一个好的故事来理解我们的方向。即使我们中的一些人仍然信奉自由民主主义的意识形态，它已经失去了解释的力量。在20世纪90年代和21世纪初，它对我们的未来做出了一些有力的预言。自由民主和自由市场资本主义将在世界各地蔓延，所有国家将变得像美国或丹麦一样。但现在，自由主义的故事不再对未来有一个清晰的愿景。没有人对未来有清晰的愿景。无论是左派还是右派，都没有人对2050年人类和世界会是什么样子有任何有意义的愿景。即使是那些相信自由主义故事是一种伦理体系的人，也不能再假装它的预言是真的。世界的行为并不像自由主义故事所期望的那样。尤其是那些相信自由民主的人不明白到底发生了什么。
我不明白这到底是怎么回事。自由民主似乎是成功的秘诀，但它似乎并没有对许多国家奏效。
是的。随着越来越多的独裁领导人掌权，许多民主国家正在苦苦挣扎。但应该强调的是，在过去30年里，在自由民主主义和自由主义的霸权下，世界处于有史以来最好的状态，至少对人类来说是这样。世界从未像过去30年那样繁荣和平。因此，在很大程度上，自由主义体系实现了这一目标。但人们正在对它失去信心。其中一个主要原因是，新技术的崛起意味着更多的人被甩在了后面。不仅仅是技术，还有新的科学见解。自由主义的故事是基于自由意志的理想和概念，即个人的自由意志是世界权威的最终来源。但科学现在告诉我们，没有自由意志这回事。 It’s a myth.
人们总是在做选择。但我们不能自由选择自己的欲望。
关于这一点有很多争论。许多科学家和哲学家都不愿意放弃自由意志的观点。
作为个人来说，也许是这样。但如果你看看科学期刊，文章和实验，科学甚至不理解自由意志的含义。我们不知道自然界中有任何自由过程。我们只知道自然界的两种过程。我们知道确定性过程和随机过程。两者的结合给出了概率过程。但随机性不是自由，概率也不是自由。人当然是有意志的。人当然有欲望。人们总是在做选择。 But we are not free to choose our desires. We are not free to choose what to will. Our desires are shaped by both nature and culture in ways that are beyond the understanding and control of individuals.
你是说这种个人控制的丧失助长了民主的崩溃吗?
两件事同时发生。首先，我们获得了入侵人类的能力。如果你相信自由意志，你会说这是不可能的。没有人比我更了解我自己。没有人能预测我的选择或操纵我的欲望，因为它们反映了我的自由意志，我的自由精神。但之后你就成了最容易被黑和操纵的人。
你说的是那些利用Facebook来左右政治观点的政治团体吗?
那只是冰山一角。或者是叫醒电话。但是，是的，剑桥分析公司和所有这些公司和机器人的行为方式是他们攻击人类。他们了解了你现有的仇恨、恐惧和偏见。一旦你知道某个人的偏见和现有弱点是什么，你就可以着手解决这个问题。
恐惧和憎恨是最原始的情感。你是说如果你能挖掘原始情感，你就能控制政治话语吗?
是的。如果您想销毁具有有意义的公开对话的能力，您会发现人们的恐惧和仇恨并放大它们。而你是在个人的基础上做到的。你不能只是向大家展示同样的故事，因为不同的人有不同的弱点。也许他们发现你有一个内置偏见移民偏见。他们将向您展示一个关于一个移民团结的地方女性的假新闻故事。他们知道你会相信它，因为你已经拥有这个偏见。但是你的邻居，她有一个非常不同的偏见。她赞成移民。但她的偏见是她认为每个反对移民的人都是法西斯族的种族主义白痴。 So they show her a different story about a gang of right-wing fanatics who kill immigrants. And she will believe this as easily as you believed the story about the immigrants raping local women. It plays to her existing fears and hatreds and weaknesses. Now, if you think people make decisions out of completely free will, you will say this is impossible. But then you are very easy prey to such manipulation.
你说有两件事导致了民主的崩溃。第二件事是什么?
第二，未来会有更多的人被抛在后面。当今世界，尤其是美国，很多不满情绪都与当前的困难无关。而是人们展望未来，意识到未来不需要他们。20世纪许多政治和社会斗争的中心是剥削——精英剥削工人阶级。但在21世纪，最大的担忧不是精英剥削我们。最大的担忧是精英阶层不需要我们。我们变得无关紧要了。在很大程度上，这种担心是有道理的。许多人会变得与经济和政治制度无关。所以他们想趁现在还来得及动用他们的政治权力。
如果你的水晶球是准确的，我们能做什么?
我们可以确定规范新技术。我们可以确保它们用于良好而不是邪恶的目的。我们需要确保大数据算法为美国，个人人员提供服务，而不仅仅是为公司或政府的利益为由服务。目前我们看到更多的AI系统，用于监测各国政府和公司服务中的个人。但该技术本身可用于监控公司和各国政府在个人服务中。大多数努力使政府或公司能够监控我们。但在逆转监视方向方面没有技术问题。
我们也可以干脆拔掉插头。
我绝对建议每个人每天至少拔掉一两个小时的电源插头，一年里要拔掉更长时间。我每天完全放下电脑，练习两个小时的冥想。每年我都要进行30到60天的长时间的静修，完全断开所有手机、电脑和设备的连接。因此，我变得更快乐、更冷静;我有了更平和的心态。这也有助于我在工作中更好地看世界。因为真正阻隔你和世界的，是你自己的弱点，你自己原有的偏见和恐惧，让一切变得如此模糊和难以理解。如果你不了解这些偏见，不了解你的恐惧、仇恨和渴望，你将很难理解这个世界。如果你的思想是在一个地方，你很难集中任何一段时间，你将永远不能深入到任何问题。冥想帮助我集中注意力。 It helps me to get to know my weaknesses and biases.
你对我们的未来是乐观还是悲观?
我将在三个简单的陈述中总结我对世界的看法。事情比以往任何时候都好。事情仍然非常糟糕。事情会变得更糟。这增加了一个乐观的乐观观点，因为如果你意识到事物比以前更好，这意味着我们可以让它们更好。我们并不困在所有历史上同样悲惨的地位。我们可以做些事情来改善这种情况。但它没有什么是不可避免的。我不是一个信徒，即科学和技术将不可避免地创造一个更美好的世界。科技只能保证一件事。 And this thing is power. Humankind is going to become more powerful. But what to do with this power? Here we have all kinds of options. If you look back in history, sometimes people use power very wisely, and very often they misuse their power. One of the most important forces in human history is human stupidity. We should never underestimate human stupidity. When you combine the limitless resource of human stupidity with amazing new powers that humankind will gain in the 21st century, this can be a recipe for disaster.
史蒂夫·保尔森(Steve Paulson)是威斯康星州公共广播电台这档全国联合节目的执行制片人据我们所知．他写了原子与伊甸园:宗教与科学的对话。你可以订阅TTBOOK的播客在这里．
引导图像:sdecoret / Shutterstock
