l和其他一些未来学家一样，Ray Kurzweil认为避免衰老的最好方法是完全避免生物学。他说，有了对大脑的充分了解，我们就能够将我们的思想上传到(可能是非有机的)结构上，并在数字上永生。这听起来似乎很有道理，虽然有点投机，因为技术进步的速度似乎有些超现实。谁会在这么早的时候就排除这个想法呢?
答案:苏珊·施耐德(Susan Schneider)，康涅狄格大学(University of Connecticut)的哲学家和认知科学家，耶鲁大学跨学科生物伦理学中心(Yale University 's Interdisciplinary Center for Bioethics)技术与伦理研究小组成员。她说:“像雷·库兹韦尔(Ray Kurzweil)这样的未来学家设想的那样，声称你可以把自己的意识‘上传到’电脑上，这是很愚蠢的。”“你不会有意识，也不会是你。上传不是通向数字永生的途径，而是自杀。”
明天，在葡萄牙，她将在里斯本思维与认知小组(Lisbon Mind and Cognition Group，与里斯本新大学(New University of Lisbon)有联系的组织)举办的一场致力于她工作的会议上，以特约发言人的身份发表更多的讲话。“无论你是否认为我们的大脑实际上是计算机化的，从Oculus Rift等虚拟现实技术到我们更日常使用的智能手机和可穿戴设备，我们与机器的交互能力正在发生深刻的转变，”大会网站上写道州．“我们寻求对这些变化进行严肃的哲学分析，并评估其影响。”
施耐德说鹦鹉螺关于她的思想，人工智能的潜在前景和危险，以及里斯本会议。
为什么雷·库兹韦尔关于我们可以用大脑做什么的观点是错误的?
库兹韦尔是一个真正的梦想家，但他相信人工智能的发展将导致一个技术乌托邦。也许是这样，但我看不出怎么能上传你的思想。数字永生意味着我们基本上依靠电脑或使用大脑芯片来替代大脑的所有部分。但正如我曾经在简短的文章在纽约时报如果人工智能看起来像电影中的萨曼莎一样有意识的话她- - - - - -实际上并没有意识，那么我们上传的思想的一个版本，不管外表如何，可能也没有意识。换句话说，我们会丧失意识。另一方面，如果她的就像人工智能是有意识的，那么上传的大脑也可能是有意识的——但什么能保证上传的大脑是有意识的呢你，而不是你死后仍然存在的电子副本?
在任何情况下,如果有人要做:非常牛津人类的未来研究所的初始步骤和OpenWorm项目时,他们最好确保你的大脑的计算机类型应该是“上传”在实际上是意识的能力。例如，硅可能能够快速处理信息，但可能不能像碳那样产生意识。
对我们来说，通往永生的唯一途径就是保护意识。为了避免死亡，你最好坚持生物强化和低温疗法，但这不是数字化生存。现在判断机器是否会有意识还为时过早。我们可以找到这一点，如果我们开发出大脑芯片，取代大脑中负责意识的部分，并保存有意识的经验。
技术的发展对人类来说是否太快了?
人们不希望医疗技术发展得更慢，在这个领域有如此多的发展是令人兴奋的。我同意Kurzweil的观点，未来20年将以人工智能和超级智能的发展为标志。我们已经看到了人工智能将改变战争面貌的迹象，并将成为我们日常生活的一部分，从自动驾驶汽车到大脑增强技术。
然而，我担心人工智能发展得太快了。最近谷歌Deep Mind的成功，比如阿尔法围棋(Alpha Go)，加上埃隆·马斯克(Elon Musk)等人的人工智能开源，表明超级智能可能会发展，而且发展速度比我们想象的要快。这不是科幻小说——这是科学事实。问题是它可以重写自己的程序。事实上，哲学家尼克·博斯特罗姆(Nick Bostrom)最近出版的一本书让很多人相信，超级智能人工智能存在“控制问题”——它的设计可以迅速演变成远远超出人类理解的东西。因此，超级智能可能无法控制。到那时，对人类来说就不安全了。
非超级智能的人工智能会更安全吗?
可能，但不一定。例如，日本已经在开发用于照顾老人的机器人。它们还远没有达到agi——灵活的，领域通用的人工智能，不只是擅长国际象棋或去但我怀疑他们需要这样做。想想一个家庭助理每天都做些什么。他们很可能需要成为agi，才能拥有家庭管理和老年人护理所需的灵活推理。如果有人遇到紧急情况，或者因为机器人做了一些不称职的事情而受伤了怎么办?这些机器将变得越来越智能，越来越高效。
但如果这个机器人是AGI，它会有意识吗?如果它是有意识的——如果它能感觉到疼痛并有一系列的情绪——那么它就不应该是我们的仆人。如果我们对待人工智能不好，这可能会反过来困扰我们。就像电影里一样我,机器人在美国，他们可能会像我们对待他们那样对待我们。但如果他们不有意识的，这也是一个游戏规则的改变者。这样的话，我就不用担心剥削他们了。和他们在一起感觉一点都不像。
你认为我们应该特别避免哪些科幻小说中的人工智能故事?
有很多。我一直最喜欢的是赫胥黎的反乌托邦讽刺作品，勇敢的新世界，它警告我们，猖獗的消费主义和独裁统治下的技术的双重滥用。勇敢的新世界它描绘了一个技术先进的社会，每个人都自满，但家庭已经消失，生育不再是一个自然的过程——无情的超级智能人工智能很可能会强加给人们这种感觉。相反，通过基因工程，孩子们在这些中心长大，那里有五个不同的种姓。只有前两种表现出遗传变异;其他种姓是一次受精产生的多个无性系。所有社会成员都被训练成强烈认同自己的种姓，欣赏一切对社会有益的东西，尤其是不断消费的商品，尤其是让每个人都幸福的温和的迷幻剂“唆麻”。
你打算在这个月的会议上谈些什么?
“塑造”我们思想的最好方法。随着我们进一步进入21世纪，我们将有机会通过虚拟现实和大脑芯片来增强我们的体验、智能和个性。你会从事一些“美容神经学”，还是会犹豫要不要改变自己?这些大脑植入技术也可能有助于决定思维是否“扩展”，超越生物大脑。哲学家如Andy Clark, Robert Clowes, David Chalmers和其他人都认为这是可能的。国防高级研究计划局已经在开发大脑芯片来治疗各种疾病，而大脑芯片是已经用于治疗帕金森氏症．假设，在未来，你可以用芯片代替大部分大脑，甚至把这些部件上传到电脑上。虽然看起来像是科幻小说，但这项技术已经在开发中了。自我是半人半机器的吗?
这不能仅靠科学来解决。它们需要跨学科的对话，而我也强调哲学在这些辩论中扮演着关键的角色，因为如果不仔细思考关于自我、心灵和人的本质的形而上学问题，我们就无法回答这些问题。我在一部关于我工作的纪录片中讨论了许多这些问题(如下所示)。
科尔·利特尔是克莱姆森大学的自由撰稿人。
