P人们经常问我，人类水平的人工智能最终是否会变得有意识。我的回答是：你知道吗想有意识吗？我认为我们的机器是否会苏醒在很大程度上取决于我们。
这可能会听起来不断。意识的机制 - 我们对世界上具有生动和直接经验的原因，以及自我是神经科学的未解决的谜团，有些人认为他们总是会这样做;使用客观的科学方法似乎无法解释主观经验。但在25年左右的年度，我们认为意识是科学审查的目标，我们取得了重大进展。我们发现了与意识相关的神经活动，我们更好地了解行为任务需要有意识的意识。我们的大脑潜意识地执行许多高级认知任务。
我们可以初步得出结论，意识不是我们认知的必要副产品。人工智能大概也是如此。在许多科幻小说中，机器自动发展出一种内在的精神生活，这仅仅是因为它们的复杂程度，但更可能的是，意识必须被明确地设计进机器中。
我们有坚实的科学和工程理由来尝试这样做。我们对意识的无知就是其中之一。18世纪和19世纪的工程师们并没有等到物理学家们整理出热力学定律之后才建造蒸汽机。它反过来起作用：发明驱动理论。今天就是这样。关于意识的辩论往往过于哲学化，在没有产生具体结果的情况下兜圈子。我们这些致力于人工意识的小团体的目标是在实践中学习。
此外，意识必须对我们有一些重要的功能，否则进化不会赋予我们。相同的功能将用于AIS。在这里，科幻小说可能会误导我们。对于书籍和电视节目中的AIS，意识是诅咒。他们表现出不可预测，故意的行为，事情对人类并不好。但在现实世界中，戴斯托邦方案似乎不太可能。无论AIS可能姿势如何姿势都不依赖于他们的意识。相反，有意识的机器可以帮助我们管理AI技术的影响。我宁愿与他们共享世界，而不是与无思想的自动化。
W母鸡alphago正在对阵人类的冠军，李塞米尔，很多专家想知道为什么alphago扮演它所做的方式。他们想要一些解释，对alphago的动机和理由的一些理解。这种情况对于现代AIS是常见的，因为他们的决定并不被人类预编程，而是学习算法的紧急属性和他们接受培训的数据集。他们的难以捉摸为不公平和任意决定创造了担忧。已经存在算法的情况;例如，去年的Propublica调查发现，佛罗里达州法官和假释官员使用的算法标记为比其实际的常压更容易导致累犯，而白人被告比其实际不太容易忽视。
从明年开始，欧盟将给予其居民合法的“解释权”。人们将能够要求对人工智能系统做出决定的原因进行说明。这一新要求在技术上要求很高。目前，考虑到当代神经网络的复杂性，我们很难辨别人工智能是如何产生决策的，更不用说将过程翻译成人类能够理解的语言了。
在现实世界中，反乌托邦的情景似乎不太可能发生。
如果我们无法弄清楚为什么AIS做到他们所做的事，我们为什么不问他们？我们可以以元认识为赋予它们 - 以报告其内部精神状态的内省能力。这种能力是意识的主要功能之一。当他们测试人类或动物是否有意识的意识时，神经科学家都在寻找。例如，具有特殊经验的清晰度的元认知，信心，尺度的基本形式。当我们的大脑处理信息没有我们的注意事项时，我们对这些信息感到不确定，而当我们意识到刺激时，经验伴随着高信任：“我绝对看到了红色！”
任何用统计公式编程的口袋计算器都可以提供置信度的估计，但没有机器尚未具有我们的全方位的元认知能力。一些哲学家和神经科学家已经试图培养元认知是意识的本质。所谓的高阶理论的意识，有意识的经历取决于感官状态的直接代表的次要表现。当我们知道某些东西时，我们知道我们知道。相反，当我们缺乏这种自我意识时，我们有效地无意识;我们在自动驾驶仪上，占据感觉输入并作证，但没有注册。
这些理论为我们构建有意识的人工智能提供了一些方向。我和我的同事正在尝试在神经网络中实现元认知，这样它们就可以交流它们的内部状态。我们将这个项目称为“机器现象学”，这与哲学中的现象学类似。哲学中的现象学通过对意识经验的系统反思来研究意识的结构。为了避免教人工智能用人类语言表达自己的额外困难，我们的项目目前专注于训练它们发展自己的语言，以便彼此分享自己的内省分析。这些分析包括关于人工智能如何执行任务的指令;这超越了机器通常交流的内容，即任务的结果。我们没有详细说明机器是如何编码这些指令的;神经网络本身通过一个训练过程开发出一种策略，奖励向另一台机器传递指令的成功。我们希望将我们的方法扩展到建立人类与人工智能的通信，这样我们就可以最终要求人工智能做出解释。
B除了给我们一些（不完美的）自我理解之外，意识帮助我们实现神经科学家恩德尔·图尔文（Endel Tulving）所说的“精神时间旅行”。我们在预测我们行为的后果或规划未来时是有意识的。我可以想象如果我在脸前挥手，即使没有实际做动作，那会是什么感觉。我也可以考虑去厨房煮咖啡，而不用从客厅的沙发上站起来。
事实上，即使是我们对当下的感觉也是一种有意识思维的建构。我们在各种实验和案例研究中看到了这方面的证据。失认症患者的视觉皮层的物体识别部分受损，他们不能说出他们看到的物体的名称，但可以抓住它。如果给他们一个信封，他们知道如何调整手的方向，将其插入邮箱。但是，如果实验者在展示物体和提示受试者伸手之间引入时间延迟，患者就无法完成伸手任务。显然，意识本身与复杂的信息处理无关；只要刺激立即触发动作，我们就不需要意识。当我们需要在几秒钟内保持感官信息时，它就开始发挥作用。
意识在弥合时间鸿沟中的重要性也通过一种特殊的心理调节实验得到证实。在伊万·巴甫洛夫和他的狗所熟知的经典条件反射中，实验者将刺激物（如对眼睑的吹气或对手指的电击）与无关刺激物（如纯音）配对。受试者无意识地自动学习配对关联。当听到这种声音时，他们会不由自主地后退，以防喘息或休克。当实验者问他们为什么这样做时，他们无法解释。但这种潜意识学习只有在两种刺激物在时间上相互重叠时才有效。当实验者延迟第二个刺激时，参与者只有在他们有意识地意识到这种关系时，也就是说，当他们能够告诉实验者一个音调意味着一个喘息的到来时，才会学习这种联系。对于参与者来说，意识似乎是必要的，以保持对刺激的记忆，即使在刺激停止后。
这些例子表明，意识的函数是扩大世界上的时间窗口 - 给目前的时刻延长持续时间。我们的有意识意识领域在刺激不再存在后，在一段时间内以灵活的可用形式维护感官信息。当没有再直接感觉输入时，大脑在不再产生感官表示。可以凭经验测试意识的时间元素。Francis Crick和Christof Koch提议我们的大脑只使用我们视觉输入的一小部分来规划未来的行为。如果规划是其关键功能，只有此输入应与意识相关。
A.这些示例中的常见线程是反事实信息生成。它是生成不直接在我们面前的感官表示的能力。我们称之为“反事实”，因为它涉及过去或预测未执行未来的未来行动的记忆，而不是外在世界中发生的事情。我们称之为“代”，因为它不仅仅是关于信息的处理，而且是假设创建和测试的积极过程。在大脑中，当它从低级脑区流到高级或“馈电”过程时，感觉输入将传感输入压缩到更多抽象表示。但是神经生理学研究表明，这种前馈扫描，无论是复杂的，都没有与有意识的经历相关。为此，您需要从高级到低级区域的反馈。
反事实信息生成允许有意识的代理从环境中分离自己并执行非反射行为，例如在演戏前等待三秒钟。为了产生反事实信息，我们需要有一个内部模型，这些模型已经了解了世界的统计规则。这种模型可用于许多目的，例如推理，电机控制和精神仿真。
如果我们无法弄清楚为什么AIS做到他们所做的事，我们为什么不问他们？
我们的AIS已经有了复杂的培训模式，但他们依靠我们给他们数据来学习。通过反事实信息生成，AIS将能够生成自己的数据 - 以想象他们提出的可能期货他们自己. 这将使他们能够灵活地适应以前从未遇到过的新情况。这也会给认可机构带来好奇心。当他们不确定他们所想象的未来会发生什么时，他们会试图找出答案。
我的团队一直在努力实现这一能力。然而，我们已经有过这样的时刻：我们创造的人工智能代理表现出了意想不到的行为。在一个实验中，我们模拟了能够驾驶卡车穿越地形的代理。如果我们想让这些特工爬上一座山，我们通常必须把这作为一个目标，特工们会找到最好的途径。但是具有好奇心的特工发现这座山是一个问题，并在没有得到指示的情况下找到了如何爬上去的方法。我们还需要做更多的工作，让自己相信正在发生一些新奇的事情。
如果我们把内省和想象看作意识的两个成分，甚至是主要的成分，那么我们不可避免地会召唤出一个有意识的人工智能，因为这些功能对任何机器都是非常有用的。我们希望我们的机器能够解释它们是如何以及为什么做这些事情的。建造这些机器将锻炼我们自己的想象力。这将是对意识反事实力量的终极考验。
Ryota Kanai是神经科学家和AI研究员。他是Araya的创始人兼首席执行官，旨在了解意识的计算基础并创造意识的AI。@Kanair.
头像最初来自Dano/Flickr
