周鸿祎表示，AI一定会产生自我意识，对此我们专访了北大学者 _AI

腾讯科技乔辉
3月28日，据外媒报道，一名叫皮埃尔（化名）的比利时男子在与一个名称“艾丽莎”的智能聊天机器人频繁聊天数周后自杀身亡。360集团创始人周鸿祎表示，“人工智能一定会产生自我意识，留给人类的时间不多了。” 自ChatGPT发布以来，关于人工智能是否能产生自我意识的讨论更加引入关注。
虽然“人工智能”（AI）这个概念早在1956年就被提出，但在过去的几十年，人工智能的研究一直没有“质”的转变，无论运算能力多强，看起来仍然是冷冰冰的机器，但直到今年OpenAI公司向公众展示GPT3.5和GPT4的强大能力之后，人们突然意识到一个全新的时代可能正在开启，人工智能看起来越来越像人，开始能够创造新内容了。人工智能的研究正在加速迭代，人类可能正在体验打开“潘多拉魔盒”的心情：好奇和担忧并存。好奇的是，人工智能究竟能够强大到什么程度，能够解决什么样的难题；担忧的是，人们工作和生存会受到威胁，更担忧人工智能一旦拥有了自我意识（觉醒）会对人类物种造成毁灭性的打击。
人工智能能够产生自我意识吗？人工智能是善是恶？人工智能的研究需要按下暂停键和立法吗？对于这些人们关心的问题，我们分别对话了北大心理学领域的教授，中科院物理所的物理学家、国家天文台的天文学家以及著名的科幻作家，来听听他们对这些核心问题的理解。

文章插图
北京大学心理与认知科学学院罗欢：在一定条件下，人工智能能够产生意识
北京大学心理与认知科学学院罗欢教授向腾讯科技表示，认知神经科学家致力于解释精神世界的物质基础，认为意识是从大量神经元中涌现出来的。比如，“全局空间理论”认为大脑中有一个核心工作空间，外界信息只有进入了该核心空间，并被广播到全脑才上升到意识层面；“信息整合理论”则认为脑区域连接网络的一些特定属性可以被量化进而决定其意识涌现的能力。
她认为，原则上计算机能够“涌现”出意识，并给出了可能实现的途径：1、计算机模拟人脑神经网络架构，通过物理结构的“类脑化”使其具备意识涌现的硬件条件；2、赋予计算机拟人的动机和目的，通过目标函数的设定来自然涌现出自我意识，比如设定趋利避害、价值观以及社会属性等。罗教授说：“情感、意识、自我这都是心理学的功能性定义，无数科学家的工作都不断的把这些抽象的定义“拉下神坛”，发现它们其实是脑这个物理系统涌现的状态和实现的某种功能。比如情感就是一种脑的状态，但常常被我们打上了“人类独家”的标签。因此，理论上，计算机可以拥有情感，比如它在不同环境下根据它的价值和目标实现进入不同的状态，进而对应不同的情感。“
北京大学心理与认知科学学院朱露莎：自我意识的出现需要利益和欲望驱动
北京大学心理与认知科学学院朱露莎教授也对这些问题提出了自己的见解，她向腾讯科技表示，仅仅拥有大量的神经元或者神经网络计算还不足以让人工智能涌现自我，人工智能还需要有自己的利益和欲望，在未来不排除这种情况的出现。当提及人工智能是善还是恶的问题时，朱教授表示，目前人工智能本身的善恶取决于训练的数据，目前它是利用人类互联网上的数据进行训练的，这些数据天然夹杂有偏见和歧视等信息，如果不加选择的话，训练出来的人工智能就带有偏见和歧视。朱教授同意要对人工智能的研究进行反思和立法，她表示，目前人类科学伦理的研究大大落后于科技的发展，让我们有个反思的时间可能不是坏事。她还表示，人工智能的发展犹如一次全新的工业革命，会对人类社会带来天翻地覆的变化，需要社会各界达成某种共识。

文章插图
图注：科幻电影《机械公敌》剧照。
中科院物理研究所研究员曹则贤：人类对意识的认识还非常浅薄
【周鸿祎表示，AI一定会产生自我意识，对此我们专访了北大学者】对于自我意识能否从大量神经元或神经网络计算中涌现的问题，我们还请教了中科院物理研究所曹则贤教授，来听听物理学家如何看待这个问题。曹教授说：“人的意识从哪里来，虽然不能说人类永远理解不了（身在此山中），但目前关于意识的研究基本上还摸不着头绪。那种认为意识是脑组织中某个明确可辩识对象功能的观点，还是站不住脚的。就连相比人脑层次低得多的台式计算机，人们都无法说清它的表现从何而来。虽然在软件、硬件甚至电子层面都可构造一套说辞，但任何单一层面上的说辞都是苍白的。”