江苏龙网

  1. 主页 > 生活百科 > >

深度学习不是AI的终极答案( 四 )

深度学习


例如，当我们训练一个大型语言模型时，我们有大量的英文数据、中文数据 。但当我们想训练小语种时，比如，像冰岛这样人口不到100万的小国家，他们的语种数据量明显小的多，这就会出现数据量不足的问题 。
同时，当ChatGPT这样强大的生成式AI被大规模应用以后，可能会发生一个令人担忧的现象 。未来互联网上的很多数据可能是由AI生成的 。当我们需要用互联网数据来训练下一代AI工具，可能使用的都是由AI创造的数据 。
下一个问题是关于算力 。如果你要训练一个比ChatGPT大10倍的系统，就需要10倍的算力资源 。在训练和使用的过程中，会消耗大量能源，产生大量二氧化碳，这也是人们广泛担忧的问题 。
第三个重大挑战涉及科学进步，我们需要基础科学进步来推动这项技术的发展 。仅仅增加数据和计算资源确实能推动我们在人工智能的研发上走得更远，但这都不及科学创新带来的进步 。就像是学会用火或是发明计算机，才能真正使人类的进步发生质的飞跃 。在科学创新方面，未来深度学习面临的主要挑战是，如何研发出更加高效的神经网络 。
除了以上三个挑战，AI还需要“可解释” 。目前人类尚不能完全理解神经网络背后的逻辑，很多问题的计算过程藏在AI的“黑盒”中 。虽然神经网络已经能够给出很好的答案，但我们并不真正理解它们为什么会给出这些答案，这不仅阻碍了神经网络的研发，也使得人类无法完全相信AI提供的答案 。这其中还包括AI的鲁棒性问题（Robust），而要这种使用AI，我们需要确保神经网络不会崩溃，不会以不可预测的方式失控 。
虽然发展瓶颈摆在面前，但短期内我认为不会看到神经网络的颠覆 。我们现在甚至还不知道它是如何工作的，所以距离颠覆还很远 。不过我认为神经网络并不是人工智能的答案 。我认为它只是“完整的人工智能”的一个组成部分，肯定还有其他组成部分，但我们还不太清楚它们是什么 。
虎嗅：如果算力是AI发展的重要因素之一，那么在AI芯片的研发方面您看到了哪些创新性研究？
迈克尔·伍尔德里奇：算力在未来很可能是AI技术发展的一个瓶颈 。人类大脑的能效比很高，人脑在思考时的功率只有20W，相当于一个灯泡的能量消耗，这样的能量消耗相对于计算机，可以说是微乎其微 。
需要大量算力和数据资源构建的AI系统与自然智能之间，存在天然的巨大鸿沟 。人类可以更加高效地学习，但人类的这只“灯泡”始终只有20W，不是一枚很亮的灯泡 。
因此，我们面对的挑战是如何让神经网络和机器学习技术（如ChatGPT）更加高效 。目前无论从软件还是硬件角度，我们都不知道如何使神经网络在学习方面像人脑一样高效，在这方面还有很长的路要走 。
当系统与系统直接对话
多智能体系统是AI领域的一个重要分支，指由多个智能体组成的系统，这些智能体可以相互交互、协作或竞争，以实现某种目标 。在多智能体系统中，每个智能体都具有自己的知识、能力和行为，并且可以通过与其他智能体通信和协作来完成任务 。
多智能体系统在许多领域都有应用，例如机器人控制、智能交通系统、电力系统管理等 。它的优点在于可以实现分布式决策和任务分配，提高系统的效率和鲁棒性 。
如今，在AI大模型的加持下，很多场景的多智能体系统与LLM可以尝试结合应用，从而大幅拓展AI能力的边界 。
虎嗅：当下大火的AI大模型与多智能体系统有哪些可以结合的点？
迈克尔·伍尔德里奇：我的研究关注“人工智能系统相互交流时会发生什么” 。大多数人都有智能手机以及智能手机的AI助手，比如Siri、Alexa或Cortana，我们称之为“代理” 。
举个例子，当我想在餐厅订座位时，我会直接打电话给餐厅 。但在不远的将来，Siri或是其他智能助手可以帮我完成这个任务 。Siri会给餐厅打电话，代表我进行预订 。而多智能体系统的理念是，为什么Siri不能直接与另一个Siri交流？为什么不让这些AI程序相互通信？多智能体系统关注的是，这些AI程序相互交流时所涉及的问题 。
多智能体系统和大模型的结合是我们正在研究的项目 。我认为，在构建多智能体+大语言模型方面，有一个非常有趣的工作要做 。通过让大语言模型相互交流，我们能否获得更高的智能？我认为这是一个非常有趣的挑战 。
比如说，我们现在要预约一场会议，你我都是用Siri代为沟通，但是你喜欢早上开会，而我喜欢下午开会 。当我们之间存在争议时，代表你我的Siri如何协作解决这个问题？他们会协商吗？当AI不仅与人交谈，还与其他AI系统交谈时，会产生很多新的问题 。这就是我正在研究的领域，我相信多智能体系统是未来的方向 。


推荐阅读


上一篇：DPU碰撞ChatGPT，算力效率会擦出哪些火花？

下一篇：Java中的反射