孤惯|通用人工智能啥时候能实现?这是我的最新预测( 七 )


我觉得更多的路标开始成为焦点 。 如果你问 2015 年的我 , 我们将如何开发通用人工智能?我会告诉你 , 我根本就不知道怎么弄 。 在我认为与人类智力水平有关的任何挑战上 , 我不认为我们取得了什么有意义的进展 。 但是 , 如果你问 2020 年的我 , 如何开发通用人工智能 , 尽管我仍然看到很大的差距 , 假设你很幸运 , 我对如何实现通用人工智能有所了解 。 这对我来说是最大的转变 。
对于大规模统计机器学习对人工智能的意义 , 人们一直存在分歧 。 深度学习的反对者不能否认大型统计机器学习模型非常有用 , 但深度学习的拥护者也不能否认它们非常昂贵 。 指出最先进的模型需要多少计算量 , 这是一个悠久的传统 。 来看看这张照片 , 在李世石在与 AlphaGo 比赛围棋时 , 就在 Twitter 上流转开来了 。
孤惯|通用人工智能啥时候能实现?这是我的最新预测像这样的论点很好地将讨论引向模型与人类相比不足之处 , 并且戳中我们现有的模型可能存在的根本性缺陷 , 但我觉得这些论点还是过于以人为中心了 。 我们对人类如何学习的理解还不完全 , 但我们还是接管了这个星球 。 同样 , 我们不需要对“理解”或“知识”的含义达成细粒度上的一致 , 人工智能系统就能对世界产生深远的影响 。 我们也不必打造像人类一样学习的人工智能系统 。 如果它们能够完成大多数人类水平的任务 , 那么剩下的工作就是由经济学来完成 , 不管这些系统是否是按照我们自己的形象制造的 。
竭力拒绝关于通用人工智能的争论总是有点混乱 , 因为人们在重要的事情上 , 有着迥然不同的信念 。 一个有用的做法是 , 假设通用人工智能在短期内是可能的 , 确定在那个假设的未来可能是真实的 , 然后评估它听起来是否合理 。
这与提出通用人工智能不可能发生的理由是截然不同的 , 因为有很多理由说明通用人工智能不会出现 。 但是 , 为什么会出现通用人工智能 , 也有大量的理由 。 这项练习是要把更多精力放在后者上 , 并且看看对所有事情都说“No”是多么的困难 。 这有助于你将注意力集中在真正重要的论点上 。
让我试试看吧 。 如果通用人工智能很快成为可能的话 , 这可能会如何发生呢?嗯 , 这不需要更多的新想法 。 它很可能是基于现有模型的扩展 , 因为我认为 , 该领域没有太多时间进行全面的范式转换 。 而且 , 它还需要大量的资金 , 因为它需要基于规模化 , 而规模化需要资金 。
也许有人开发了一个应用或工具什么的 , 使用的模型是 GPT-3 的尺寸或更大的尺寸 , 那是一个巨大的生产力倍增器 。 想象一下 , 第一台计算机、Lotus Notes 或 Microsoft Excel 是怎么接管商业世界的 。 记住 , 是工具推动了进步!如果你的代码速度加快 2 倍 , 那可能就是研究产出的 1.5 倍 。 上移或下移取决于实现过程中遇到瓶颈的频率 。
如果这种生产力的提升有足够的价值 , 使经济效益得以实现 , 而且一旦考虑推理和训练成本 , 就能赚取净利润 , 那么就有生意可做了:从字面上说 , 大公司为你的工具买单 。 向客户付费会带动更多的资金和投资 , 从而为更多的硬件买单 , 从而使训练规模更大 。 在云计算中 , 你购买多余的硬件来预测消费者需求的激增 , 然后出售对额外硬件的访问权来赚钱 。 在这种情况下 , 你购买多余的硬件来预测消费者推理需求的峰值 , 然后将多余的算力提供给研究人员 , 看看他们会得出什么结果 。
这种机制已经开始发挥作用了 。 你可能认得下图所示的芯片 。
孤惯|通用人工智能啥时候能实现?这是我的最新预测上图是第一个 TPU 的照片 , 正如 Google 博客中解释的那样:


推荐阅读