江苏龙网

  1. 主页 > 生活百科 > >

ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？

ChatGPT


ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？

文章插图
ChatGPT诞生前传
最近，OpenAI 的 CEO Sam Altman 在一场公开会议上为 GPT-5 辟谣 。
他声称 OpenAI 并没有在训练 GPT-5，而是一直基于 GPT-4 做别的工作 。
【ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？】OpenAI 是一家非常有趣的机构，和微软、google 等大公司不同，OpenAI 从不避忌谈及自己的理念、产品，始终保持坦诚的态度 。
为什么 OpenAI 如此特别？这个只有几百人的非盈利组织为什么能做出震惊世界的 AI 产品？Karen Hao 写作的这篇万字长文或许能告诉你 OpenAI 成功的秘密 。
本文于 2020 年 2 月发布于 MIT Technology Review，距离 GPT-3 发布还有四个月，距离 ChatGPT 发布还有两年零九个月 。
文/Karen Hao@MIT Technology Review译/f.chen@真格基金
这是一个关于竞争压力如何侵蚀理想主义的故事 。
每年，OpenAI 的员工都会投票预测通用人工智能（AGI）的到来时间 —— 这在内部主要被视为一项有趣的团建活动，不同员工做出的估计也差异巨大，值得一提的是，虽然是否能够成功构建自主的 AI 系统还存在争议，但 OpenAI 已经有一半人打赌 AGI 可能会在 15 年内实现了 。
经过短短四年发展，OpenAI 已成为世界领先的 AI 研究实验室之一 。一方面，它因持续发布引人注目的研究成果而声名鹊起，并与 Alphabet 的 DeepMind 等其他 AI 巨头齐名；另一方面，它也是硅谷宠儿，Elon Musk 和传奇投资人 Sam Altman 都是其创始人 。
但最重要的是，OpenAI 因其使命而备受推崇 。它的愿景是成为第一个实现 AGI 的组织，但不是为了统治世界，而是为了确保这项技术的安全发展，并将所产生的利益公平地分配给所有人 。
如果任技术自由发展，AGI 可能很容易失控 —— 狭义智能，即今天（指 2020 年）我们周围笨拙的 AI，已经为我们展示了很多例子 。现在，我们已经知道，算法是有偏见且脆弱的，它们可能造成严重虐待和欺骗，而开发和运行它们的成本却将控制它们的权力集中在少数人手中 。推想可知，没有‘仁慈的牧羊人’小心指导，AGI 可能会是灾难性的 。
OpenAI 希望成为这个‘仁慈的牧羊人’，并精心打造‘个人形象’—— 身处这个由富有且强势的巨头主导的领域，它在成立时即定位为非营利组织 。
组织的第一份声明说，这种区别将使它‘为每个人，而不是股东创造价值’；它的章程 —— 这份文件如此神圣，以至于员工薪水取决于他们对条款的遵守程度 —— 进一步宣称 OpenAI 的‘首要承担的责任是面向人类的’；此外，安全地实现 AGI 非常重要，甚至如果另一个组织首先接近实现这一目标，OpenAI 将停止竞争，转向与之合作 。这样的叙事对投资者和媒体来说非常有吸引力，2020 年 7 月，微软向该实验室投资了 10 亿美元 。
然而，在 OpenAI 办公室度过的三天，以及对公司过去和现在的员工、合作者、朋友和其他领域专家进行的近三十多次采访，呈现出了一个完全不同的情况，该公司对外的表述和实际运营理念并不一致 。随着时间推移，激烈的竞争和越来越大的融资压力已经侵蚀了其成立时的透明、开放和合作的理念 。
许多在该公司工作或曾经工作的人坚持在此报道中匿名，因为他们没有获得发言权限或担心受到报复 。对他们的访谈表明，OpenAI 尽管有着崇高的愿景，但却痴迷于保守秘密、保护形象和维持员工的忠诚度 。
从诞生开始，AI 技术的发展方向一直是理解人类智能，再实现自主创造 。1950 年，著名的英国数学家和计算机科学家 Alan Turing 在论文中问了一个著名的问题：‘机器能思考吗？’六年后，一群科学家聚在达特茅斯学院，正式规范了这个学科 。
‘这是知识史上最基本的问题之一，对吧？’位于西雅图的非营利性 AI 研究实验室艾伦 AI 研究所（Allen Institute for Artificial Intelligence，AI2）的 CEO Oren Etzioni 说，‘这就像我们是否理解了宇宙的起源，是否理解了物质这类问题一样 。’
问题在于，AGI 的定义一直都很模糊 。没有人真正能准确描述它会是什么样子，或至少应该做到什么，也很难说只有一种通用智能，人类智能可能只是其中的一个子集 。关于实现 AGI 的目的也存在不同的意见，在更浪漫化的观点中，一种不受睡眠需求或人类交流效率限制的机器智能可以帮助解决气候变化、贫困和饥饿等复杂问题 。


推荐阅读


上一篇：GPT冲击了哪些科技从业者的饭碗？程序员较“惨” 创意类、知识类从业者受益

下一篇：OpenAI CEO：大语言模型规模已接近极限，并非越大越好