大模型111人:谷歌和OpenAI的人才战争

衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
当我们围观ChatGPT炸开的多场激战时,还有什么是暗流下激战的?
今天要关注的,不是违背“非盈利”初心的OpenAI,也不是商业模式面临颠覆的谷歌搜索 。 把目光从公司层面挪开,看向另一场已经白热化的战争——
借着的ChatGPT燎原之势,2月中旬同一天的30分钟内,就有2位谷歌大脑大模型人才先后官宣入职OpenAI,其中之一Jason Wei是思维链 (chain-of-thought,CoT)的最早一作 。
大模型交锋背后,谷歌和OpenAI的 人才战争打得正酣 。和动辄上亿美元的投融资同样重要,AI人才也是兵家必争的财富 。

大模型111人:谷歌和OpenAI的人才战争

文章插图
但其实,AI人才流动、被抢夺,早开始在ChatGPT搅动漩涡之前 。
GPT系列:8人联创新公司,成谷歌对战ChatGPT一步棋
势如破竹的ChatGPT,积攒了OpenAI 从GPT一路迭代至InstructGPT的技术经验与实力 。
ChatGPT基于OpenAI的 GPT-3.5创造 。2018年和2019年,OpenAI分别推出了1.17亿参数的GPT-1和15亿参数的GPT-2;2020年,大力出奇迹的GPT-3问世,训练参数达到1750亿,涌现出一些人脑独特的能力,引起轰动;而后又在2022年初推出全新的InstructGPT模型,只要13亿参数,效果就比GPT-3更好 。
《纽约时报》披露,原本下一代GPT-4在OpenAI内部几乎准备就绪,只待发布;去年11月中旬,高层突然宣布新任务:两周后发布免费聊天机器人应用,代号 “Chat with GPT3.5”,这就是今天见到的ChatGPT 。
51位作者,其中2人参与3次论文创作
【大模型111人:谷歌和OpenAI的人才战争】GPT系列共发表了 4篇论文, 51位作者参与其中 。
作者名单中出现最频繁的是Alec Radford和Ilya Sutskever两位,均参与GPT-1到3的论文创作 。前者是OpenAI的ML研究员,也是indico.io的联创,谷歌学术上他被引用最多的研究是DC-GAN;后者更为人所熟知,OpenAI联创之一,也是OpenAI首席科学家,主导了GPT系列以及DALLE系列模型的研发 。
另有5人在GPT系列论文中 2次贡献了自己的力量:
51人组成的人才图鉴,学历一栏中名校印记俯拾皆是 。据不完全统计,出现 频次最多的是MIT和斯坦福大学,曾在耶鲁大学、UC伯克利、哈佛大学、牛津大学攻读学位的人也不在少数 。也不乏在这些名校中辗转求学的人,譬如表格中提到的OpenAI前研究副总裁Dario Amodei,先后就读于普林斯顿大学和斯坦福大学;再比如InstructGPT背后论文共同作者之一Gretchen Krueger,MIT、哈佛大学、哥伦比亚大学都是他的母校 。
出走团队打造ChatGPT竞品对话式AI
毫无疑问,GPT系列背后的51人引领了大语言模型的创新风潮 。从GPT系列结束战斗后,不少人从OpenAI脱离 。除开GPT-3共同作者、哥大博士在读的Melanie Subbiah本就不属于OpenAI,50人里共有 16位人才从OpenAI流失 。
其中8位的最终流向是 AI初创公司Anthropic 。更准确地说,包括Dario Amodei、GPT-3论文一作Tom B. Brown在内的一批核心人才不满OpenAI成为微软附庸——因被注资,OpenAI要使用Azure超算来搞研究,要将技术授权给微软,甚至要给微软的投资活动筹集资金,这与OpenAI创立的初衷 (关注高级AI安全)相悖 。
最终,包括8位GPT系列作者在内,共11名OpenAI前员工怒而离职, 于2021年创办Anthropic,要搞能控制、可解释的AI,重心放在生成式AI上 。
△ 出走创办Anthropic的GPT系作者
1月底,Anthropic开始内测聊天机器人 Cladue 。同为生成式对话AI,与ChatGPT的同台竞赛不可避免,二者各有千秋,最终测评结果:Claude在12项任务 中 有8项更强 。
大模型111人:谷歌和OpenAI的人才战争

文章插图
关于Anthropic的最新消息让这家“复仇者联盟”愈发走到人们熟悉台前 。月初, 谷歌向它投资3亿多美元(约合人民币20.3亿元),拿下后者约10%的股份 。交易条款要求,Anthropic需要从谷歌云计算部门购买计算资源 。这恰好与3年前,OpenAI接受微软高达10亿美元的注资,将微软定位独家云提供商所呼应 。
换句话说,Dario Amodei带着Anthropic走上了3年前所不齿的OpenAI的老路,接受金主爸爸提供的算力来进行技术开发 。现如今, Anthropic最新估值50亿美元,除谷歌外,已有的投资人包括Facebook联创Dustin Moskovitz,谷歌前CEO、现技术顾问Eric Schmidt等人 。
大模型111人:谷歌和OpenAI的人才战争


推荐阅读