对于计算机AI领域 , 这是一次具有突破性意义的尝试 。AI第一次"生成"了一个图像内容:一张模糊的猫脸
文章插图
2013年
Google的托马斯·米科洛夫(Tomas Mikolov)带领研究团队发表了论文《Efficient Estimation of word Representations inVector Space》 , 提出了Word2Vec 。
Word2Vec可以根据给定的语料库 , 通过优化后的训练模型可以快速有效地将一个词语表达成高维空间里的词向量形式 , 为自然语言处理领域的应用研究提供了新的工具 。
2014年1月
谷歌斥资400亿美元收购了位于伦敦的明星人工智能企业DeepMind 。
2014年12月
GAN(对抗式生成网络)诞生 。
2014 年 , Lan Goodfellow从博弈论中的"二人零和博弈"得到启发 , 创造性的提出了生成对抗网络(GAN , Generative Adversarial Networks) , 他在2014年的NIPS会议上首次发表了相关论文 , 用两个神经网络即生成器(Generator)和判别器(Discriminator)进行对抗 。在两个神经网络的对抗和自我迭代中 , GAN会逐渐演化出强大的能力 。
作者在最早的文章里形象的把GAN比喻为伪造者和警察:伪造者总想造出以假乱真的钞票 , 而警察则努力用更先进的技术去鉴别真伪 。在博弈过程中 , 双方都不断提升了自己的技术水平 。
GAN号称21世纪最强大的算法模型之一 , "Gan之父"Ian Goodfellow也一跃成为AI领域的顶级专家 。
2015年12月
OpenAI公司于美国旧金山成立 。
OpenAI诞生的原因是很有趣的:DeepMind被Google收购的消息震动了硅谷 , 如果发展下去 , DeepMind很有可能成为最早实现AGI通用人工智能的公司 。为了打破GoogleAI技术的垄断 , 在一次私人聚会后 , 大佬们一拍即合成立了OpenAI 。
其中包括 , 钢铁侠Elon Musk , 当时已是著名创业孵化器 Y Combinator 的负责人现在成为OpenAI CEO的Sam Altman , 以及著名天使投资人 Peter Thiel等硅谷大佬 。
OpenAI作为一个非营利性组织运营 , 并立志要做DeepMind和Google无法做到的事情:开放和共享AI技术 。
从今天的眼光看 , 尽管OpenAI后来的商业模式有所变化 , 但绝对实现了它诞生的最大愿景之一:狙击Google和DeepMind 。
ChatGPT的推出加上微软Bing的推波助澜搞得Google实在是狼狈不堪 。
2015年
11月 , Google开源了重要的深度学习框架Tensor Flow;
同年 , 还是Google , 开源了用来分类和整理图像的 AI 程序 Inceptionism , 并命名为 DeepDream 。尽管还很初级 , 但DeepDream被认为是第一个现代的AI绘画应用 。
2016年
3月 , Google的AlphaGo战胜围棋世界冠军李世石;
4月 , Google深度学习框架TensorFlow发布分布式版本;
9月 , Google上线基于深度学习的机器翻译;
2015到2016年 , Google的AI能力可谓是风头一时无两 。
2017年1月
Facebook人工智能研究院(FAIR)开源了PyTorch 。PyTorch和tensorFlow从此成为了当今两大主流深度学习框架 。
2017年7月
Facebook联合罗格斯大学和查尔斯顿学院艺术史系三方合作得到新AI绘画模型 , 号称创造性对抗网络(CAN , Creative Adversarial Networks) ,
CAN在测试中 , 有53%的观众认为AI作品出自人类之手 , 这是类似的图灵测试历史上首次突破半数 , 这是AI绘画模型小小而扎实的一步 。
Facebook在AI领域其实耕耘了很久 , 做过很多贡献 , 可惜后面搞Metaverse连公司名字都改成Meta了 , 差点错过了当下这波AI的浪潮 。
不过最近小札醒悟过来 , 终于官宣要All in AI 。Meta还是很有实力的 , 奋起直追应为时未晚 。
2017年12月
颠覆性的Tranformer架构出世了!
Googl机器翻译团队在年底的顶级会议NIPS上发表了里程碑式的论文《Attention is all you need》 , 提出只使用自注意力(Self Attention)机制来训练自然语言模型 , 并给这种架构起了个霸气的名字:Transformer 。
所谓"自我注意力"机制 , 简单说就是只关心输入信息之间的关系 , 而不再关注输入和对应输出的关系 。和之前大模型训练需要匹配的输入输出标注数据相比 , 这是一个革命性的变化 。
推荐阅读
- Java 中为什么要设计 throws 关键词,是故意的还是不小心
- 什么是网络数据库?
- 什么是企业ssl证书?安装企业ssl证书的好处
- 陈道明|内娱里最大的笑话,就是陈道明艺德不行!
- 高贵妃被谁害的 高贵妃怎么死的
- 为什么 HR 不喜欢职场空窗期?
- 为什么很多的离职原因都写的是“个人原因”?
- 植物人醒后画出的死后世界,是哪个画家 嫁给男主的植物人哥
- 十年树人十年树木百年树人出自谁的名言、十年树人的意思?
- 斜庞克纹理烫短发 男生耳朵上短的刘海发型叫什么?