InfoQ|研究了 50 篇论文后,他发现 AI 领域的某些进步其实就是炒作( 二 )
其他主要算法的进步似乎也经受住了时间的考验 。 1997 年 , 一种被称为长短时记忆(LSTM)的架构在语言翻译方面取得了重大突破 。 在经过适当的训练后 ,LSTM 的性能可以与 20 年后开发的更先进的架构相媲美 。 另一个机器学习的突破出现在 2014 年的生成对抗网络(GAN)中 , 举例来说 , 它可以将网络以生成 - 判别循环的方式进行配对 , 以提高它们生成图像的能力 。 据 2018 年的一篇论文报道 , 只要计算能力足够 , 原始的 GAN 方法就可以与后续几年的方法相媲美 。
【InfoQ|研究了 50 篇论文后,他发现 AI 领域的某些进步其实就是炒作】Kolter 说 , 与调整现有算法相比 , 研究人员更愿意去创造一种新的算法 , 并对其进行调整 , 直到达到最先进的水平 。 他指出 , 调整现有算法可能显得不那么新颖 , 使得“发表论文的难度大大增加” 。
Guttag 说 , 算法的发明者不希望与他人的算法进行彻底的性能比较 , 结果却发现他们的突破性进展并不是他们所认为的那样 。 “比较太仔细是有风险的 。 ”同时 , 那也是一项艰苦的工作:人工智能研究人员使用不同的数据集、调优方法、性能指标和基线 。 “完全的横向对比是不现实的 。 ”
一些夸大性能的说法可以归因于该领域的爆炸性增长 , 该领域的论文数量超过了有经验的审稿人 。 Blalock 说 , “这似乎是成长的烦恼” 。 他敦促审稿人 , 要坚持与基准进行更好地比较 , 并表示 , 更好的工具将有所帮助 。 今年早些时候 , Blalock 的合著者、麻省理工学院研究员 Jose Gonzalez Ortiz 发布了一款名为 ShrinkBench 的软件 , 它可以让人们更轻松地比较剪枝算法 。
研究人员指出 , 即使新方法在本质上并不比旧方法更好 , 但他们所实现的调整也可以应用到之前的算法上 。 每隔一段时间 , 就会有一个新的算法出现 。 “这几乎就像一个风险投资组合 , ”Blalock 说 , “其中一些业务并没有真正发挥作用 , 但有些却非常成功 。 ”
参考阅读:
https://www.sciencemag.org/news/2020/05/eye-catching-advances-some-ai-fields-are-not-real
点个在看少个 bug
推荐阅读
- 技术编程|如何利用数据库进行世界史研究
- 环球Tech|室内飞无人机担心互撞?研究人员开发AI算法来防撞
- 春光研究院|兼具家用和车载,售价只要竞品零头!洒哇地咔K11吸尘器开箱评
- 科学|如果欧洲核子研究中心发现了一种新的粒子,这意味着什么呢?
- 戒毒|防治毒品复吸新靶点 研究团队“擦除”小鼠成瘾记忆
- 科学|2020年蝗虫频繁来袭,研究发现,它们在向人类传达重要信息
- 电脑使用技巧|写论文要注意什么问题?
- 青年|ICML 2020论文贡献榜排名出炉:Google单挑斯坦福、MIT、伯克利;清华进TOP 20
- 交通|深圳北斗应用技术研究院斩获2020红点奖
- 互联网|美林数据:参与组建国内首个省级泛在电力物联网工程研究中心