Transformer竞争对手QRNN论文解读更快的RNN( 三 )
最近 , 基于QRNN的模型pQRNN在序列分类上仅用1.3M参数就取得了与BERT相当的结果(与440M参数的BERT相对):
文章插图
结论我们深入讨论了新颖的QRNN架构 。我们看到了它如何在基于卷积的模型中增加递归 , 从而加快了序列建模的速度 。QRNN的速度和性能也许真的可以替代Transformer 。
作者:Rohan Jagtap
deephub翻译组
推荐阅读
- 小米11迎来对手,国际巨头即将出击,或采用“双芯片”方案
- 美媒:美国拉小弟搞开放网络规范摆脱华为 但更多中国公司加入竞争搅黄美方计划
- 数据杀熟、屏蔽对手!频频“惹事”的美团遭反垄断诉讼
- 诬陷对手,甩锅员工,原来社交赛道的“球霸”是他?
- 2020年度盘点|手机厂商竞争加剧,加速出海、发力IoT构建生态成主流
- 又一行迎“关停潮”,商贩被“抢饭碗”,生意难做因恶意竞争?
- 小米11不送充电器,最大对手直接宣布:标配都是120W快充头
- VMware对跳槽到竞争对手公司的前高管发起诉讼,称违反合同
- iQOO7成为小米11最大对手,性价比完全不输,价格才是关键
- 公平竞争是市场经济的基石