江苏龙网


首页 > 人文 >>

范式|第四范式提出AutoSTR,自动搜索文字识别网络新架构( 四 )



按关键词阅读:


文章图片
从中看出,与SAR、CA-FCN、ESIR、SCRN、ASTER等目前最先进的方法相比,AutoSTR搜索的架构在浮点运算和参数复杂度上都要更少。因此,AutoSTR在移动环境下更有效。
(2)AutoSTR主干网络在性能、准确性、计算方面均有提升
在数据集依赖关系上,下图展示了每个测试数据集上搜索到的特征表达式体系结构,以提供有关网络设计的一些见解。从中可以发现,网络的较浅的卷积级(例如,1、2)更喜欢较大的MBConv操作(例如,MBConv(k:5,e:6)),并且没有跳过连接层。但是在较深的卷积阶段(例如,3、4、5),部署较小的MBConv并学习跳跃连接以减少卷积层的数量。
 范式|第四范式提出AutoSTR,自动搜索文字识别网络新架构
文章图片
特别是在最后一个卷积阶段,只存在一个卷积层。观察到的现象与一些人工设计的网络架构是一致的,比如SCRN。具体地说,在前两个阶段,ResNet50用于提取特征,而在后两个阶段,仅在快速下采样特征映射上附加几个卷积层来生成水平方向的特征序列。这一现象可能会启发我们设计更好的文本图像特征抽取器。
在紧凑性上,我们将搜索到的架构与所有MBConv(k:5,e:6)基线模型进行比较,后者选择每个层中参数数量最多的块,并使用ABABAB下采样策略。
对比图5和图6,我们可以看到,AutoSTR搜索的结构具有更少的浮点运算和参数,同时保持了更好的精确度。
此外,AutoSTR搜索的体系结构使用较少的浮点和参数,但超出了基线模型的精度,说明最大参数模型(All MBConv(k:5,e:6)基线)存在大量冗余参数,AutoSTR可以去除一些冗余层,优化网络结构。
(3)AutoSTR在计算复杂度和准确度上有效权衡
在与随机搜索算法对比上,我们选择10个随机搜索体系结构,从头开始训练,然后在IIIT5K数据集上测试。随机搜索大约需要15×4 GPU天,而AutoSTR在下采样路径搜索步骤中只需要1.7×4 GPU天,而在操作搜索步骤只需要0.5×4 GPU天。如下图所示,AutoSTR所发现的体系结构比IIIT5K数据集中的随机体系结构性能高0.5%-1.4%,这表明AutoSTR更有效、更高效。
 范式|第四范式提出AutoSTR,自动搜索文字识别网络新架构
文章图片
在下采样路径上。我们在搜索空间中,使用了两种典型的策略,即AABBB和ABABB来搜索iit5k数据集上的操作。
最佳下采样路径不受默认操作(即3×3残差卷积,MBConv(k:3,e:1))的影响。此外,一个更好的下采样策略(即ABABB)有助于AutoSTR在操作搜索步骤中找到一个更好的架构。
在正则化器的影响上。我们将浮点运算作为正则项引入目标函数中。
最终,可以在计算复杂度和准确度之间取得平衡。
【来源:AI科技评论】
声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢。 邮箱地址:newmedia@xxcb.cn


来源:(行走自由的花)

【江苏龙网】网址:/a/2021/0326/lmkd0RTG1542020.html

标题: 范式|第四范式提出AutoSTR,自动搜索文字识别网络新架构( 四 )


上一篇: 缺陷|日本零部件供应巨头存产品缺陷:丰田、本田、马自达躺枪

下一篇: 钓底|钓鱼技巧:两种离底钓法,绝杀离底之鱼,钓鱼未必一定要钓底!


人文

人才|长兴立体化招聘新模式加快引进大学生

阅读(22)

线上线下实现无缝对接,取得了让企业“走出去”,把学生“引进来”的校地企三赢的成效。据介绍,上述招聘新模式是为加快推进“企业人才引进和用工保障攻坚行动”,长兴县人力资源和社会保障局大力引进储备该县企业紧缺急需专业人才,针对疫情防控常态化形势,...

人文

广西|【落实“六稳六保·优化营商环境”】推进一站式服务 广西稳企利企促“活市”

阅读(46)

”在南宁经济技术开发区政务服务中心企业开办一站式服务专区,前来办理业务的黄女士感慨。说话间,黄女士接过了工作人员递过来的营业执照,“现在办理企业开办手续太方便了!”企业开办人员从工作人员手中接过营业执照得益于政务服务模式改进,不断优化营商环...

人文

发展|山东:2022年海水淡化产能规模超过每日100万吨

阅读(49)

“淡化海水的有效供给,还有利于减少滨海地区开采地下水,减缓海水内侵导致的盐渍蔓延,保护水生态环境;同时,作为海洋战略性新兴产业,海水淡化与综合利用产业能有效加速山东省海洋经济新旧动能转换,培育新的增长点。”山东省海洋局局长张建东说。目前,山...

人文

面包|蔓越莓辫子面包

阅读(44)

By 饭小小 【豆果美食官方认证达人】用料高筋面粉 250g奶粉 8g白砂糖 40g黄油 20g酵母 5g盐 2.5g蛋液 15g水 123g蔓越莓干 30g【辅料】白芝麻 少许做法步骤1、盐和黄油除外,所有的放一起揉成团状2、像搓衣板错衣服那样来回搓数次,动作要快3、面团表面光滑...