模型|华为云人工智能领域首席科学家田奇:ModelArts 3.0助力行业AI落地( 二 )


过去需要成百上千例标注数据才能进行的训练 , 现在有了EI-Backbone , 只需要几十例甚至十几例标注数据即可完成 , 节省标注成本90%以上;
过去需要大量专家经验和试错成本的模型选择和超参调节 , 通过EI-Backbone提供的全空间网络架构搜索和自动超参优化技术 , 可在无需人工干预的情况下快速完成 , 且精度大幅提升;
过去需要几周甚至更长时间 , 从头开始的模型训练、测试、验收和部署流程 , 在加载EI-Backbone集成的预训练模型后 , 可以缩短到几小时甚至几分钟内完成 , 训练成本降低90%以上 。
基于EI-backbone技术 , 我们华为云ModelArts和杭州云深处科技有限公司合作 , 实现了四足机器狗的工业场景巡检 。

模型|华为云人工智能领域首席科学家田奇:ModelArts 3.0助力行业AI落地
文章图片

华为云ModelArts 3.0的下一个特性--联邦学习 。
众所周知 , 数据是AI应用的基础 , 只有基于多样化的数据 , 才能实现AI智能感知 。 然而 , 在实际AI行业落地中 , 数据是分散在不同的数据控制者之间 , 这就导致了行业应用的数据孤岛问题 , 使得AI算法训练效果受到限制 。
针对这个问题 , 华为云Modelarts提供联邦学习特性 , 实现数据不出户的联合建模 。 用户各自利用本地数据训练 , 不交换数据本身 , 只用加密方式交换更新的模型参数 , 实现协同训练 。
华为云EI与中国科学院上海药物所的蒋华良院士合作 , 将华为自研的FedAMP算法和AutoGenome算法应用到药物研发的AI任务中 , 精准预测药物水溶解性、心脏毒性和激酶活性 , 准确度远超传统的联邦学习和深度学习算法 。
此外 , 华为云提供云边协同的服务 , 支持不同地点、不同客户的数据进行联邦训练 , 通过加密方式上传服务端 , 对全局模型进行更新 , 再将其下发至边缘设备 , 便捷支持同业态的横向联邦和跨业态的纵向联邦学习 。 联邦训练参与者可以通过云端 , 也可以通过华为云边缘设备(如智能小站)的计算能力参与联邦训练 , 实现行业内联合建模 。

模型|华为云人工智能领域首席科学家田奇:ModelArts 3.0助力行业AI落地
文章图片

模型在部署上线前 , 需要进行充分评估 , 结果优秀的模型直接投入生产环境 , 差强人意的则需要进一步优化迭代 。 ModelArts提供了全面的可视化评估、智能化诊断功能 , 使得开发者可以直观的了解模型的各方面性能 , 进而针对性的进行调优或部署生产 。
下面以一个上皮病变细胞分类的模型评估来进行详细讲解 。
在精度方面 , 华为云ModelArts提供了包含准确率、精确率、召回率、F1值、混淆矩阵、ROC曲线等常规指标 , 还包括了数据敏感度分析模块 , 评估模型在不同数据特征子区间上的表现;
在性能方面 , ModelArts提供算子级别的时间、空间消耗统计分析和多种整体的性能指标 , 并且针对模型的表现给出相应建议 , 如模型量化、蒸馏等;
在可解释性方面 , ModelArts提供热力图 , 用以展示模型做出推理判断所依据的区域;
在可信方面 , ModelArts内置多种模型可信相关评测方法 , 提供多角度模型安全能力评估指标 , 并能依据当前模型表现给出相应的防御建议 。

模型|华为云人工智能领域首席科学家田奇:ModelArts 3.0助力行业AI落地
文章图片

随着深度学习分布式训练的不断发展,各类模型的训练对于计算设备的需求越来越大 。 但由于各种原因,训练作业的资源还没有被充分利用 。 造成资源浪费的原因非常多,主要包括以下几点:
训练算法代码本身质量不高、资源利用率低 。
模型大小和超参数的设置也会显著地改变计算资源的利用率 。
资源池整体利用率存在波动峰谷 。 类似于"峰谷电",训练作业的提交也有高峰期和低谷期 , 造成很大的资源浪费 。


推荐阅读