|京东智能情感客服“挽救”生命 “可信赖的AI”用温暖前行( 二 )


Faster Transformer模型具有高灵活性 , 与已有BERT任务兼容性高 , 便于扩展维护 , 部署简单且提升效果明显 。
负责该优化方案的京东AI硅谷研究院算法工程师黄启洲表示:“BERT模型在NLP领域有着广泛的应用 , 但其计算复杂度高、参数量大 , 线上应用存在模型部署难、响应时间长的问题 。 为了优化推理效果 , 业界一直在探寻多种不同方案 , 但我们发现 , 方案仅仅图快是不能完全满足实际业务需求的 , 还要全盘考虑到计算资源储备、方案实施成本、优良的可扩展性与灵活性、及系统维护的复杂程度等 , 综合考量到目前京东智能对话中台的资源配置、算法积累、以及推理优化方案的特点包括模型剪裁压缩、cuBERT优化、知识蒸馏等 , 我们设计并研发了基于Faster transformer的优化方案 。 ”
优化后的模型比未优化的BERT模型提速5-6倍 。 方案解决了实际的痛点并产生了很好的业务效果 , 对智能情感客服进行了很好的支撑 。
以技术为本 , “有情感、有温度”的智能情感客服已经历多次618、11.11大考 , 服务涵盖售前、售中、售后物流等零售的各个环节 。 目前 , 京东第17次618正在如火如荼的进行中 , 智能情感客服系统在保障消费者购物体验的同时 , 也构建起了一道生命的防线 。
京东集团技术委员会主席 , 京东智联云总裁周伯文博士表示 , “智能情感客服的初衷是希望更好的提升京东的用户购物体验 , 为企业降本增效 。 今天 , 我们看到技术不仅实现了商业价值 , 更让我们自豪的是技术给人们带来了更多的价值和可能 , 甚至是生命财产的保护 。 就如同我们一直践行的‘可信赖的AI’ , 一面是对技术的挑战:稳健性、可复制性、可解释 。 一面是人类的社会责任与价值的体现:公平、价值对齐、负责任 。 我们在用智能情感客服传递温暖 , 践行着‘负责任’的一面 , 让AI对社会有更多价值 。 我为我们京东自豪 , 为我们的技术自豪 。 ”


推荐阅读