爱云资讯 人工智能在医疗行业应用面临的五大挑战( 二 )


消除黑匣子
AI系统主要是模拟人类大脑的运作方式 。 因此 , 就像我们的大脑一样 , 它们接收输入并达到输出 。 但是 , 我们不知道人工智能系统是如何得出结论的 。 我们所知道的就是最终的输出 。 而且 , 如果不了解AI系统是如何得出结论的 , 那么对其进行改进就变得很困难 。
AI系统的这一挑战被称为黑匣子问题 。 解决该问题对于几乎每个行业都是必不可少的 , 但对于医疗保健而言 , 至关重要 。 那是因为它会对医疗保健行业产生不利影响 。 盲目地信任AI解决方案可能会使患者的生命处于危险之中 。
例如 , 根据STAT审查的IBM内部文件 , IBM的Watson建议对癌症患者使用不安全的治疗程序 。 遵守错误的建议操作程序可能会使癌症患者的生命面临危险 。 因此 , 医疗行业必须消除AI的黑盒子 。
但是 , 如何消除AI的黑盒子?答案是“通过使用可解释的AI” 。 可解释的AI通过使这些系统具有透明度来帮助研究人员了解AI系统的输出 。 它通过事后方法的帮助带来了透明度 , 该方法围绕四个关键要素而开发 , 即目标、驱动因素、可解释的族和估计量 。
用来解释AI输出的最常见方法之一是反向传播方法 。 反向传播是用于前馈神经网络的监督训练的一种广泛使用的AI算法 。 这种可解释的AI方法的实施将确保患者和医生对AI结论的信任 。
教育员工和患者
利用AI解决方案可以带来很多好处 , 但是使用它们很复杂 。 对AI的潜力以及如何利用AI的意识不足会导致组织中的技能缺口 。 医疗保健组织需要通过对员工进行有关AI系统及其功能的教育来弥合技能差距 。 医院和个人专家可以组织不同部门的培训课程 , 以培训员工如何使用AI系统 。
在要治疗的患者准备好接受基于AI的治疗之前 , 医疗保健中的AI实施很难成功 。 因此 , 患者还必须意识到AI的潜力 , 以便他们可以信任基于AI的治疗 。 例如 , 机器人手术可带来许多好处 , 例如住院时间更短、疼痛减轻、疤痕最少以及失血量降低 。
但是 , 由于缺乏意识和信任 , 患者可能会担心被AI机器人对其进行操作 。 医疗机构应提高人们对机器人手术的益处的认识 。 他们还可以对患者进行AI机器人手术程序教育 , 然后再对其进行操作 。 对患者和员工进行有关AI解决方案的教育将确保增加他们对AI系统的信任 。
每个卫生组织都希望部署AI系统 。 成功实施AI解决方案始于制定正确的战略 。 但是如何创建呢?这需要要解决上述医疗保健中的AI挑战 。
对这些挑战和解决方案的了解将帮助医疗保健组织针对其特定应用制定适当的策略 。 当成功实施AI的实例成为人们关注的焦点时 , 医院将更有动力部署和扩展其AI解决方案 。


推荐阅读