少年帮|利用深度学习生成医疗报告(12)


图像对2的预测报告:“心脏大小和肺血管在正常范围内出现 。 肺为游离灶性空域病变 。 未见胸腔积液气胸
预测的报告完全一样!!
少年帮|利用深度学习生成医疗报告图像对3的原始报告:“心脏正常大小 。 纵隔不明显 。 肺部很干净 。 ”
图像对3的预测报告:“心脏正常大小 。 纵隔不明显 。 肺部很干净 。 ”
在这个例子中 , 模型也做得很好 。
少年帮|利用深度学习生成医疗报告图像对4的原始报告:“双侧肺清晰 。 明确无病灶实变气胸胸腔积液 。 心肺纵隔轮廓不明显 。 可见骨结构胸部无急性异常
图像对4的预测报告:“心脏大小和纵隔轮廓在正常范围内 。 肺是干净的 。 没有气胸胸腔积液
你可以看到这个预测并不真正令人信服 。
“但是 , 这个例子的束搜索预测的是完全相同的报告 , 即使它产生的BLEU分数比整个测试数据的总和要低!!!”
那么 , 选择哪一个呢?好吧 , 这取决于我们 。 只需选择一个通用性好的方法 。
在这里 , 即使我们的注意力模型也不能准确地预测每一幅图像 。 如果我们查看原始报告中的单词 , 则会发现一些复杂的单词 , 通过一些EDA可以发现它并不经常出现 。 这些可能是我们在某些情况下没有很好的预测的一些原因 。
请记住 , 我们只是在2560个数据点上训练这个模型 。 为了学习更复杂的特征 , 模型需要更多的数据 。
10.摘要现在我们已经结束了这个项目 , 让我们总结一下我们所做的:

  • 我们刚刚看到了图像字幕在医学领域的应用 。 我们理解这个问题 , 也理解这种应用的必要性 。
  • 我们了解了如何为输入管道使用数据生成器 。
  • 创建了一个编解码器模型 , 给了我们不错的结果 。
  • 通过建立一个注意模型来改进基本结果 。
11.今后的工作正如我们提到的 , 我们没有大的数据集来完成这个任务 。 较大的数据集将产生更好的结果 。
没有对任何模型进行超参数调整 。 因此 , 一个更好的超参数调整可能会产生更好的结果 。
利用一些更先进的技术 , 如transformers 或Bert , 可能会产生更好的结果 。
12.引用
【少年帮|利用深度学习生成医疗报告】这个项目的整个代码可以从我的GitHub访问:


推荐阅读