科学批评者称谷歌乳腺癌预测AI研究如果不透明就没有用处
早在1月份 ， 谷歌旗下专注于健康相关研究、临床工具和医疗服务合作的分支Google Health就发布了一个在9万多张乳房X光照片上训练的人工智能模型 ， 该公司称其取得了比人类放射科医生更好的效果 。 谷歌宣称 ， 与之前的工作相比 ， 该算法可以识别出更多的假阴性 ， 即那种看起来正常但含有乳腺癌的图像 ， 但一些临床医生、数据科学家和工程师对这一说法表示质疑 。
在今天发表在《自然》杂志上的一篇反驳文章中 ， 隶属于麦吉尔大学、纽约市立大学（CUNY）、哈佛大学和斯坦福大学的超过19位共同作者表示 ， 谷歌的研究缺乏详细的方法和代码 ， 损害了其科学价值 。 一般来说 ， 科学都存在可重复性问题 ， 2016年对1500名科学家进行的一项调查报告显示 ， 其中70%的科学家至少尝试过复制其他科学家的实验 ， 但失败了 。
在人工智能领域 ， 这个问题尤为严重 。 在2019年的ICML大会上 ， 有30%的作者未能在会议开始前将自己的代码与论文一起提交 。 研究经常提供基准结果来代替源代码 ， 当基准的彻底性受到质疑时 ， 就会出现问题 。 最近的一份报告发现 ， 自然语言处理模型给出的60%到70%的答案都嵌入了基准训练集的某个地方 ， 这表明模型往往只是在记忆答案 。
他们表示 ， 谷歌的乳腺癌模型研究缺乏细节 ， 包括对模型开发以及所使用的数据处理和训练管道的描述 。 谷歌省略了模型架构的几个超参数的定义 ， 也没有披露用于增强模型训练的数据集的变量 。 这可能会显著影响其性能 ， Nature的共同作者声称 ， 例如 ， 谷歌使用的其中一个数据增强有可能导致同一患者的多个实例 ， 从而使最终结果出现偏差 。
谷歌方面表示 ， 用于训练该模型的代码对内部工具、基础设施和硬件有许多依赖性 ， 使其发布不可行 。 该公司在决定不发布这两个训练数据集时 ， 还提到了这两个训练数据集的专有性和患者健康数据的敏感性 。 但Nature的共同作者指出 ， 原始数据的共享在生物医学文献中已经变得越来越普遍 ， 从2000年代初的不足1%增加到现在的20% ， 而且模型预测和数据标签本来可以在不泄露个人信息的情况下发布 。
【科学批评者称谷歌乳腺癌预测AI研究如果不透明就没有用处】
本文插图
推荐阅读
- 科学家|退化还是进化？被人抛弃的身体器官再次出现，科学家正全力研究
- 山海经|昆仑山上有神仙在“渡劫”？科学家不相信，不过有人拍到了照片
- 喜马拉雅山|没有“山根”的喜马拉雅山到底隐藏着什么？科学家发现地底巨洞
- 章鱼|北京北新桥下的“神秘之井”，真的锁着一条龙？科学家找到答案！
- 科学家|巴西科学家首次发现保存在恐龙化石骨骼内的血液寄生虫
- 科学家|“神婆”巴巴万加：生前曾预言911和2020新冠，迄今科学无法解释
- 中国网|“公共卫生：传播的力量”科学传播工作营在京举办
- 小行星|末日警告：2036年小行星撞击地球会成真吗？科学家揭秘真相！
- 韩国瑜|“后悔罢韩”登上谷歌热搜，台湾年轻人“悔不当初”
- 科学家|世界上最“可悲”的蛇，不仅弱小还被当作装饰，却拥有奇特功效