科研革命来了：AI在改变科学家的研究方式( 七 ) 新智元报道来

在海德堡理论研究所(HeidelbergInstituteforTheoreticalStudies) ，物理学家KaiPolsterer领导的天体信息学小组(这是一个研究天体物理学的以数据为中心的新方法的研究小组) ，最近一直在使用机器学习算法从星系数据集中提取红移信息，这在以前是一项艰巨的任务。

Polsterer将这些基于人工智能的新系统视为“勤奋的助手” ，它们可以连续数小时梳理数据，而不会对工作条件感到厌倦或抱怨。他说，这些系统可以完成所有枯燥乏味的工作，让自己有时间去做那些酷而有趣的科学。

但这些基于AI的系统并非完美。 Polsterer警告说：

尤其是这些算法只能做它们被训练过的事情。系统对于输入是“不可知的” 。给它一个星系，这个软件就能估计出它的红移和年龄——但是给这个系统输入一张自拍照，或者一张腐烂的鱼的照片，它也会输出一个(非常错误的)年龄。最终，人类科学家的监督仍然是至关重要的。这个问题又回到了你身上。你是负责解释的人。

而费米实验室(Fermilab)的Nord则警告说：

神经网络不仅要传递结果，还要传递误差条，这一点至关重要，就像每个大学生所接受的训练一样。在科学领域，如果你做了测量，却不报告相关误差的估计，没有人会认真对待这样的结果。

与许多人工智能研究人员一样， Nord也担心神经网络产生的结果的不可穿透性(impenetrability)；通常，一个系统会给出一个答案，但不提供该结果的过程。

然而，并非所有人都认为缺乏透明度(transparency)必然是个问题。