AI人工智能,技术编程|人工智能神经网络和生物大脑有什么区别 神经网络将如何发展( 三 )


人工神经网络必须如何发展
扎多尔写道:“先天机制的重要性表明 , 解决新问题的人工神经网络应尽可能地尝试以先前相关问题的解决方案为基础 。”
AI研究人员已经设计出了转移学习技术 , 其中一种训练过的神经网络的参数权重转移到了另一种 。转移学习有助于减少为新任务训练神经网络所需的时间和新数据样本的数量 。
但是 , 人工神经网络之间的转移学习与通过基因在动物和人类之间传递的信息并不相似 。“尽管在转移学习中 , ANN的整个连接矩阵(或其中的很大一部分)通常用作起点 , 但在动物大脑中 , 一代一代“转移”的信息量较小 , 因为它必须穿过瓶颈基因组” 。
人工神经网络当前缺少的另一件事是架构优化 。通过盲目的进化机制 , 基因组学会优化大脑的结构和布线规则 , 从而更好地解决每种物种的具体问题 。另一方面 , 人工神经网络只限于优化其参数 。他们没有递归的自我完善机制 , 可以使他们创建更好的算法 。对其体系结构的更改必须来自外部(或有限的超参数调整技术 , 例如网格搜索和AutoML) 。
AI人工智能,技术编程|人工智能神经网络和生物大脑有什么区别 神经网络将如何发展
文章图片

文章图片

可能类似于基因组进化优化的一件事是不同ANN架构的发明 , 例如卷积网络 , 递归神经网络 , 长短期记忆网络 , 胶囊网络 , 变形金刚等 。这些体系结构帮助创建了可以有效解决不同问题的网络 。但是它们并不完全是基因组的功能 。
Zador在书面评论中对媒体说:“所有这些新架构都令人印象深刻 , 但是我不确定它们与通过进化而来的架构有多相似 。”进化的关键是架构需要压缩到基因组中 。这个“基因瓶颈”起到了调节器的作用 , 并迫使系统捕获任何架构的基本要素 。”
其他科学家建议将神经网络与其他AI技术(例如符号推理系统)结合使用 。该混合AI的做法已经被证明是更多的数据高效纯神经网络 , 目前不同的研究小组的重点 , 如麻省理工学院 , IBM沃森人工智能实验室 。
Zador对这种方法持怀疑态度 , 并认为人工神经网络发展人工智能的机会更大 。“尽管人工神经网络的处理元素比真实的神经元要简单 , 例如 , 它们缺乏树突 。但我认为它们可能足够接近 。人工神经网络是通用逼近器这一事实具有启发性 。
但是 , 他的确通过提醒我们结束研究而结束了论文 , 最终 , 对动物大脑的研究可能不是AI问题的全部答案 。
有时被误导为“人工智能”的说法根本不是一般的;它非常严格地限制了人员的能力 , 以致只有结构类似于大脑的机器才能实现它 。


推荐阅读