清华唐杰教授深度报告：人工智能的下个十年！【附PPT】| 智东西内参( 五 )
杰弗里·辛顿等人利用 SimCLR ， 通过简化版的 contrastive learning 超过了 MoCo ， 后来 MoCo2 又宣称超过了 SimCLR ， 想要了解更多信息的读者可以阅读https://arxiv.org/abs/2002.05709 。
总体来看 ， 在算法的时代 ， 预训练算法取得了快速的进展 。 那么未来十年 ， AI 将何去何从？
文章图片
展望未来十年
这里 ， 我想引用张钹院士提出来的第三代人工智能的理论体系 。2015 年 ， 张钹院士提出第三代人工智能体系的雏形 。
2017 年 ， DARPA 发起 XAI 项目 ， 核心思想是从可解释的机器学习系统、人机交互技术以及可解释的心理学理论三个方面 ， 全面开展可解释性 AI 系统的研究 。
2018 年底 ， 正式公开提出第三代人工智能的理论框架体系 ， 核心思想为：
建立可解释、鲁棒性的人工智能理论和方法 。 发展安全、可靠、可信及可扩展的人工智能技术 。 推动人工智能创新应用 。 其中具体实施的路线图如下：
与脑科学融合 ， 发展脑启发的人工智能理论 。 数据与知识融合的人工智能理论与方法 。 在这个思想框架下 ， 我们做了一定的深入研究 ， 我们称之为认知图谱 。 其核心概念是知识图谱+认知推理+逻辑表达 。
下面展开解释一下 。
知识图谱大家很熟悉 ， 是谷歌在 2012 年提出来的 。 这其中有两个重磅的图灵奖获得者：一个是爱德华·费根鲍姆（1994 年图灵奖得主） ， 他在 20 世界 60 年代就提出来了知识库的一些理论体系和框架；另一个是 1994 年蒂姆·伯纳斯·李（2016 年图灵奖得主、WWW 的创始人、语义网络的创始人） 。 这里面除了知识工程、专家系统 ， 还有一个代表性的系统 CYC ， CYC 可以说是历史上持续时间最长的项目 ， 从 1985 年开始 ， 这个项目直到现在还一直在持续 。
说完了知识图谱 ， 我们来说一下认知图谱 。
相信很多人对认知图谱都比较陌生 ， 这里我们举一个例子来说明一下 。 假如我们要解决一个问题“找到一个 2003 年在洛杉矶的 Quality 咖啡馆拍过电影的导演（Who is the director of the 2003 film which has scenes in it filmed at The Quality Cafe in Los Angeles）” 。 如果是人来解决这个问题的话 ， 可能是先追溯相关的文档 ， 如 Quality 咖啡馆的介绍文档 ， 洛杉矶的维基百科页面等 ， 我们可能会从中找到相关的电影 ， 如 Old School， 在这个电影的介绍文档里面 ， 我们可能会进一步找到该电影的导演 Todd Phillips ， 经过比对电影的拍摄时间是 2003 年 ， 最终确定答案是 Todd Phillips ， 具体流程如下图所示：
文章图片
当我们用传统算法（如 BIDAF, BERT, XLNet）进行解决的时候 ， 计算机可能只会找到局部的片段 ， 仍然缺乏一个在知识层面上的推理能力 ， 这是计算机很欠缺的 。 人在这方面具有优势 ， 而计算机缺乏类似的能力 。
人在解决上述问题的过程中存在推理路径、推理节点 ， 并且能理解整个过程 ， 而 AI 系统 ， 特别是在当下的 AI 系统中 ， 深度学习算法将大部分这类问题都看作是一个黑盒子 ， 如下图所示：
推荐阅读
- 口罩卢祖洵教授：不用多久，我们就可以摘下口罩自由呼吸
- 清华学霸放弃保研，新身份被网友狂赞！清华学霸放弃保研，新身份被网友狂赞！
- 清华学霸放弃保研,新身份被网友狂赞!
- 形塑合同解释的方法论品格
- 印度一款手机App煽动“抵制中国”， 印教授：鼓吹狭隘“科技民族主义”终会害己
- 大学8旬教授夫妇捐出百万积蓄，设奖学金帮助青年学子
- 清华大学清华大学举办4场“校企行”专项行动对接会，40支“双创”团队亮相
- 中医乌兹别克斯坦驻华大使被授予江西中医药大学名誉教授称号
- 清华学霸放弃保研，新身份被网友狂赞！
- 法典民法专家金平教授： “民法典能通过，此生再无遗憾”