《表1 三个微分编程实例的基本特征》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《微分万物：深度学习的启示》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

以Yann Le Cun（Fackbook的首席AI科学家）和Andrej Karpathy（Tesla的AI部门主管）为代表的一些机器学习专家认为微分编程是深度学习的未来[1]。深度学习中所发明的各式各样的神经网络结构，例如卷积、循环、注意力机制等，都是针对特定任务的可微分模块。设计这类模块的指导思想是尽可能地利用关于问题本身的先验知识，例如对称性、局域性、层级结构等等。微分编程通过学习一般的计算机程序，可以更加充分地利用问题相关的特定领域的先验知识，同时还能保证模型的可解释性。另一方面，越来越多其他领域的科学家们也认识到微分编程的价值，认为它是联系深度学习与科学计算的一条纽带。