原标题：一文读懂深度学习中的矩阵微积分，fast.ai创始人&ANTLR之父出品 | 免费资源
鱼羊 编译收拾
量子位 报导 | 大众号 QbitAI
想要真实了解深度神经网络是怎么练习的，免不了从矩阵微积分说起。
尽管网络上已经有不少关于多元微积分和线性代数的在线材料，但它们一般都被视作两门独立的课程，材料相对孤立，也相对不流畅。
不过，先别打退堂鼓，来自旧金山大学的Terence Parr教授说：矩阵微积分真的没那么难。
这位ANTLR之父和fast.ai创始人Jeremy Howard一同推出了一篇免费教程，旨在帮你快速入门深度学习中的矩阵微积分。简明，易懂。
DeepMind研讨科学家Andrew Trask点评说：
假如你想越过不相干的内容，一文看尽深度学习中所需的数学常识，那么便是这份资源没错了。
只需一点关于微积分和神经网络的根底常识，就能开门见山，开端以下的学习啦。
深度学习所需的矩阵微积分
先来看一眼这篇教程都包括了哪些内容：
- 基本概念
- 矩阵微积分
- 神经元激活的梯度
- 神经网络丢失函数的梯度
文章开篇，先介绍了一下人工神经元。
神经网络中单个核算单元的激活函数，一般运用权重向量w与输入向量x的点积来核算。
神经网络由许多这样的单位组成。它们被组织成称为层的神经元调集。上一层单元的激活成为下一层单元的输入，最终一层中一个或多个单元的激活称为网络输出。
练习神经元意味着对权重w和误差b的挑选。咱们的方针是逐渐调整w和b，使总丢失函数在一切输入x上都坚持较小。
导数规矩、向量核算、偏导数……温习完需求把握的先导常识，文章开端进入重要规矩的推导，这些规矩触及矢量偏导数的核算，是神经网络练习的根底。
比如在矩阵微积分这一节中，包括：
- 雅可比式（Jacobian）的推行
- 向量element-wise二元算子的导数
- 触及标量打开的导数
- 向量和降维
- 链式法则
每一末节中，都有简洁明了的示例，由浅入深，层层递进。
假如你在学习的过程中遇到不了解的当地，不要着急，耐性回来上一节阅览，从头演算一下文中的示例，或许就能理顺思路。
假如实在是卡住了无法推动，你还能够在fast.ai论坛（链接见文末）的“Theory”分类下发问，向Parr和Howard自己求回答。
而在文章的结尾，作者附上了一切数学符号的对照表。
以及要点概念的具体弥补信息。
有必要留意一下的是，Parr和Howard也强调了，与其他学术办法不同，他们强烈建议先学会怎么练习和运用神经网络，然后再深化了解背面的根底数学。由于有了实践经验，数学会变得刚简单了解。
传送门
网页版：
https://explained.ai/matrix-calculus/index.html
PDF：
https://arxiv.org/abs/1802.01528
fast.ai论坛：
http://forums.fast.ai/
作者系网易新闻·网易号“各有情绪”签约作者
— 完—
大咖齐聚！参会嘉宾重磅揭晓
量子位 MEET 2020 智能未来大会启幕，李开复、倪光南、景鲲、周伯文、吴明辉、曹旭东、叶杰平、唐文斌、王砚峰、黄刚、马原等AI大咖与你一同读懂人工智能。观众票行将售罄，扫码报名预订座位 ~
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追寻AI技能和产品新动态
喜爱就点「在看」吧 !
责任编辑：
