$$z_1^3=w_{11}^3*a_1^2 +w_{12}^3*a_2^2 +w_{13}^3*a_3^2 +b_1^3$$

$$z_1^2=w_{11}^2*x_1 +w_{12}^2*x_2 +w_{13}^2*x_3 +b_1^2$$

$$a_1^2=g(z_1^2)$$

说明

上标代表层，下标代表同层的顺序

$$\frac{\delta L}{\delta w^3_{11}} =\frac{\delta L}{\delta z^3_{1}} \cdot \frac{\delta z^3_{1}}{\delta w^3_{11}} = \frac{\delta L}{\delta z^3_{1}} \cdot a_1^2$$

$$\frac{\delta L}{\delta w^2_{11}} =\frac{\delta L}{\delta z^2_{1}} \cdot \frac{\delta z^2_{1}}{\delta w^2_{11}} = \frac{\delta L}{\delta z^2_{1}} \cdot x_1$$

$$a_1^3=g(z_1^3)$$

$$y_1=x_1+F(x_2)$$

$$y_2=x_2+G(_1)$$

说明

• 其中F和G都是相似的残差函数

$$x_2=y_2-G(y_1)$$

$$x_1=y_1-F(x_2)$$