Диференціювання матриць

Нехай $ \mathbf{y} = \psi(\mathbf{x}), $ де $\mathbf{y}$ - це m-елементний вектор, а $\mathbf{x}$ - це n-елементний вектор. Тоді символ $$ \begin{equation} \frac{\delta\mathbf{y}}{\delta\mathbf{x}} = \begin{bmatrix} \frac{\delta y_1}{\delta x_1} & \frac{\delta y_1}{\delta x_2} & \dots & \frac{\delta y_1}{\delta x_n} \\ \frac{\delta y_1}{\delta x_1} & \frac{\delta y_1}{\delta x_2} & \dots & \frac{\delta y_1}{\delta x_n} \\ \vdots & \vdots & & \vdots \\ \frac{\delta y_1}{\delta x_1} & \frac{\delta y_1}{\delta x_2} & \dots & \frac{\delta y_1}{\delta x_n} \\ \end{bmatrix} \end{equation} $$ позначатиме $m\times n$ матрицю часткових перших похідних перетворення з $\mathbf{x}$ у $\mathbf{y}$. Таку матрицю називають Якобіаном перетворення $\psi()$.

Пропозиція 1

Нехай $$\begin{equation}\mathbf{y} = \mathbf{Ax}\end{equation}$$ де $\mathbf{y}$ - це $m\times 1$, $\mathbf{x}$ - це $n\times 1$, $\mathbf{A}$ - це $m\times n$, і $\mathbf{A}$ не залежить від $\mathbf{x}$, тоді $$\begin{equation}\frac{\delta\mathbf{y}}{\delta\mathbf{x}} = \mathbf{A}\end{equation}$$

Пропозиція 2

Нехай $$\begin{equation}\mathbf{y} = \mathbf{Ax}\end{equation}$$ де $\mathbf{y}$ - це $m\times 1$, $\mathbf{x}$ - це $n\times 1$, $\mathbf{A}$ - це $m\times n$, і $\mathbf{A}$ не залежить від $\mathbf{x}$. Припустимо, що $\mathbf{x}$ є функцією від вектора $\mathbf{z}$, якщо $\mathbf{A}$ незалежна від $\mathbf{z}$, тоді $$\begin{equation}\frac{\delta\mathbf{y}}{\delta\mathbf{x}} = \mathbf{A}\frac{\delta\mathbf{x}}{\delta\mathbf{z}}\end{equation}$$

Пропозиція 3

Нехай скаляр $\alpha$ визначено як $$\begin{equation}\alpha = \mathbf{y}^T\mathbf{Ax}\end{equation}$$ де $\mathbf{y}$ - це $m\times 1$, $\mathbf{x}$ - це $n\times 1$, $\mathbf{A}$ - це $m\times n$, і $\mathbf{A}$ не залежить від $\mathbf{x}$ і $\mathbf{y}$, тоді $$\begin{equation}\frac{\delta\alpha}{\delta\mathbf{x}} = \mathbf{y}^T\mathbf{A}\end{equation}$$ і $$\begin{equation}\frac{\delta\alpha}{\delta\mathbf{y}} = \mathbf{x}^T\mathbf{A}^T\end{equation}$$

Пропозиція 4

Якщо скаляр $\alpha$ визначено через квадратичну форму $$\begin{equation}\alpha = \mathbf{x}^T\mathbf{Ax}\end{equation}$$ де $\mathbf{x}$ - це $n\times 1$, $\mathbf{A}$ - це $n\times n$, і $\mathbf{A}$ не залежить від $\mathbf{x}$, тоді $$\begin{equation}\frac{\delta\alpha}{\delta\mathbf{x}} = \mathbf{x}^T(\mathbf{A}+\mathbf{A}^T)\end{equation}$$

Пропозиція 5

Якщо $\mathbf{A}$ - симетрична і $$\begin{equation}\alpha = \mathbf{x}^T\mathbf{Ax}\end{equation}$$ де $\mathbf{x}$ - це $n\times 1$, $\mathbf{A}$ - це $n\times n$, і $\mathbf{A}$ не залежить від $\mathbf{x}$, тоді $$\begin{equation}\frac{\delta\alpha}{\delta\mathbf{x}} = 2\mathbf{x}^T(\mathbf{A})\end{equation}$$