El capítulo de ortogonalización lo cerraremos con el método de mínimos cuadrados. Este método nos proporciona una herramienta muy interesante a la hora de abordar un sistema de ecuaciones que no tiene solución. Recordemos que todo sistema podemos plantearlo en su forma matricial como
\[ A\ x=\ \textbf{b},\]
donde \(A\in\mathcal{M}_{m\times n}(\mathbb{R})\), \(x\in\mathcal{M}_{n\times 1}(\mathbb{R})\) y \(\textbf{b}\in\mathcal{M}_{m\times 1}(\mathbb{R})\).
Cuando se necesita una solución pero no hay ninguna, lo mejor que puede hacerse es encontrar una solución \(x\) que deje a \(A\ x\) tan cercana a \(\textbf{b}\) como sea posible.
Sea \(A\in\mathcal{M}_{m\times n}(\mathbb{R})\), \(x^t\in\mathbb{R}^n\) y \(\textbf{b}^t\in\mathbb{R}^m\), llamamos solución por mínimos cuadrados de la ecuación, a una aproximación \(\hat{x}^t\in\mathbb{R}^n\), tal que
\[\parallel\textbf{b}-A\ \hat{x}\parallel\leq \parallel \textbf{b}-A\ x\parallel\ \forall\ x^t\in\mathbb{R}^n.
\]
El conjunto de soluciones por mínimos cuadrados de \(A\ x=\ \textbf{b}\) coincide con el conjunto no vacío de soluciones de
\[A^t A\ x=\ A^t\textbf{b},\]
De la propiedad anterior se deduce un resultado concluyente:
Si las columnas de \(A\) son linealmente independientes, entonces \(A^t A\) es invertible y la ecuación \(A\ x=\ \textbf{b}\) tiene solamente una solución por mínimos cuadrados dada por
\[\hat{x}=\ (A^t A)^{-1} A^t\textbf{b}.\]
Esta forma de calcular la solución por mínimos cuadrados sería equivalente a considerar \(\bar{A}\) el subespacio vectorial de \(\mathbb{R}^m\) generado por los vectores columna de \(A\) y determinar
\[ \hat{\textbf{b}}=proy_{\bar{A}}(\textbf{b}).\]
Entonces
\[ A\ \hat{x}=\ \hat{\textbf{b}}.\]
Podéis ver más información en el Capítulo 6 del libro Álgebra lineal y sus aplicaciones. 4º edición, David C. Lay. Pearson.
Ejercicio:Sea \(\pi:\{(x,y,z,t)\in\mathbb{R}^4;\ 2x+3y-z=0,\ y+2z-t=0\) un plano en \(\mathbb{R}^4\). ¿Cuál de los vectores a:[8,13,-2,-1], b:[8,-13,2,-1] y c:[-8,13,-2,1], pertenece a su ortogonal? |