Linear vector space derivation of new expressions for the pseudo inverse of rectangular matrices

 

Marco Antonio Murray Lasso

 

Facultad de Ingeniería, Universidad Nacional Autónoma de México, mamurray@servidor.unam.mx

 

Abstract

In this paper, a family of simple formulas for the calculation of the pseudo inverse of a rectangular matrix of less than maximum rank is derived using linear vector space methods. The principal result is that the pseudo inverse A⁺ of a matrix A can be calculated as A⁺ = Q(P^TAQ)^-1P^T, where P and Q are rectangular matrices whose r columns are vectors that form a basis for the spaces spanned by the columns and rows, respectively, of matrix A. This leaves the user the liberty to choose the basis to take into consideration other questions such as amount of work needed and ill-conditioning of the matrix that has to be inverted. The formulas are particularized for rectangular matrices that have maximum rank and for the trivial case in which the original matrix is non-singular. Illustrative numerical examples are worked out for several choices of basis vectors and the results are compared with those provided by the program Mathematics through its function PseudoInverse[A].

Keywords: pseudo inverse, generalized inverse, least square solutions, linear vector spaces, orthogonal projections.

 

Resumen

En este artículo se deduce una familia de fórmulas simples para el cálculo de la seudo inversa de una matriz rectangular de rango menor que el máximo del número de filas y el número de columnas utilizando métodos de espacios vectoriales lineales. El resultado principal es que la seudo inversa A⁺ de una matriz A se puede calcular con la fórmula A⁺ = Q(P^TAQ)^-1P^T, donde P y Q son matrices rectangulares cuyas r columnas ( r es el rango de la matriz A) son vectores que forman una base para los espacios generados por las columnas y filas respectivamente de la matriz A. Esto le deja al usuario la libertad de escoger la base y tomar en consideración otras cuestiones como la cantidad de trabajo requerida y el mal condicionamiento de la matriz A. Las fórmulas se particularizan para matrices rectangulares que tienen máximo rango y para el caso trivial en que la matriz original es no-singular. Se presentan las soluciones de ejemplos numéricos ilustrativos para varias selecciones de vectores base, y los resultados se comparan con los que proporciona el programa Mathematica a través de su función PseudoInverse[A].

Palabras clave: seudo inversa, inversa generalizada, solución de mínimos cuadrados, espacios vectoriales lineales, proyecciones ortogonales.

 

DESCARGAR ARTÍCULO EN FORMATO PDF

 

6. BIBLIOGRAPHICAL REFERENCES

[1] Dahlquist, G. & A. Bjork (1974): Numerical Methods. Prentice - Hall, Inc., Englewood Cliffs, NJ.         [ Links ]

[2] Golub, G. H. & C. Reinsch (1971): "Singular Value Decomposition and Least Squares Solutions." Contribution 1/10 in Wilkinson, J. H. & C. Reinsch: Handbook for Automatic Computation. Volume II. Linear Algebra. Springer - Verlag, New York. pp. 134 - 151.         [ Links ]

[3] Noble, B. (1969): Applied Linear Algebra. Prentice - Hall, Inc., Englewood Cliffs, NJ.         [ Links ]

[4] Moore, E. H. (1920): "On the Reciprocal of the General Algebraic Matrix." Bulletin of the American Mathematical Society, Vol. 26, pp. 394 - 395.         [ Links ]

[5] Penrose, R. (1955): "A Generalized Inverse for Matrices." Proceedings of the Cambridge Philosophical Society, Vol. 51, pp. 406 - 413.         [ Links ]

[6] Lanczos, C. (1961): Linear Differential Operators. D. Van Nostrans Company Limited, Londres.         [ Links ]

[7] Zadeh, L. & C. Desoer (1963): Linear System Theory: The State Space Approach. Mc Graw -Hill Book Company, Inc., New York.         [ Links ]

[8] Wolfram, S. (1991): Mathematica: A System for Doing Mathematics by Computer. Second Edition. Addison - Wesley Publishing Company, Inc., Redwood City, CA.         [ Links ]