Tutte le matrici quadrate con determinante diverso da zero sono invertibili. Se tuttavia una matrice ha un determinante vicino a zero, la fattorizzazione LU diventa instabile. Se la matrice è quella seguente, l'inversione della matrice può generare un errore oppure fornire risultati che non rappresentano una matrice inversa autentica. In altre parole, y · y-1 potrebbe non essere uguale alla matrice identità.
• Singolare - La matrice ha determinante uguale a zero o rango incompleto (le righe o le colonne della matrice non sono linearmente indipendenti).
• Imperfettamente condizionata - La matrice ha un numero di condizioni elevato, dato dal rapporto tra il massimo e il minimo autovalore assoluto. Per calcolare il numero di condizioni della matrice, è possibile utilizzare la funzione cond2.
Quando l'inversione della matrice ha esito negativo, è possibile utilizzare la funzione geninv. Se i risultati restituiti non sono validi, nel gruppo Impostazioni foglio di lavoro della scheda Calcolo fare clic su Opzioni calcolo e selezionare Controllo singolarità esatta. Viene quindi utilizzato un algoritmo più lento che rifiuta le matrici quasi singolari e restituisce un errore.
PTC Mathcad utilizza le librerie BLAS/LAPACK di Intel per la fattorizzazione LU.