Во первых нельзя юзать рекурсию , если у тебя сложность алгоритма нелинейная - утебя машина захлебнеться, если матрица будет больше чем 150, на 150. Тем более под делфи - там вообще наверное копеешные ресурсы.
Полностью согласен Aag - я бы использовал метод Холесского, Ну или если проще - то метод гаусса, с выбором главного элемента по столбцу или по мтрице. А если писать на чем нить типа джавы - там лучше использовать метод ЛУ факторицации(ну и холееского конечно) - тк в виртуальной джава машине реализована аппаратное скалярное накопление - не будет впустую гонять. А холесский- его надо боьше оптимизировать.