Метод Гаусса относится к прямым (точным) методам и основан на приведении системы уравнений (расширенной матрицы коэффициентов) к треугольному (или диагональному) виду. Такое приведение достигается сложением и вычитанием уравнений системы (строк расширенной матрицы) после их умножения на соответствующие постоянные множители.

Алгоритм метода состоит из двух этапов. На первом этапе (прямой ход метода) происходит последовательное исключение неизвестных из уравнения, начиная с x₁.

Из первого уравнения системы выражаем неизвестное x₁:

что возможно при a₁₁≠0, в противном случае надо осуществить перестановку уравнений системы. Согласно этой формуле необходимо каждый элемент первой строки расширенной матрицы системы поделить на диагональный элемент

Затем подставляем это выражение во все остальные уравнения системы, тем самым исключаем x₁ из всех уравнений, кроме первого. Элементы расширенной матрицы преобразуются по формулам

В результате исключения первого неизвестного x₁ из всех уравнений все элементы первого столбца преобразованной матрицы будут равны нулю, кроме

Неизвестное x₂ выразим из второго уравнения системы и исключим из остальных уравнений и т.д. в результате получим систему с верхней треугольной матрицей, у которой все элементы ниже главной диагонали равны нулю.

В общем виде выражения для неизвестных x_k и преобразования элементов расширенной матрицы системы имеют вид:

Второй этап решения системы линейных уравнений называется обратным ходом метода Гаусса и состоит в последовательном определении неизвестных x_k по приведенной выше формуле, начиная с неизвестного x_n и заканчивая x₁.

Точность результатов определяется точностью проведения арифметических операций при преобразовании матрицы. Для уменьшения погрешности при делении на диагональный элемент рекомендуется осуществить такую перестановку уравнений, чтобы поставить на диагональ наибольший по модулю из всех элементов рассматриваемого столбца. Такая процедура называется выбором главного элемента.