Системы, содержащие уравнения второй и более высоких степеней, дробные или иррациональные выражения, называют системами нелинейных уравнений. Их, как и линейные, решают подстановкой (выражаем одну переменную из одного уравнения и подставляем в другое) и алгебраическим сложением (складываем или вычитаем уравнения, чтобы получить уравнение с одной переменной или более простое).
Пример. x² - y² = 184, ; x - y = 4: x² - y² = (x - y)(x + y), поэтому x + y = 46, x = 25, y = 21.
Пример. x² + xy = -1, ; 2x - xy = 0: сложим: x² + 2x + 1 = 0, x = -1, тогда y = 2.
В отличие от линейных, система нелинейных уравнений может иметь два, три, четыре и больше решений; при преобразованиях важно не потерять решения: разложение на множители даёт совокупность систем — решают каждую, а при делении на выражение, которое может быть нулём, пропадают решения, при которых оно равно нулю.