Приветствую! Если имеется в виду общий случай (произвольные значения коэффициентов), то эта система эувивалентна кубическому уравнению, т. е.:
1. решение системы сводится к решению кубического уравнения;
2. любое кубическое уравнение может быть приведено к системе такого вида (даже к ее вырожденному варианту с крэффициентами
$ k_{1,1}=k_{22,1}=k_{0,2}=k_{12,2}=0; k_{12,1}=k_{22,2}=-k_{1,2}=1 $)

Цитата
altctrldel
Увы, я даже близко не представляю как систему из двух уравнений со вторыми степенями свести к одному с третьей. Хоть намекните, где и как про это искать?
И, да, значений коэффициентов произвольны.

Вы же хотели аналитическое решение, а уравнения третьей степени не решаются аналитически (ну, практически не решаются, исключая некоторые простые случаи, поддающиеся формуле Кардано)
Свести просто: выразите из первого уравнения x и подставьте во второе.