Нужно правильно записывать формулы:
y_{n+1}=a-\sqrt{(f(y_n)}, а по правилам Форума нужно ее вставить в теги (math]y_{n+1}=a-\sqrt{(f(y_n)}(\math] - здесь первая круглая скобка должна быть открывающей квадратной, но я ее заменил круглой, чтобы машина не думала, что это формула. Т.к. иначе это будет выглядеть так:
$y_{n+1}=a-\sqrt{(f(y_n)}$Если здесь Вы увидели красивую формулу - все в порядке, если нет, то установите программу MathPlayer, скачать ее можно на вкладке вверху "Про ТеХ".
А зачем функцию вынимать из-под корня? Если Вы доказали, что последовательность сходится, то обозначаете ее предел буквой
$х$ и переходите к пределу в записанном Вами реккурентном соотношении, если функция
$f(x)$ непрерывна. Получите уравнение:
$х=a-\sqrt{(f(х)}$ и его решаете. Возможно, что вы используете обычный прием для избавления от корня - возведение в квадрат.