Пусть фиксирован оператор A, тогда рассмотрим его резольвенту: оператор
R(\lambda) = (A - \lambda I) ^ {-1}.
По определению те \lambda, для которых резольвента существует, и принадлежат спектру.
Заметим, что резольвента не обращается в нуль ни при каком \lambda (*)
Предположим, что спектр пуст, т.е. резольвента существует для всякого \lambda.
Этого, однако, быть не может. Чтобы показать это, необходимо резольвенту разложить в ряд по степеням \lambda (ряд Неймана, кажется):
R(\lambda) = \sum{k \geq 0} \lambda^{-k} A^{-k-1}
(это разложение в окрестности бесконечности, A^{-1} существует по предположению).
Поскольку этот ряд сходится при \lambda бесконечном, то следовательно он задает функцию от оператора, голоморфную на всей комплексной сфере. По теореме Лиувилля эта фукнция постоянна. Но на бесконечности она равна нулевому оператору, что противоречит (*).
Вот такое доказательство было у нас в функане на 3 курсе, может я чего и напутал, давно это было...