Самое короткое рассуждение, с лучшей оценкой, это разложить Вашу функцию в ряд Фурье по синусам (возьмите a=0) и написать оценку для каждой составляющей.

Серьезные люди серьезно обсуждают тему, а я в формулировку врубиться не могу:
Рассматривается интеграл: $\int_a^b{((h')^2-k*h^2)\,dx}$, в котором $h'$ - это производная некоторой функции $h$.
Требуется доказать, что при всех достаточно больших значениях постоянной $k$ этот интеграл положителен? (У ТС написано: "если взять любое k>k0=2/(b-a)^2")

Помилуй Боже, мне-то кажется, что это должно относиться ко всем достаточно маленьким $k$, или я совсем свихнулся?