По условию $f(y) \ge (f(y+1))^2 \ge 0$ для любого $y$, поэтому все значения функции неотрицательны.

Пусть теперь $f(x_0) = 1 + a > 1$ для некоторого $x_0$. Доказем индукцией по $n$, что для любого $y < x_0$ верно неравенство $f(y) > 1 + 2^n a$.

При $n = 1$ имеем $f(y) \ge (f(x_0))^2 = 1 + 2a + a^2 > 1 + 2a$.

Для перехода от $n$ к $n+1$ заметим, что $y < \frac{x_0+y}{2} < x_0$, и поэтому $f(\frac{x_0+y}{2}) > 1 + 2^n a$ по предположению индукции. А тогда

$$f(y) \ge \left(f\left(\frac{x_0+y}{2}\right)\right)^2 = 1 + 2^{n+1}a + (2^n a)^2 > 1 + 2^{n+1}a,$$
что и требовалось.

Итак, для любого фиксированного $y < x_0$ имеем $f(y) > 1 + 2^n a$ при любом натуральном $n$. Но это невозможно, так как существует $n$, при котором $2^n > \frac{f(y)-1}{a}$. Стало быть, $f(x) \le 1$ при всех $x$.