Ответ. k=[n/2].
Лемма. Для любых точек Ai=(xi,yi) (1≤i≤n) на плоскости, никакие три из которых не лежат на одной прямой, найдётся такой многочлен P(x,y) степени не больше [n/2], что P(xn,yn)=1 и P(xi,yi)=0 при i=1,…,n−1.
Доказательство. Заметим, что существуют такие d=[n/2] прямых, что точка An не лежит ни на одной из них, а каждая из точек A1,…,An−1 лежит хотя бы на одной (при нечётном n это прямые A1A2,A3A4,…,An−2An−1, а при чётном n — прямые A1A2,A3A4,…,An−3An−2,An−2An−1). Пусть kix+ℓiy+mi=0 — уравнение i-й прямой (i=1,…,d). Тогда многочлен
Q(x,y)=(k1xn+ℓ1yn+m1)…(kdxn+ℓdyn+md)(k1x+ℓ1y+m1)…(kdx+ℓdy+md)
является искомым. □
Покажем, что число k=[n/2] подходит. При каждом i=1,…,n найдём согласно лемме многочлен Pi(x,y), обращающийся в ноль во всех точках A1,…,An, кроме Ai, причём Pi(xi,yi)=1. Тогда многочлен P(x)=c1P1(x,y)+⋯+cnPn(x,y) принимает требуемые значения во всех точках A1,…,An.
Осталось показать, что при k<[n/2] утверждение неверно. Рассмотрим точки Ai(i,i2) (i=1,…,n), лежащие на параболе y=x2, и положим c1=⋯=cn−1=0, cn=1. Поскольку парабола пересекается с прямой не более, чем по двум точкам, точки Ai удовлетворяют условию. Предположим, что существует многочлен P(x,y) степени, не превосходящей k, для которого P(xi,yi)=ci. Положим Q(x)=P(x,x2); тогда степень Q(x) не превосходит 2k. По нашему предположению, Q(1)=Q(2)=⋯=Q(n−1)=0 и Q(n)=1. Таким образом, ненулевой многочлен Q(x) имеет n−1 корень, то есть его степень не меньше n−1; тогда и 2k≥n−1. Это и значит, что k≥[n/2].