Primero observemos que cuando $a=b=c=0$ se tiene que $P(0)+P(0)+P(0)=2P(0)$, de donde se concluye que P(0)=0. De esto es claro que $P(x)$ no puede tener término de grado cero.
Ahora bien, cuando $b=c=0$ y $a$ variable, se tiene que
$$P(a-0)+P(0-0)+P(0-a)=2P(a+0+0),$$ es decir, $P(a)+P(- a)=2P(a)$, de donde se sigue que $P(a)=P(- a)$. Lo anterior significa que $P(x)$ debe de ser una función par, que en el caso de polinomios esto se traduce a que $P(x)$ sólo puede tener coeficiente no cero en los términos de grado par, i.e $$P(x)=a_2x^2+a_4x^4+ ... + a_{2n}x^{2n}.$$
Estudiemos que pasa cuando sustituimos $a=3x$, $b=6x$ y $c=-2x$ (que claramente satisface que $ab+bc+ca=0$),
$$P(-3x)+P(8x)+P(-5x)=2P(7x)$$
Lo cual significa que
$$(-3)^{2i}+(8)^{2i}+(-5)^{2i}=2(7)^{2i} \textrm{ para todo } 0<i<n$$
Dividiendo entre $7^{2i}$ se obtiene la siguiente igualdad,
$$(3/7)^{2i}+(5/7)^{2i}=2-(8/7)^{2i}$$
Esta última igualdad no se puede satisfacer para $i$'s muy grandes, pues el término de la izquierda siempre es positivo mientras que el término de la derecha puede ser negativo. De hecho, el término de la izquierda es decreciente y tiende a menos infinito cuando $i$ tiende a infinito, por lo que existe $i_0>0$ tal que el término de la derecha es negativo para todo $i >= i_0$.
No es muy difícil de calcular el número $i_0$, basta con ir aumentando los valores de $i_0$ sucesivamente hasta encontrar el valor que hace al término $2-(8/7)^{2i_0}$ negativo. El primero valor donde lo anterior sucede es $i_0=3$, pues
$2-(8/7)^6<0 \Longleftrightarrow 2*7^6<8^6 \Longleftrightarrow$ $2*(49)^3<(2^3)^6 \Longleftarrow 2*(50)^3<2^{18} \Longleftrightarrow $ $2^4*5^6< 2^{18} \Longleftrightarrow 5^6 < 2^{14} \Longleftrightarrow 5^3< 2^7 \Longleftrightarrow 125 < 128$
Entonces nuestro polinomio no puede tener términos de grado mayor o igual a 6, es decir, el polinomio debe tener la forma $P(x)=Ax^2+ Bx^4$.
Ahora bien, como cualquier combinación lineal de polinomios que satisfagan las condiciones del problema es solución, bastará checar que las funciones $x^2$ y $x^4$ satisfacen las condiciones para concluir que las soluciones, al sistema planteado en el problema, son los polinomios de la forma $P(x)=Ax^2+Bx^4$.
Sean $a$, $b$ y $c$ tres números reales cuales quiera, entonces
$(a-b)^2+(b-c)^2+(c-a)^2=$ $(a^2-2ab+b^2)+(b^2-2bc+c^2)+(c^2-2ca+a^2)=$ $2(a^2+b^2+c^2)-2(ab+bc+ca)=$ $2(a^2+b^2+c^2+2ab+2bc+2ca)-6(ab+bc+ca)=$ $2(a+b+c)^2-6(ab+bc+ca)$
Entonces, cuando $ab+bc+ca=0$ se obtiene lo deseado.
Realizaremos un procedimiento muy similar al caso anterior, sólo que aquí las operaciones serán mucho más complicadas.
$(a-b)^4+(b-c)^4+(c-a)^4=$ $(a^4-4a^3b+6a^2b^2-4ab^3+b^4)+(b^4-4b^3c+6b^2c^2-4bc^3+c^4)$ $+(c^4-4c^3a+6c^2a^2-4ca^3+a^4)=$
Mientras que,
$2(a+b+c)^4=$
De la resta resulta que
$(a-b)^4+(b-c)^4+(c-a)^4-2(a+b+c)^4=$
-
$-12(a^3b+ab^3+b^3c+bc^3+c^3a+ca^3)$
-
$-6(a^2b^2+b^2c^2+c^2a^2)$
-
$-24(a^2bc+ab^2c+abc^2)$.
Que es igual a,
$-6(ab+bc+ca)((ab+bc+ca)+2(a^2+b^2+c^2))$
De donde se concluye lo deseado.
