Sea $r$ la razón de la progresión geométrica. Entonces, digamos que $a=a$, $b=ar$ y $c=ar^2$. Como $a<b<c$, $r>1$. Ahora, observe que $a+ar+ar^2=35 \iff a(r^2+r+1)=35$. Como $a \in \ \mathbb{N}$, entonces $a=1, 5, 7, 35$.
Caso 1. $a=1$
Entonces nos queda que $r^2+r-34=0$, entonces usando chicharronera $$r=\frac{-1\pm \sqrt{1^2-(4)(1)(-34)}}{2(1)} \iff r=\frac{-1\pm \sqrt{137}}{2}$$ Pero esto haria que $b$ no sea natural
Caso 2. $a=5$, entonces $r^2+r+1=7 \iff r^2+r-6=0 \iff (r-2)(r+3)=0$, y como $r>1$, $r=2$. Esto nos da la terna $(5, 10, 20)$. Confirmando en la segunda ecuación: $$25+100+400=525$$
Caso 3. $a=7$. Entonces $r^2+r+1=5 \iff r^2+r-4=0$. Usando chicharronera se llega a que $r=\frac{-1\pm \sqrt{17}}{2}$, lo cual haria que $b$ no sea natural
Caso 4. $a=35$. Entonces $r^2+r+1=1 \iff r^2+r=0 \iff r(r+1)=0$, pero $r>1.$
La única terna que cumple es la $(5,10,20)$
Otra solucion porq la formula
Otra solucion porq la formula esa esta fea:
Igual se hace tomar cambiar $b = ar$ y $c=ar^2$, pero antes se puede elevar $(a+b+c)^2 = 35^2$ y eso simplifica a
$a^2+b^2+c^2+2(ab+bc+ac)=1225$ y de aqui sustuyes los valores de la segunda equacion dada.Despues de depejar $525$ y luego dividir ambos lados entre $2$ te deja $ab+bc+ac=350$ aqui es cuando sustuyes los valores de b y c: $a^2r+a^2r^3+a^2r^2=350$ sacas es $a^2$ $a^2(r+r^3+r^2)+350$ ahora usando los factores de $350$ ($2 \centerdot 5^2 \centerdot 7$) se puede notar que el unico cuadrado que puede dividir a $350$ es $5^2$ entonces $a=5$ de aqui sacas la $r$:
$r(1+r^2+r)=14$ y otra vez viendo los divisores de $14$ ($1,2,7,14$) o haciendo la talacha o con logica como la serie es creciente r es positivo entonces $r<r+r^2+1$ entonces $r=2$ porq 1 no alcanza para el 14, con esto sustuyes $a$ y $r$ y te da (5,10,20)