Na začiatok si všimnime, že v úlohe máme tri písmenká $k$, $m$, $s$, o ktorých vieme, že tvoria aritmetickú postupnosť. Aritmetická postupnosť je však jednoznačne určená nejakým svojím členom a diferenciou, čím by sme si vedeli znížiť počet neznámych z troch na dve. Ďalšie zaujímavé pozorovanie je, že $k$ a $s$ sú rovnako vzdialené od $m$ a keby sme ich vymenili v druhej podmienke, nič sa nezmení. Čo znamená, že nám môže pomôcť, keď si túto aritmetickú postupnosť určíme práve jej stredným členom $m$, pretože sa potom niektoré členy môžu jednoduchšie vykrátiť.

Nech teda čísla zo zadania tvoria aritmetickú postupnosť s diferenciou $d = m-k = s-m > 0$. Potom si $k$ a $s$ vzhľadom na $m$ vieme vyjadriť ako $k=m-d$ a $s=m+d$. Poďme sa pozrieť, čo sa nám následne stane s druhou podmienkou: $$\begin{aligned} k^2+m^2+s^2 &= m(m-k)(s-m)\text,\nonumber\ (m-d)^2+m^2+(m+d)^2 &= mdd\text,\nonumber\ m^2-2md+d^2+m^2+m^2+2md+d^2 &= md^2\text,\nonumber\ 3m^2 &= md^2-2d^2\text,\nonumber\ \frac{3m^2}{m-2} &= d^2 \qquad (1) \text,\end{aligned}$$ tu v poslednom kroku delíme výrazom $m-2$, takže nesmie byť $0$. Pre $m=2$ však nedostaneme žiadne riešenie rovnice.

Pozrime sa ďalej na najväčšieho spoločného deliteľa čísel $m^2$ a $m-2$ - to je najväčšie také celé číslo, že aj $m^2$ aj $m-2$ sú oba násobkom tohto čísla. Označme si ho $p$. Potom ale existujú čísla $a,\ b$ také, že $m^2=pa$ a $m-2=pb$, kde $a,\ b$ sú nesúdeliteľné (tzn. nemajú žiadneho spoločného deliteľa). Teraz by sme sa radi dozvedeli niečo o čísle $p$. Všimnime si, že ak zoberieme nejaký násobok $m^2$ a pripočítame k nemu (resp. od neho odpočítame) nejaký násobok $m-2$, tak keďže obe čísla $m^2$ aj $m-2$ sú deliteľné $p$, musí byť deliteľný $p$ aj výsledný súčet (resp. rozdiel). Zjavne nám takýto postup dá pomerne veľa informácie, ak nájdeme konštantu nezávislú od $m$, ktorá je deliteľná $p$. Hľadáme teda také čísla $x,\ y\in\mathbb Z$, že $$xm^2 + y(m-2)$$ je konštanta vzhľadom na $m$. Tu si však môžeme spomenúť na vzorec na rozdiel štvorcov, vďaka ktorému $(m-2)(m+2)=m^2-4$. Keď teda zvolíme $x=1$ a $y=-(m+2)$, dostaneme: $$4 = m^2 - (m-2)(m+2) = pa - pb(m+2) = p[a-b(m+2)]\text,$$ z čoho máme, že $p\mid4$¹, a teda najväčší spoločný deliteľ $m^2$ a $m-2$ je $1$, $2$ alebo $4$.

Dosadením $m^2=pa$ a $m-2=pb$ do rovnice (1) dostaneme $$d^2 = \frac{3m^2}{m-2}=\frac{3pa}{pb}=\frac{3a}{b}\text.$$ No a keďže $d^2$ je celé číslo, musí byť celé číslo aj zlomok na pravej strane. Nakoľko sú však $a,\ b$ nesúdeliteľné, vytvára nám to podmienku $b\mid3$, čo však vieme zapísať aj tak, že existuje celé číslo $l$ také, že $bl=3$. Dosadením $$b=\frac{m-2}{p}$$ z toho vieme dostať $$\frac{(m-2)l}{p}=3$$ a následne $(m-2)l=3p$, z čoho vidíme, že $m-2\mid3p$. Pre $p\in{1,2,4}$ z toho dostávame postupne podmienky $m-2\mid3,\ m-2\mid6,\ m-2\mid12$. Delitele trojky sú však aj deliteľmi dvanástky a analogicky delitele šestky sú aj deliteľmi dvanástky, preto stačí preskúmať $m-2\mid12$. Zjavne stačí preskúmať kladné delitele, pretože pre záporné delitele by bol menovateľ zlomku na ľavej strane (1) záporný. Potom by bol celý zlomok záporný a nemohli by sme ho odmocniť.

Ako vidíme, jediné celočíselné riešenia sú $(m,\ d)\in{(5,\ 5),\ (14,\ 7)}$, a teda $(k,\ m,\ s)\in{(0,\ 5,\ 10),\ (7,\ 14,\ 21)}$.

Poznámka: Skúsený riešiteľ si z (1) môže všimnúť, že $m-2$ má tvar $3\cdot n^2$, pre nejaké prirodzené číslo $n$. Preto pri overovaní deliteľov $12$ stačí overiť len tie, ktoré majú požadovaný tvar: $3\cdot 1$, $3\cdot 2^2=12$.