Utilicemos la sustitución $\,x^2=t\,$ en la ecuación:

$$\begin{eqnarray*}\simplify[std]{x^4-{a^2+b^2}x^2+{(a*b)^2}}&=&{0}\end{eqnarray*}$$

Nos queda:

$$\begin{eqnarray*}\simplify[std]{t^2-{a^2+b^2}t+{(a*b)^2}}&=&{0}\end{eqnarray*}$$

Esta ecuación la podemos resolver factorizando.

$$\begin{align} (\simplify{t-{a^2}})(\simplify{t-{b^2}})&=\,{0} \end{align}$$

$$\simplify{(t-{a^2}={0})} \,\,\,\,;\,\,\, \simplify{(t-{b^2}={0})}$$

$$\simplify{(t={a^2})} \,\,\,\,;\,\,\, \simplify{(t={b^2})}$$

Ahora nos devolvemos con la sustitución $\,x^2=t\,$, de modo de encontrar los valores de la variable $x$:

$$\simplify{(x^2={a^2})} \,\,\,\,;\,\,\, \simplify{(x^2={b^2})}$$

Estas ecuaciones las podemos resolver nuevamente factorizando:

$$\simplify{(x^2-{a^2}={0})} \,\,\,\,;\,\,\, \simplify{(x^2-{b^2}={0})}$$

$$\begin{align} (\simplify{x-{a}})(\simplify{x+{a}})&=\,{0}\,\,\,\,;\,\,\,(\simplify{x-{b}})(\simplify{x+{b}})=\,{0} \end{align}$$

$$\begin{align} \simplify{(x={a})} \,\,\,\,;\,\,\, \simplify{x={-a}}\,\,\,\,;\,\,\,\simplify{(x={b})} \,\,\,\,;\,\,\, \simplify{x={-b}} \end{align}$$

Finalmente ordenamos las soluciones de menor a mayor como lo pide el enunciado:

$$\begin{align} \simplify{(x_1={-b})} \,\,\,\,;\,\,\, \simplify{x_2={-a}}\,\,\,\,;\,\,\,\simplify{(x_3={a})} \,\,\,\,;\,\,\, \simplify{x_4={b}} \end{align}$$