Virker som du har glemt hvordan en subtitusjon i flervariabler fungerer, og bare har pugget regler.
Anbefaler deg å lese deg opp på "Jacobian Matrix" og "Jacobian Determinant". Burde stå under
kapitellet om substitusjon. Se for eksempel
http://www.mecmath.net/calc3book.pdf side 119, theorem 3.1.
Anta at $x = x(u,v)$ og $y = y(u,v)$, da er
$ \hspace{1cm}
\iint f(x,y) \mathrm{d}x \mathrm{d}y
= \iint f(x(u,v),y(u,v))
\begin{vmatrix} {\partial x\over\partial u} & {\partial x\over \partial v} \\
{\partial y\over \partial u} & {\partial y\over \partial v}
\end{vmatrix} \mathrm{d}u\,\mathrm{d}v
$
Hvor $| ... |$ betegner determinanten. Ved å sette inn og regne ut vil du få det samme som løsningsforslaget sier.
Det er KUN når du setter $x = r \cos \phi$ og $y = r \sin \phi$ at $\mathrm{d}x\,\mathrm{d}y = r\,\mathrm{d}r\,\mathrm{d}\phi$. Eg
$
J(r,\phi)
=
\begin{vmatrix}
{\partial x\over\partial r} & {\partial x\over \partial\phi} \\
{\partial y\over \partial r} & {\partial y\over \partial\phi}
\end{vmatrix}
=
\begin{vmatrix}
{\partial (r\cos\phi)\over \partial r} & {\partial (r\cos\phi)\over \partial \phi} \\
{\partial(r\sin\phi)\over \partial r} & {\partial (r\sin\phi)\over \partial\phi}
\end{vmatrix}
=
\begin{vmatrix}
\cos\phi & - r\sin\phi \\
\sin\phi & \phantom{-} r\cos\phi
\end{vmatrix}
= r \cos^2 \phi + r \sin^2 \phi = r
$
Du kan gjøre samme regning som ovenfor nå med $x = a r \cos \phi$ og $y = b r \sin \phi$ og se hva du får. Jeg får det samme som fasit.