Решение
Первый способ
Предварительно, чтобы не отвлекаться в дальнейшем решении, рассмотрим один интеграл:
\[
\int\sqrt{z^2+4}dz
=\left[\begin{aligned}
& u=\sqrt{z^2+4};\;du=\frac{zdz}{\sqrt{z^2+4}};\\
& dv=dz;\;v=z.
\end{aligned}\right]
=z\sqrt{z^2+4}-\int\frac{z^2dz}{\sqrt{z^2+4}}=\\
=z\sqrt{z^2+4}-\int\frac{z^2+4-4}{\sqrt{z^2+4}}dz
=z\sqrt{z^2+4}-\int\left(\sqrt{z^2+4}-\frac{4}{\sqrt{z^2+4}}\right)dz=\\
=z\sqrt{z^2+4}-\int\sqrt{z^2+4}dz+4\int\frac{dz}{\sqrt{z^2+4}}.
\]
\[
\int\sqrt{z^2+4}dz
=\frac{z}{2}\sqrt{z^2+4}+2\int\frac{dz}{\sqrt{z^2+4}}
\]
Вычислять до конца данный интеграл нет необходимости. Возвращаясь к исходному интегралу, получим:
\[
\int\frac{\left(2x^2-3x\right)dx}{\sqrt{x^2-2x+5}}
=\int\frac{\left(2x^2-3x\right)dx}{\sqrt{(x-1)^2+4}}
=\left[\begin{aligned}
& z=x-1;\\
& dz=dx.
\end{aligned}\right]
=\int\frac{2(z+1)^2-3(z+1)}{\sqrt{z^2+4}}dz=\\
=\int\frac{2z^2+z-1}{\sqrt{z^2+4}}dz
=\int\frac{2\left(z^2+4\right)+z-9}{\sqrt{z^2+4}}dz
=2\int\sqrt{z^2+4}dz+\int\frac{zdz}{\sqrt{z^2+4}}-9\int\frac{dz}{\sqrt{z^2+4}}=\\
=z\sqrt{z^2+4}+\int\frac{zdz}{\sqrt{z^2+4}}-5\int\frac{dz}{\sqrt{z^2+4}}
=z\sqrt{z^2+4}+\frac{1}{2}\int\left(z^2+4\right)^{-\frac{1}{2}}d\left(z^2+4\right)-5\int\frac{dz}{\sqrt{z^2+4}}=\\
=z\sqrt{z^2+4}+\sqrt{z^2+4}-5\ln\left(z+\sqrt{z^2+4}\right)+C
=x\sqrt{x^2-2x+5}-5\ln\left(x-1+\sqrt{x^2-2x+5}\right)+C.
\]
Второй способ
Этот способ основан на формуле, обоснование которой можно найти в книге Фихтенгольца "Курс дифференциального и интегрального исчисления" (том №2, пункт №284):
\[
\int\frac{P_n(x)}{\sqrt{ax^2+bx+c}}dx
=Q_{n-1}(x)\sqrt{ax^2+bx+c}+\lambda\int\frac{dx}{\sqrt{ax^2+bx+c}}
\]
Здесь \(P_n(x)\) – многочлен n-го порядка, а \(Q_{n-1}(x)\) – многочлен n-1-го порядка. Для заданного интеграла данная формула примет такой вид:
\[
\int\frac{\left(2x^2-3x\right)dx}{\sqrt{x^2-2x+5}}
=(ax+b)\sqrt{x^2-2x+5}+\lambda\int\frac{dx}{\sqrt{x^2-2x+5}}
\]
Дифференцируя обе части этого равенства, получим:
\[
\frac{2x^2-3x}{\sqrt{x^2-2x+5}}
=a\sqrt{x^2-2x+5}+(ax+b)\cdot\frac{x-1}{\sqrt{x^2-2x+5}}+\frac{\lambda}{\sqrt{x^2-2x+5}};\\
2x^2-3x=a\left(x^2-2x+5\right)+(ax+b)\cdot(x-1)+\lambda;\\
2x^2-3x=2a\cdot{x^2}+(b-3a)\cdot{x}+5a-b+\lambda.
\]
\[
\left\{\begin{aligned}
& 2a=2;\\
& b-3a=-3;\\
& 5a-b+k=0.
\end{aligned}\right.
\]
Решая данную систему, получим \(a=1\), \(b=0\), \(\lambda=-5\). Подставляя найденные значения, будем иметь:
\[
\int\frac{\left(2x^2-3x\right)dx}{\sqrt{x^2-2x+5}}
=x\sqrt{x^2-2x+5}-5\int\frac{dx}{\sqrt{x^2-2x+5}}=\\
=x\sqrt{x^2-2x+5}-5\int\frac{d(x-1)}{\sqrt{(x-1)^2+4}}
=x\sqrt{x^2-2x+5}-5\ln\left(x-1+\sqrt{x^2-2x+5}\right)+C.
\]