Решение
Рассмотрим подстановку \(x=\frac{1}{t}\). В принципе, нужно рассмотреть эту подстановку для двух случаев: \(t\gt{0}\) и \(t\lt{0}\), однако оба эти случая легко свести в одну запись с помощью функции знака \(\sgn{t}\). Для демонстрации ниже я разберу решение для двух случаев по отдельности: \(t\lt{0}\) и \(t\gt{0}\), однако пока что полагаем просто \(t\neq{0}\).
Так как \(dx=-\frac{dt}{t^2}\), то получим:
\[
\int\frac{dx}{x\sqrt{1+x^2}}
=\int\frac{-\frac{dt}{t^2}}{\frac{1}{t}\sqrt{1+\frac{1}{t^2}}}
=-\int\frac{dt}{t\cdot\frac{\sqrt{1+t^2}}{|t|}}
=-\sgn{t}\int\frac{dt}{\sqrt{t^2+1}}=\\
=-\int\frac{d(|t|)}{\sqrt{|t|^2+1}}
=-\ln\left||t|+\sqrt{|t|^2+1}\right|+C
=-\ln\left|\frac{1}{|x|}+\sqrt{\frac{1}{x^2}+1}\right|+C
=\ln\frac{|x|}{1+\sqrt{1+x^2}}+C
\]
Теперь рассмотрим случай применения подстановки \(x=\frac{1}{t}\) сначала для \(t\gt{0}\), а потом при \(t\lt{0}\). Итак, если \(t\gt{0}\), то получим:
\[
\int\frac{dx}{x\sqrt{1+x^2}}
=\left|\begin{aligned}& x=\frac{1}{t}.\\& dx=-\frac{dt}{t^2}.\end{aligned}\right|
=\int\frac{-\frac{dt}{t^2}}{\frac{1}{t}\sqrt{1+\frac{1}{t^2}}}
=-\int\frac{dt}{\sqrt{t^2+1}}=\\
=-\ln\left|t+\sqrt{t^2+1}\right|+C
=-\ln\left|\frac{1}{x}+\sqrt{\frac{1}{x^2}+1}\right|+C
=\ln\frac{x}{1+\sqrt{1+x^2}}+C
\]
Для случая \(t\lt{0}\) будем иметь:
\[
\ldots=\int\frac{-\frac{dt}{t^2}}{\frac{1}{t}\sqrt{1+\frac{1}{t^2}}}
=\int\frac{dt}{-t\sqrt{1+\frac{1}{t^2}}}
=\int\frac{dt}{\sqrt{t^2}\cdot\sqrt{1+\frac{1}{t^2}}}
=\int\frac{dt}{\sqrt{t^2+1}}=\\
=\ln\left|\frac{1}{x}+\sqrt{\frac{1}{x^2}+1}\right|+C
=\ln\left|\frac{1}{x}+\frac{\sqrt{1+x^2}}{|x|}\right|+C
=\ln\left|\frac{1}{x}-\frac{\sqrt{1+x^2}}{x}\right|+C=\\
=\ln\left|\frac{1}{x}-\frac{\sqrt{1+x^2}}{x}\right|+C
=\ln\left|\frac{1-\sqrt{1+x^2}}{x}\right|+C
=\ln\left|\frac{\left(1-\sqrt{1+x^2}\right)\cdot\left(1+\sqrt{1+x^2}\right)}{x\cdot\left(1+\sqrt{1+x^2}\right)}\right|+C=\\
=\ln\left|\frac{x^2}{x\cdot\left(1+\sqrt{1+x^2}\right)}\right|+C
=\ln\frac{|x|}{1+\sqrt{1+x^2}}+C
\]
Так как при \(x>0\) имеем \(|x|=x\), то оба ответа легко записать в один:
\[
\int\frac{dx}{x\sqrt{1+x^2}}
=\ln\frac{|x|}{1+\sqrt{1+x^2}}+C
\]
К слову, рассмотренная выше подстановка – не единственный вариант решения. Можно было положить \(t=\sqrt{x^2+1}\), тогда исходя из \(t^2=x^2+1\) получили бы \(xdx=tdt\).
\[
\int\frac{dx}{x\sqrt{1+x^2}}
=\int\frac{xdx}{x^2\sqrt{1+x^2}}
=\int\frac{dt}{t^2-1}
=\ldots
\]
Можно было использовать и подстановку \(x=\tg{t}\).