13. 역함수 정리(Inverse Function Theorem)와 역삼각함수의 미분

우리는 이번 글에서 역삼각함수의 도함수를 구해 볼 건데, 사실 우리는 역삼각함수가 미분한지조차 확인을 해보지 않았다. 물론 전 글에 나온 역삼각함수의 그래프를 보면 직관적으로는 당연히 미분가능해 보이지만, 이를 엄밀하게 증명하는 것까지가 수학이 하는 일이다. 이번 글에서 살펴볼 정리는 역삼각함수가 미분가능하다는 것을 알려 주며, 그 도함수를 어떻게 계산할 수 있는지까지 알려 준다.

역함수 정리

진술

역함수 정리(inverse function theorem)는 미분가능한 함수의 역함수는 웬만하면(미분계수가 0이 되는 지점을 빼면) 미분가능하다는 것을 알려 주고, 그 도함수는 원래 함수의 도함수의 역수임을 알려 준다.

\(a\) 근처에서 정의된 일대일함수 \(f(x)\)에 대해, \(f\)가 \(a\)에서 미분가능하고 \(f'(a)\neq0\)이면

  1. \(f\)의 역함수 \(f^{-1}\)는 \(b:=f(a)\)에서 미분가능하다.
  2. \(\displaystyle (f^{-1})'(b)=\frac{1}{f'(a)}\)이다.

\(y=f(x)\)의 그래프를 직선 \(y=x\)에 대칭시킨 게 \(y=f^{-1}(x)\)의 그래프이므로, \(y=f^{-1}(x)\)의 그래프 위의 점 \((b, a)\)에서의 접선은 \(y=f(x)\)의 그래프 위의 점 \((a, b)\)에서의 접선을 \(y=x\)에 대칭시킨 게 될 것이다. 따라서 아래 그림과 같이 그 접선의 기울기는 원래 접선의 기울기의 역수가 될 것이라고 직관적으로 이해할 수 있다.

\(y=f(x)\)의 그래프 위의 점 \(a, b)\)에서의 접선과 \(y=f^{-1}(x)\)의 그래프 위의 점 \((b, a)\)에서의 접선. 직관적으로 전자의 기울기와 후자의 기울기는 역수가 될 것임을 알 수 있다.

\(y=f(x)\)라고 하면 \(x=f^{-1}(y)\)와 같이 쓸 수 있으므로 \(\displaystyle f'(a)=\left.\frac{dy}{dx}\right|_{x=a}\)이고 \(\displaystyle(f^{-1})'(b)=\left.\frac{dx}{dy}\right|_{y=b}\)가 되고, 따라서 위 정리를 아래와 같이 쓸 수도 있다.

$$ \frac{dx}{dy}=\frac{1}{\frac{dy}{dx}} $$

증명

보조정리

역함수 정리를 증명하기 위해서는 다음 정리가 필요하다.

\(a\) 근처에서 정의된 일대일함수 \(f(x)\)에 대해, \(f\)가 \(a\)에서 연속이면 그 역함수 \(f^{-1}\)는 \(b:=f(a)\)에서 연속이다.

즉 \(f\)가 연속이면 \(f^{-1}\)도 연속이는 정리인데… \(f\)의 그래프가 중간에 끊기지 않는다면, \(f^{-1}\)의 그래프는 \(f\)의 것을 \(y=x\)에 대해 대칭시킨 것이기 때문에, \(f^{-1}\)의 그래프도 끊기지 않는 곡선이 될 것이므로 직관적으로 이해는 가능하다. 문제는 증명인데, 정리 진술 자체는 굉장히 간단해 보이지만 그 증명은 엡실론-델타 논법을 이용해서 하는 것으로 생각보다 까다롭고 복잡하다. 따라서 이 글에서는 이 정리를 직관적으로만 이해하도록 할 것이다.

증명

\((f^{-1})'(b)\)를 구하기 위해 미분계수의 정의를 써 보면

$$ (f^{-1})'(b)=\lim_{y\rightarrow b}\frac{f^{-1}(y)-f^{-1}(b)}{y-b} $$

가 된다. 여기서 \(x=f^{-1}(y)\)라고 하면 \(y=f(x)\)이고, \(b=f(a)\)이므로 \(a=f^{-1}(b)\)이다. 이를 대입해 주면

$$ (f^{-1})'(b)=\lim_{y\rightarrow b}\frac{x-a}{f(x)-f(a)}\tag{1} $$

가 된다. 이때 \(f\)가 \(a\)에서 미분가능이므로 연속이고, 보조정리에 의해 \(f^{-1}\)는 \(b\)에서 연속이 된다. 따라서 \(y\rightarrow b\)일 때 \(f^{-1}(y)\rightarrow f^{-1}(b)\), 즉 \(x\rightarrow a\)이다. 따라서 (1)에서

$$ (f^{-1})'(b)=\lim_{x\rightarrow a}\frac{x-a}{f(x)-f(a)}\tag{2} $$

가 된다. 이때 \(x\rightarrow a\)라는 것은 \(x\neq a\)인 상황에서 \(x\)가 \(a\)에 다가가는 상황이기 때문에 \(x\neq a\)를 가정할 수 있고, \(f\)는 일대일함수이므로 \(x\rightarrow a\)일 때 \(f(x)\neq f(a)\)이다. 따라서 (2)의 우변은 잘 정의되고, 미분계수 \(f'(a)\)의 정의와 극한의 성질을 이용해 아래와 같이 구해줄 수 있다.

$$ \begin{align}(f^{-1})'(b)&=\lim_{x\rightarrow a}\frac{x-a}{f(x)-f(a)}\\&=\lim_{x\rightarrow a}\frac{1}{[f(x)-f(a)]/[x-a]}=\frac{1}{f'(a)}\end{align} $$

이때 가정 \(f'(a)\neq0\)에 의해 마지막 식이 잘 정의된다.

여담: 가정 \(f'(a)\neq0\)의 필요성

역함수 정의를 사용하려면 미분계수 \(f'(a)\)가 0이 아니라는 조건이 필요하다. 이 조건이 없어지면 원래 함수가 미분가능이어도 역함수가 미분가능하지 않아질 수 있게 되는데, 그 대표적인 예시가 바로 아래의 함수이다.

$$ f(x)=x^3 $$

\(f(x)\)는 \(x=0\)에서 미분가능하며, \(f(0)=f'(0)=0\)이다. 하지만 \(f\)의 역함수

$$ f^{-1}(x)=\sqrt[3]{x} $$

는 \(x=f(0)=0\)에서 미분가능하지 않다. 아래와 같은 과정을 거쳐 계산해보면 미분계수가 무한대로 발산하여 존재하지 않는다는 사실을 알 수 있을 것이다.

$$ (f^{-1})'(0)=\lim_{x\rightarrow0}\frac{\sqrt[3]{x}-\sqrt[3]{0}}{x-0}=\lim_{x\rightarrow0}\frac{1}{\sqrt[3]{x^2}}=\infty $$

실제로 \(y=\sqrt[3]{x}\)의 그래프 위의 점 \((0, 0)\)에서의 접선은 수직선(\(y\)축)이다.

\(y=\sqrt[3]{x}\)의 그래프와 \((0, 0)\)에서의 접선. 접선은 수직선으로, \(x=0\)에서 \(\sqrt[3]{x}\)의 미분계수는 존재하지 않는다.

즉 접선의 기울기가 0이면 역함수의 접선은 수직선이 되므로 해당 점에서 미분계수가 존재하지 않아

역삼각함수의 미분

삼각함수는 모두 정의역에서 미분가능하므로 미분계수가 0이 되지만 않는다면 역함수 정리에 의해 역삼각함수도 미분가능하다. 역사인함수, 역코사인함수, 역탄젠트함수의 도함수를 구해 보자. 이들의 도함수는 역함수 정리에 나온 식 \(\displaystyle (f^{-1})'(b)=\frac{1}{f'(a)}\)를 이용해서도 구할 수 있으나, 이를 이용하면 그 과정이 복잡하고 헷갈릴 수 있다. 따라서 이 글에서는 음함수의 미분법을 이용해서 역삼각함수의 도함수를 구해볼 것이다.

역사인함수

우리는 다음 함수의 도함수를 구하고 싶다.

$$ y=\sin^{-1}x $$

역사인함수의 정의에 의해 다음이 성립한다.

$$ x=\sin y, \qquad -\frac{\pi}{2}\leq y\leq\frac{\pi}{2}\tag{3} $$

이 상태에서 양변은 \(x\)로 미분하면

$$ 1=\cos y\cdot y’\Longrightarrow y’=\frac{1}{\cos y} $$

여기서 \(\cos y\)를 \(x\)에 관한 식으로 바꾸어줘야 하는데… \(x=\sin y\)임을 이용해보자. 우선 제곱 관계에 의해

$$ \sin^2y+\cos^2y=1\Longrightarrow \cos y=\pm\sqrt{1-\sin^2y}\tag{4} $$

인데, 이때 (3)에 의해 \(\cos y\geq0\)이므로 (4)에서 (+)가 선택되고, 따라서

$$ y’=\frac{1}{\cos y}=\frac{1}{\sqrt{1-\sin^2y}}=\frac{1}{\sqrt{1-x^2}} $$

이다.

미분가능한 점

위에서 구한 역사인함수의 도함수

$$ \frac{d}{dx}\sin^{-1}x=\frac{1}{\sqrt{1-x^2}} $$

의 정의역은 \((-1, 1)\)인데, 이는 역사인함수의 정의역과 그래프를 통해서도 알 수 있다.

\(y=\sin^{-1}x\)의 그래프. 정의역을 제한시킨 사인함수의 그래프를 \(y=x\)에 대해 대칭시킨 것과 같다.

위 그림과 같이 역사인함수는 \([-1, 1]\)에서 정의되지만, \(x=\pm1\)에서 그래프의 접선은 수직선이다. 따라서 역사인함수는 정의역에서 접선이 수직선이 되는 점을 뺀 \((-1, 1)\)에서 미분가능할 것이다.

역코사인함수

마찬가지로

$$ y=\cos^{-1}x $$

로 놓고 같은 작업을 반복해주면 된다. 역코사인함수의 정의에 의해

$$ x=\cos y, \qquad 0\leq y\leq\pi\tag{5} $$

이고, 이 상태에서 양변을 \(x\)로 미분해주면

$$ 1=-\sin y\cdot y’\Longrightarrow y’=-\frac{1}{\sin y} $$

이다. 이때 제곱 관계에서 \(\sin y=\pm\sqrt{1-\cos^2y}\)인데, (5)에서 \(0\leq y\leq\pi\)이므로 \(\sin y\geq0\)이어야 한다. 따라서 (+)를 선택해줘야 하고,

$$ y’=-\frac{1}{\sqrt{1-cos^2y}}=-\frac{1}{\sqrt{1-x^2}} $$

이 된다. 이는 역사인함수의 도함수에서 부호만 바뀐 것이다!

역탄젠트함수

$$ y=\tan^{-1}x $$

라 하면, 역탄젠트함수의 정의에 의해

$$ x=\tan y, \qquad -\frac{\pi}{2}<y<\frac{\pi}{2} $$

이고, 양변을 \(x\)로 미분해 주면

$$ 1=\sec^2y\cdot y’\Longrightarrow y’=\frac{1}{\sec^2y} $$

이다. 여기에 제곱 관계 \(1+\tan^2y=\sec^2y\)를 사용해 주면

$$ y’=\frac{1}{1+\tan^2y}=\frac{1}{1+x^2} $$

이 된다.

정리

아래 표는 지금까지 살펴본 역삼각함수들의 정의역, 치역과 도함수를 정리한 것이다.

함수 정의역 치역 도함수
\(\sin^{-1}x\) \([-1, 1]\) \([-\pi/2, \pi/2]\) \(\frac{1}{\sqrt{1-x^2}}\)
\(\cos^{-1}x\) \([-1, 1]\) \([0, \pi]\) \(-\frac{1}{\sqrt{1-x^2}}\)
\(\tan^{-1}x\) \(\mathbb{R}\) \((-\pi/2, \pi/2)\) \(\frac{1}{1+x^2}\)

Leave a Comment