[수학의 기초] 일대일 대응인 연속함수는 그 역함수도 연속함수이다.

과학고 AP-Calculus수업에서 다음 명제와 부딪혔다. 이것을 증명해 보자.

정리  열린 구간 \(\displaystyle  (a,~b)\)에서 정의된 일대일 대응인 연속함수 \(\displaystyle f\)를 생각하자. 그러면 함수 \(\displaystyle f\)의 역함수인 \(\displaystyle f^{-1} \)도 연속함수이다.

 

위의 명제를 증명하기 위해서는 먼저 다음의 보조정리를 증명한다.

열린 구간 \(\displaystyle  (a,~b)\)에서 정의된 일대일 대응인 연속함수 \(\displaystyle  f\)는 그 구간에서 증가함수이거나 감소함수이다.

 

(증명) 귀류법으로 증명하자. 만약 함수 \(\displaystyle  f\)가 증가함수도 감소함수도 아니라고 가정하면

아래의 두 경우가 존재한다. 두 경우 모두 연속함수의 성질인 사잇값의 정리로 모순을 유도할 수 있다.

(i) 어떤 세 점 \(\displaystyle  x_1 ,~x_2 ,~x_3 ~(x_1 <x_2 <x_3 )\)이 존재하여

\(\displaystyle  f (x_1 )<f(x_3 )<f(x_2 )\) 또는 \(\displaystyle  f (x_2 )<f(x_1 )<f(x_3 )\)

를 만족한다.

첫번째 그림에서 함수 \(\displaystyle f\)가 연속이고 \(\displaystyle f(x_1)<f(x_3 )<f(x_2 )\)이므로 사잇값의 정리에 의해

\(\displaystyle f(c)=f(x_3 )\)

를 만족하는 \(\displaystyle c\)가 구간 \(\displaystyle (x_1 ,~x_2 \)에 적어도 하나 존재한다.

그런에 이것은 함수 \(\displaystyle f\)가 \(\displaystyle 1-1\) 대응이라는 가정에 모순이다.

따라서 모든 \(\displaystyle  x_1 ,~x_2 ,~x_3 ~(x_1 <x_2 <x_3 )\)에 대하여 \(\displaystyle  f (x_1 )<f(x_2 )<f(x_3 )\)이어야 한다. 즉 증가함수이어야 한다.

또, 두 번째 그림에서는 위와 동일하게 하면 함수 \(\displaystyle f\)가 감소함수이어야 한다.

 

(ii) 어떤 세 점 \(\displaystyle  x_1 ,~x_2 ,~x_3 ~(x_1 <x_2 <x_3 )\)이 존재하여

\(\displaystyle  f (x_3 )<f(x_1 )<f(x_2 )\) 또는 \(\displaystyle  f (x_2 )<f(x_3 )<f(x_1 )\)

를 만족한다.

이 경우도 위의 (i)과 같이 하면 \(\displaystyle 1-1\)대응이라는 사실에 모순이 된다.

 

이제 \(\displaystyle f^{-1}\)가 연속함수임을 보이자.

함수 \(\displaystyle f :(a,~b) \longrightarrow (c,~d)\)의 역함수 \(\displaystyle f^{-1}\)은

\(\displaystyle f^{-1}: (c,~d) \longrightarrow (a,~b)\)

이므로 \(\displaystyle f^{-1}\)의 정의역 \(\displaystyle (c,~d)\)의 임의의 원소 \(\displaystyle  x_0 \)에 대해 \(\displaystyle f^{-1}(x_0 ) =y_0 \in (a,~b)\)라 하자.

\(\displaystyle x=x_0 \)에서 함수 \(\displaystyle f^{-1}\)이 연속임을 보이자.

먼저 임의의 \(\displaystyle \epsilon>0\)에 대하여 구간 \(\displaystyle (y_0 -\epsilon,~y_0 +\epsilon) \subset (a,~b)\)을 생각해보자.

보조정리에 의해 일대일 대응인 연속함수 \(\displaystyle f\)는 증가함수(또는 감소함수)이므로 역함수 \(\displaystyle f^{-1}\)도 증가함수(또는 감소함수)이다. 따라서 \(\displaystyle y_0 -\epsilon < y_0 < y_0 +\epsilon \)에서

\(\displaystyle  f (y_0 -\epsilon) <  f(y_0)= x_0 <   f (y_0 +\epsilon)\)

여기서 \(\displaystyle \delta=\min \left\{ x_0 -  f(y_0-\epsilon),~f (y_0+\epsilon)-x_0 \right\}\)라 하면 다음 부등식이 성립한다.

\(\displaystyle  f (y_0 -\epsilon) \leq x_0 -\delta < x_0 < x_0 +\delta \leq f  (y_0 +\epsilon)\)

함수 \(\displaystyle f^{-1}\)가 증가함수이고 \(\displaystyle f^{-1}\circ f=I \) 임을 이용하면

\(\displaystyle  y_0 -\epsilon=f^{-1}(f(y_0 -\epsilon)) \leq f^{-1}(x_0 -\delta) <f^{-1} ( x_0)=y_0  < f^{-1}( x_0 +\delta ) \leq  f^{-1} (f(y_0 +\epsilon))=y_0 + \epsilon\)

즉, $\displaystyle ( f^{-1}( x_0 -\delta),~f^{-1}(x_0+\delta) )\subset  (y_0-\epsilon ,~y_+\epsilon) $

\(\displaystyle \left| x-x_0 \right|<\delta\)를 만족하는 모든 \(\displaystyle x\)는 \(\displaystyle \left| f^{-1} (x)-f^{-1}(x_0 ) \right| <\epsilon\)

을 만족하므로

역함수 \(\displaystyle f^{-1} \)는 \(\displaystyle x=x_0 \)에서 연속이다.