학생들이 극한값에 대해 가지고 있는 가장 큰 오개념은 무엇일까? 미적분학(calculus)을 뉴턴과 라이프니츠가 만든 이후 수학자들은 미분이라는 연산법을 얻게 되었다. 미분은 당시 너무나 편리한 연산법이었고, 이에 수학자들은 미분을 남용하기 시작했다. 그렇게 사용하는 동안 극한에 대한 엄밀한 정의가 이뤄지지 않았으나 당시는 명제의 참과 거짓을 판별하는 것에 있어 직관으로 모든 명제가 판별이 가능하다 믿었기에 크게 신경을 쓰지 않았던 것 같다. 이후 엄밀함에 대한 논의가 진행되며 몇몇 수학자들은 미적분을 맹렬히 비판하기 시작했다. 이러한 논의는 코시와 칼 바이어슈트라스에 의해 극한이 엄밀하게 정의되며 끝이 난다.
이러한 논의는 학생들이 가지는 극한에 대한 오개념을 가지는 원인과 유사하다고 본다. 학생들은 극한값을 함수가 가까워지는 값으로 알고 있다. 여기서 오개념이 발생한다. 가까워지는 값이기에 '함수는 극한값을 함수값으로 가지지 못한다.'거나 '극한값은 유사값이기에 실제 값이 아니다.' 등. 이러한 오개념을 명확히 하기 위해 수학자들은 극한을 '엡실론-델타 논법'을 통해 엄밀하게 정의한다. 이를 통해 극한값은 그 자체로 실제 값임을 명확히 보일 수 있었다.
그렇다면 왜 고등학생들은 왜 엡실론-델타 논법을 배우지 않을까? 필자 개인적으로는 고등학교에서도 이 논법을 가르쳤으면 한다. 그러나 이 논법을 제대로 이해하기에는 논법의 표현이 고등학생에게 어려울 것이라 본다. 특히나 논리에서 사용하는 용어들은 대다수 고등학생에게 익숙하지 않아 더 이해하기 힘들 것이다. 그렇다면 고등학교에서 극한에 대한 오개념을 바로잡기 위해서는 어떻게 해야할까? 답은 특별히 정해져 있지는 않을 것이다. 필자는 고등학교에서 극한값은 특정한 값이며 가까워지고 있는 상태가 아니라는 것과 유한을 직관으로 설명하는 것은 가능할지 몰라도 무한을 직관으로 설명하기 힘들다는 것을 강조해주면 조금 더 오개념이 사라지지 않을까 생각한다. 이 글을 읽는 독자들이 무한에 대하여 잘못된 이해를 가지지 않았으면 한다.
사람은 죽어도 그의 행적은 남는다.
-오귀스탱 루이 코시
