수학인생 꼬이게 만든 원주율 π의 비밀

‘배우고 때로 익히면 또한 기쁘지 아니한가.’ 이 말을 한 사나이도 한 사십 몇 년 전 나하고 나란히 태어나서 6년 동안 수학(數學)을 수학(修學)해보았다면 함부로 그런 말을 하지 않을 것이다. ‘산수’를 배우던 초등학교 6년이 아니라 ‘수학’을 배운 중·고등학교 6년을 말한다.(지금은 초등학교에서도 수학을 배운다.)

중학교에 입학했을 때 나는 이제까지의 교과 과정과는 다른, 진정한 학문의 세계로 뛰어들게 된 것을 실감했다. 잘 외우고, 잘 따라 하고, 하라는 대로만 하면 졸업식 때 우등상을 안겨주던 시절은 지난 것이다. 무엇보다 수학이라는 과목은 이름부터가 마음에 들었다. 산수(算數)가 아닌 수학(數學). 수의 학문, 오호라 학문!

수학 선생님도 훌륭해 보였다. 그는 첫 시간에, 지금까지 여러분이 해온 공부는 다 장난이고 헛것이라고 선언했다. 나는 그 말도 마음에 들었다. 그는 과학기술의 기초가 수학이며 수학적 사고가 얼마나 중요한가에 대해 설파하고 수학을 통하지 않고서는 고등학교에 갈 수 없다, 고등학교에 못 가면 어떻게 되느냐 등등에 관해서 수업시간의 95퍼센트를 할애해서 역설하고 나서 시계를 보고는, 혹시 질문이 있으면 하라고 했다. 나는 그에게 잘 보이고 싶었다. 침묵을 지키고 있는 아이들 중에도 나처럼 진정한 학문에 뜻을 둔 출중한 인재가 있다는 걸 알리고 싶었다. 나는 손을 들었다.

“수학에 관련된 것이면 무엇이든 질문해도 됩니까?”
“좋다.”
“그럼 여쭤보겠습니다. 파이가 뭡니까?”
“파이는 너희 같은 촌놈들이 공부 안 하면 인생이 파이지, 뭐가 어쨌기에.”
경상도 사투리에서 ‘파이’는 무슨 일이 잘 안 됐을 때 혹은 물건이나 사람이 기대만 못 할 때 쓰는 형용사다. 나는 정중하게 원주율 파이가 뭐냐고 고쳐 물었다.
“알면서 뭘 묻노. 원주율이 파이고 파이가 원주율이다.”
“그런데 원주율은 3.1415 점점점 하면서 왜 끝이 나지 않습니까? 끝이 없으니까 원의 면적을 정확하게 계산을 할 수 없을 텐데 그게 너무 이상합니다.”
“첫 시간부터 그런 이상한 질문을 하는 네가 이상한 놈이다. 자리에 앉아.”

나는 자리에 앉으면 선생님이 설명을 해줄 줄 알았다. 그런데 누군가 멀리서 수업 종료를 알리는 종을 쳐버렸다. 선생님은 출석부를 들고 내 이름을 확인하더니 그대로 나가버렸다. 다음 시간에 설명을 해줄 줄 알았는데 그 선생님은 그렇게 하지 않았다.

두어 달이 지나 중간고사를 볼 때가 되었다. 시험 범위를 정해주고 난 뒤, 수학 선생님은 담배를 물고(그때는 수업시간에 담배를 피우는 호랑이 선생님이 더러 있었던, 참 좋은 시절이었다) 궁금한 게 있으면 질문하라고 했는데 나는 다시 한 번 조심스럽게 원주율은 왜 끝이 없느냐고 물었다. 선생님은 시험이나 잘 볼 생각하라고(네 주제를 알라고 말한 사나이의 후배라도 되는 듯) 말하더니 수업종이 울리기도 전에 나가버렸다. 나는 파이의 비밀을 알기 전에는 학문에 입문할 수 없다고 생각했기 때문에 산수는 몰라도 수학은 제대로 할 수가 없었다. 시험이 끝날 때마다 나는 틀린 문항의 개수만큼 운동장을 도는 아이들 사이에 끼었다. 덕분에 달리기는 꽤 했지만 달리기는 학문이 아니었다.

서울로 전학을 와서 나는 정년 퇴임을 몇 해 앞둔 수학 선생님을 만났고 그 분에게 다시 같은 질문을 했다. 그랬더니 그 선생님은 내 머리를 칠판 지우개로 세 번 치고 쓸데없는 데 신경 쓰지 말고 시험에 나오는 문제나 확실하게 풀라고 하셨다. 나는 그 말씀에 감격해서 고등학교에 갈 때까지 수학과는 담을 쌓고 지냈다. 수학과 담을 쌓고도 수학 시험에서 점수를 따는 방법이 있다. 시험에 나올 만한 문제와 정답을 모조리 외워 버리는 것이다. 100점은 몰라도 80점을 받을 수는 있다. 나와 같은 방법으로 100점을 받은 천재를 만나기도 했다.

고등학교에 입학해서 나는 첫 번째 수학 시간에 샤프하고 핸섬하게 생긴 젊은 수학 선생님에게 다시 한 번 원주율에 관해 질문했다. 그는 대답해 주었다.
“원주율 파이는 무리수다. 이 개념은 앞으로 내 수업을 착실하게 들으면 다 이해하게 된다. 지금은 일일이 설명할 시간이 없다. 나는 너 하나만 가르치는 독선생이 아니다.”

그때부터 나는 수학과 나 사이에 쌓은 담 위에 유리를 꽂고 위에 철망을 두른 뒤에 담 아래에 농구 선수도 빠져 죽을 만한 깊이의 해자(垓子·성 주위에 둘러 판 못)를 팠다.

대학에 들어가서 수학에 관련된 교양서적을 몇 권 읽었다. 그래도 이해할 수 없기는 마찬가지였다. 몇 년 전, 나는 파이만 가지고 쓴 책을 읽기도 했다.(‘π의 역사’) 그때는 이미 파이가 내 관심사가 아니었다.

그때 그 선생님들이 왜 그랬는지는 몇 년 전에 알게 됐다. 이진경이 쓴 ‘수학의 몽상’이라는 책의 서문을 읽고 나서였다.
“수학은 가장 자명해 보이는 것에 대해서도 이유를 묻고 적절한가 여부를 따진다. 이것이 수학의, 혹은 수학에 기초한 서구 사상의 가장 중요한 장점이라고 간주되어 왔다. 그러나 우리는…(중략)… 수학은 확실하고 엄밀한 지식이라고 배울 뿐이다. 따라서 우리는 영문도 모른 채 정의와 공식을 배우고 익히며, 그 공식을 이용한 계산 기술을 훈련한다. 이 경우 수학은 수학을 위한 수학일 뿐인 끔찍한(!) 과정이 된다. …(중략)… 그러나 수학의 역사를 대략이라도 안다면, 수학의 발전은 올바르다고 으레 당연히 여기던 것들에 의심과 비판과 질문을 던지는 사람에 의해 이루어져 왔다는 사실을 쉽게 알 수 있다.”

그러니까 선생님들은 ‘영문도 모른 채 정의와 공식을 배우고 익히며’ 할 때 그 ‘우리’의 일원으로서, 우리의 ‘우리 됨’을 위해 헌신하고 있었던 것이다. 또한 나는, 영광스럽게도 수학의 발전에 도움이 될 뻔한 질문을 세 번이나 했던 것이다. 내가 수학에 대해 할 바를 다한 것 같아서 흐뭇해진 한편으로 그 선생님들도 선생님들의 선생님에게 배운 대로 행했을 뿐이니 무슨 잘못이 있겠는가 하는 생각이 들었다.

원주율의 사전적 정의는 ‘원주의 길이와 그 지름과의 비의 값’이다. 그리스 문자 π를 쓴 것은 π가 둘레를 뜻하는 그리스어의 머리글자이기 때문이다.
원주율의 근사치를 최초로 계산하려고 했던 시기는 고대 이집트시대인 기원전 4000년 전이라고 한다. 이집트의 파피루스 문서에 원주율의 근사치가 3.15048이라고 계산했던 기록이 남아 있다. 지금 우리가 실용적으로 사용하고 있는 3.14라는 수치를 계산해낸 사람은 그리스의 수학자 아르키메데스(B.C. 287?~212?)이다. 동양에서는 3세기경 위나라의 유휘(劉徽)가 3.14라는 수치를 알아냈다.

원주율 계산식을 컴퓨터에 입력하여 계산해낸 기록은 소수점 이하 1조2411억 자리까지이다. 2002년 12월 일본의 히타치사에서 개발한 수퍼컴퓨터가 400시간 걸려 계산해냈다. 어떤 엉뚱한 녀석이 공부 안 할 핑계를 만들려고 쓸데없는 질문을 해대서 그런 건 아닐까? 아니, 컴퓨터 성능 테스트용으로 해보는 모양이다. ▒