전통수학과 조선시대 수학자들

 

학생들의 머리를 아프게 하는 수학의 역사는 꽤 오래 되었습니다. 수학의 역사는 고대 인도·중국·이집트·바빌로니아 등지에서 그 뿌리를 찾을 수 있으나, 학문으로서의 체계를 갖추게 된 것은 그리스문화에서 비롯된 것으로 여겨지고 있습니다. 기원전 3세기경 알렉산드리아시대 그리스 수학자 유클리드(Euclid)는 그 이전의 저서와 연구를 집대성하여 『기하학원본 Stoicheia』을 저술하였습니다. 이 책에서 유클리드는 역사상 처음으로 수학을 논리적으로 정리, 체계화하였습니다. 기호를 사용하는 대수는 인도에서 시작되어 아라비아에서 발달하여 알게브라(Algebra, 代數)라는 이름과 함께 유럽에 전해졌습니다. 그리고 오늘날 ‘아라비아 숫자’로 불리는 수의 체계가 발명된 것은 7세기경 인도였습니다. 중국에서 수학은 상수학(象數學)을 뜻하고 현재 우리가 사용하는 수학은 수(數), 산수(算數), 수술(數術), 산술(算術), 산법(算法), 산학(算學) 등으로 불렀습니다. 우리나라의 경우 고구려에서는 373년(소수림왕 3) 중국의 제도를 본뜬 율령정치가 성립되었으며, 이에 따라 과세가 실시되었고 왕실의 출납을 관리하는 주부(主簿)라는 관직도 있었습니다. 또 소박하나마 과세를 위한 농지측량도 실시되었습니다. 중국적인 관료조직 아래서의 이러한 행정상의 실무와 관련, 계산업무에 종사하는 관리가 있었음에 틀림이 없고, 이들은 중국 수학책을 통해 다소나마 체계적인 계산지식을 갖추고 있었을 것으로 짐작됩니다. 또, 『삼국사기』 중의 114년(태조왕 62) 이래 554년(양원왕 10)까지의 사이에 있는 11번의 일식기사는 역 계산을 포함한 조직적인 천문관측활동이 있었음을 말해 주고 있으며, 따라서 역법과 관련 있는 분야에서도 수학지식이 필요하였을 것으로 보고 있습니다. 백제는 제8대 고이왕 당시 이미 중국식의 관제가 도입되었다는 사실이 『삼국사기』에 기록되어 있습니다. 즉, 260년(고이왕 27) 봄 4월에 재정회계와 창고를 각각 담당하는 관리가 임명되었습니다. 이 밖에 수학지식을 필요로 하는 관서로 점성 외에 역 계산의 업무를 포함하는 일관부(日官部)와 시장의 관리 및 도량형의 통제를 관장하는 도시부(都市部)가 있었습니다. 따라서 고대 우리나라에서 수학이 필요했던 이유는 중국의 제도를 기본으로 천문 관측이나 역법 계산을 중심에 두었기 때문입니다. 통일신라 때는 고대 중국에서 펴낸 수학 책 『구장산술』로 산학과 산술을 가르치기 시작했으며 통일신라에 이어 고려 시대에는 산학박사를 뽑아 국립교육기관인 국자감에서 산학을 가르쳤습니다. 중국의 유명한 수학 책에는 『상명산법』ㆍ『양휘산법』ㆍ『계몽산법』이 있었는데, 이를 채용시험 과목으로 삼고 수학자를 뽑기도 했습니다. 그리고 조선이 건국되고 수학에 대한 관심은 더욱 증폭되었습니다. 수학에 관심을 둔 이유는 수학을 땅의 학문으로 보았고 세종은 고려 멸망 원인 중 하나로 토지조사 내용을 근거로 조세를 거두는 양전제도가 올바르게 시행되지 않았기 때문이고 철저한 토지 측량에 만전을 기했습니다.  

1882년 간행된 안종화의 ‘수학절요’(數學節要) 서문 일부. 수학절요는 승법(어떤 수를 몇 곱절하는 계산법)을 ‘포지금’(鋪地錦)이라고 불리는 방법으로 계산했다. ‘전통 과학기술분야 고전적 조사 연구(산학)’보고서 발췌

 “산학은 비록 한낱 기술에 지나지 않는다고 하지만 국가의 행정을 위해서는 필수적인 것이다. …… 최근 농지를 등급별로 측량하는 데 있어서 이순지(李純之)·김담(金淡) 등의 활약이 없었던들 그 셈을 능히 할 수 있었을까. 널리 산학을 익히게 하는 방안을 강구하라.”『세종실록』
당시 세종은 수학의 중요성을 깨닫고 정인지를 스승으로 두고 수학을 공부하기도 했습니다. 세종의 수학교과서는 『산학계몽』으로 곱셈과 나눗셈, 무게환산, 원주율, 분수, 제곱근 구하기 등 지금의 고등학교 수준 1학년에 해당하는 수준이었습니다. 그러면서 집현전학자들과 역법부서인 서운관 관리들에게 『양휘산법』을 나눠주며 수학공부를 권하였고 수학에 재능 있는 사람들은 중국으로 유학을 보내기도 했습니다. 그렇게 발굴된 조선의 수학자들은 우리나라만의 독자적인 역법을 만드는데 공헌하였습니다. 당시 조선의 수학은 어떤 수준이었을까. 국내 한 학자에 따르면 ‘송나라와 원나라 때 이미 4차 이상의 고차방정식을 풀 수 있었으며 그런 전통이 조선으로 이어졌다’고 합니다. 넓이나 부피를 구하는 정도의 문제는 쉽게 풀 수 있었다는 얘기입니다. 당시 실록에 따르면 세종대에 이미 ‘산판(算板)과 산가지’를 활용해 제곱근은 물론 10차 방정식 해까지 구할 수 있었습니다. 실제로 상수항을 진수(眞數), 1차항을 근(根), 2차항 평방(平方), 3차항 입방(立方), 4차항 삼승방(三乘方)이라고 해서, ‘3χ4+5χ-2’라는 4차 방정식을 ‘삼삼승방 다오근 소이진수(三三乘方 多五根 少二眞數)’라고 표현했으니 ‘다(多)’는 더하기, ‘소(少)’는 빼기를 뜻합니다. 더불어 중국이 명나라 청나라로 들어와 실용수학 중심으로 흐름이 바뀐 것과 달리 조선은 송·원시대의 수학 전통을 독자적으로 발전시켰습니다.

조선시대 유명한 수학자로 최석정이 꼽힙니다. 최석정은 충북 진천 명문가 집안에서 태어났습니다. 병자호란 때 주화파의 대표 최명길의 손자입니다. 17세에 초시 장원을 하고 1671년 급제하면서 관직생활을 시작했습니다. 숙종 때는 지금 국무총리에 해당하는 영의정만 8차례 지내기도 했습니다. 최석정이 저술한 『구수략(九數略)』은 조선시대 대표적 수학서입니다. 그리고 『구수략(九數略)』을 통해 세계 최초로 '9차 직교라틴방진'이 발표되었습니다. '마방진'으로도 불리는 9차 직교라틴방진은 가로 세로 9칸씩 81개의 칸에 숫자가 1~81까지 하나씩 들어가는 방진으로 가로 세로 대각선 어느 방향으로 더해도 합이 같은 게 특징입니다. 스위스 수학자 오일러(1707~1783)가 최초 발표한 것으로 알려졌지만 최근 연세대 송홍엽 교수에 의해 최석정이 67년 앞선 것으로 확인되었습니다.
조선시대 천재 수학자라 불리던 홍정하라는 인물이 있었습니다. 어느 날 청에서 온 대수학자 하국주와 홍정하의 수학 배틀이 벌어졌습니다. 하국주가 내놓은 문제에 답한 홍정하는 다음과 같은 문제를 제시했습니다.
“지금 여기에 공 모양의 옥이 있습니다. 이것에 내접한 정육면체의 옥을 빼놓은 껍질의 무게는 265근이고 껍질의 두께는 4치 5푼입니다. 옥의 지름과 내접하는 정육면체의 한 변의 길이는 얼마입니까?”
이 문제를 들은 대수학자는 다음 날 답을 주겠다고 했지만, 결국 답을 내놓지 못했습니다. 홍정화가 낸 문제는 오늘날로 치면 삼차방정식을 세워서 풀어야 하는 난이도 높은 문제입니다. 수학이 한발 앞선 청나라 대수학자가 체면을 구긴 것입니다. 이후에도 이들은 문제를 주거니 받거니 하였고 청나라 수학자가 낸 문제에 대해 조선의 수학자가 풀지 못하기도 하였습니다. 이것은 양국의 자존심을 건 수학배틀이었지만 조선과 청나라 사이의 학문적 교류라는 것에 그 의미가 더욱 컸습니다. 또 다른 산학자인 유수석에 대해서는 홍정하와 함께 하국주와 수학 문답을 주고받았다는 기록 외에 별로 알려진 것이 없습니다. 조선 후기에 천문학자 남병길이 『유씨구고술요도해(劉氏勾股述要圖解』 라는 수학책을 편찬하였는데, 이것은 유씨 성을 가진 사람이 쓴 『구고술요(勾股術要)』란 책을 바탕으로 한 것입니다. 학자들은 『구고술요(勾股術要)』를 쓴 유씨가 바로 유수석이 아닐까 짐작해하고 있습니다. 이 책은 직사각형에 관한 244개 문제와 그 풀이를 수록한 것으로, '피타고라스의 정리'에 대한 설명도 들어 있다고 합니다.
조선 수학은 특히 산가지를 사용한 계산이 크게 발전했습니다. 중국의 경우 명나라 이후 상업적 필요 때문에 주판이 널리 보급되면서 산가지가 사라졌지만, 상대적으로 상업의 발달이 늦었던 우리나라에서는 산가지를 사용한 계산법이 오래 유지되었습니다. 고차방정식이나 제곱근처럼 상당히 복잡한 계산이 필요한 풀이도 산가지를 사용하는 방법이 발전하면서, 이런 고수준의 문제들을 산가지만 갖고 척척 풀어내는 조선 사신을 본 청나라 관리들이 깜짝 놀랐을 정도였습니다. 조선시대의 수학자 홍길주(洪吉周, 1786∼1841)는 뺄셈과 나눗셈만으로 제곱근을 구하는 방법을 독자적으로 알아냈습니다. 이 방법은 홍길주가 자신의 저서 ‘숙수념(孰遂念)’에서 “바보가 아닌 이상 어린아이들도 쉽게 할 수 있는 풀이법”이라고 말할 정도로 간단하면서도 아주 독창적인 사고가 엿보입니다.