《10대라면 반드시 알아야 할 수학의 역사》 — 수학은 발견한 것일까, 만들어 낸 것일까

학교에서 수학을 배울 때는 이미 모든 것이 완성되어 있었다.

원의 둘레를 구하려면 원주율을 사용하고, 모르는 수가 있으면 방정식을 세운다. 변화하는 값을 다룰 때는 함수를 사용하고, 순간적인 변화를 알고 싶다면 미분을 한다. 학생에게 남은 일은 그 방법을 배우고 문제의 정답을 찾는 것이다.

그래서 수학은 가끔 인간과 상관없이 처음부터 존재했던 거대한 규칙처럼 느껴진다. 우리는 그 규칙을 이해하기 위해 공식을 외우고 문제를 푸는 것처럼 보인다.

그런데 이재호의 《10대라면 반드시 알아야 할 수학의 역사》는 시간을 거꾸로 돌린다. 완성된 공식에서 출발하는 대신, 아직 그 공식이 없었던 시대로 돌아간다. 그러면 익숙했던 수학의 모습이 꽤 달라진다.

사람들은 처음부터 방정식이나 미적분을 알고 있었던 것이 아니다. 땅을 측정하고, 별의 움직임을 계산하고, 알 수 없는 값을 구하고, 앞으로 일어날 일을 예측하려 했다. 기존의 방법으로 해결할 수 없는 문제가 생길 때마다 새로운 수학적 생각이 필요했다.

책을 읽다 보니 한 가지 질문이 생겼다.

그렇다면 수학은 원래 세상에 존재하던 것을 인간이 발견한 것일까, 아니면 세상을 이해하기 위해 인간이 만들어 낸 것일까.

공식보다 먼저 문제가 있었다

우리는 보통 수학을 공식으로 만난다. 하지만 역사의 순서로 보면 공식보다 문제가 먼저 있었다.

곡선으로 둘러싸인 땅의 넓이를 어떻게 구할 것인가. 원의 둘레와 지름 사이에는 어떤 관계가 있는가. 알 수 없는 양을 어떻게 표현할 것인가. 계속 변하는 현상을 어떻게 계산할 것인가.

이런 질문들은 시험을 위해 만들어진 문제가 아니었다. 측량과 천문 관측, 계산과 예측처럼 실제로 해결해야 하는 문제에서 나왔다.

특히 흥미로운 것은 우리가 지금 당연하게 받아들이는 수조차 처음부터 당연하지 않았다는 점이다. 무리수나 복소수처럼 기존의 수 체계만으로 받아들이기 어려운 대상이 등장할 때마다 수학의 범위는 넓어졌다.

지금 학생들은 이미 넓어진 세계를 한꺼번에 배운다. 그래서 왜 그런 개념이 필요한지 이해하기 전에 정의와 계산법부터 만나게 된다.

어쩌면 수학이 어려운 이유 중 하나는 여기에 있을지도 모른다. 우리는 인류가 오랜 시간에 걸쳐 해결한 문제의 마지막 장면부터 배우고 있는 셈이다.

필요해서 만들었는데, 마음대로 만들 수는 없다

여기까지만 보면 수학은 인간이 필요에 따라 만든 도구처럼 보인다.

실제로 방정식의 기호나 함수의 표기처럼 수학을 표현하는 방식에는 인간이 정한 약속이 들어 있다. 어떤 문제를 중요하게 생각하고 어떤 개념을 발전시켰는지도 인간의 역사와 무관하지 않다.

하지만 이상한 점이 있다.

인간이 만들었다고 하기에는 수학은 우리의 마음대로 움직이지 않는다.

원의 둘레와 지름의 비율을 우리가 원하는 숫자로 정할 수는 없다. 어떤 공리를 받아들이고 논리적인 규칙을 적용하면 그 뒤에는 우리가 좋아하든 싫어하든 따라야 하는 결과가 생긴다. 계산 방법과 기호는 바꿀 수 있어도, 그 안에서 발견되는 관계까지 마음대로 결정할 수는 없다.

그래서 수학의 역사를 따라가다 보면 ‘발견’과 ‘발명’을 깔끔하게 나누기가 어려워진다.

인간은 질문을 만들고 표현 방법을 고안한다. 그런데 그렇게 만들어진 틀 안에서 인간의 의도와 상관없는 관계를 다시 발견한다.

마치 지도와 비슷하다는 생각도 들었다. 지도는 사람이 만든 것이다. 어디를 위쪽에 놓을지, 어떤 기호를 사용할지, 무엇을 표시할지는 우리가 결정한다. 그렇다고 지도에 표현된 두 도시 사이의 실제 거리를 우리가 마음대로 정할 수 있는 것은 아니다.

수학에도 이 두 가지 성격이 함께 존재하는 것처럼 보인다.

보이지 않는 것을 계산한다는 것

이 책에서 다루는 수학의 흐름을 보면 또 하나 재미있는 변화가 보인다.

수학이 점점 눈앞에 보이는 것에서 보이지 않는 것으로 나아간다는 점이다.

처음에는 길이와 넓이처럼 비교적 직접적인 대상을 측정한다. 이후에는 미지수를 기호로 표현하고, 함수로 변화 사이의 관계를 나타내며, 확률과 통계로 불확실성을 다룬다. 미분과 적분에 이르면 변화하는 순간과 축적되는 양까지 수학의 대상으로 들어온다.

복소수는 이 특징을 더욱 선명하게 보여준다. 현실에서 사과 두 개나 돌 세 개처럼 직접 세어 볼 수 있는 수와 달리 처음 접하는 복소수는 직관적으로 받아들이기 어렵다. 그런데 이런 추상적인 개념도 일관된 수학적 구조를 이루고 실제 과학과 공학에서 활용된다.

여기에서 수학의 독특한 힘이 드러난다.

인간은 눈앞에 있는 것만 계산하지 않는다. 직접 볼 수 없는 관계에도 이름을 붙이고 기호를 만든 뒤, 그것을 이용해 다시 현실을 이해한다.

수학의 발전은 계산 기술이 늘어난 역사이면서 동시에 인간이 생각할 수 있는 대상의 범위가 넓어진 역사이기도 했다.

정답보다 궁금해진 것

학교에서 수학 문제를 풀 때 가장 중요한 것은 정답이었다.

틀리면 풀이를 다시 확인했고, 맞으면 다음 문제로 넘어갔다. 그런데 수학의 역사를 보고 나면 조금 다른 방식으로 수학을 바라볼 수 있다.

왜 원주율이 필요한가. 왜 존재하지 않는 것처럼 보였던 수를 받아들여야 했는가. 왜 인간은 순간적인 변화를 계산하려 했는가.

이 질문들을 따라가면 공식은 갑자기 생겨난 것이 아니라는 사실을 알게 된다. 하나의 답 뒤에는 그 답이 필요했던 문제가 있고, 그 문제 뒤에는 세계를 조금 더 정확하게 이해하고 싶었던 사람들이 있다.

그래서 수학을 안다는 것은 공식을 많이 기억한다는 것과 완전히 같은 말은 아닐 것이다.

공식은 잊어버릴 수 있다. 실제로 학교를 졸업한 뒤 많은 공식을 잊는다. 하지만 인간이 복잡한 문제를 작은 문제로 나누고, 보이지 않는 것을 기호로 표현하고, 반복되는 현상에서 규칙을 찾아내려 했다는 사고방식은 남는다.

이 책을 읽고 나서 수학은 이전보다 조금 덜 완성된 학문처럼 보였다. 여기서 ‘덜 완성되었다’는 것은 부족하다는 뜻이 아니다. 지금 우리가 너무나 당연하게 사용하는 개념들도 한때는 누군가에게 낯선 질문이었다는 뜻이다.

처음의 질문으로 돌아가면 여전히 답하기 어렵다.

수학은 인간이 발견한 것일까, 만들어 낸 것일까.

어쩌면 둘 중 하나만 선택해야 하는 질문이 아닐지도 모른다. 인간은 세상을 이해하기 위해 수학이라는 언어를 만들어 왔고, 그 언어를 확장할 때마다 자신이 마음대로 바꿀 수 없는 새로운 관계를 발견해 왔다.

그래서 수학의 역사에서 내가 가장 흥미롭게 느낀 것은 공식 자체가 아니었다.

우리는 세상에 이미 존재하는 질서를 발견하고 있는 것일까. 아니면 우리가 만든 수학을 통해 세상을 질서 있게 바라보고 있는 것일까.