수 체계에서 대세라고 할 수 있을 정도로 많은 무리수는 특별한 성질을 갖고 있다. 일단 소수점 이하로 내려가면 같은 수의 배열이 반복적으로 나타나지 않는데, 이것은 무한 소수라고 부른다. 또한 무리수만으로 이루어진 집합은 사칙연산에 대해 전부 닫혀있지 않다. ‘닫혀있다’라는 표현이 생소한데, 간단히 정의하면 어떤 집합에서 임의의 숫자 두 개를 중복 가능하게 뽑은 뒤, 이들을 가지고 어떠한 연산을 거쳐도 여전히 처음 뽑았던 집합에 있는 숫자가 나온다면 닫혀있는 것이다.

예를 들어, 어떤 자연수를 두 개 뽑아서 더해봐도 여전히 자연수만 나오기 때문에, 자연수는 덧셈에 대해 닫혀있다고 할 수 있다. 다시 말하면, 무리수의 집합은 사칙연산 전부에 대해 닫혀있지 않으니, 임의의 두 무리수를 선택하여 더하거나 빼거나 곱하거나 나눈다면, 다시 무리수가 나오지 않는다는 말이다. 이런 독특한 무리수의 성질 때문에, 무리수와 관련된 명제들을 증명하는 과정이 꽤 복잡해진다.

세상에 존재하는 가장 중요한 상수를 선정해야 한다면, 반드시 포함되는 두 개는 자연상수 ‘е’와 원주율 ‘π’다. 스위스의 수학자 레온하르트 오일러의 이름을 따서 오일러의 수라고도 불리는 е는 대략 2.72이며, 원둘레와 지름의 비로 잘 알려져 있는 π의 값은 3.14 정도 된다. 소수점 이하는 숫자가 불규칙하게 반복되기 때문에 정확한 값은 알 수 없지만, 둘 다 대표적인 무리수이다.

그런데 왜 е와 π는 정말 무리수일까? 중학교 이후로 무수히 많은 곳에서 사용하는 상수들이지만, 수학을 전공하지 않는 이상 대학에 가도 해볼 기회는 없다. 당연한 일처럼 보이는 무리수의 증명은 과연 얼마나 중요할까? 그리고 도대체 왜 무리수라는 것 자체에 이렇게 신경을 써야 할까?


무리수의 발견을 은폐했던 피타고라스

고대 그리스는 수학을 크게 발전시킨 나라 중 한 곳이다. 특히 도출된 결과를 엄격하게 증명하는 체계를 세웠다. 그만큼 그리스 시대에서 수라는 존재는 조금이라도 틀려서는 안되며, 신성하며 고귀했다. 특히 철학자이자 수학자였던 피타고라스는 세계를 질서와 조화로 이루어진 우주로 간주하며, 그 안에는 수가 숨어있다고 생각했다. 태양과 달, 그리고 별은 일정한 궤도를 돌며 주기적으로 모습을 드러낸다. 그에게 우주는 수로 이루어진 규칙 그 자체였다. 너무 거대해서 보이지 않는 우주의 이면도 수를 통해 반드시 밝혀낼 수 있으리라 믿었던 그는, 만물의 근원을 수라고 주장하며 수의 원리가 모든 것을 설명할 수 있다고 확신했다.

그런데 문제는 여기서 무리수가 등장한 것이다. 분명히 조화로운 우주처럼 일정한 비율을 갖는 분수만 존재해야 하는데, 도대체 어떻게 해도 깔끔한 숫자의 비로 표현할 수 없는 이 녀석의 정체는 무엇인가? 피타고라스와 그를 따르던 제자들은 모든 수를 정수로만 이해하려고 했었는데, 그렇지 않은 상황을 맞닥뜨리자 혼란에 빠지기 시작했다. 아주 간단하게 직각이등변삼각형의 빗변만 봐도 큰일이었다.

당시 피타고라스는 현재까지도 가장 유명한 기하학 정리 중의 하나를 찾아냈는데, 직각 삼각형에서 빗변의 제곱은 직각인 두 변의 제곱을 더한 값과 동일하다는 정리였다. 바로 피타고라스의 정리다. 그는 이 정리를 증명한 뒤, 너무 기쁜 나머지 황소 백 마리를 신에게 바쳤다는 믿기 힘든 풍문까지 전해질 정도다. 하지만 이걸 두 변의 길이가 1인 직각이등변삼각형에 적용해보니 계산한 빗변의 길이는 다른 변으로 재 보려 해도 들어맞지 않았고, 비율로 쓸 수도 없었다.

이렇게 √2가 수면 위로 드러났고, 역사상 최초로 무리수라는 것이 증명되었다. 피타고라스와 제자들은 충격에 빠졌고, 이 사실이 더 이상 외부로 새어나가지 않도록 은폐하기 위해 규율로 엄중하게 입막음을 지시했다. 물론 지구상에 완전한 비밀은 없기에, 피타고라스의 제자 중 하나인 히파소스는 대중에게 진실을 알려야겠다고 생각했고, 결국 지시를 어긴 그는 다른 제자들에 의해 지중해 바다 속으로 영원히 가라앉고 말았다는 이야기가 전해 내려오고 있다. 어쩌면 과거에는 무리수의 존재를 감추기 위해 돌이킬 수 없는 일까지 벌어졌을지도 모른다.


카메라 조리개 값에 적용되는 무리수

빗변의 길이처럼 일상생활 속에서 무리수를 찾는 건 너무도 쉬운 일이다. 무리수를 통해 방정식의 해를 발견하기도 했고, 함수나 미적분 등 수많은 수학적 성과들에 무리수가 사용되자 어느새 무리수는 수학이라는 체계에서 절대 빠질 수 없는 존재가 되었다. 지금도 여전히 무리수는 우리 주변 곳곳에 숨어있다. 가장 흔하게 볼 수 있는 곳은 바로 추억을 저장하는 카메라다.

한때 강한 아웃포커싱 효과로 인물을 돋보이게 찍을 수 있는 렌즈가 유행 했다. 조리개 값이 특정한 수치 이하인 단일한 초점거리를 갖는 렌즈를 말하는데, 초보자가 찍더라도 밝은 빛 덕분에 적당히 배경만 흐려지며 인물 사진이 훌륭하게 나온다. 좋은 사진을 찍기 위해서는 렌즈의 밝기가 어떤지, 셔터를 여닫는 속도는 빠르거나 느린지, 빛에 대한 감도는 얼마나 민감한지 등을 철저히 분석해야 한다. 특히 이중에서 렌즈의 밝기에 해당하는 부분이 수학적으로 중요하다.

렌즈가 밝다는 말은 사진이 밝게 찍힌다는 말이며, 결국 빛을 얼마나 많이 받을 수 있는지에 달려있다. 여기서 가장 중요한 역할을 하는 건 조리개다. 우리 눈과 비교하자면 동공과 유사하다. 각막을 통과한 빛이 동공을 지나 수정체를 거친 뒤 망막에 닿는 과정에서, 적절한 양의 빛이 들어갈 수 있도록 동공이 커지거나 작아진다. 조리개 역시 마찬가지로 들어오는 빛의 양을 조절하는데, 표기상 f/1, f/1.4, f/2, f/2.8, f/4, f/5.6, f/8, f/11, f/16 의 수치로 이루어져 있다. 굳이 왜 이렇게 복잡한 수치로 렌즈로 들어오는 빛의 양을 조절할까 하는 질문에 대한 해답은 역시 ‘무리수’다.

렌즈의 조리개 값은 √2의 등비수열이라고 볼 수 있다. 각 항이 첫번째 항과 일정한 비를 갖기 때문에, 연속한 두 항의 비가 일정하다는 말이다. 초항을 (√2)0=1이라고 보면, 두 번째 항부터 (√2)1=√2=1.4, (√2)2=2, (√2)3=2.8 등 이런 식으로 증가하는데 늘어나는 등비수열의 근사치가 배열된 모습이 바로 조리개 값이다.

대부분의 카메라 구조와 촬영의 순간을 잠시 머릿속으로 떠올려보면, 사진을 찍는 대상으로부터 들어오는 빛의 양은 카메라 구경의 반지름을 r로 하는 둥근 원형의 창문을 통할 수밖에 없다. 다시 말하면, 빛의 양은 반지름 r이 만들어내는 원의 넓이πr2에 달려있으며, 이걸 일정한 비율로 줄어들게 만드는 것이 중요하다. 이때 조리개의 지름과 동일한 카메라의 구경 2r과 렌즈의 초점거리 f의 관계를 통해 도출되는 것이 조리개 값이다. 일반적으로 초점거리보다 조리개의 지름이 작기 때문에, 조리개 값이 1보다 작은 분수가 나오지 않도록 f/2로 표기한다.

초점거리와 조리개의 지름이 만들어내는 비율을 통해 줄어드는 광량을 추정하는 것이다. 이렇게 되면, 빛의 양은 조리개 값의 제곱에 반비례하기 때문에, 만약 빛의 양을 계속해서 반으로 줄이기 위해서는 조리개 값에 √2가 순차적으로 곱해진다. 따라서 √2의 등비수열이 나오는 것이다. 이렇게 나온 결과는 실제로 근사값을 이용하기 때문에 1, 1.4, 2, 2.8, 4, 5.6, 8, 11, 16, 22, 32, 45, 64가 되며, f/1, f/1.4, f/2, f/2.8, f/4, f/5.6, f/8, f/11, f/16, f/22, f/32, f/45, f/64 등으로 표기한다. 조리개 값이 작을수록 더 많은 빛을 받아들여 사진은 밝아지며, 조리개 값이 커질수록 그 반대가 되는 것이다. 제대로 된 사진을 찍기 위해서라도 우리는 무리수를 활용해야 한다.


우리 생활 속에서 발견하는 무리수

세상은 상상 이상으로 복잡하다. 길거리를 걷다가 만나는 보도블록이나 패턴이 있는 잔디밭에도 일정한 크기를 맞추어 배열하기 위해서는 대각선의 길이를 정확하게 측정해야 한다. 피타고라스의 정리에서 시작된 빗변의 길이 √2를 계산하면 된다. 사무실이나 학교에서 주로 사용하는 프린터 속에도 무리수는 있다. 프린터를 열면 그 안에 보통 A4용지가 들어있을 텐데, 두 장을 합치면 더 큰 A3용지가 되고, 반으로 자르면 작은 A5용지가 된다. 중요한 건 어떻게 자르거나 합쳐 나가더라도 종이의 비율은 동일하며, 이걸 유지하기 위해서 가로와 세로 길이의 비를 1: √2 로 만들었다. 원래 종이의 길이를 x라고 했을 때, 1:x=x/2:1의 관계를 만족시키기 위해서는 x=√2가 된다.

피아노 건반 위에도 무리수가 존재한다. 음 사이의 비율을 유리수로 설정해서 단순하게 만든 음률은 순정률이라고 하는데, 각각의 음들이 동일한 간격으로 놓여 있지 않다 보니 보완할 필요가 있었다. 그래서 한 옥타브를 12개의 동일한 반음으로 나누어 진동수를 무리수의 배가 되도록 조정했다. 이게 바로 현재까지 사용되고 있는 평균율이다.

둘레에 제한이 있는 바퀴를 설계할 때도 무리수로 계산을 해야 하며, 정사각형의 창문을 만들거나 목욕탕 타일을 깔 때도 무리수는 필요하다. 물론 현실적으로 무한하게 반복되는 무리수를 그대로 사용하는 건 불가능한 일이다. 지나가는 고양이의 숫자를 세거나, 키와 몸무게를 잴 때도 다른 숫자는 바로 사용하지만, 무리수는 보통 근삿값을 이용한다. 그렇다면 복잡한 무리수 대신에 적당히 가까운 수를 쓰는 건 어떨까?

최종 결과에서 근삿값을 대입하는 게 아니라 처음부터 근삿값으로 계산을 한다 해도, 일상생활이나 일반적인 상황에서는 아마 큰 문제가 없을 것이다. 하지만 만약 정밀한 계산이 요구되는 설계나 연구개발 과정이라면 오차가 점점 쌓여서 나중에는 돌이킬 수 없을 만큼 큰 차이가 벌어질 수도 있다.

특히 수학은 단순히 적당한 값을 이용해서 모든 것을 설명해낼 수 있는 전체를 만들어내지는 못한다. 극한이나 미적분의 개념으로 연결되는 이론적 근거를 위해, 수는 훨씬 더 정교하고 조심스럽게 정의되어야 한다. 다양한 수의 개념은 수많은 수학자들과 함께 오랜 시간에 거쳐 다듬어지고 만들어졌다. 언젠가 또 다른 수 체계가 등장할지도 모른다. 생소하다고 두려워할 필요는 없다. 이를 통해 인류의 지성은 한걸음 더 나아갈 것이다.


※ 이 칼럼은 해당 필진의 개인적 소견이며 삼성디스플레이 뉴스룸의 입장이나 전략을 담고 있지 않습니다.