직장인 중 많은 이가 아마도 사무실에서 커피를 타 마실 것이다. 뜨거운 물이 담긴 잔에 일회용 커피를 부으면 향긋하고 달콤한 커피가 완성된다. 이때 커피가 잘 녹도록 저으면 잔에는 젖는 방향으로 소용돌이가 생긴다. 좀 더 자세히 살펴보면 잔 속의 큰 소용돌이와 잔의 경계면에 아주 작은 소용돌이가 생김을 볼 수 있다.

시야를 우주로 넓혀보자. 우리가 사는 태양계는 태양을 중심으로 회전하고, 태양계도 우리 은하 안에서 회전하며, 우리 은하 전체도 회전한다. 이는 작은 커피잔의 경우처럼 작은 회전이 좀 더 큰 회전을 만들고 마침내 거대한 회전을 만들며 돌아가는 것과 같다. 즉 소용돌이가 소용돌이를 만든다.


매듭이론의 기원은 소용돌이다?

우주가 소용돌이를 일으키며 다양한 변화를 일으킨다는 소용돌이 이론은 근대 과학이 태동하던 17세기 프랑스의 철학자 데카르트(René Descartes)의 생각이었다. 데카르트는 이 세상은 무한히 나눌 수 있는 물질로 꽉 차 있고, 이 물질들이 정교한 기계처럼 상호작용한다고 생각했다. 이때 미세한 물질은 큰 물체를 이루고, 각각의 물질은 신이 부여한 운동량으로 소용돌이를 일으켜 다양한 변화가 발생한다고 생각했다. 데카르트는 우주에서 행성도 이런 원리로 움직인다고 생각했다. 하지만 데카르트의 소용돌이 이론은, 이후의 실험과 뉴턴(Isaac Newton)에 의해 사실이 아님이 증명되었다. 뉴턴은 수학을 이용하여 행성 사이에 만유인력이 작용함을 증명했고, 소용돌이 이론은 유체(fluid, 액체와 기체를 합쳐 부르는 용어)의 운동에 한정된 것으로 취급했다.

사실 소용돌이 이론은 유체에서 잘 들어맞는 이론이었다. 물이나 공기가 한 방향으로 흐를 때, 미세한 소용돌이가 연쇄적으로 일어남은 쉽게 확인할 수 있다. 이런 유체에서의 소용돌이 이론을 체계화한 것이 '보텍스(vortex) 이론'이다. 보텍스 이론은 미세한 소용돌이가 최소 단위를 이루고 이들이 모여 커다란 유체의 움직임을 구성한다는 이론이다. 보텍스 이론에 따르면 단위 소용돌이의 성질과 변화를 분석하면 전체 유체의 흐름도 예측할 수 있다.

유체에 관한 보텍스 이론은 독일의 과학자인 헬름홀츠(Hermann von Helmholtz)가 체계화하고 영국의 과학자인 켈빈 경(Lord Kelvin, William Thomson)이 다듬어 완성했다. 수리물리학자인 그는 절대온도 단위인 '켈빈(K)'으로 유명하다. 켈빈은 전기와 열역학 분야에서 뛰어난 업적을 세웠으나 원자론에서는 엉뚱한 가설을 주장했다. 그는 원자의 존재를 부정하고, 물체를 이루는 최소 단위는 특정한 매듭과 매듭의 고리가 소용돌이를 일으키며 발생한다고 생각했다. 켈빈은 보텍스 이론을 바탕으로 소용돌이의 모양과 구조에 따라 물질의 성질과 화학반응이 결정된다고 생각했다. 켈빈의 동료였던 스코틀랜드 수학자 겸 물리학자인 테이트(Peter Guthrey Tait)는 소용돌이에서 매듭의 개념을 보다 분명하게 정의했고, 각 물질의 성질에 대응하는 구조의 매듭을 하나하나 지정하기 위하여 매듭을 종류별로 분류했다.

테이트가 연구한 매듭의 분류는 생명의 삼각대라고도 불리는 보로메오 고리(Borromean Ring)와 연관이 있다. 보로메오 고리는 3개의 고리가 서로 엉켜 있는 모양으로 르네상스 시대 그 모양을 가문의 문장으로 사용한 이탈리아 가문의 이름을 따서 보로메오 고리라고 한다. 흥미로운 것은 이 고리 3개 중에 하나만 잘라도 3개 모두 흩어져 버린다는 점이다. 테이트는 1876년에 이 고리를 수학적으로 검토했다. 각 고리의 교차에 대해서는 위 또는 아래 두 가지 선택이 가능하므로 26=64가지나 가능한 교차 패턴이 존재한다. 대칭성을 고려한다면, 이 패턴 중에서 기하학적으로 서로 다른 것은 10개뿐이다.

데카르트의 우주론과 켈빈의 소용돌이 이론은 모두 실패한 이론이었지만, 아이러니하게 현대 과학에서 매듭을 분류하는 이론은 과학의 중요한 분야가 되었다. 특히 켈빈과 헬름홀츠에 의한 소용돌이 이론은 오늘날 파도가 생기는 이유, 우주에서 초신성 폭발이나 태양의 코로나 등의 우주 기상, 태양풍이 지구 자기권으로 유입되는 과정을 설명하고 있다.

▲ 오로라는 태양에서 방출되는 플라즈마 입자가 지구 대기권 상층부의 자기장과 마찰하여 빛을 내는 광전 현상으로 태양풍의 소용돌이에 따라 여러 가지 모양을 이룬다.


위상수학의 한 분야인 매듭이론

수학에서 매듭을 분류하는 매듭이론(knot theory)은 위상수학(位相數學, topology)의 한 분야이다. 위상수학은 연결성이나 연속성 등 작은 변환에 의존하지 않는 기하학적 성질들을 다루는 분야이다. 위상수학의 잘 알려진 예는 구멍 뚫린 도넛과 구멍 뚫린 손잡이가 달린 컵이 같다는 것이다.

구멍 뚫린 도넛을 잘 주무르고 다듬으면 구멍 뚫린 손잡이가 달린 컵으로 만들 수 있다. 이때 처음에 뚫려있던 구멍은 그대로 유지해야 한다. 그러면 도넛과 컵은 수학적으로 같은 성질을 가지므로 모양이 복잡한 컵보다는 비교적 단순한 도넛을 연구하면 구멍이 하나 뚫린 모양의 성질은 모두 알게 된다. 이렇게 복잡한 대상을, 다루기에 단순한 대상으로 치환해 그 성질을 연구하려는 분야가 바로 위상수학이라고 할 수 있다.

그런데 수학에서 매듭이론은 실생활에서 사용하는 매듭과 약간 다르다. 보통 매듭은 줄을 꼬아 묶은 것을 말하지만 수학에서의 매듭은 고무 밴드와 같이 줄의 양쪽 끝이 붙은 것을 말한다. 매듭이론에서는 하나의 매듭을 자르지 않고 조금씩 움직여서 다른 매듭으로 바꿀 수 있을 때, 두 매듭은 같다고 한다. 즉, 모양이 다르더라도 매듭이론의 관점에서는 같은 매듭이 될 수 있다. 매듭이론은 이러한 서로 다른 매듭들을 분류하는 데서 출발하였다.

사실 매듭이 수학적으로 연구되기 시작한 것은 18세기 후반이다. 1771년 프랑스 수학자 방데르몽드(Alexandre-Théophile Vandermonde)가 매듭의 위상수학적인 특징을 다루며 처음으로 매듭을 수학적으로 연구하기 시작했다. 19세기에 들어서 원자구조 모델에 대한 켈빈의 잘못된 가설에 호기심을 가진 수학자들이 매듭을 본격적으로 연구하기 시작하였고, 20세기에 들어서 막스 덴(Max Wilhelm Dehn)이나 알렉산더(James Waddell Alexander Ⅱ) 등이 연구하며 발전시켰다.


복잡한 매듭을 수학적으로 분류하는 방법

이제 매듭이론을 수학적으로 분류하는 방법을 살펴보자. 매듭이론을 간단히 말하자면 매듭의 교차점의 수에 따라 매듭을 분류하는 것이다. 그런데 교차점의 수가 9개인 매듭은 수십 개 정도이지만 교차점의 수가 10개인 매듭은 수백 개가 되기에 단순한 방법으로 이들을 분류하는 것은 불가능하다. 매듭의 종류는 교차점의 수가 증가함에 따라 엄청나게 증가한다. 교차점 수가 9개인 매듭은 수십 가지이고, 10개인 매듭은 수백 가지가 된다. 최근에는 교차점이 16개 이하인 매듭을 1,701,936가지로 구분하고 있다.

매듭을 분류하기 위해서 가장 먼저 해야 할 일은 두 매듭이 어떤 경우에 같은 매듭인지 정의를 하는 것이다. 가장 간단한 매듭은 꼬인 곳이 없는 매듭으로 아래의 왼쪽 그림과 같은 원형매듭(또는 풀린 매듭)이다. 아래 그림에서 원형매듭 이외의 나머지 매듭은 끈을 끊지 않고 조금씩 움직이면 원형매듭과 같은 매듭이 되므로 이들은 모두 원형매듭이다.

매듭에서 두 번째로 생각할 수 있는 것은 끈을 묶었을 때 나타나는 매듭의 모양이다. 독일의 수학자 덴은 교차점이 세 개인 세잎매듭은 다음과 같이 왼세잎매듭과 오른세잎매듭 두 종류임을 밝혔다. 얼핏 보기에 두 매듭은 같아 보이지만, 끈을 끊지 않고는 아무리 애써도 하나를 다른 하나로 변형시킬 수 없기에 비슷해 보이지만 이 둘은 다른 매듭이다.

한편, 여러 가지 방법으로 분류된 매듭은 교차점의 개수에 따라 다음과 같이 분류한다. 예를 들어 아래 그림에서 63 은 교차점이 6개인 매듭의 3번째 모양이라는 뜻이다. 분류된 매듭의 이름은 31은 ‘세잎매듭’, 41은 ‘8자 매듭’, 51은 ‘오엽매듭’ 등과 같이 보통 그들의 모양에 따라서 붙여진다.

매듭을 분류할 때, 매듭이 서로 다르다는 것을 알기 위해서는 매듭의 모양에 따라 변하지 않는 수학적인 어떤 것이 필요하다. 이것을 ‘매듭의 불변량’이라고 하는데, 불변량을 구하는 방법은 매듭의 교차점의 수, 매듭의 대수적인 구조와 더불어 점화식으로 계산이 가능한 것까지 매우 다양하다.

매듭을 분류하는 가장 간단하며 중요한 방법은 독일의 수학자인 라이데메이스터(Kurt Reidemeister)가 제안했다. 그는 같은 두 매듭은 다음 그림과 같이 세 종류의 변형에 의하여 하나로부터 반드시 다른 하나가 얻어진다는 것을 알았다. 매우 간단해 보이는 이 변형을 사용하여 매듭을 구별하는 것은 어렵지만 매듭으로부터 정의된 양이 불변량임을 증명하는데 유용하게 사용된다.

▲ 세 가지 유형의 라이데마이스터 변형을 나타낸 그림으로 세 경우 모두 왼쪽의 실을 중간에 자르거나 다시 붙이는 일 없이 적당히 변형시키면 각 그림의 오른쪽 형태를 얻을 수 있고, 화살표 양쪽의 매듭은 수학적으로 서로 동일함을 나타낸다.


매듭이론의 활용 분야

그렇다면 매듭이론은 어디에 활용될까?

대표적인 활용 분야는 분자생물학이다. 분자생물학의 가장 중요한 연구 대상인 DNA는 생명체의 유전 정보를 담고 있다. DNA는 평소에 차지하는 공간을 줄이기 위해 빽빽하게 꼬인 상태로 존재하다가 유전 정보를 복제하거나 단백질을 만들어야 할 때 꼬인 '나선구조'를 푼다. 이때 효소가 가장 효율적으로 꼬임을 풀 수 있도록 DNA의 적당한 부분을 끊는데, 이 과정을 분석하는 데 매듭이론을 이용한다. 이런 방법으로 요즘 유행하는 코로나19의 특성도 알아내는 것이다.

매듭이론은 우주를 설명할 때도 이용된다. 매듭을 활용하여 우주를 설명하는 끈이론에 의하면 우주에는 고무 밴드 같은 작고 유연한 고리로 가득 채워져 있고, 이 고리를 이루는 끈이 어떻게 진동하느냐에 따라 물질의 입지가 달라진다. 마치 기타의 현을 어떻게 연주하느냐에 따라 소리가 다른 것과 같다.

매듭이론은 생물학과 우주 외에 물리학의 양자 이론과 암호론에서도 이용된다. 특히 매듭이론을 암호에 활용하는 연구는 세계 최초로 우리나라의 연구진에 의해 이루어지고 있다. 매듭이론은 현재까지 여러 방향으로 급격한 발전을 이루었다. 선진국을 중심으로 지난 30년간 대단한 성과를 거두어 매듭을 연구하는 많은 수학자들이 필즈상을 받기도 했다. 게다가 동서양을 막론하고 매듭은 우리 생활에서 자주 이용된다. 물건을 포장하기 위해 매듭을 만들기도 하고, 매듭으로 장신구를 만들기도 했다. 그런데 이러한 매듭 또한 탐구의 대상이 되어 우주를 탐색하고 암호시스템을 개발하거나, DNA의 구조나 바이러스의 행동 방식을 연구하는 데 중요하게 사용되고 있으니 수학이 연구되고 적용되는 분야는 실로 넓다.


※ 이 칼럼은 해당 필진의 개인적 소견이며 삼성디스플레이 뉴스룸의 입장이나 전략을 담고 있지 않습니다.