선택공리

[강연] 수학역사상 가장 유명한 난제 리만가설 (1) _ by기하서 | 2018 봄 카오스 강연 '모든 것의 수數다' 3강 | 3강 ①

수학의 세계에서 정수론은 '수학의 여왕'이라 불릴 만큼 고결하면서도 난해한 분야로 손꼽힙니다. 가우스가 정의했듯 정수론은 수의 본질을 탐구하며, 리만 가설이나 골드바흐 추측과 같은 수많은 난제를 품고 있습니다. 이러한 문제들은 단순히 계산의 영역을 넘어 새로운 수학적 개념을 요구하며, 때로는 한 학자가 평생을 바쳐 연구해도 그 끝을 보기 어려울 정도로 깊은 인내를 필요로 합니다. 하나의 난제에 수십 년간 매달리는 수학자의 열정은 마치 구도자의 길과 같으며, 이는 수학이 단순한 학문을 넘어 진리를 향한 숭고한 여정임을 보여줍니다. 현대 수학에서 난제를 해결했다는 선언이 곧바로 정답으로 인정받는 것은 아닙니다. 2012년 발표된 ABC 예상의 증명 사례처럼, 수백 페이지에 달하는 복잡한 논리는 동료 수학자들의 철저한 검증 과정을 거쳐야 합니다. 새로운 수학적 체계를 도입한 증명은 때로 학계 내에서 거센 논쟁을 불러일으키기도 하며, 권위 있는 학자들 사이에서도 의견이 갈리는 경우가 빈번합니다. 이처럼 수학적 진실을 확정 짓는 과정은 매우 엄격하며, 모든 구성원이 공감할 수 있는 논리적 완결성을 갖추기까지는 예상보다 훨씬 긴 시간이 소요되기도 합니다. 수학의 거대한 탑은 수리 논리와 집합론이라는 견고한 토대 위에 세워져 있습니다. 칸토어와 괴델, 튜링과 같은 천재들이 다져놓은 공리계는 현대 수학이 나아갈 방향을 제시하는 나침반 역할을 합니다. 특히 ZFC라 불리는 공리계는 우리가 선택한 규칙 안에서 수학적 우주가 어떻게 작동하는지를 규정합니다. 논리적인 관점에서 본다면 수학적 발견이란 무에서 유를 창조하는 것이 아니라, 이미 공리 안에 내재되어 있는 진리들을 하나씩 찾아내어 질서정연하게 정리하는 과정이라고 할 수 있습니다. 모든 수학적 정리는 결국 이 단단한 논리의 지반 위에서 탄생합니다. 자연수의 근간을 이루는 소수는 수학자들에게 영원한 탐구의 대상입니다. 모든 자연수가 소수의 곱으로 분해된다는 소인수분해의 원리는 단순해 보이지만, 소수가 수의 체계 속에서 어떻게 분포하는지를 파악하는 일은 매우 복잡합니다. 19세기 가우스는 소수의 개수가 일정한 규칙성을 가지고 분포한다는 사실을 발견하고 이를 함수로 예측하려 시도했습니다. 비록 그는 이를 완벽하게 증명하지 못했으나, 소수의 분포을 이해하려는 그의 통찰은 이후 리만이 리만 제타 함수를 통해 더 깊은 수의 신비를 파헤치는 결정적인 계기가 되었습니다. 리만 가설은 가우스가 남긴 소수 분포의 수수께끼를 가장 정밀하게 해결하려는 시도입니다. 리만은 리만 제타 함수라는 도구를 도입하여 소수의 개수를 정확히 세는 방법을 제시했으며, 그 과정에서 특정한 가정이 성립한다면 소수의 분포 오차를 극적으로 줄일 수 있음을 발견했습니다. 비록 리만은 생전에 이 가설을 완벽히 증명하지 못하고 짧은 생을 마감했지만, 그가 남긴 유산은 현대 수학의 가장 중요한 이정표가 되었습니다. 오늘날에도 수많은 수학자들은 리만이 던진 이 질문을 풀기 위해 도전하며 수의 세계가 지닌 궁극적인 질서를 찾고 있습니다.