모티브이론

[명강리뷰] 수학역사상 가장 유명한 난제 리만가설 _ by기하서｜2018 봄 카오스 강연 '모든 것의 수數다' 3강

리만 가설은 수학 역사상 가장 유명한 난제 중 하나로 꼽힙니다. 복잡해 보이는 수학적 문제들도 수리논리학의 관점에서는 단순화되고 체계적으로 다뤄질 수 있습니다. 수리논리학은 집합론, 모델 이론, 계산 가능성 이론, 증명론의 네 가지 분야로 나뉘며, 이는 현대 수학의 견고한 토대가 됩니다. 특히 연속체 가설의 독립성을 증명하여 필즈상을 받은 폴 코헨 교수 역시 리만 가설이라는 거대한 장벽에 도전했을 만큼, 이 문제는 수많은 천재 수학자들의 지적 호기심을 자극해 왔습니다. 소수의 분포에 대한 탐구는 19세기 가우스로부터 본격화되었습니다. 가우스는 특정 수까지의 소수 개수를 나타내는 함수가 로그함수와 밀접한 관련이 있다는 사실을 발견하고 이를 예측했습니다. 그의 제자인 리만은 스승의 연구를 발전시키기 위해 '리만 제타 함수'를 도입했습니다. 리만은 소수의 개수를 정확히 계산하려는 과정에서 특정 가정을 세웠는데, 비록 생전에 이를 완벽히 증명하지는 못했으나 이 가정은 훗날 소수 정리의 핵심적인 기초가 되었습니다. 리만 제타 함수는 복소평면에서 정의되는 무한급수의 형태로, 소수의 비밀을 푸는 열쇠입니다. 이 함수의 영점, 즉 함숫값이 0이 되는 지점들을 분석하는 것이 리만 가설의 핵심입니다. 영점 중에는 음의 짝수에서 나타나는 자명한 영점들이 있고, 임계 구역 내에 존재하는 비자명한 영점들이 있습니다. 리만 가설은 이 모든 비자명한 영점들이 복소평면의 실수부가 1/2인 직선인 임계선 위에 존재할 것이라는 대담한 추측을 담고 있습니다. 현대 수학에서 리만 가설을 연구할 때 컴퓨터의 역할은 절대적입니다. 수천 시간 이상의 계산 과정을 통해 얻은 데이터는 수학자들에게 직관을 제공하며, 이론적 증명이 닿지 않는 영역에서 새로운 사실을 발견하게 해줍니다. 리만 가설은 단순히 영점의 위치를 찾는 문제를 넘어, 소수의 개수를 얼마나 정확하게 측정할 수 있는지와 직결됩니다. 인간이 직접 소수를 세는 데에는 한계가 있기에, 리만 제타 함수라는 우회적인 도구를 통해 소수의 규칙성을 파악하려는 시도가 계속되고 있습니다. 리만 가설의 완전한 해결을 위해서는 랭글랜즈 프로그램이나 모티브 이론과 같은 고도의 현대 수학 이론들이 정립되어야 합니다. 이러한 이론들은 아직 갈 길이 멀고 완성되지 않았지만, 리만 제타 함수의 본질을 꿰뚫는 중요한 단서를 제공할 것으로 기대됩니다. 비록 현재는 낮은 차수의 함수에서만 부분적인 가능성을 엿보고 있으나, 수학적 체계가 더욱 정교해진다면 언젠가 '일반화된 리만 가설'까지 해결될 날이 올 것입니다. 이는 수학의 끝과 시작을 연결하는 거대한 여정이 될 것입니다.