근

[카오스 술술수학] 리만가설(2): 리만가설에 미치다

리만 가설은 수학 역사상 가장 매혹적이면서도 고통스러운 수수께끼로 남아 있습니다. 독일의 수학자 힐베르트는 사후 500년 뒤에 깨어난다면 가장 먼저 이 가설의 증명 여부를 묻고 싶다고 했으며, 하디는 자신의 첫 번째 소망으로 이를 꼽았습니다. 라마누잔과 존 내쉬 같은 천재들조차 이 문제로 인해 육체적, 정신적 고통을 겪었을 만큼 그 위력은 대단합니다. 페르마의 마지막 정리와 푸앵카레 추측이 해결된 지금도 리만 가설은 여전히 난공불락의 요새처럼 버티고 있습니다. 소수의 규칙성을 찾으려는 노력은 유클리드와 오일러를 거쳐 가우스에 이르러 큰 전환점을 맞이했습니다. 1792년 가우스는 소수의 개수를 추측할 수 있는 '소수 정리'를 제안하며, 수가 커질수록 소수의 밀도가 로그 함수에 반비례한다는 사실을 통찰했습니다. 하지만 가우스는 이를 직관적으로 추측했을 뿐 엄밀하게 증명하지는 못했습니다. 이후 수많은 수학적 거성들이 릴레이를 하듯 이 소수의 분포 문제를 해결하기 위해 자신의 생애를 바치며 연구에 매달려 왔습니다. 가우스의 제자였던 리만은 1859년 발표한 논문에서 '리만 제타 함수'를 도입하며 소수 정리 증명의 실마리를 제공했습니다. 리만 가설은 단순히 소수의 개수를 대략적으로 파악하는 것을 넘어, n까지의 소수를 정확하게 셀 수 있는 유일한 식을 완성하려는 시도입니다. 오늘날 이 가설에는 10억 원의 상금이 걸려 있으며, 19세기 수학자들 사이에서는 이를 증명하는 자가 영생을 얻는다는 말이 돌 정도로 수학계에서 차지하는 위상이 절대적이라고 할 수 있습니다. 리만 가설의 핵심은 제타 함수의 무한히 많은 영점들이 복소평면상의 1/2 축 위에 일렬로 늘어서 있다는 가정에 있습니다. 이 영점들은 각각 소리의 파동과 같은 역할을 수행하며, 이 파동들을 모두 합치면 소수 분포의 오차가 점차 줄어들어 결국 0에 수렴하게 됩니다. 마치 악기를 목표 음에 맞춰 미세하게 조율하는 과정과도 같습니다. 만약 단 하나의 영점이라도 이 축을 벗어난다면 파동이 너무 커져 조율이 불가능해지며, 소수의 불규칙성을 설명할 방법도 사라지게 됩니다. 역설적이게도 리만 제타 함수 영점들의 완벽한 질서는 소수가 가진 극도의 무질서와 임의성을 대변합니다. 가우스가 예견했듯 소수는 동전 던지기와 같은 무작위성을 띠고 있으며, 리만 가설은 바로 그 임의성을 수학적으로 설명해 줍니다. 만약 이 가설이 거짓으로 판명된다면 현대 수학의 근간이 흔들리는 대재앙이 닥칠 것이라는 우려가 나올 정도입니다. 전 세계 수학자들을 잠 못 들게 하는 이 난제는 여전히 인류가 정복해야 할 가장 거대한 지적 산맥으로 남아 있습니다.