리만 제타 함수는 수학의 역사에서 가장 신비로운 대상 중 하나로, 무한 급수의 형태로 정의됩니다. 실수부가 1보다 큰 영역에서 모든 자연수의 거듭제곱 역수를 합산하는 이 함수는 소수들의 곱으로 표현되는 '오일러 곱'이라는 독특한 성질을 지닙니다. 이는 모든 자연수가 유일한 소수들의 곱으로 분해된다는 산술의 기본 정리와 맞닿아 있습니다. 또한, 감마 함수를 포함한 함수 방정식을 통해 그 성질이 더욱 확장되며, 현대 수학자들은 이를 국소 제타 함수의 관점에서 이해하기도 합니다.

수학자들은 함수의 정의역을 넓히기 위해 해석적 확장이라는 기법을 사용합니다. 리만 제타 함수 역시 초기에는 특정 영역에서만 정의되었으나, 적분 지식을 활용한 변형을 통해 실수부가 0보다 큰 영역까지 확장될 수 있습니다. 더 나아가 함수 방정식을 이용하면 복소 평면 전체에서 단 하나의 점을 제외하고 모든 영역에서 미분 가능한 함수로 거듭납니다. 이러한 확장은 단순한 수치적 계산을 넘어, 함수가 가진 본질적인 대칭성과 구조를 파악하는 결정적인 계기가 됩니다.

함수의 값이 0이 되는 지점인 영점은 리만 제타 함수의 비밀을 푸는 열쇠입니다. 음의 짝수에서 나타나는 자명한 영점들은 함수 방정식을 통해 비교적 쉽게 파악할 수 있지만, 진짜 중요한 것은 임계 구역이라 불리는 영역에 존재하는 비자명한 영점들입니다. 오일러 곱의 강력한 성질 덕분에 이 영점들이 실수부 0과 1 사이에 존재한다는 사실은 증명되었으나, 그 정확한 위치를 파악하는 것은 현대 수학의 거대한 도전 과제로 남아 있습니다.

리만 가설은 모든 비자명한 영점들이 실수부 1/2인 직선, 즉 임계선 위에 존재할 것이라는 대담한 가정입니다. 수많은 수학자가 컴퓨터를 활용해 수조 개의 영점을 계산해 본 결과, 현재까지 발견된 모든 영점은 이 가설을 충족하고 있습니다. 영점의 분포는 로그 함수를 포함한 복잡한 수식으로 설명되며, 그 간격과 밀도는 소수의 분포와 밀접한 관련이 있습니다. 컴퓨터를 통한 수천 시간의 연산은 수학적 직관을 제공하며 가설의 신뢰도를 높여주는 중요한 역할을 합니다.

수학을 크게 대수적 세계와 해석적 세계로 나눈다면, 이렇게 상이한 두 가지 성질을 동시에 가지면서 깊게 들어가는 문제는 리만 가설 외에는 없다고 생각합니다.

리만 가설이 해결되지 않는 이유는 대수적 성질과 해석적 성질이 복잡하게 얽혀 있기 때문입니다. 이 두 세계의 특성을 동시에 깊게 파고드는 문제는 수학 전체를 통틀어 유례를 찾기 힘듭니다. 현대 수학은 리만 제타 함수를 넘어 수많은 L-함수를 '셀베르그 클래스'로 분류하여 통합적으로 연구하고 있습니다. 이 모든 함수가 리만 가설을 만족한다는 '그랜드 리만 가설'은 정수론, 대수기하, 조화해석 등 수학의 여러 분야가 하나로 만나는 지점이기도 합니다.