소수는 1과 자기 자신만으로 나누어떨어지는 수로, 영어로는 '프라임 넘버(Prime Number)'라고 불립니다. 이는 근본적인 수라는 뜻을 담고 있으며, 한자로는 원소를 뜻하는 '소(素)' 자를 사용합니다. 칼 세이건의 소설 '콘택트'에서 외계 지성체가 보내는 신호로 등장할 만큼 소수는 우주적인 보편성을 지닌 수의 원소와 같습니다. 모든 자연수는 소수의 곱으로 분해될 수 있기에, 마치 물질이 원소로 이루어지듯 수의 세계를 구성하는 가장 기초적인 단위가 됩니다. 우리가 물을 수소와 산소로 분해하듯, 수를 소수의 곱으로 나타내는 소인수분해는 수의 본질을 파악하는 핵심적인 과정입니다.

자연계의 원소는 100여 개에 불과하지만, 소수는 무한히 존재합니다. 이미 2,300년 전 유클리드는 소수의 개수가 끝이 없음을 수학적으로 증명해 냈습니다. 하지만 수학자들은 단순히 무한하다는 사실에 만족하지 않고, 소수가 어떤 규칙으로 분포하는지에 대해 깊은 의문을 품었습니다. 소수는 수의 나열 속에서 완전히 불규칙하게 나타나는 것처럼 보이기 때문입니다. 특정 숫자까지 소수가 몇 개나 존재하는지 알아낼 수 있는 공식이 있는지, 아니면 그저 하나하나 세어보는 방법뿐인지에 대한 탐구는 수학 역사상 가장 매혹적인 과제 중 하나였습니다.

위대한 수학자 오일러조차 소수의 배열에서 어떤 질서도 찾을 수 없다며 인간의 지성이 범접할 수 없는 신비라고 탄식했습니다. 하지만 수학의 천재 가우스는 전혀 다른 관점에서 이 문제에 접근했습니다. 그는 소수의 출현을 동전 던지기와 같은 확률의 문제로 바라보았습니다. 동전을 던질 때 앞면이 나올지 뒷면이 나올지 예측할 수 없지만, 시행 횟수가 많아질수록 앞면이 나올 확률이 2분의 1에 수렴하듯, 소수 또한 숫자가 커질수록 특정한 확률적 규칙성을 띠게 될 것이라고 가정한 것입니다.

가우스는 숫자가 커질수록 소수가 나타나는 빈도가 줄어든다는 점에 주목하여, 그 확률이 대략 1/ln n이 될 것이라고 추측했습니다. 이는 숫자가 커질수록 소수가 될 확률이 낮아지는 복잡한 동전 던지기와 같습니다. 이 아이디어를 바탕으로 계산한 특정 수까지의 소수 개수는 실제 값과 놀라울 정도로 일치했습니다. 이것이 바로 가우스가 불과 15살 때 정립한 '소수 정리'입니다. 전혀 상관없어 보이는 소수의 분포가 자연상수 e와 관련된 자연로그 함수로 설명된다는 사실은 수학계에 엄청난 충격을 안겨주었습니다.

영국의 수학자 하디는 어린 시절 교회에서 찬송가 번호를 소인수분해하며 놀았을 정도로 소수를 사랑했습니다.

소수의 분포가 자연로그 함수를 따른다는 발견은 경이롭지만, 동시에 기괴한 구석이 있습니다. 수의 근본인 소수가 왜 하필 자연상수 e와 연결되는지에 대해서는 여전히 명확한 해답을 찾기 어렵기 때문입니다. 영국의 수학자 하디는 소수가 '악마적 속성'을 가지고 있다고 말하며 그 난해함에 혀를 내두르기도 했습니다. 숫자가 무한히 커져도 이 확률적 규칙이 변함없이 유지될지, 아니면 우리가 모르는 악마의 장난이 숨어 있을지는 여전히 미지의 영역입니다. 소수는 여전히 질서와 혼돈 사이에서 수학자들을 유혹하며 그 신비를 간직하고 있습니다.