2세대 암호 체계는 송신자와 수신자가 동일한 비밀키를 공유해야 한다는 전제가 있었습니다. 하지만 현대의 인터넷 쇼핑처럼 모르는 상대와 거래할 때는 미리 키를 나누는 것이 불가능합니다. 이러한 한계를 극복하기 위해 1970년대 인터넷의 발달과 함께 등장한 것이 바로 3세대 암호인 공개키 암호입니다. 이는 수학자들이 풀기 어려운 난제를 활용하여 설계한 혁신적인 방식으로, 물리적으로 만나지 않고도 안전하게 정보를 주고받을 수 있는 기틀을 마련했습니다.

3세대 암호의 핵심 원리는 수학적 개념에 기반합니다. 이를 일상 속의 돼지 저금통에 비유할 수 있는데, 누구든지 돈을 넣을 수는 있지만 안의 내용물을 꺼내려면 주인만이 가진 열쇠가 필요한 것과 같습니다. 암호화 과정은 누구나 수행할 수 있도록 공개되어 있지만, 그 역과정인 복호화는 오직 비밀키를 가진 사람만이 할 수 있도록 설계된 것입니다. 이러한 비대칭성은 보안의 패러다임을 완전히 바꾸어 놓았으며, 현대 통신 보안의 핵심적인 역할을 수행하고 있습니다.

암호화라는 과정을 거친 뒤 비밀키 없이는 그 역과정을 수행할 수 없는 수학적 장치를 우리는 일방향 함수라고 부릅니다.

인터넷에서 안전한 통신 채널을 형성하는 과정을 '시큐어 핸드셰이크'라고 부릅니다. 사용자가 자신만의 비밀키로 열 수 있는 일방향 금고를 제작해 서버에 보내면, 서버는 앞으로 사용할 통신용 비밀키를 그 금고에 넣어 다시 돌려줍니다. 이 과정에서 금고는 누구나 볼 수 있는 공개된 경로로 이동하지만, 내부의 키를 확인할 수 있는 사람은 오직 금고 제작자뿐입니다. 이를 통해 두 당사자는 제3자의 도청 걱정 없이 안전하게 비밀키를 공유하고 본격적인 암호 통신을 시작하게 됩니다.

우리가 웹사이트 주소창에서 흔히 보는 HTTPS의 'S'는 바로 이러한 안전한 악수가 이루어졌음을 의미합니다. 과거에는 중요한 정보만 선별적으로 암호화하려 했으나, 현재는 프라이버시 보호를 위해 모든 통신 과정을 통째로 암호화하는 '터널링' 방식을 주로 사용합니다. 이는 공용 와이파이나 라우터를 거치는 과정에서 발생할 수 있는 데이터 탈취를 원천적으로 차단합니다. 개인의 검색어나 시청 기록조차도 이제는 보호받아야 할 중요한 프라이버시가 되었기 때문입니다.

3세대 암호 기술은 전자 서명 분야에서도 활발히 활용됩니다. 공개키 암호의 원리를 응용하여, 서명자만이 가진 비밀키로 정보를 암호화하고 누구나 공개키로 이를 검증하게 함으로써 신원을 증명하는 방식입니다. 2세대 암호가 대칭키를 사용하여 효율성을 강조했다면, 3세대 암호는 비대칭키를 통해 보안성과 편의성을 동시에 확보했습니다. 이처럼 수학적 난제에서 시작된 암호 기술은 오늘날 디지털 세상의 신뢰를 지탱하는 가장 강력한 방패가 되어 우리 일상을 지켜주고 있습니다.