상태

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (1) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ①

컴퓨터는 인류가 발명한 도구 중에서도 매우 독특한 위치를 차지합니다. 칼이나 냉장고 같은 일반적인 도구들은 그 목적이 하나로 고정되어 있지만, 컴퓨터는 사용자가 어떤 명령을 입력하느냐에 따라 무궁무진한 역할을 수행할 수 있는 만능 도구이기 때문입니다. 우리는 이를 소프트웨어라고 부르며, 인간의 사고를 반영한 체계를 통해 기계가 복잡한 일을 수행하도록 만듭니다. 이러한 특성 때문에 컴퓨터는 단순한 기계를 넘어 인간의 지능을 확장하는 특별한 장치로 정의되기도 합니다. 흔히 앨런 튜링을 하늘이 내린 천재 수학자로만 기억하지만, 그의 위대한 업적은 사실 당대 수학계가 직면했던 거대한 좌절과 도전 속에서 탄생했습니다. 튜링은 단순히 새로운 것을 창조하려 했던 것이 아니라, 기존의 권위 있는 수학자들이 내놓은 문제들을 자신만의 방식으로 해결하고자 노력했습니다. 이러한 과정은 천재성이라는 모호한 단어보다는, 주어진 문제를 깊이 있게 파고들어 자신만의 논리를 구축해 나가는 탐구 정신의 결과물입니다. 이는 과학적 성취가 특별한 소수만의 전유물이 아님을 시사합니다. 20세기 초, 수학자 다비트 힐베르트는 모든 수학적 명제에 대한 기계적 판정 방법이 존재할 것이라는 원대한 꿈을 꾸었습니다. 하지만 1931년, 젊은 수학자 쿠르트 괴델은 기계적인 방식으로는 모든 수학적 사실을 증명할 수 없다는 것을 완벽하게 입증하며 수학계에 커다란 충격을 안겨주었습니다. 힐베르트의 꿈은 좌절되었지만, 이 사건은 오히려 '기계적 계산'이란 무엇인가에 대한 근본적인 질문을 던지는 계기가 되었습니다. 수학적 한계를 증명하는 과정에서 역설적으로 새로운 논리적 사고의 지평이 열리게 된 것입니다. 튜링은 불완전성 정리를 접한 뒤, 자신만의 스타일로 이를 재증명하기 위해 '기계적'이라는 개념을 구체적으로 정의하기 시작했습니다. 그는 무한한 테이프와 상태 표시 장치, 그리고 규칙표라는 네 가지 부품만으로 구성된 가상의 장치를 고안해 냈습니다. 이것이 바로 오늘날 컴퓨터의 원형인 '튜링 기계'입니다. 흥미로운 점은 튜링이 처음부터 컴퓨터를 발명하려 했던 것이 아니라, 수학적 불가능성을 증명하기 위한 하나의 도구로서 이 기계를 설계했다는 사실입니다. 논리적 증명을 돕기 위한 소품이 현대 정보 혁명의 핵심이 되었습니다. 1936년에 발표된 튜링의 논문은 수학적 난제를 해결하는 동시에 현대 컴퓨터 과학의 청사진을 제시했습니다. 계산 가능한 수의 범위를 정의하고 기계적 절차의 한계를 밝혀낸 그의 연구는, 오늘날 우리가 사용하는 모든 디지털 기기의 이론적 토대가 되었습니다. 수학의 좌절을 확인하는 과정에서 우연히 탄생한 이 아이디어는 인류의 삶을 송두리째 바꾸어 놓았습니다. 결국 컴퓨터 과학의 역사는 불가능에 도전했던 수학자들의 치열한 고민과, 그 과정에서 발견한 논리적 도구들이 빚어낸 위대한 우연의 산물이라고 할 수 있습니다.