[카오스 짧강] 계산이란 무엇인가?_by박성우｜2018 봄 카오스 강연 '모든 것의 수數다' 10강
우리는 일상에서 '계산'이라는 단어를 자주 사용하지만, 막상 그 본질이 무엇인지 질문을 받으면 당황하곤 합니다. 아이가 "계산이 뭐예요?"라고 묻는다면 대개 "컴퓨터로 하는 것이 계산이야"라고 대답하며 넘어가기 마련입니다. 하지만 이 단순해 보이는 답변 속에는 현대 컴퓨터 과학의 가장 핵심적인 정의가 담겨 있습니다. 계산의 본질을 이해하기 위해서는 먼저 시간이라는 제약을 머릿속에서 지워야 합니다. 결과가 나오기까지 천 년이 걸리든 만 년이 걸리든, 언젠가 답을 도출할 수 있다면 그것은 계산 가능한 영역에 속한다고 볼 수 있기 때문입니다. 1936년, 영국의 수학자 앨런 튜링은 계산이라는 추상적인 개념을 '튜링 기계'라는 구체적인 모형으로 정의했습니다. 튜링 기계는 긴 테이프와 이를 읽고 쓰는 헤드, 그리고 몇 가지 규칙표로 이루어진 매우 단순한 구조를 가지고 있습니다. 비록 형태는 단순하지만, 이 기계는 우리가 논리적으로 수행할 수 있는 모든 계산 과정을 완벽하게 설명해 냅니다. 튜링은 이 기계적인 절차를 통해 무엇이 계산될 수 있고 무엇이 계산될 수 없는지를 명확히 구분 지었으며, 이는 훗날 우리가 사용하는 현대적 컴퓨터의 이론적 토대가 되었습니다. 비슷한 시기 미국 프린스턴 대학교의 알론조 처치 교수 또한 계산의 정의를 내리기 위해 노력하고 있었습니다. 그는 튜링과 달리 '람다 계산법'이라는 프로그래밍 언어의 시초 격인 논리 체계를 통해 계산을 정의했습니다. 튜링이 하드웨어적인 기계의 관점에서 접근했다면, 처치는 소프트웨어적인 언어의 관점에서 접근한 셈입니다. 흥미롭게도 서로 다른 길을 걸었던 두 천재의 정의는 결국 수학적으로 동일하다는 사실이 밝혀졌습니다. 튜링은 이후 처치의 제자가 되어 박사 학위를 받았으며, 이들의 협력은 컴퓨터 과학의 계보를 잇는 중요한 이정표가 되었습니다. 튜링이 제안한 개념 중 가장 혁신적인 것은 바로 '만능 기계'입니다. 이는 특정 작업만 수행하는 기계가 아니라, 어떤 규칙이든 입력받아 실행할 수 있는 유연한 장치를 의미합니다. 오늘날 우리가 사용하는 스마트폰이나 노트북은 바로 이 '만능 기계'를 실제 하드웨어로 구현한 결과물입니다. 우리가 카카오톡을 하거나 유튜브를 시청하는 모든 행위는 결국 처치의 '람다 계산법'과 동등한 프로그래밍 언어로 작성된 소프트웨어가 '만능 기계' 위에서 돌아가는 과정입니다. 즉, 현대의 모든 디지털 기기는 튜링과 처치가 설계한 논리적 세계관 속에 존재하고 있습니다. 결국 "계산이란 무엇인가"라는 질문에 대해 "컴퓨터로 할 수 있는 일"이라고 답하는 것은 과학적으로 매우 정확한 답변입니다. 인류는 튜링과 처치가 정의한 계산의 범주를 넘어서는 새로운 형태의 계산을 아직 발견하지 못했기 때문입니다. 우리가 집에서 사용하는 컴퓨터가 할 수 있는 일들이 곧 계산의 전부이며, 이는 앨런 튜링이 타임머신을 타고 현대에 온다 해도 똑같이 대답할 내용입니다. 가장 일상적인 도구가 가장 심오한 수학적 정의를 담고 있다는 사실은, 우리가 이미 위대한 과학적 성취의 시대 한복판에 살고 있음을 시사합니다.
![[카오스 짧강] 계산이란 무엇인가?_by박성우｜2018 봄 카오스 강연 '모든 것의 수數다' 10강](https://i.ytimg.com/vi_webp/h4SNY2boois/maxresdefault.webp)
![[강연] 미래의 수학자 (3) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강](https://i.ytimg.com/vi_webp/6-sVjoYjGkY/maxresdefault.webp)