과학 포털 iKAOS

5 Contents

[강연] 컴퓨터과학의 원천 아이디어가 나오기까지 (4) _ by이광근 | 2018 봄 카오스 강연 '모든 것의 수數다' 10강 | 10강 ④

우리가 일상에서 접하는 컴퓨터는 정답이 없는 복잡한 문제들을 해결하기 위해 '휴리스틱', 즉 일종의 직관적인 추론 방식을 사용하곤 합니다. 바둑과 같은 게임에서 알파고가 보여준 놀라운 실력도 사실은 완벽한 정답을 찾은 것이 아니라, 방대한 데이터를 바탕으로 최선의 수를 찾아가는 과정이었습니다. 이처럼 컴퓨터가 모든 문제에 대해 즉각적이고 완벽한 해답을 내놓는 것은 아니지만, 인간이 범접하기 어려운 수준의 계산 능력을 통해 실질적인 해결책을 제시하며 우리 삶의 깊숙한 곳까지 들어와 있습니다. 계산이란 무엇인가라는 근본적인 질문에 대해 앨런 튜링은 '튜링 기계'라는 개념을 통해 명쾌한 정의를 내렸습니다. 튜링 기계는 상태를 기록하는 테이프와 이를 읽고 쓰는 헤드, 그리고 정해진 규칙 표로 구성된 매우 단순한 장치입니다. 이 단순한 기계가 수행할 수 있는 모든 과정이 바로 우리가 말하는 계산의 본질입니다. 즉, 계산은 복잡한 전자 회로의 움직임 이전에, 논리적인 규칙에 따라 정보를 처리해 나가는 일련의 절차적 과정을 의미하는 것이라고 할 수 있습니다. 튜링과 비슷한 시기에 미국의 알론조 처치는 '람다 계산법'이라는 프로그래밍 언어의 시초와 같은 방식을 통해 계산을 정의했습니다. 흥미로운 점은 기계적인 접근을 시도한 튜링과 소프트웨어적인 접근을 시도한 처치의 방법론이 결국 동일한 문제를 풀고 있었다는 사실이 증명되었다는 것입니다. 오늘날 우리가 사용하는 스마트폰이나 컴퓨터는 튜링의 만능 기계를 하드웨어로 구현한 것이며, 그 안에서 돌아가는 수많은 앱은 처치의 람다 계산법과 맥을 같이하는 소프트웨어의 결과물입니다. 이론적인 관점에서 계산 가능성을 논할 때, 우리는 계산에 소요되는 시간을 고려하지 않습니다. 어떤 문제가 해결되는 데 천 년이 걸리든 만 년이 걸리든, 언젠가 결과가 나오기만 한다면 그것은 계산으로 풀 수 있는 문제라고 간주합니다. 시간은 상대적인 개념이며 충분한 에너지만 있다면 극복할 수 있는 요소이기 때문입니다. 따라서 계산의 핵심은 '얼마나 빨리'가 아니라 '논리적으로 답에 도달할 수 있는가'라는 본질적인 가능성 여부에 달려 있다고 보아야 합니다. 하지만 컴퓨터가 모든 수학적 난제를 해결할 수 있는 것은 아닙니다. '멈춤 문제'와 같이 튜링 기계로도 결코 해결할 수 없는 문제들이 존재하며, 이러한 불가능한 문제의 개수 또한 무한합니다. 수학자 괴델이 증명했듯이 인간의 논리 체계 안에는 증명할 수 없는 사실들이 존재하며, 이는 컴퓨터 과학에서도 동일하게 적용됩니다. 할 수 있는 일과 할 수 없는 일이 모두 무한하다는 사실은 계산의 세계가 우리가 상상하는 것보다 훨씬 더 깊고 오묘한 영역임을 시사합니다. 컴퓨터 과학의 본질은 추상적인 사고 과정을 논리적인 규칙으로 정립하여 기계가 수행할 수 있도록 만드는 과정을 의미합니다. 이러한 능력을 키우기 위해서는 수학적 사고력이 필수적입니다. 수학은 보이지 않는 개념을 논리적으로 다루는 근육을 단련시켜 주며, 이를 통해 다져진 컴퓨팅 사고력은 인공지능 시대를 살아가는 현대인들에게 읽기나 쓰기만큼이나 중요한 필수 역량이 되고 있습니다. 이는 단순히 기술을 배우는 것을 넘어 세상을 논리적으로 설계하는 힘을 기르는 과정입니다. 컴퓨터 과학은 이제 겨우 80년 정도의 역사를 가진 매우 젊은 학문입니다. 물리학의 역사와 비교하자면 지금의 컴퓨터 과학은 뉴턴이나 갈릴레오가 활동하던 고전 역학의 태동기와 비슷하다고 볼 수 있습니다. 지난 수십 년간 눈부신 발전을 이루었지만, 여전히 해결되지 않은 과제들이 산적해 있으며 앞으로 개척해야 할 영역은 무궁무진합니다. 알파고를 뛰어넘는 혁신적인 기술들이 앞으로 어떻게 펼쳐질지 기대하며, 우리는 이 새로운 과학의 시대를 맞이할 준비를 해야 합니다.