과학 포털 iKAOS

4 Contents

[강연] 미래의 수학자 (4) _ by엄상일 | 2017 가을 카오스 강연 '미래과학' 5강 | 5강 ④

현대 수학에서 증명의 영역은 더 이상 인간의 전유물이 아닙니다. 1980년대 이후 수치해석과 논리 체계가 결합하면서 'Coq'와 같은 소프트웨어가 등장했고, 이는 수학자들이 이론적으로 수행할 수 있는 모든 증명을 컴퓨터가 도울 수 있는 길을 열었습니다. 과거에는 수백 페이지의 논문과 방대한 프로그램을 별개로 취급했지만, 이제는 이를 동시에 처리하며 복잡한 난제를 해결하는 시대가 되었습니다. 비록 지식의 한계는 존재할지라도, 컴퓨터를 활용한 전수 조사는 수학적 탐구의 지평을 넓히는 강력한 도구가 되고 있습니다. 하지만 컴퓨터가 수행하는 증명을 완벽하게 신뢰할 수 있는지에 대해서는 신중한 접근이 필요합니다. 논리학자 괴델이 증명한 '불완전성 정리'에 따르면, 어떤 공리 체계 내에서도 참과 거짓을 판별할 수 없는 명제가 반드시 존재하기 때문입니다. 이는 아무리 정교한 프로그램을 설계하더라도 그 무오류성을 완벽하게 입증하는 프로그램을 찾는 것이 논리적으로 매우 어렵다는 점을 시사합니다. 결국 수학적 진리는 완벽한 시스템 구축보다는 끊임없는 검증과 보완의 과정 속에 존재한다고 볼 수 있습니다. 현실적인 관점에서 컴퓨터의 오류 가능성은 인간에 비해 현저히 낮습니다. 인간의 실수는 빈번하게 발생하지만, 컴퓨터가 내는 오류의 범위는 1조 분의 1 정도로 극히 미미합니다. 물론 우주 방사선이 메모리에 영향을 주어 비트가 바뀌는 하드웨어적 결함이나 소프트웨어 자체의 버그가 발생할 가능성은 여전히 남아 있습니다. 그럼에도 불구하고 현대 수학자들은 이러한 미세한 확률을 줄이기 위해 오류 정정 기술을 개발하고 있으며, 이는 인간의 직관이 놓치기 쉬운 정밀한 계산을 보완하는 핵심적인 역할을 수행합니다. 수학 연구를 흔히 천재들만의 전유물로 오해하곤 하지만, 실제로는 끈기 있는 노력과 협업이 무엇보다 중요합니다. 수십 페이지에 달하는 논문을 작성하며 수년간 오류를 수정하고 논리를 다듬는 과정은 인간의 인내심을 시험하는 작업입니다. 또한 현대 수학은 혼자만의 사색을 넘어 동료들과의 소통을 통해 완성됩니다. 서로 다른 언어와 사고방식을 가진 연구자들이 협력하며 문제를 해결해 나가는 과정은, 수학이 단순한 계산을 넘어 인간적인 교류와 열정이 집약된 학문임을 잘 보여줍니다. 수학자들이 추구하는 '아름다운 증명'이란 단순히 답을 찾는 것을 넘어 간결하고 효율적인 논리적 경로를 제시하는 것입니다. 여러 갈래의 길 중에서 가장 명쾌한 지름길을 찾아내고, 기하학적 문제를 대수적으로 풀어내는 것처럼 서로 다른 분야를 연결할 때 그 가치는 더욱 높게 평가됩니다. 또한 순수 수학적 호기심에서 시작된 연구가 공학적 난제를 해결하거나 실생활의 기술로 응용될 때 수학의 진정한 위력이 발휘됩니다. 즉, 좋은 증명이란 보편성과 확장성을 동시에 갖춘 논리의 예술이라 할 수 있습니다. 인공지능의 발전은 수학적 창의성에 대한 새로운 질문을 던집니다. 알파고와 같은 시스템이 놀라운 결과를 보여주지만, 이를 진정한 의미의 창의성으로 볼 수 있는지에 대해서는 의견이 갈립니다. 현재의 컴퓨터는 튜링 기계의 한계 내에서 작동하며, 스스로 이론을 정립하거나 자신의 한계를 인식하여 업그레이드하는 인간 특유의 창조적 능력을 완전히 대체하지는 못하고 있습니다. 결국 컴퓨터가 잘할 수 있는 영역과 인간만이 수행할 수 있는 창의적 모방의 영역을 구분하고 이해하는 것이 미래 수학의 중요한 과제가 될 것입니다. 마지막으로 우리 사회의 수학 교육은 결과 중심의 경쟁에서 벗어나 원리와 즐거움을 찾는 방향으로 나아가야 합니다. 많은 학생이 수학을 '스피드 퀴즈'처럼 여기며 공식 암기에 매달리지만, 진정한 수학적 사고는 문제를 천천히 씹어보고 자신의 생각을 타인에게 설명하는 과정에서 길러집니다. 정답을 맞히는 속도보다 중요한 것은 논리적 전개 과정을 스스로 깨닫는 경험입니다. 수학이 실생활의 다양한 기술을 지탱하는 기초임을 이해하고, 배운 것을 나누며 함께 성장하는 문화를 만들 때 수포자가 없는 즐거운 학습이 가능해질 것입니다.