법과학통계

[카오스 짧강] 과학도구로서의 통계학_ by 임채영 ｜2018 봄 카오스 강연 '모든 것의 수數다' 4강

통계학은 다양한 학문 분야에서 현상을 객관적으로 파악하기 위해 사용하는 필수적인 수단입니다. 자연과학뿐만 아니라 인문학, 사회과학, 공학에 이르기까지 데이터를 요약하고 가설을 검증하며, 그 과정에 내재된 불확실성을 측정하는 핵심적인 역할을 수행합니다. 우리는 통계를 통해 복잡한 데이터 속에서 유의미한 특징을 추출하고, 보이지 않는 진실에 한 걸음 더 다가갈 수 있습니다. 이는 단순히 숫자를 다루는 것을 넘어, 세상의 복잡성을 체계적으로 정리하는 과정이라 할 수 있습니다. 인문학 분야에서도 통계학은 매우 흥미로운 역할을 수행합니다. 영국의 작가 제인 오스틴이 미완성으로 남긴 소설 '샌디톤'의 사례가 대표적입니다. 다른 작가들이 오스틴의 문체를 흉내 내어 작품을 완성했을 때, 통계적 분석을 통해 실제 오스틴의 스타일과 일치하는지 검증할 수 있습니다. 특정 단어의 사용 빈도나 문장 부호의 활용 패턴을 수치화하여 비교함으로써, 주관적인 감상을 넘어 객관적인 데이터로 저자의 고유한 문체를 판별해 내는 것입니다. 이는 통계가 예술의 영역에서도 강력한 분석 도구가 됨을 보여줍니다. 자연과학의 최전선인 물리 실험에서도 통계는 결정적인 근거를 제공합니다. 2016년 전 세계를 놀라게 했던 중력파 탐지 성공의 이면에는 정밀한 통계적 검정이 자리 잡고 있었습니다. 이론적으로만 존재하던 중력파를 실제 관측 데이터로 증명하기 위해 연구진은 '4시그마'라는 매우 높은 신뢰도를 기준으로 삼았습니다. 이는 관측된 신호가 단순한 오차나 잡음일 확률을 극도로 낮추어, 발견의 확실성을 통계적으로 보증한 것입니다. 이처럼 거대한 우주의 비밀을 밝혀내는 과정에서도 통계학은 과학적 발견의 신뢰성을 뒷받침하는 든든한 버팀목이 됩니다. 실생활과 밀접한 응용 과학 분야인 지문 인식 기술 역시 통계적 모델링에 기반합니다. 지문의 골짜기가 끊기거나 갈라지는 특징점인 '미뉴셔'의 위치와 각도를 수치화하여 두 지문이 동일인의 것인지 판단합니다. 단순히 전문가의 직관에 의존하는 것이 아니라, 여러 개의 특징점이 일치할 확률을 계산하여 정확도를 측정합니다. 13개 이상의 특징점이 겹칠 때 이것이 우연일 가능성이 얼마나 낮은지를 확률로 제시함으로써, 판정의 불확실성을 관리하고 과학적인 증거로서의 가치를 높이는 것입니다. 이는 현대 보안 기술을 지탱하는 핵심 원리입니다. 통계적 분석에서 가장 중요한 요소 중 하나는 불확실성을 인정하고 이를 수치화하는 것입니다. 법정에서 쓰이는 DNA 증거가 범인의 것일 확률을 계산할 때나, 임신 진단 시약의 정확도를 판단할 때 '베이즈 정리'를 활용하여 조건부 확률을 따져보는 것이 그 예입니다. 또한 여론조사에서 흔히 접하는 신뢰구간과 유의수준은 통계 결과가 완벽하지 않을 수 있음을 전제로 합니다. 5%의 유의수준은 스무 번의 테스트 중 한 번은 오류가 발생할 수 있음을 의미합니다. 통계는 절대적인 정답을 제시하기보다, 데이터의 한계 내에서 최선의 판단을 돕는 가이드라인입니다.