퍼셉트론

4 Contents

[강연] 기계학습과 물리학: 생성형 인공지능의 원리_by 조정효 | 고등과학원&카오스재단 '2024 노벨상 해설강연' | 1강

올해 노벨 물리학상은 인공지능의 핵심인 인공신경망의 기초를 확립한 과학자들에게 돌아갔습니다. 존 홉필드와 제프리 힌튼 교수는 물리학적 원리를 기계 학습에 도입하여 현대 인공지능의 토대를 마련했습니다. 이들의 연구는 단순한 공학적 성과를 넘어, 우리 뇌가 정보를 처리하고 기억하는 방식을 물리학적으로 해석하려는 시도에서 시작되었습니다. 이는 복잡한 연결망 속에서 스스로 질서가 창발하는 현상을 탐구한 결과이며, 물리학과 컴퓨터 과학의 경계를 허문 혁신적인 성취로 평가받습니다. 인공신경망의 기본 단위인 퍼셉트론은 생물학적 뉴런의 작동 방식에서 영감을 얻었습니다. 여러 뉴런으로부터 들어온 신호에 가중치를 곱해 합산하고, 이 값이 특정 임계치를 넘으면 다음 뉴런으로 신호를 전달하는 구조입니다. 초기 과학자들은 이를 통해 논리 연산을 수행하며 인공지능의 가능성을 엿보았습니다. 하지만 단일 계층의 퍼셉트론은 선형적으로 분리되지 않는 배타적 논리합(XOR)과 같은 복잡한 문제를 해결하지 못한다는 한계에 부딪히기도 했습니다. 이러한 한계를 극복하기 위해 도입된 것이 은닉층을 포함한 다층 신경망입니다. 수학적으로 증명된 보편적 어림 정리에 따르면, 적절한 은닉층을 가진 신경망은 어떤 복잡한 함수 관계도 표현할 수 있습니다. 이는 입력 데이터를 새로운 공간으로 변환하여 문제를 해결하는 과정으로 이해할 수 있습니다. 고양이 사진을 보고 고양이라고 판단하는 복잡한 분류 작업도 결국 데이터를 다차원적으로 해석하고 변환하는 신경망의 층을 통해 가능해지며, 이는 현대 딥러닝의 근간이 되었습니다. 신경망이 깊어질수록 수많은 매개변수를 최적화하는 것이 관건이 됩니다. 제프리 힌튼 교수는 오차 역전파와 경사하강법을 통해 이 문제를 해결했습니다. 실제 정답과 예측값 사이의 오차를 정의하고, 경사가 낮아지는 방향으로 매개변수를 조금씩 수정하며 최적의 상태를 찾아가는 방식입니다. 이는 마치 복잡한 지형에서 가장 낮은 골짜기를 찾아 내려가는 과정과 같습니다. 이러한 학습 알고리즘의 발전은 딥러닝이 실질적인 성능을 발휘하고 다양한 분야에 응용되는 결정적 계기가 되었습니다. 존 홉필드 교수는 기억의 형성을 물리학의 에너지 개념으로 설명했습니다. 데이터의 패턴을 에너지 지형의 골짜기로 정의하면, 불완전한 정보가 입력되더라도 에너지가 가장 낮은 상태를 찾아가며 원래의 기억을 복원할 수 있습니다. 이는 통계 물리학의 스핀 유리 모형을 응용한 것으로, 신경세포들이 함께 활성화될 때 연결이 강화된다는 헤비안 규칙과도 일맥상통합니다. 기억이란 결국 시스템이 안정적인 에너지 상태를 찾아가는 물리적 과정이며, 이를 통해 기계는 정보를 저장하고 회상하는 능력을 갖추게 됩니다. 생성형 인공지능의 원형인 볼츠만 머신은 확률 분포를 통해 데이터를 이해합니다. 힌튼 교수는 계산량 문제를 해결하기 위해 제한된 볼츠만 머신(RBM)을 고안했고, 이를 계층적으로 쌓아 심층 신경망의 학습을 가능하게 했습니다. 데이터를 압축하고 핵심 정보를 추출하는 이 과정은 확률 분포를 변환하는 고도의 수학적 작업입니다. 오늘날 우리가 목격하는 놀라운 생성형 AI의 성취는 데이터를 확률과 정보의 관점에서 다루는 이러한 물리적 통찰에서 비롯되었으며, 이는 단순한 분류를 넘어 새로운 정보를 창조하는 단계로 나아갔습니다. 정보는 이제 물리학과 생물학을 관통하는 핵심 개념으로 자리 잡았습니다. 맥스웰의 도깨비 역설을 해결한 정보 열역학부터 '비트에서 존재로(It from bit)'라는 철학적 통찰에 이르기까지, 자연 현상을 정보 처리 과정으로 보는 시각이 확산되고 있습니다. 인공지능의 발전은 인간의 특별함에 대한 질문을 던지는 동시에, 우리가 거대한 정보의 그물망인 인포스피어의 일부임을 깨닫게 합니다. 과학은 인간이 중심이 아니라는 사실을 일깨우며, 정보라는 보편적 언어를 통해 우주와 생명을 이해하는 더 넓은 세계로 우리를 인도합니다.

조정효

카오스재단카오스크로스

물리학

[강연] 2024 '노벨상 해설강연' by 조정효, 백민경, 이준호 l 고등과학원&카오스재단

2024년 노벨 물리학상은 인공지능의 기초를 닦은 존 홉필드와 제프리 힌턴에게 돌아갔습니다. 이들은 물리학의 통계적 원리를 활용해 인공신경망이 정보를 저장하고 학습하는 초기 모델을 고안했습니다. 홉필드 모델은 물리학의 에너지 지평 개념을 도입하여 불완전한 정보에서 원래의 패턴을 복원하는 기억의 원리를 설명했습니다. 이는 현대 딥러닝의 이론적 토대가 되었으며, 물리학적 통찰이 어떻게 첨단 기술의 근간이 될 수 있는지를 보여주는 상징적인 사례로 평가받습니다. 인공신경망은 이제 단순한 계산 도구를 넘어 인간의 지능을 모사하는 핵심 기술로 자리 잡았습니다. 제프리 힌턴은 홉필드의 아이디어를 확장하여 볼츠만 머신과 오차 역전파 알고리즘을 발전시켰습니다. 그는 데이터의 확률 분포를 학습하는 생성 모델의 원형을 제시하며, 인공지능이 단순한 분류를 넘어 새로운 정보를 생성할 수 있는 가능성을 열었습니다. 특히 층을 깊게 쌓은 심층신경망의 학습 가능성을 증명함으로써 오늘날의 생성형 AI 시대를 가능케 했습니다. 이러한 성과는 물리학적 통찰이 복잡한 데이터 처리 시스템의 효율성을 극대화하는 데 결정적인 역할을 했음을 시사합니다. 이는 인공지능 발전의 역사에서 물리학이 수행한 중추적인 역할을 다시금 확인시켜 줍니다. 노벨 화학상은 단백질 구조 예측과 설계 분야에서 혁신을 일으킨 데이비드 베이커, 데미스 허사비스, 존 점퍼가 수상했습니다. 단백질은 생명 현상을 수행하는 핵심 일꾼으로, 그 기능을 이해하려면 복잡하게 접힌 3차원 구조를 파악하는 것이 필수적입니다. 구글 딥마인드의 알파폴드는 인공지능을 활용해 수십 년간 난제로 남아있던 구조 예측 문제를 해결했습니다. 이는 실험에 수년이 걸리던 작업을 단 몇 분 만에 처리할 수 있게 함으로써 생명과학 연구의 패러다임을 완전히 바꾸어 놓았습니다. 이제 과학자들은 방대한 단백질 데이터를 바탕으로 생명의 신비를 더욱 빠르게 파헤치고 있습니다. 데이비드 베이커 교수는 인공지능을 활용해 자연계에 존재하지 않는 새로운 단백질을 설계하는 데 성공했습니다. 그는 단백질이 형성되는 물리적 원리를 바탕으로 특정 기능을 수행할 수 있는 아미노산 서열을 계산해내는 '로제타'와 'RF디퓨전' 모델을 개발했습니다. 이를 통해 질병 치료를 위한 정밀 약물 전달체나 환경 오염을 해결할 플라스틱 분해 효소 등을 맞춤형으로 제작할 수 있는 길이 열렸습니다. 단백질 설계 기술의 발전은 인류가 직면한 난치병과 환경 문제를 해결할 강력한 무기가 될 것입니다. 이는 기초 과학의 원리가 인공지능이라는 도구를 만나 실질적인 인류의 혜택으로 전환된 사례입니다. 노벨 생리의학상은 예쁜꼬마선충 연구를 통해 마이크로RNA를 발견한 빅터 앰브로스와 게리 러브컨에게 수여되었습니다. 이들은 아주 작은 벌레인 선충의 발생 과정을 추적하던 중, 단백질 정보를 담고 있지 않은 아주 작은 RNA 조각이 유전자 발현을 조절한다는 사실을 우연히 발견했습니다. 이는 기존의 생명 중심 원리에서 설명하지 못했던 새로운 유전자 조절 층위를 밝혀낸 것입니다. 아주 단순한 생명체에 대한 호기심이 생명 과학의 근본적인 원리를 뒤흔드는 거대한 발견으로 이어진 셈입니다. 이 발견은 생명체가 얼마나 정교한 시스템을 통해 스스로를 통제하는지 보여주는 중요한 이정표가 되었습니다. 마이크로RNA는 선충뿐만 아니라 인간을 포함한 고등 생물에게도 진화적으로 잘 보존되어 있으며, 세포의 성장과 분화에 결정적인 역할을 합니다. 특정 마이크로RNA의 이상은 암이나 유전병 등 다양한 질병의 원인이 되기도 합니다. 이 발견은 유전자가 단순히 단백질을 만드는 설계도에 그치지 않고, 그 발현 시기와 양을 정밀하게 조절하는 복잡한 시스템임을 증명했습니다. 현재는 이를 활용한 새로운 진단 기술과 치료제 개발 연구가 활발히 진행되며 인류의 건강 증진에 기여하고 있습니다. 작은 분자 하나가 생명 현상의 거대한 흐름을 조절한다는 사실은 현대 의학에 새로운 지평을 열어주었습니다. 2024년 노벨상은 과학의 새로운 도구로서 인공지능의 위상을 공고히 하는 동시에, 기초 과학의 끈질긴 탐구 정신이 얼마나 중요한지를 일깨워 줍니다. 인공지능은 방대한 데이터를 분석하고 예측하는 강력한 도구이지만, 그 도구를 어디에 사용할지 결정하고 새로운 질문을 던지는 것은 여전히 인간의 몫입니다. 물리학, 화학, 생물학의 경계가 허물어지는 융합의 시대에서, 기초 과학에 대한 깊은 이해와 창의적인 상상력은 인류의 지식을 확장하고 미래의 난제를 해결하는 가장 확실한 열쇠가 될 것입니다. 과학자들의 끊임없는 도전은 인공지능이라는 날개를 달고 더욱 먼 미래를 향해 나아가고 있습니다.

백민경, 이준호, 조정효

카오스재단카오스크로스

물리학
화학
생명과학

인간이 인공지능🧠을 두려워하는 이유?! 인공지능, 머신러닝, 딥러닝의 차이🙋‍♂️ㅣ사이다_저자강연

인공지능은 인간처럼 사고하고 판단하며 예측까지 가능한 기술로, 최근 ChatGPT와 같은 혁신적인 모델의 등장으로 많은 이들의 관심과 놀라움을 자아내고 있습니다. 과거 2016년 알파고와 이세돌의 바둑 대결에서도 인공지능의 능력은 사회적 화두가 되었고, 그 발전 속도에 대한 두려움까지 불러일으켰습니다. 이러한 현상은 인공지능이 어디까지 발전할 수 있을지에 대한 궁금증과 함께, 기술의 본질에 대한 이해를 필요로 하게 만들었습니다. 인공지능, 머신러닝, 딥러닝, 인공신경망 등 다양한 용어들이 혼재되어 있지만, 이들은 모두 인공지능 기술의 일부입니다. 머신러닝은 기계가 데이터를 통해 스스로 학습하는 과정이며, 딥러닝은 인간의 뇌 신경세포를 모방하여 더욱 복잡한 학습을 가능하게 합니다. 인간의 뇌 속 뉴런이 자극을 받아 정보를 전달하는 방식에서 영감을 얻어, 과학자들은 컴퓨터가 인간의 사고방식을 닮을 수 있다고 생각하게 되었습니다. 인공지능의 발전에는 다양한 연구자들의 노력이 있었습니다. 제플리 교수는 쥐의 뇌 연구에서 영감을 받아 컴퓨터에 생리학적 원리를 도입했고, 알파고의 개발자 데미스 하사비스 역시 뇌의 기억 원리를 연구하며 인공지능의 발전에 기여했습니다. 1957년 로젠블라트가 개발한 퍼셉트론은 인간 뇌의 뉴런을 본뜬 초기 인공지능 모델로, 입력값이 일정 기준을 넘으면 출력이 발생하는 구조를 가지고 있습니다. 이는 신경세포의 작동 원리를 단순화한 형태로, 인공지능의 기초를 마련했습니다.

국립과천과학관책📖저자강연

뇌인지과학
융합

[강연] 자연에 숨어 있는 질서를 찾아서 (6) _ by하승열 | 2018 봄 카오스 강연 '모든 것의 수數다' 2강 | 2강 ⑥

주식 시장의 복잡한 움직임을 수학적으로 분석하려는 시도는 현대 금융에서 매우 중요한 위치를 차지합니다. 특히 개별 주식을 하나의 입자로 간주하고 그 움직임을 모델링하는 방식은 경제 위기 시 발생하는 군집 현상(Herding)을 이해하는 데 큰 도움을 줍니다. 연구자들은 입자 물리학의 동기화 현상과 플로킹 이론을 금융 데이터에 접목하여 경제 위기의 시작과 끝을 예측할 수 있는 금융위기지수(FVI)를 개발하고 있습니다. 이러한 수학적 접근은 단순한 수치 계산을 넘어 시장의 변동성을 체계적으로 파악하게 해줍니다. 다가올 5·6차 산업혁명은 인간의 생명 현상과 양자 세계에 대한 깊은 이해를 바탕으로 전개될 전망입니다. 4차 산업혁명이 인공지능과 뇌 지능의 대체를 지향한다면, 그다음 단계는 세포 단위의 생명 현상을 규명하고 이를 산업화하는 방향으로 나아갈 것입니다. 특히 양자 정보 및 계산 기술은 미래 산업의 핵심 키워드로 주목받고 있으며, 이는 우리 몸을 더 정밀하게 이해하고 질병을 극복하는 데 기여할 것입니다. 수학은 이러한 미시적 세계와 거시적 우주를 연결하는 기본 언어로서 그 역할이 더욱 확대될 것입니다. 인공지능 기술의 역사를 되짚어보면 수학적 논리의 중요성이 극명하게 드러납니다. 과거 퍼셉트론 모델이 XOR 연산과 같은 논리적 한계에 부딪혔을 때 인공지능 연구는 한동안 정체기를 겪었습니다. 최근 딥러닝의 비약적인 발전으로 많은 문제가 해결되고 있지만, 여전히 '왜 결과가 도출되는가'에 대한 수학적 원리 규명은 과제로 남아 있습니다. 단순히 기술적 구현에 그치지 않고 그 근저에 흐르는 수학적 원리를 명확히 확립해야만 인공지능 기술이 일시적인 유행을 넘어 지속 가능한 학문적 토대를 갖출 수 있을 것입니다. 기술의 발전은 인류에게 풍요로운 여가 시간을 선사하는 동시에 새로운 사회적 과제를 던져줍니다. 기계가 인간의 노동을 대체하면서 발생할 수 있는 소외감이나 환경 문제, 그리고 가상 화폐의 확산에 따른 새로운 경제 질서의 정립이 필요합니다. 이러한 변화는 단순한 기술 도입을 넘어 사회 전반의 제도적 보완과 규제의 재설계를 요구합니다. 무질서가 증가하는 엔트로피의 법칙처럼, 기술 혁신이 가져올 수 있는 카오스적인 부작용을 최소화하기 위해서는 새로운 생각의 틀을 마련하고 이를 조율할 수 있는 사회적 합의가 필수적입니다. 수학 연구의 지평은 연구자의 자유로운 탐구 정신과 우연한 발견을 통해 확장됩니다. 과거에는 학문적 성취를 위해 해외 유학이 필수적인 경로로 여겨졌으나, 현재 한국의 수학계는 세계적인 수준에 도달하여 국내에서도 충분히 깊이 있는 연구가 가능해졌습니다. 인터넷을 통한 정보 공유와 활발한 국제 학술 교류 덕분에 연구 환경의 제약이 사라진 것입니다. 중요한 것은 어디에서 공부하느냐보다 본인의 의지와 학문에 대한 열정이며, 이러한 변화는 미래의 수학도들에게 더 넓은 선택지와 가능성을 열어주고 있습니다.

배형옥, 하승열

카오스재단카오스강연

수학