[해SSUL이 있는 과학뉴스] 딥페이크 디텍트 기술
최근 딥페이크 기술이 성범죄 등 각종 사회적 문제에 악용되면서 이를 탐지하기 위한 기술적 대응이 시급해졌습니다. 이러한 상황에서 국내 인공지능 기업이 개발한 '디텍트 딥페이크 AI'는 영상의 진위 여부를 90% 이상의 높은 탐지율로 가려내며 주목받고 있습니다. 이는 딥페이크 영상이 정교해짐에 따라 발생하는 피해를 최소화하기 위한 실질적인 도구로 평가받으며, 우리 사회의 안전망을 구축하는 데 중요한 역할을 할 것으로 기대됩니다. 딥페이크 탐지 기술은 전 세계적인 화두입니다. 글로벌 기업들은 대규모 챌린지를 통해 탐지 기술의 발전을 도모하고 있으며, 국내에서도 카이스트 연구진이 개발한 '카이캐치'가 이미 법원이나 변호사 등 전문 분야에서 활용되고 있습니다. 특히 이러한 프로그램들은 2015년부터 서비스를 시작하여 영상 및 이미지의 조작 여부를 판독하는 일종의 '영상 거짓말 탐지기' 역할을 수행하며 디지털 증거의 신뢰성을 확보하는 데 기여해 왔습니다. 최근에는 눈동자 반사광을 분석하여 딥페이크를 찾아내는 등 매우 정교한 아이디어들이 논문으로 발표되고 있습니다. 정상적인 영상이라면 양쪽 눈의 반사광 모양이 일치해야 하지만, 인공지능이 생성한 가짜 영상에서는 미세한 차이가 발생하기 때문입니다. 하지만 이러한 탐지 기술이 완벽한 해결책은 아닙니다. 딥페이크 생성 기술 역시 탐지 알고리즘을 학습하여 이를 우회하는 방식으로 끊임없이 진화하기 때문입니다. 과거 음란물 차단 기술의 사례를 보면 기술적 대응의 한계를 엿볼 수 있습니다. 특정 피부색 범위를 분석해 차단하는 기술이 나오자, 이를 우회하기 위해 데이터를 무작위로 변조하는 기술이 등장하며 기존의 노력이 무색해지기도 했습니다. 이처럼 인공지능 기술은 만능이 아니며, 하나의 기술적 돌파구가 마련되더라도 이를 뒤엎는 또 다른 기술이 나타날 수 있습니다. 따라서 기술의 자정 작용을 믿으면서도, 발생할 수 있는 부작용에 대해 지속적으로 대비하는 자세가 중요합니다. 새로운 기술의 등장은 인류가 직면한 하나의 관문과 같습니다. 과거 포토샵이 처음 등장했을 때도 이미지 위조에 대한 우려가 컸지만, 현재는 공적인 영역과 사적인 영역에서 적절히 구분되어 사용되고 있습니다. 위조지폐 방지 기술이 복사기에 탑재되어 범죄를 예방하듯, 딥페이크 역시 기술적 보완과 더불어 법적 규제, 그리고 사회적 캠페인이 병행되어야 합니다. 기술로 막지 못하는 빈틈을 제도와 인식이 채워나갈 때, 우리는 비로소 새로운 기술과 안전하게 공존할 수 있을 것입니다.
![[해SSUL이 있는 과학뉴스] 딥페이크 디텍트 기술](https://i.ytimg.com/vi_webp/0mKay97EW7U/maxresdefault.webp)
![[강연] 데이터 과학과 CSI by임채영｜2019 서울대 자연과학대학 공개강연 '과학 선율'](https://i.ytimg.com/vi/a5lkmyD-wOA/maxresdefault.jpg)