행정 업무의 효율성을 높이기 위해 시작된 AI의 활용은 처음부터 순탄했던 것은 아니었습니다. 챗GPT를 통해 법령 정보를 찾았을 때 존재하지 않는 조문을 안내받는 '환각(Hallucination)' 현상을 겪으며, 오히려 AI의 한계를 극복하고 실무에 적용할 수 있는 도구를 직접 개발하겠다는 결심을 하게 된 것입니다. 소위 '바이브 코딩'이라 불리는 방식으로 시작된 이 여정은 2026년 법령 MCP와 코닥(Kodoc)이라는 결과물로 이어졌습니다. 이는 단순한 기술적 호기심을 넘어 실제 공직 사회에서 마주하는 불편함을 해결하려는 절박함에서 비롯된 혁신의 시작점이었습니다.

공공 부문에서 낭비되는 시간을 AI로 절감한다면 연간 약 3조 6천억 원에 달하는 경제적 가치를 창출할 수 있다는 데이터는 행정 혁신의 필요성을 증명합니다. 이러한 노력을 인정받아 광진구는 AI 오픈소스 도구를 행정 업무에 도입한 실적으로 국무총리상을 수상하는 쾌거를 이루기도 했습니다. 이는 개별 공무원의 '딴짓'으로 치부될 수 있었던 시도가 국가적인 정책 사례로 주목받으며 공공 데이터의 가치를 재발견하게 된 중요한 계기가 되었습니다. 단순한 비용 절감을 넘어 공직 사회 전반에 AI를 대하는 새로운 시각을 제시한 사례라 할 수 있습니다.

특히 행정 현장에서 가장 큰 벽이었던 한글(HWP) 문서와 PDF 파일의 데이터 추출 문제를 해결하는 과정은 매우 치열했습니다. 오픈 데이터 로더 벤치마크에서 초기 낮은 순위였던 성적을 PDF 파싱 기술의 고도화를 통해 세계 1위 수준으로 끌어올린 성과는 주목할 만합니다. 이제는 한글(HWP)이나 PDF 문서의 표 서식을 99% 이상 유지하며 텍스트를 파싱할 수 있게 되었고, 이는 곧 RAG 시스템 구축 시 데이터의 정확도를 비약적으로 향상시키는 근간이 되었습니다. 이러한 기술적 완성도는 현장 공무원들이 AI를 업무의 보조 수단으로 신뢰할 수 있게 만드는 핵심적인 토대가 되었습니다.

실제 업무 현장에서는 법령, 통계, 건축물대장 등 흩어져 있는 방대한 정보를 AI 에이전트가 단 몇 분 만에 취합하여 보고서 초안을 작성하는 단계까지 발전했습니다. 과거 수 시간이 소요되던 9쪽 분량의 보고서 작성이 단 10분 만에 완료되며, 출처까지 정확히 명시된 결과물을 제공함으로써 담당자의 최종 검토 효율을 극대화합니다. 이는 단순히 속도의 문제를 넘어 사람이 직접 수행할 때 발생할 수 있는 누락이나 오류를 예방하는 효과를 가져옵니다. AI가 단순 반복 업무를 대신하면서 공무원들은 더 본질적이고 가치 있는 행정 서비스에 집중할 수 있게 된 것입니다.

혁신은 거창한 기술이 아니라 옆자리 동료의 불편함을 하나씩 덜어주는 일에서부터 시작됩니다.

오픈소스 정신은 한 개인의 성취를 넘어 전국적인 변화를 끌어내는 원동력이 되었습니다. 수천 개의 깃허브 별과 동료 개발자들의 기여는 혼자서는 해결할 수 없었던 수많은 버그를 뚫고 나가는 힘이 되었고, 이러한 연대는 실제 40여 곳 이상의 언론 보도와 인공지능 전략회의 사례 소개로 이어졌습니다. '중요한 건 꺾여도 그냥 하는 마음'으로 지속해온 이 활동은 결국 서울시 최초의 AI 전문가 제도 도입이라는 조직적 변화까지 끌어냈습니다. 현장의 불편함을 외면하지 않고 AI라는 도구를 통해 스스로 해결책을 찾아가는 공직자들의 노력이 더 나은 행정의 미래를 만들고 있습니다.