지방공공기관

2025. Autumn

포커스 1

AI 정부,
지방에서 완성된다
― 공공서비스 혁신의 길

RAG·MCP로 확장하는 현장 맞춤형 행정 혁신

인공지능(AI)이 행정과 공공서비스의 판도를 바꾸고 있다. 이러한 변화 속에서 지방공공기관은 단순한 행정 수행자를 넘어 AI 시대의 핵심 혁신 주체로 부상하고 있다. 이제 각 기관은 지역 특성과 미션에 맞는 AI와 데이터 활용으로 맞춤형 공공서비스를 창출하면서 동시에 국가 전체의 AI 경쟁력 제고에 기여해야 하는 도전에 직면해 있다.

중앙집중 대신 지역 맞춤: 플랫폼 정부와 지방의 균형

이전 정부가 추진한 ‘디지털 댐’이나 ‘디지털 플랫폼 정부’ 구상은 범정부적으로 데이터를 통합하고 AI를 활용하겠다는 청사진을 제시했지만, 모든 것을 중앙에서 통합하려는 시도는 현실성이 떨어질 수 있다. 데이터를 모아 거대 AI를 개발하는 방식보다 각 기관이 자체 데이터를 활용해 AI 모델을 훈련한 뒤, 데이터를 모으지 않고 AI모델을 통합함으로써 하나의 강력한 AI를 공유하는 연합학습 방식이 필요하다. 이러한 접근은 개인정보 보호가 중요한 공공 분야에 돌파구를 제공하며, 중앙의 일원화된 플랫폼이 아닌 분산 협력형 플랫폼으로의 전환을 의미한다. 요컨대 중앙은 상호 호혜적 협력 프레임워크와 인프라를 지원하되 실행은 지방이 주도하고 성과를 공유하는 중앙-지방 균형 전략이 필요하다.

특히 중앙정부의 전략 수립 시 원스톱 통합만을 강조하기보다 각 지방공공기관이 자체 혁신을 이룰 수 있는 여건을 마련해야 한다. 연합 데이터 뱅크라는 새로운 제도를 구축해 기관 간 데이터 연합 및 지능 공유를 촉진할 수 있다. 연합 데이터 뱅크란 기관과 개인이 자신의 데이터를 계좌에 적립하고 필요시 AI 학습에 제공하면서도 정당한 보상을 받는 구조로, 데이터의 가치를 인정하면서도 중앙에 몰아넣지 않고 연계 활용하는 방안이다. 중앙은 연합학습 인프라와 법·제도적 지원을 제공하고, 지방공공기관은 현장 데이터와 아이디어로 혁신 솔루션을 개발하여 상호 윈윈하는 생태계를 구축해야 한다.

지방공공기관은 주민의 데이터를 소중히 보호하면서도 그 데이터로부터 얻어진 인사이트는 기관 간 공유하여 서비스 품질을 높이는 생태계를 만들어야 한다. 예를 들어 한 복지기관이 취약계층을 지원하는 과정에서 얻은 AI 판정 노하우를 다른 도시와 모델 형태로 교환하면, 서로의 약점을 보완하며 전반적인 복지서비스 수준을 향상시킬 수 있다. 핵심은 개인 데이터 자체의 공유가 아닌, 데이터로 학습된 지능의 공유라는 점이다. 여러 전문 서비스 사업자들이 이용자의 민감정보는 보호하면서도 서비스 과정에서 얻은 지능을 연합해 윈윈하는 모델을 구축해야 지속 가능한 AI 생태계가 된다. 지방공공기관들도 연합 AI와 지능 공유를 통해 개별 기관이 놓치기 쉬운 개인 관점의 서비스를 함께 향상시킬 수 있을 것이다.

주민 체감형 서비스 혁신

AI 기반 스마트 교통관리로 교통체증과 사고를 줄여야 한다. AI로 주요 교차로의 실시간 교통량을 분석해 신호를 조절함으로써 차량 흐름을 최적화하고 배출가스를 감소시켜야 한다. 여전히 전국 곳곳에서는 쓰레기 배출 요일제로 쓰레기가 며칠씩 거리에서 방치되는 경우가 발견되고 있는데, AI의 도움을 받아 이를 더욱 개선할 수 있다.

캐나다 런던시는 노숙인 지원 데이터를 분석해 6개월 내 만성 노숙인이 될 확률을 예측하는 프로젝트를 시행했다. 그 결과 93%의 정확도로 위험군을 식별했고, 이를 바탕으로 주거와 의료 지원을 우선 제공해 노숙을 사전에 예방하는 데 성과를 거두었다.

국내에서도 위기 아동 예측 AI, 산업재해 요양 기간 예측 AI 같은 사례가 등장하고 있는데, 행정기관은 행정 전 분야에서 예측 기능을 강화하여 선제적으로 정책을 수립·집행해야 한다. 물부족으로 고생하고 있는 강릉도 결국 예측 기능의 실패가 초래한 재난이다.

과거 빅데이터 분석이 인구통계학적 통계치에 집중했다면, AI 시대에는 개개인에 집중하는 초개인화 서비스가 가능하다. 지방공공기관이 제공하는 교통, 복지, 행정서비스도 각 지역주민 한 사람 한 사람의 상황과 필요에 맞춰 진화해야 한다. 예를 들어 시청 민원 챗봇이나 주민 맞춤 복지 추천 시스템은 과거처럼 획일적 응답을 하는 것이 아니라 개인의 데이터에 기반해 맞춤형 해결책을 제시할 수 있어야 한다. 이를 가능케 하는 것이 RAG(Retrieval-Augmented Generation, 검색증강생성)1) 등 신기술의 도입이다.

RAG는 초거대 언어모델이 답변 생성 시 자체 학습된 지식뿐 아니라 외부 데이터베이스나 검색엔진을 실시간 참고하도록 함으로써 최신 정보나 도메인 특화 지식을 반영하는 기법이다. 예컨대 지방공기업의 AI 상담사가 지역 병원 정보나 교통 데이터를 즉각 검색해 제공한다면 더욱 정확하고 현장감 있는 응대가 가능하다.

RAG는 초거대 언어모델이 모든 것을 기억하고 있는 전지전능한 시스템이 아니라는 전제를 받아들이는 데서 출발한다. 정답은 모델 안이 아니라 기관이 가진 최신 문서와 데이터에 있다. RAG는 질문이 들어올 때마다 검증된 지식원에서 필요한 문서를 찾아 요약하고 인용해 답을 만드는 방식이다. 그래서 과장된 생성 대신 근거가 남고, 최신 정책과 지역 정보를 즉시 반영할 수 있다. 예를 들어 복지 추천을 할 때 법령 개정안내, 읍면동 서비스 안내문, 민원 사례집을 우선적으로 불러와 답에 반영하면 주민 맞춤 응답이면서도 출처가 명확한 상담이 가능해진다. RAG는 지역마다 다른 제도와 생활 정보를 즉시 끌어올 수 있어 지방공공기관에 특히 적합하다.

RAG 도입은 지식원 설계가 핵심이다. 첫째 기관의 표준 지식원을 정한다. 조례와 규칙, 내부 지침, 대민 안내문, 자주 하는 질문, 현장 매뉴얼 순으로 우선순위를 둔다. 둘째 문서 품질을 높인다. 최신성, 중복 제거, 버전 표시, 책임 부서를 메타데이터로 박아 둔다. 셋째, 벡터 검색과 키워드 검색을 함께 쓰고, 분야별 컬렉션을 나눠 노이즈를 줄인다. 넷째, 답변에는 반드시 근거 문서의 제목과 문장 일부를 함께 노출한다. 다섯째 현장 피드백을 받아 잘못된 문서나 정책 변경을 신속히 반영한다. 이 순서를 지키면 작은 파일럿이라도 바로 체감효과가 난다.

RAG는 데이터 공유를 강제하지 않고도 협력을 확장한다. 각 기관은 내부 문서만 인덱싱하고, 외부 기관의 공개 지식원과 상호 참조한다. 연합학습이 모델 수준의 협력이라면 RAG는 지식원 수준의 협력이다. 두 접근을 결합하면 개인 데이터는 로컬에 머물고, 공익 지식은 권역별로 확산된다. 문서 접근권한은 기관 정책을 따르고, 감사가 필요할 때는 질문과 검색 경로, 최종 답변을 함께 로그로 남겨 책임성을 확보한다. 중앙은 공통 메타데이터 표준과 보안 가이드를 제공하고, 지방은 현장 문서를 지속적으로 정제해 지식 품질을 높인다.

AI가 스스로 알고 있는 지식만으로 답하지 않고, 필요한 문서·데이터를 찾아와서 참고한 뒤 답을 만드는 기술

조직 역할의 변화: AI 시대의 기관 혁신

AI 도입은 기술 투자만이 아니라 업무 방식과 조직 문화의 변화까지 요구한다. 지방공공기관에서는 앞으로 사람과 AI가 협업하는 업무 방식이 일반화되고, 조직 구조도 이에 맞게 재편되어야 한다. 먼저 기관별로 AI 전담 조직이나 혁신팀을 신설하여 AI 프로젝트를 기획 운영하고, 직원들을 대상으로 AI 활용 교육을 상시화하는 것이 필요하다.

또한 AI 활용 성과를 기관 평가와 연계하는 움직임도 시작되고 있다. 즉, AI를 적극 도입해 업무를 개선한 기관에는 경영평가 가점이나 예산 인센티브를 부여해 가만히 있는 것보다 먼저 시도하는 쪽이 이익이 되도록 하는 것이다. 이러한 평가는 기관장부터 실무자까지 AI를 두려워하지 않고 도전하도록 유도해 조직 문화를 바꾸는 효과가 있다. 장기적으로는 AI가 기관의 기본 문화가 되도록 개별 업무 프로세스마다 AI를 자연스럽게 통합하는 노력이 필요하다. 예를 들어 회의록 초안을 자동으로 작성해 주는 생성형 AI 비서, 반복 민원을 처리해 주는 챗봇, 데이터 기반으로 정책대안을 제시하는 의사결정 지원 AI 등 도구가 일상 업무에 스며들게 해야 한다. 사람의 역할은 단순 반복 업무에서 AI의 판단을 감독하고 창의적 기획을 하는 역할로 재편될 것이다. 특히 지방공공기관 직원들은 지역 현안을 가장 잘 아는 강점을 살려 AI에게 올바른 문제를 제시하고 훈련시키는 AI 트레이너로서 역량을 키워야 한다. 조직 차원에서는 AI를 활용한 실험과 실패를 허용하는 유연한 문화, 부서 간 협업을 장려하는 거버넌스 확립이 요구된다. 이러한 변화들을 수용하는 기관만이 AI 시대에 주민에게 가치 있는 존재로 남을 것이다.

AI 거버넌스 확립: 윤리와 표준의 과제

AI 활용이 확대될수록 윤리적 위험 관리와 표준 수립이 필수 과제로 부각된다. 지방공공기관들은 중앙정부 가이드라인을 참고하면서도 각자의 책임 있는 AI 원칙을 수립해야 한다. 기업과 시민의 권리를 침해하지 않는 것이 가장 중요하다. AI로 개인과 기업은 혜택을 보아야 한다. AI 활용은 무엇보다 시민의 권리와 프라이버시 보호를 최우선으로 해야 한다. 한국과 같은 자유민주경제사회는 달라야 한다.

프라이버시 보호 역시 최우선 과제다. 지방공공기관은 주민 서비스에 필요한 데이터를 활발히 활용하되 반드시 강화해야 한다. 중앙 차원의 개인정보 안전 활용 기술을 도입해 데이터 주권을 지키면서도 협력 가능한 환경을 마련해야 한다. 기관 간 데이터 공유가 불가피한 경우에는 법적 근거와 주민 동의하에 엄격한 목적 제한과 접근 통제를 시행해야 하며, 연합학습 기법과 MCP(Model Context Protocol, 모델 컨텍스트 프로토콜)2) 등의 적극적 도입으로 기관 간 데이터 공유 자체가 필요 없도록 해야 한다. 데이터 공유가 아닌 서비스 협력으로 패러다임을 전환해야 한다.

마지막으로 기관 간 호환성이 중요한데, 서로 다른 지자체와 공기업들의 AI 에이전트들이 협력할 수 있도록 준비해야 한다. 예를 들어 한 지자체의 교통 AI가 인접 지자체의 시스템과 협력하여 광역 교통 문제를 함께 해결하는 서비스 협력을 하려면 데이터를 공유하자고 할 것이 아니라, 서로의 AI 에이전트가 소통할 수 있게 해야 한다. 이제는 데이터 공유도 사전 기술 표준 합의가 전제될 필요도 없다. 중요한 것은 각 기관이 자신들을 대표하는 AI 에이전트를 만들고, 그 에이전트들이 협력할 수 있도록 하며, 이를 위해 MCP를 준비해야 한다는 점이다.

MCP는 서로 다른 기관의 AI가 서로 협력하기 위해 필요한 일종의 공용 언어다. 과거에는 데이터를 모아 표준화해야 기관 간 협력이 가능했지만, MCP를 활용하면 데이터를 직접 공유하지 않아도 된다. 각 기관이 보유한 AI 에이전트가 MCP라는 규칙을 따라 서로 대화하고 필요한 정보를 교환할 수 있기 때문이다. 예컨대 한 도시의 교통 AI가 다른 도시의 환경 AI와 MCP를 통해 연결되면 양측은 데이터를 합치지 않고도 교통 흐름과 대기질을 동시에 고려한 정책 대안을 제시할 수 있다. 결국 MCP는 데이터 공유 중심 협력에서 에이전트 협력 중심 협업으로 전환하도록 뒷받침하는 기술적 기반이라고 할 수 있다.

앞선 논의를 바탕으로 향후 수년간 지방공공기관이 ‘세계 최고의 AI 정부’를 실현하기 위해 취해야 할 전략적 방향은 다음과 같다.

첫째, 모든 주요 지방공기업과 공공기관에 AI 추진 전담팀을 설치하고, 임직원의 AI 역량교육을 의무화한다. 이를 통해 조직 내 AI 챔피언을 육성하고, 작은 프로젝트부터 실행에 옮기는 실천력을 확보해야 한다.

둘째, 각 지역 특성에 맞는 AI 시범사업을 전국적 협력 프레임워크 안에서 선정해 추진한다. 파편화된 개별적 AX(AI Transformation, 인공지능 전환)3)사업이 아니라 여러 기관이 함께 참여해 한 번에 AX되는 구조를 추구할 필요가 있다. 중앙정부와 협력공공 분야 연합학습 플랫폼을 구축해 지방공공기관들이 안전하게 AI 모델을 공유하고 공동 개발할 수 있도록 한다. 아울러 권역별 연합 데이터 뱅크 시범 도입으로 기관이 보유한 데이터의 활용을 극대화하는 동시에 개인과 기업, 공공기관의 정보는 보호하는 기능을 마련한다.

서로 다른 기관이나 분야의 AI가, 데이터를 직접 주고받지 않고도 협력할 수 있도록 만들어주는 공용 언어 AI 기술을 행정과 서비스 전반에 적용해 조직의 일하는 방식과 서비스 구조를 바꾸는 과정

지방 혁신이 만드는 세계 최고 AI 정부

AI 정부 실현의 최전선에는 지방공공기관이 서 있다. 중앙정부의 큰 그림이 현장에서 구현되어 국민이 체감하는 서비스가 되기까지는 지방공공기관의 역할이 결정적이다. 이제 우리는 거창한 담론보다 어떻게 AI를 잘 활용할 것인가를 고민해야 할 때이고, 그 해답은 각 기관이 자신의 자리에서 작지만 확실한 AI 혁신을 축적하고 서로 연결하는 데 있다. 중앙과 지방이 수직적 관계가 아니라 파트너로 협력해 데이터와 지능을 융합할 때 비로소 세계를 선도하는 새로운 AI 거버넌스의 모델이 한국에서 탄생할 것이다.

이경전

경희대학교 경영대학 빅데이터 응용학과,
첨단기술비즈니스학과 교수

< 이전글
포커스 1
다음글 >