앞으로 공공기관이 인공지능(AI) 서비스를 도입할 때 예산 낭비를 줄이고 더 빠르게 구축할 수 있는 길이 열린다. 행정안전부는 전국 공공기관이 AI 기술을 신속하고 효율적으로 도입할 수 있도록 돕는 실무 중심의 '공공부문 AI 도입·활용 가이드'를 배포한다고 10일 밝혔다.
이번 가이드는 오는 8월 28일 개정 시행되는 '인공지능 및 데이터 기반 행정 활성화에 관한 법률'에 선제적으로 대응하기 위해 마련됐다. 개정법에는 '범정부 AI 공통 기반'을 우선 이용하도록 하는 조항이 포함돼 있다. 공통 기반은 개별 기관이 중복 투자하는 것을 막고 AI 모델, GPU(그래픽처리장치) 등을 공동으로 활용해 행정 효율성을 높이는 체계다.
이번 지침서의 가장 큰 특징은 단순한 이론 설명을 넘어 현장 담당자가 바로 적용할 수 있는 '실행 안내서' 형태로 구성한 점이다. 각 공공기관이 공통 기반을 활용해 AI 서비스를 개발하는 전 과정을 '기획-예산-계약-구축-운영' 5단계로 표준화해 제시했다.
특히 가이드는 최신 AI 기술인 'RAG(검색 증강 생성) 우선 전략'을 반영했다. 이 기술은 AI가 단순히 학습된 내용만으로 답하지 않고, 기관 내부의 최신 문서(지식 데이터)를 먼저 찾아본 후 그 내용을 바탕으로 답변하게 만든다. 이를 통해 AI가 그럴듯한 거짓말을 하는 '환각 현상(Hallucination)'을 막고 행정 데이터에 기반한 정확한 답변을 제공할 수 있도록 설계부터 적용까지의 과정이 상세히 담겼다.
행정안전부는 가이드의 현장 안착을 돕기 위해 이달 10일(세종)과 12일(서울) 양일간 중앙부처, 지방정부 담당자, 민간 AI 사업자를 대상으로 대규모 설명회를 개최한다. 설명회에서는 가이드 핵심 내용 설명과 함께 실제 공통 기반을 활용해 구축한 서비스 사례를 시연한다. 또한 질의응답 시간을 통해 실무자들의 궁금증을 해소하고 현장 의견을 수렴해 공통 기반 이용 체계를 보완할 예정이다.
황규철 인공지능정부실장은 "AI는 이제 단순한 기술 도입을 넘어 행정의 틀을 바꾸는 핵심 도구"라며 "이번 가이드가 현장 공무원에게 실질적인 나침반이 되어 예산 낭비 없이 국민이 체감할 수 있는 고품질의 'AI 민주정부'를 더 빠르게 실현하는 계기가 되길 기대한다"고 밝혔다.