인공지능(AI)이 일상화되면서 보고서 작성 과정에서 챗GPT나 제미나이 같은 생성형 AI를 활용하는 사례가 늘고 있습니다. 하지만 올바른 사용 기준이 없어 부적절한 활용이 문제가 되고 있습니다.
이에 따라 인사혁신처는 22일 공무원 교육훈련생이 준수해야 할 '생성형 인공지능 활용 지침'을 전 부처에 배포하고, 그간 이뤄진 부적절 활용 사례 전수조사 결과를 공개했습니다.
이번 지침은 공무원들이 교육훈련 보고서를 작성할 때 AI를 보조 도구로만 사용하고, 최종 책임은 본인에게 있다는 점을 핵심 원칙으로 삼고 있습니다. 인사처는 여러 연구기관과 대학의 유사 지침을 분석하고 AI 연구 윤리 전문가 자문을 거쳐 지침을 완성했습니다.
지침에서 강조하는 7가지 기본 원칙은 연구 내용의 진실성 추구, 활용 사실의 투명한 공개, 공정성 유지, 윤리적 활용, 비판적 시각, 개인정보 보호 등입니다. 예를 들어 AI가 생성한 내용을 그대로 옮기지 말고 반드시 사실 여부를 확인해야 하며, AI를 활용한 사실을 보고서에 명시해야 합니다.
또한 지침에는 훈련생들의 이해를 돕기 위한 위반 사례 예시와 자가 진단 점검표도 포함됐습니다. 이를 통해 스스로 AI 사용이 적절했는지 확인할 수 있습니다.
이에 앞서 인사처는 최근 3년간 제출된 국외 훈련 결과보고서 1,385건을 대상으로 집중 점검을 실시했습니다. 자체 점검, 부처와 인사처의 단계별 검증, 외부 전문가 심의를 거쳐 최종 11건의 보고서에서 생성형 AI 부적절 활용 사례를 발견했습니다.
적발된 부적절 사례는 AI가 허위 정보를 생성하는 '환각' 현상, 실제 문헌 정보와 일치하지 않는 내용, 문장 내 의미 없는 이모지 사용, 확인용 특수기호 포함 등이었습니다. 인사처는 현재 해당 교육생들에 대해 훈련비 환수 등의 조치를 진행 중입니다.
앞으로 인사처는 이러한 부적절 사례가 재발하지 않도록 지침서를 모든 부처에 배포하고 인재개발정보센터 누리집을 통해 공개할 예정입니다. 특히 훈련생들의 연구 윤리 인식을 높이기 위한 사전 교육을 확대하고, 참고문헌 인용 방식도 표준화할 계획입니다.
김성훈 인사처 차장은 "이번 지침을 통해 공무원들이 교육훈련 과정에서 책임 의식을 갖고 인공지능을 올바르게 사용할 수 있게 되길 바란다"며 "공무원 교육훈련이 성과를 창출할 수 있도록 지속적으로 관리를 강화해 나가겠다"고 말했습니다.
