과학기술정보통신부(과기정통부)와 인공지능안전연구소(안전연구소)는 2026년 11월 12일 서울 여의도 글래드 호텔에서 국민 모니터링단 「AI 안전 지킴이」 발대식을 개최했다. 지킴이는 대학생·직장인·가사종사자·프리랜서·자영업자 등 인공지능 안전에 관심 있는 국민 80명으로 구성되며, 위촉 기간은 2026년 9월부터 2027년 8월까지다.
80명은 지난 8월과 9월 두 차례 공개 모집에 지원한 138명 가운데 최종 선발됐다.
참여자는 10대 고등학생부터 60대 이상까지 폭넓은 연령층이며, 직장인·가사종사자·프리랜서·학생 등 다양한 분야의 국민이 함께한다.
지킴이는 생성형 인공지능의 오류·위험 사례를 네 분야에서 상시 찾아 제보한다. 사실 왜곡(환각)은 잘못된 사실·수치·날짜·인물 정보를 사실처럼 생성하는 경우로, 허위 역사 정보 등이 해당한다.
편향·차별은 특정 집단에 대한 고정관념·비하·불공정한 판단이며, 채용 인공지능의 성별 편향 답변 등이 예다. 보안 취약점에는 안전장치 우회와 개인·민감정보 노출 위험이 포함되며, 대화형 인공지능의 개인정보 유출 유도 사례가 있다.
기술적 결함은 무응답, 요청 형식과 다른 답변, 같은 답변의 반복 등을 말한다.
두 기관은 앞서 신뢰 가능한 인공지능 이용 환경을 만들기 위해 2025년 12월부터 30여 일간 국민 참여형 「정보 오류 없는 찐 AI 챌린지」 캠페인을 추진했다. 캠페인 기간 총 625건이 접수됐고, 이 가운데 464건이 유효한 오류 사례로 확인됐다.
과기정통부와 안전연구소는 한시적 캠페인을 넘어 국민이 인공지능 오류 등을 상시 찾아 제보할 체계가 필요하다고 보고 지킴이를 구성·운영하게 됐다.
발대식에는 엄열 과기정통부 인공지능정책실장, 김명주 인공지능안전연구소장, 지킴이 등 50여 명이 참석했다. 행사는 위촉장 수여, 운영계획 안내, 대표 지킴이 소감 발표 순으로 진행됐으며, 이후 지킴이를 대상으로 오류 사례 발굴 방법과 제보 기준 교육이 이어졌다.
지킴이가 제보한 사례는 정확성·위험도·재현 가능성·활용 가능성 등을 살펴 유효성 검증을 거쳐 확정된다.
확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료 등으로 활용될 예정이다. 과기정통부와 안전연구소는 관련 기업에 사례를 공유하는 등 AI 기업과 지속적으로 소통해 나갈 계획이다.
엄열 과기정통부 인공지능정책실장은 “AI가 남녀노소 누구나 사용하는 우리의 일상이 된 만큼, 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다.”라며, “AI 안전 지킴이가 국민의 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는데 소중한 밑거름이 될 것이다.”라고 밝혔다.
