방송미디어통신위원회(위원장 김종철)는 2026년 8월 27일 서울에서 인공지능서비스 불법·유해정보 대응을 위한 기술적 조치 동향 등을 논의하기 위해 ‘인공지능서비스 이용자보호 민관협의회 2차 회의’를 개최했다. 이번 회의는 인공지능서비스 확산에 따른 기존 제도의 사각지대를 진단하고 안전한 서비스 환경 조성을 위한 다층적인 제도 개선 방안을 모색하기 위해 마련됐으며, 정부·산업계·학계 등이 참석했다.
이날 회의에서 카카오의 김경훈 AI Safety 리더가 발제를 맡아 인공지능서비스 불법·유해정보 대응을 위한 가드레일 시스템 현황을 발표했다.
그는 국내 최초 한국어 환경에 특화된 오픈소스 기반으로 카카오가 자체 개발한 인공지능 안정성 검증을 위한 가드레일 모델 ‘카나나 세이프카드(Kanana Safeguard)’를 직접 소개하고, 사업자의 자율적 안전조치 고도화 방향 및 생태계 협력 방안 등을 공유했다.
이어 이성엽 민관협의회 위원이 주재한 종합토론에서는 인공지능서비스 내 불법·유해정보 노출 위험이 커진 가운데 사업자의 자율적 안전조치 활성화를 위한 민관 협력 방안 등이 심도 있게 논의됐다. 이성엽 위원은 논의된 기술적 동향 등이 사업자의 이용자 보호를 위한 법제 마련 시 제도의 실효성을 제고하는 방향으로 반영될 필요가 있다고 밝혔다.
방미통위 신영규 방송통신이용자정책국장은 “윤리적으로 신뢰할 수 없는 인공지능 기술은 사회적 불신을 초래해 결국 인공지능 산업 전체의 성장을 가로막을 수 있으므로 기술 진흥과 이용자 보호를 위한 기술적 안전조치는 반드시 동반되어야 한다”고 강조했다.
그러면서 “오늘 논의된 내용을 바탕으로 법과 기술, 제도 등 종합적 지원 방안을 마련해 국민이 안심하고 신뢰할 수 있는 인공지능 이용 환경을 만드는 데 최선을 다하겠다”고 말했다.
한편 방미통위는 2021년부터 ‘지능정보사회 이용자 보호 민관협의회’를 운영해 왔으며, 2024년부터 인공지능 환경 변화에 대응하기 위해 ‘인공지능서비스 이용자 보호 민관협의회’로 확대 개편했다. 이어 올 5월 정부, 산업계, 법조계, 학계, 시민단체 등 각계 전문가 35명으로 구성된 민관협의회 2기를 출범하고 불법·유해정보로부터 아동·청소년 보호를 위한 기술적 제도적 방안 등을 공유하며 관련 정책 방안을 심도 있게 논의하고 있다.
