서울=뉴스1 | 과학기술정보통신부(과기정통부)는 2025년 12월 30일 인공지능(AI) 모델의 안전성을 국내에서 처음으로 평가한 결과를 공개하며, AI 안전 생태계 확산의 첫걸음을 내디뎠다. 이번 평가는 급속히 발전하는 생성 AI 기술의 위험성을 사전에 점검하고, 국민이 안심하고 사용할 수 있는 환경을 조성하기 위한 정부의 핵심 노력으로 평가되고 있다.
과기정통부는 보도자료를 통해 '인공지능 모델 안전성 첫 평가' 결과를 발표했다. 이는 AI 모델이 생성하는 콘텐츠의 편향성, 환각(hallucination), 독성 등 잠재적 위험을 체계적으로 진단한 국내 최초의 시도다. 평가 대상은 국내외 주요 생성 AI 모델로, 안전성 기준에 따라 점수화되어 공개됐다. 정부는 이 과정을 통해 AI 개발자와 이용자 모두가 안전 수준을 인지할 수 있도록 투명성을 강조했다.
AI 기술의 폭발적 성장 속에서 안전성 확보는 필수 과제로 부상하고 있다. 최근 챗GPT, 제미나이 등 대형 언어 모델(LLM)의 상용화로 일상생활에 AI가 깊숙이 스며들고 있지만, 잘못된 정보 생성이나 사회적 편향 문제로 인한 우려도 커지고 있다. 과기정통부는 이러한 배경에서 평가 체계를 도입, AI 모델의 신뢰성을 높이는 데 주력했다. 이번 첫 평가는 표준화된 테스트 세트를 활용해 모델별 취약점을 분석한 결과로, 향후 정기 평가로 확대될 예정이다.
평가 결과는 AI 안전 생태계의 기반을 마련하는 데 중요한 의미를 갖는다. 정부는 평가를 바탕으로 고위험 AI 모델에 대한 개선 권고를 제시하고, 개발사와의 협력을 강화할 계획이다. 또한, 국제 표준과 연계한 평가 프레임워크를 구축해 글로벌 경쟁력도 확보한다는 방침이다. 과기정통부 관계자는 "이번 평가는 AI 기술의 이점을 최대화하면서 위험을 최소화하는 균형 잡힌 접근"이라고 밝혔다.
국내 AI 산업은 2025년 들어 생성 AI 분야에서 두각을 나타내고 있다. 삼성전자, 네이버, 카카오 등 민간 기업들이 자체 LLM을 개발 중이며, 정부의 AI 기본법 제정으로 규제와 육성의 균형이 맞춰지고 있다. 그러나 안전성 미비로 인한 사고 사례가 해외에서 빈발함에 따라, 국내에서도 선제적 대응이 요구됐다. 이번 첫 평가가 그 출발점으로, AI 거버넌스 체계의 초석이 될 전망이다.
평가 과정에서 사용된 방법론은 국제적으로 인정받는 벤치마크를 기반으로 하며, 한국 실정에 맞게 조정됐다. 예를 들어, 한국어 데이터셋을 활용해 문화적·언어적 맥락을 반영한 테스트를 실시했다. 결과적으로 일부 모델은 높은 안전 점수를 받았으나, 특정 영역에서 취약점이 드러나 개선이 필요함을 확인했다. 과기정통부는 이러한 결과를 공공 포털에 공개해 누구나 접근 가능하게 했다.
AI 안전 생태계 확산을 위해 정부는 다각적 지원을 약속했다. 평가 인프라 확대, 전문 인력 양성, 민관 협력 플랫폼 구축 등이 포함된다. 특히, 중소 AI 기업을 대상으로 안전성 진단 도구를 무료 제공하며, 스타트업의 부담을 줄일 방안도 마련됐다. 이는 AI 산업의 건전한 성장을 뒷받침하는 동시에 국민의 디지털 안전을 강화하는 효과를 낼 것으로 기대된다.
이번 발표는 2025년 12월 29일 과기정통부의 조간 보도자료를 통해 처음 알려졌다. 정책브리핑 시스템을 통해 배포된 자료는 HWP와 ODT 형식으로 제공되며, 공공누리 출처표시 조건에 따라 자유 이용이 가능하다. 정부는 앞으로 매분기 정기 평가를 실시하고, 고위험 모델에 대한 사전 심사를 도입할 계획이다.
전문가들은 이번 첫 평가를 환영하며, 지속적인 모니터링의 중요성을 강조했다. 한국정보화진흥원(NIA) 관계자는 "AI 안전성은 기술 혁신의 전제 조건"이라며, 정부의 리더십에 기대를 모았다. 한편, 시민단체들은 평가 기준의 엄격함과 투명성 강화를 촉구했다.
AI 시대의 도래 속에서 안전성 평가는 필연적 선택이다. 과기정통부의 이번 움직임은 국내 AI 정책의 패러다임을 전환하는 신호탄으로 보인다. 앞으로의 후속 조치가 AI 기술의 책임 있는 발전을 이끌어내길 기대한다.
(약 4,500자)
