금감원, 금융사 ‘AI 자율 관리 체계’ 강화한다
금융감독원(이하 금감원)이 금융권의 안전한 인공지능(AI) 활용을 지원하기 위해 금융회사가 스스로 AI 위험을 관리할 수 있는 표준화된 기준을 마련했다.
금감원은 15일 금융회사의 AI 관련 거버넌스, 위험평가, 위험통제 핵심 프로세스를 담은 ‘금융 분야 AI 위험관리 프레임워크(AI RMF)’를 도입하고, 업계 의견 수렴을 거쳐 올해 1분기 중 시행할 예정이라고 밝혔다.
이번 프레임워크는 최근 금융권에서 AI 기반 서비스가 급격히 확대됨에 따라 발생할 수 있는 대규모 금융사고나 소비자 권익 침해 등의 위험을 선제적으로 차단하기 위해 마련됐다.
금융감독원이 지난해 4월 국내 금융사 118개사를 대상으로 전수 조사를 실시한 결과, AI 서비스 수는 총 653개로 증가했으나 이에 대한 통제 장치는 미흡한 것으로 나타났다.
조사 결과에 따르면 전체 금융회사의 약 85%가 AI 윤리원칙이나 위험관리 기준을 마련하지 않은 상태였다. 특히 AI 관련 의사결정기구를 설치한 곳은 은행 25%(5개사), 보험사 7.5%(4개사), 증권사 2.7%(1개사)에 불과해, AI 위험관리에 대한 거버넌스 구축이 시급한 것으로 드러났다.
■ ‘거버넌스·위험평가·위험통제’ 3대 핵심 축 제시
금감원이 제시한 AI RMF는 크게 ▲거버넌스 ▲위험평가 ▲위험통제의 세 가지 영역으로 구성된다.
우선 ‘거버넌스’ 부문에서는 금융회사가 AI 위험관리를 위한 의사결정기구를 설치하고, AI 기획·개발 조직과 독립된 별도의 ‘위험관리 전담 조직’을 구성하도록 했다. 특히 최고경영자(CEO)가 AI 관련 사업 계획과 위험을 명확히 인식하고 책임을 질 수 있도록, 위원장이 CEO에게 정기적으로 보고하는 체계를 갖춰야 한다.
‘위험평가’ 부문에서는 AI 시스템의 도입부터 활용까지 전 주기에 걸쳐 위험을 인식·측정하고 등급을 산정하는 절차를 규정했다. 평가는 합법성, 신뢰성, 소비자 보호 등 ‘금융 AI 7대 원칙’을 기반으로 이뤄진다. 대출 심사처럼 개인의 권리나 의무에 중대한 영향을 미치는 ‘고영향 AI’의 경우, 산출된 위험 점수와 관계없이 ‘고위험 서비스’로 분류해 관리를 강화해야 한다.
‘위험통제’ 부문에서는 산출된 위험 등급에 따라 차등화된 통제 방안을 적용한다. 고위험 서비스의 경우 제3자에 의한 평가 검증을 거쳐야 하며, 금융 안정성을 훼손하거나 소비자 권익 침해 우려가 있는 ‘초고위험 AI’는 의사결정기구를 통해 출시 여부를 원점에서 재검토해야 한다.
이번 프레임워크는 법적 강제력이 없는 가이드라인 형태의 자율 지침으로, 각 금융회사는 회사의 규모와 AI 활용 수준에 맞춰 탄력적으로 적용할 수 있다.
금감원은 “금융권 AI 플랫폼 등을 통해 AI RMF(안)을 배포하고 설명회 등을 거친 뒤, 올해 1분기 중 최종안을 확정해 시행할 계획”이라며 “모범사례 전파와 실태 점검 등을 통해 AI 위험관리 프로세스가 금융회사의 내부통제 시스템에 안정적으로 정착될 수 있도록 지원하겠다”고 밝혔다.
