인공지능(AI)이 금융산업의 핵심 인프라로 자리 잡으면서 금융 AI 시대에 걸맞은 규제와 감독체계 구축 필요성이 제기됐다.
박상혁 더불어민주당 의원 주최, 한국핀테크산업협회 주관으로 23일 서울 여의도 국회의원회관에서 열린 ‘AI시대, 금융 시스템을 다시 설계하다’ 포럼에서는 금융당국, 학계, 법조계, 핀테크 업계 관계자들이 참석해 금융 AI 정책 방향과 규제 개선 과제를 공유했다.
박상혁 의원은 개회사를 통해 “AI는 금융 시스템 전반을 변화시키는 기반이 되고 있지만 관련 정책과 가이드라인, 감독 기준이 명확하지 않다”면서 “충분한 안전장치 없이 AI 활용만 확대된다면 금융소비자 보호와 개인정보 보호, 알고리즘의 공정성, 책임 소재 같은 새로운 문제가 발생할 수 있다”고 전했다.
김종현 한국핀테크산업협회 회장은 축사에서 “핀테크 기업들에게 AI는 단순한 선택의 문제가 아니다”라며 “AI 활용 수요는 현장에서 빠르게 확산되고 있지만 데이터 접근, 보안, 인력과 비용 부담 등은 소규모 핀테크 기업에게 현실적인 장벽으로 다가오고 있다”고 설명했다.
김 회장은 “핀테크 기업들이 충분한 기술력과 아이디어를 갖추고 있더라도, 제도와 시장 환경이 뒷받침하지 못한다면 글로벌 경쟁에서 뒤처질 수밖에 없다”며 “이제는 ‘AI를 허용할 것인가’가 아니라, ‘어떻게 위험을 관리하면서 혁신의 속도를 높일 것인가’로 초점이 전환돼야 한다”고 강조했다.
이날 ‘금융 관련 AI 정책 현황 및 향후 방향성’으로 주제발표에 나선 채상미 이화여대 교수는 “생성형 AI 도입은 금융 혁신을 가속화하는 동시에 새로운 형태의 시스템 리스크를 만들어내고 있다”며 “금융 AI는 더 이상 하나의 모델이 아니라 금융 기능 전체를 운영하는 체계로 이동하고 있다”고 진단했다.
그는 정책 결정자를 위한 방향으로 ▲금융 AI를 중요 인프라로 인식할 것 ▲사후 점검이 아닌 상시검증 형태의 감독 방식 ▲금융권 공동 방어 체계 구축 등을 제시했다.
아울러 금융 AI 정책의 핵심 목표는 AI 통제에서 끝나는 것이 아니라 ‘검증 가능한 신뢰’를 통해 금융혁신의 속도를 높이는 것이라고 밝혔다. 그는 “감독기관이 요구해야 할 것은 소스코드 제출이 아니라 모델이 안전하게 작동한다는 검증 가능한 증거”라고 말하며, 신뢰있고 감독되는 제도화를 위해 ▲사용처 등록·위험등급 평가 ▲데이터·모델 증거 관리 ▲상시 테스트·감사 ▲공동 방어·사고공유 ▲소비자 권리·책임에 대한 정책 구축 등이 필요하다고 제안했다.
이어진 발표에서는 강현정 김앤장 법률사무소 변호사가 ‘금융 AI 가이드라인 분석 및 평가’를 주제로 금융 AI 가이드라인의 의미와 과제를 설명했다.
금융 AI 가이드라인은 내부통제 및 위험관리 체계를 회사 상황에 맞춰 자율적으로 구축하도록 하는 내용을 담고 있다. 적용 대상은 AI를 도입·활용하는 모든 금융회사이며, 비금융회사도 금융상품 및 서비스에 영향을 줄 수 있는 경우 적용될 수 있다. 고객 대상 금융서비스뿐 아니라 금융회사 내부 지원 및 관리를 위한 AI에도 적용 가능하다.
가이드라인은 ▲거버넌스 ▲합법성 ▲보조수단성 ▲신뢰성 ▲금융안전성 ▲신의성실 ▲보안성 등 7대 원칙을 중심으로 AI 내부통제와 위험관리 체계를 구축하도록 요구하고 있다.
강 변호사는 “금융 AI 가이드라인은 AI 기본법과 달리 법적 강제력이 있는 규정은 아니지만 실질적으로 금감원 감사·감독의 기준이 될 가능성이 높다”며 “금융사고 발생 시 고의 과실 등 주의의무 위반에 대한 판단 기준이 될 수 있다”고 말했다.
그는 금융분야 AI 가이드라인 개정안의 의의와 과제로 ▲동일 위험·동일규제 적용 원칙 ▲원칙 중심 규제 표방 ▲위험기반 접근법 ▲AI 거버넌스 전담조직 구성의 현실적 어려움 ▲인적·물적 자원이 부족한 중소 규모의 금융회사에 대한 부담 완화 필요성 ▲기존 책무구조도와 IT·보안·프라이버시·제3자 관리 거버넌스 간 연계 등을 꼽았다.
이후 종합토론은 이성엽 고려대학교 교수가 좌장을 맡아 진행됐다. 토론에는 정성인 금융위원회 디지털금융총괄과 과장, 채상미 교수, 정성구 법무법인 세종 변호사, 이혜민 핀테크 AI협의회 회장 겸 핀다 대표, 김재원 코리아스타트업포럼 의장 겸 엘리스그룹 대표 등이 참여해 금융 AI 시대의 제도 설계 방향을 논의했다.
