금융권 전반에서 인공지능(AI) 기술 도입이 빠르게 확산되고 있다. 상품 추천부터 대출 심사, 보험금 지급 심사, 민원 처리에 이르기까지 AI가 활용되지 않는 분야를 찾기 어려울 정도다. 소비자 입장에서는 더 신속하고 편리한 서비스를 누릴 수 있다는 장점이 있지만, AI의 판단이 항상 완벽한 것은 아니라는 점에서 우려도 제기된다. 잘못된 데이터나 편향된 정보가 입력될 경우 소비자가 예상치 못한 불이익을 떠안을 수 있기 때문이다.
이에 따라 정부는 AI 기본법과 금융 분야 AI 가이드라인을 통해 리스크 관리의 기본 틀을 마련했다. 금융회사들은 AI 활용 규모와 위험도에 맞춰 의사결정 체계와 위험 관리 조직을 정비하고, 데이터의 품질과 편향성을 통제하는 한편 소비자 보호 방안을 갖추도록 요구받고 있다. 특히 소비자에게 중대한 영향을 미치는 업무에서는 AI를 임직원의 의사결정을 돕는 보조 수단으로만 활용하고, 최종 판단과 책임은 사람이 지는 것을 원칙으로 삼고 있다.
그러나 제도와 조직을 갖추는 것만으로는 소비자 보호가 충분히 이뤄지지 않는다는 지적이 나온다. 업계 전문가들은 소비자가 AI의 결정 과정을 이해할 수 있고, 잘못된 판단에 이의를 제기할 수 있으며, 피해 발생 시 신속히 구제받을 수 있는 환경이 조성돼야 한다고 강조한다. 대출 거절이나 보험금 감액 같은 불리한 결정이 내려졌을 때, 소비자가 어떤 정보와 기준이 적용됐는지 파악할 수 있어야 한다는 것이다.
이를 위해 금융회사들은 여러 과제를 해결해야 한다. 우선 AI가 특정 소비자 집단에 불리하게 작용하지 않는지 정기적으로 점검해야 한다. 과거 데이터를 학습하는 과정에서 기존의 편향이나 불합리한 관행이 답습될 수 있기 때문이다. 또한 고령자나 장애인 같은 취약 계층이 AI 기반 비대면
