그러나 AI의 판단이 항상 정확하고 공정한 것은 아니다. 잘못된 정보나 편향된 데이터가 사용되면 소비자가 부당한 불이익을 받을 수 있다.
AI 기본법과 금융분야 인공지능 가이드라인은 이러한 위험에 대응하기 위한 기본 틀을 제시하고 있다. 금융회사는 AI의 활용 규모와 위험 수준에 맞춰 의사결정기구와 위험관리 조직을 마련하고, 데이터의 품질과 편향을 관리하며, 소비자보호 대책을 갖추어야 한다.
특히 소비자에게 중대한 영향을 미치는 업무에서 AI는 임직원의 판단을 지원하는 수단으로 활용하고 최종적인 의사결정과 책임은 사람이 부담하는 것을 원칙으로 한다. 그러나 조직과 규정을 마련하는 것만으로 소비자가 충분히 보호되는 것은 아니다.
소비자의 관점에서 중요한 것은 AI가 어떤 판단을 했는지 이해할 수 있고, 잘못된 결정에 이의를 제기하며, 피해가 발생했을 때 신속하게 구제받을 수 있는가이다. AI 금융의 신뢰는 기술의 성능만이 아니라 소비자보호가 실제로 작동할 때 만들어진다.
첫 번째 과제는 소비자에게 불리한 AI 결정의 이유를 이해하기 쉽게 설명하는 것이다. 대출이 거절되거나 보험 가입이 제한되고 보험금이 감액된 경우 소비자는 어떤 정보와 기준이 판단에 영향을 미쳤는지 알 수 있어야 한다.
복잡한 알고리즘의 구조를 모두 공개할 필요는 없지만 소비자가 자신의 상황을 이해하고 이의를 제기할 수 있을 정도의 설명은 제공되어야 한다. 두 번째 과제는 사람이 다시 판단하는 절차를 마련하는 것이다.
AI는 금융회사 임직원의 판단을 지원하는 수단이어야 한다. 보험금 부지급, 대출 거절, 계약조건 제한과 같이 소비자에게 중대한 영향을 미치는 결정은 담당자가 다시 검토할 수 있어야 한다.
담당자는 AI의 결과를 단순히 확인하는 데 그치지 않고 필요한 경우 다른 결정을 내릴 수 있는 권한을 가져야 한다. 세 번째 과제는 AI가 특정 소비자 집단에 불리하게 작동하지 않는지 점검하는 것이다.
AI는 과거 데이터를 학습하는 과정에서 기존의 편향이나 불합리한 관행까지 반복할 수 있다. 따라서 금융회사는 적법하게 활용할 수 있는 정보의 범위에서 전체 정확도뿐 아니라 소비자 집단별 승인율, 거절률, 보험금 감액률과 민원 발생률에 불합리한 차이가 나타나는지도 점검해야 한다.
데이터의 정확성과 표본·사회적 편향, 금융소비자보호법상 차별금지 원칙 위반 가능성도 함께 살펴볼 필요가 있다. 네 번째 과제는 고령자와 장애인 등 취약계층의 접근성을 보장하는 것이다.
AI 상담과 비대면 서비스가 확대되더라도 쉬운 설명, 음성 안내, 상담원 연결, 대면 서비스 등 대체 수단은 유지되어야 한다. 서비스 도입 전에는 실제 이용자가 불편 없이 사용할 수 있는지 확인하고 소비자 의견을 반영해야 한다.
다섯 번째 과제는 AI 관련 민원을 위험신호로 활용하는 것이다. AI로 인해 발생한 민원은 기존 민원처리 절차를 활용하되 별도로 분류하고 관리하는 것이 바람직하다.
설명 부족, 잘못된 정보 제공, 부당한 거절, 차별적 결과 등이 반복된다면 개별 민원으로 종결하지 말고 데이터와 알고리즘, 심사기준에 구조적인 문제가 있는지 점검해야 한다. 마지막 과제는 금융소비자보호 조직에 실질적인 역할과 권한을 부여하는 것이다.
소비자보호 조직은 AI 서비스 도입 이후 민원을 처리하는 데 머물러서는 안 된다. 기획과 개발 단계부터 설명 가능성, 공정성, 차별 가능성, 취약계층 접근성을 점검하고 소비자 피해 우려가 충분히 해소되지 않은 경우 추가 검증을 요구할 수 있어야 한다.
AI 거버넌스의 핵심은 AI를 안전하고 책임있게 활용할 수 있는 기준과 절차를 마련하는 데 있다. 소비자가 AI의 결정을 이해하고, 사람의 재검토를 요구하며, 피해가 발생했을 때 신속하게 구제받을 수 있어야 한다.
