금융보안원이 카카오뱅크, 토스뱅크, 케이뱅크 등 인터넷은행 3사와 함께 연합학습 기반 '보이스피싱 탐지 AI 공동모델'을 개발하고 7월부터 실제 금융거래 탐지 업무에 적용한다고 24일 전했다.
공동모델은 각 은행의 원본 데이터를 외부로 공유하지 않고 인공지능(AI) 모델 학습 결과만 결합하는 방식으로 설계됐으며, 개별 모델 대비 탐지 정밀도가 최대 205% 향상된 것으로 나타났다.
연합학습은 기관별 원본 학습데이터를 외부에 공유하지 않고, 각 기관에서 학습한 인공지능(AI) 모델의 가중치만 공유·병합해 공동 활용 가능한 고성능 AI 모델을 만드는 기술이다.
이번 모델은 인터넷은행 3사가 운영해 온 보이스피싱 탐지 AI 모델과 금융보안원의 연합학습 알고리즘을 결합해 개발됐다. 각 은행이 축적한 사기 탐지 경험을 공동 반영함으로써 다른 은행에서도 유사한 사기 패턴을 조기에 탐지할 수 있도록 한 것이 특징이다.
대표 사례로는 정상 계좌로 위장한 자금세탁용 대포통장 탐지가 제시됐다. 해당 계좌는 개설된 지 수년이 지나 기존 모델에서는 정상거래로 분류됐으나, 공동모델은 12시간 내 입금 금액 합계 등 다른 은행이 중요하게 판단하던 요소를 추가로 반영해 단기간 고액 입금이 발생한 계좌를 사기계좌로 탐지했다.
미성년자와 청년층을 대상으로 한 소액 보이스피싱·피싱 피해 계좌도 공동모델을 통해 탐지됐다. 기존 모델은 수천원에서 수십만원 수준의 분할 입금 거래를 정상 소비 지출로 인식했지만, 공동모델은 실제 탐지된 피해 사례를 학습한 개별 모델의 사기 패턴을 반영해 소액 피해거래를 조기에 포착했다.
공동모델 개발 과정에서의 연구 성과도 국제 AI 학회에 채택됐다. 박대영 금융보안원 AI안전평가부 책임 등이 참여한 '금융사기 탐지를 위한 연합 그래디언트 부스팅: 은행권 실증 연구(Federated Gradient Boosting for Financial Fraud Detection: An Empirical Study in the Banking Sector)' 논문은 지난해 11월 서울에서 열린 국제정보관리학회(CIKM) 2025에 채택됐다.
금융보안원은 개별 모델 구조를 분석해 유사 특징만 선별 결합하는 신규 연합학습 기법도 적용했다고 설명했다. 이를 통해 공동모델 저장 공간과 병합 속도를 개선했다는 설명이다.
공동모델은 오는 7월부터 카카오뱅크, 토스뱅크, 케이뱅크의 실제 현장에 적용돼 각 은행의 자체 AI 모델과 FDS 시스템 등과 병행 활용될 예정이다.
금융보안원은 향후 시중은행과 카드사 등으로 공동모델 적용 범위를 확대하고, 4분기 중에는 전기통신금융사기 정보공유·분석 AI 플랫폼 '에이셉(ASAP)'에도 탑재할 계획이다. 이를 통해 제2금융권 등 중소형 금융사도 특정 거래의 보이스피싱 가능성을 0점에서 100점까지 점수화해 확인할 수 있게 된다.
박상원 금융보안원 원장은 "지능화·조직화되고 있는 보이스피싱 사기 범죄에 대응하기 위해서는 금융권 전체가 상생 기반의 협력체계를 마련하는 것이 중요하다"며 "공동모델 개발뿐만 아니라 AI 활용 분석을 통해 선제적·예방적 탐지에 필요한 인사이트와 시나리오 발굴·제공으로 금융소비자 보호에 앞장서겠다"고 말했다.
