금융권이 생성형 인공지능(AI) 기술 확산 속에서 새로운 형태의 사이버 위협에 대비하는 움직임이 가속화되고 있다. 특히 초고성능 AI 모델의 등장으로 인해 악성 공격에 활용될 수 있는 ‘미토스형 사이버위협’이 현실화되면서, 보안 대응의 필요성이 더욱 부각되고 있다. 이에 금융보산원이 AI의 안전성과 신뢰성을 점검할 수 있는 평가 기준 마련에 나서며 업계의 주목을 받고 있다.
지난 13일 여의도 금융투자협회 불스홀에서는 ‘2026년 금융권 AI 활용 및 안전성·신뢰성 강화 세미나’가 개최됐다. 이 자리에는 금융사와 감독 기관, 주요 IT 기업 등 다양한 분야의 CIO와 CISO 등 핵심 인사 260여 명이 참석해 AI 도입 확대에 따른 리스크와 대응 전략을 심도 있게 논의했다. 특히 클로드 미토스를 비롯한 프론티어 AI 모델이 공격 수단으로 전환될 수 있다는 점이 집중 조명됐다.
각 기관은 자체 대응 사례를 공유하며 경각심을 높였다. 삼성생명은 AI 사용 과정에서의 가드레일 설정과 제로트러스트 기반의 보안 체계 전환을 설명했고, 카카오뱅크는 자체 레드팀 운영과 제3자 모의해킹을 통한 보안 강화 방안을 소개했다. 금융감독원은 AI 리스크 관리 프레임워크를 제시하며 금융사들이 사전 리스크를 체계적으로 식별하고 관리해야 한다고 강조했다.
금융보안원은 이 자리에서 국내 금융 환경에 맞춘 AI 안전성·신뢰성 평가기준 초안을 최초 공개했다. 이 기준은 모델의 공정성과 설명 가능성은 물론, 환각 현상 억제, 적대적 공격 대응, 데이터 국외 이전 금지, 공급망 보안 점검 등 생성형 AI에 특화된 항목을 포함하고 있다. 올해 하반기부터는 금융사들을 대상으로 시범 평가를 실시할 예정이다.
업계에서는 AI가 금융 혁신의 핵심 동력이 되고 있지만, 그만큼 보안 사고의 확산 속도와 파장도 커질 수 있다는 점에서, 이번 평가체계 도입은 시의적절하다는 평가가 나온다. 전문가들은 AI의 자율적 학습과 판단 능력이 강화될수록 공격과 방어의 지능화가 동시에 진행되며, 단일 기관의 노력보다는 생태계 차원의 협력이 필수적이라고 지적한다. 금융보안원은 AI 기반 사이버 공격 연구 조직을 강화하고 보안 인재 양성에 나선다는 계획이다.
