인터넷뱅킹과 모바일 앱의 확산이 금융 서비스 이용 방식을 바꿨다면, 최근 주목받는 AI 금융은 금융회사의 의사결정 구조 자체를 변화시키고 있다. 과거 디지털 금융이 송금이나 대출 신청 등 업무 절차를 온라인으로 옮기는 데 집중했다면, AI 금융은 신용평가와 대출 심사 같은 핵심 판단 과정에 인공지능을 활용하는 단계로 발전하고 있다.
최근 토스인사이트가 발간한 'AI FINANCE RESEARCH SERIES – AI, 금융을 다시 그리다' 리포트 역시 이러한 변화를 AI 금융의 핵심 특징으로 꼽았다. AI가 단순한 업무 자동화를 넘어 금융사의 의사결정 과정에 직접 관여하는 단계로 진화하고 있다는 분석이다.
특히 AI는 기존 금융 데이터뿐 아니라 일상생활에서 발생하는 다양한 데이터를 분석해 개인의 신용을 평가한다. 금융 이력이 부족해 제도권 금융 이용에 어려움을 겪던 사람들에게 새로운 기회를 제공하는 한편, 알고리즘의 불투명성과 편향성이라는 과제도 함께 제기하고 있다.
금융 이력 대신 디지털 흔적을 본다
전통적인 신용평가는 직장, 소득, 대출 이력, 신용카드 사용 기록 등 금융권이 보유한 정형 데이터를 중심으로 이뤄졌다. 문제는 금융 거래 경험이 적은 청년층이나 사회초년생, 주부, 소상공인 등이 충분한 평가를 받기 어렵다는 점이었다.
이른바 '씬 파일러(Thin Filer)'로 불리는 금융 이력 부족 계층은 상환 능력이 있음에도 대출 심사에서 불리한 위치에 놓이는 경우가 많았다.
토스인사이트 리포트에 따르면 AI 기반 신용평가는 이러한 한계를 보완하기 위해 다양한 대안 데이터를 활용한다. 통신요금 납부 이력, 온라인 쇼핑몰 거래 기록, 플랫폼 활동 데이터는 물론 모바일 사용 패턴과 디지털 환경에서 생성되는 각종 데이터까지 분석 대상에 포함된다.
AI 모델은 개별 정보 하나가 아니라 수많은 변수의 조합을 학습해 상환 가능성을 예측한다. 금융회사 입장에서는 기존 평가 체계에서 포착하기 어려웠던 고객군을 분석할 수 있고, 소비자 입장에서는 금융 접근성이 확대되는 효과를 기대할 수 있다.
결국 AI 금융의 가장 큰 변화는 금융 서비스의 디지털화가 아니라 신용을 판단하는 기준 자체가 확대되고 있다는 데 있다.
AI가 내린 결정, 이유를 설명하기 어려운 문제
문제는 AI의 판단 과정이 항상 설명 가능한 것은 아니라는 점이다.
토스인사이트는 리포트에서 AI 금융이 가진 대표적인 위험 요인으로 '블랙박스 문제'를 지목했다. 머신러닝 기반 모델은 수많은 변수 간 상관관계를 학습해 결과를 도출하지만, 특정 결과가 왜 나왔는지 명확하게 설명하기 어려운 경우가 적지 않다는 것이다.
소비자는 대출이 거절되거나 기대보다 낮은 신용평가 결과를 받더라도 구체적인 이유를 확인하기 어려울 수 있다. 금융회사 역시 모델이 도출한 결과를 완전히 해석하지 못하는 상황이 발생할 수 있다.
AI가 금융 의사결정에 깊숙이 관여할수록 소비자의 알 권리와 이의제기 권리를 어떻게 보장할 것인지가 중요한 과제로 떠오르는 이유다.
차별 요소를 지워도 차별은 남을 수 있다
알고리즘 편향 문제도 꾸준히 제기된다. 리포트는 AI가 성별이나 인종, 출신 지역 등 직접적인 차별 요소를 제거하더라도 다른 변수들의 조합을 통해 유사한 결과를 만들어낼 수 있다고 설명한다.
예를 들어 거주 지역이나 소비 패턴, 온라인 활동 기록 등이 특정 집단을 구분하는 대리 변수(Proxy Variable)로 작동할 수 있다. 개발자가 차별을 의도하지 않았더라도 결과적으로 특정 계층이나 집단에 불리한 판단이 내려질 가능성이 있다는 의미다.
이 때문에 전문가들은 AI 금융의 핵심 과제가 단순한 정확도 향상이 아니라 공정성과 책임성 확보라고 지적한다.
설명 가능한 AI가 새로운 기준으로
AI 금융이 확산되면서 각국 규제기관도 관련 기준 마련에 나서고 있다.
토스인사이트는 유럽연합(EU)의 AI Act를 대표적인 사례로 소개했다. 해당 법안은 신용평가와 대출 심사에 활용되는 AI 시스템을 고위험 분야로 분류하고 데이터 품질 관리와 인간의 감독 체계, 위험 관리 절차 등을 요구하고 있다.
기술적으로는 설명 가능한 AI(XAI·Explainable AI)에 대한 관심도 높아지고 있다. AI가 어떤 데이터를 바탕으로 판단을 내렸는지, 각 변수들이 결과에 얼마나 영향을 미쳤는지를 분석해 이용자에게 설명할 수 있도록 하는 기술이다.
AI 금융은 금융 서비스의 문턱을 낮추고 평가 사각지대를 줄일 수 있는 잠재력을 갖고 있다. 그러나 의사결정의 상당 부분을 알고리즘에 맡기는 만큼 투명성과 공정성을 확보하기 위한 제도적·기술적 장치 역시 함께 발전해야 한다.
리포트가 강조하듯 AI 금융의 경쟁력은 단순히 더 정교한 모델을 만드는 데 있지 않다. 소비자와 금융회사가 그 결과를 신뢰할 수 있도록 설명 가능성과 책임성을 확보하는 것이 앞으로의 핵심 과제가 될 것으로 보인다.
