대출을 신청했다. 결과는 거절이었다. 담당자는 "시스템상 거절됐다"고 했다. 왜 거절됐는지, 어떤 기준이 적용됐는지는 알 수 없었다.
이 장면은 지금도 일어나고 있다. 국내 주요 은행과 인터넷전문은행 대부분이 AI 기반 신용평가 모델을 여신 심사에 활용하고 있다. 문제는 그 AI가 왜 그런 판단을 내렸는지, 소비자가 납득할 수 있는 언어로 설명받을 권리가 있는지가 아직 명확하지 않다는 점이다.
설명가능성이란 무엇인가
최근 금융위 가이드라인은 신뢰성 원칙 안에 설명가능성 개념을 담았다. AI가 내린 결론을 이용자가 이해할 수 있어야 한다는 원칙이다. 대출을 거절했다면 왜 거절했는지, 보험료를 높게 산정했다면 어떤 요인이 작용했는지를 고객이 납득할 수 있는 방식으로 설명해야 한다는 뜻이다.
그런데 AI 모델, 특히 딥러닝 계열 모델은 스스로도 왜 그런 판단을 내렸는지 명확히 설명하기 어렵다. 수천 개의 변수가 복잡하게 얽혀 있어 "이 변수 때문에 거절됐습니다"라고 단순하게 말하는 것이 불가능하거나 부정확할 수 있다. 설명가능성을 높이려면 모델의 성능을 일부 포기해야 하는 경우도 생긴다. 이에 정확한 AI냐, 설명 가능한 AI냐 사이의 선택이 실무 현장에서 매일 일어나고 있다.
법적 권리는 어디까지인가
소비자 입장에서 현재 활용 가능한 법적 근거는 두 가지다.
신용정보법 제36조의2는 신용정보주체가 자동화평가에 대해 설명을 요구하고 이의를 제기할 권리를 명시하고 있다. 금융사가 AI 자동화평가로 신용을 판단했다면, 소비자는 그 결과에 대한 설명과 재심사를 요청할 수 있다.
금융소비자보호법은 금융상품 판매 과정에서 소비자에게 적합한 상품을 권유해야 하며, AI가 추천한 상품이 소비자에게 불리하게 작용했다면 이를 다툴 근거가 된다.
두 법 모두 권리를 명시하고 있다. 그런데 현실에서 이 권리를 행사하기 위한 절차는 금융사마다 다르고, 소비자가 어디에 어떻게 요청해야 하는지 안내받기 어렵다.
1인가구가 더 취약한 이유
AI 신용평가의 사각지대에서 가장 먼저 걸리는 집단이 있다. 금융 이력이 부족한 이른바 씬파일러(Thin-filer)다. 대출, 카드, 할부 실적이 없거나 적은 사람들이다. 1인가구 청년층이 여기에 집중적으로 분포한다.
전통적 신용평가 모델은 과거 금융 거래 이력을 핵심 변수로 쓴다. 이력이 없으면 평가 자체가 불리하게 작동한다. AI 기반 대안신용평가는 통신요금 납부 이력, 소비 패턴 같은 비금융 데이터를 활용해 이를 보완하겠다는 구상이다. 금융위가 이번 간담회에서 포용금융의 핵심 수단으로 대안신용평가를 언급한 것도 같은 맥락이다.
그런데 대안신용평가는 다른 문제를 낳는다. 비금융 데이터를 쓴다는 것은 소비자가 자신의 어떤 정보가 신용평가에 반영되는지 파악하기 더 어렵다는 뜻이기도 하다. 전통 신용평가보다 설명이 더 안 될 가능성도 있다.
AI 추천 상품, 믿어도 되는가
대출 심사만이 아니다. 투자 상품 추천, 보험 설계, 자산관리 포트폴리오 구성까지 AI 에이전트가 개입하는 영역이 빠르게 넓어지고 있다. 금융위 가이드라인이 AI 에이전트가 상품 추천에서 결제까지 맡는 시대를 언급하며 규율 체계를 검토하겠다고 밝힌 것도 이 흐름을 반영한다.
문제는 AI가 추천한 상품이 소비자에게 최적인지, 아니면 금융사의 수익에 유리한 상품인지를 소비자가 판별하기 어렵다는 점이다. 사람이 추천할 때는 적어도 "왜 이 상품을 권하는가"를 물을 수 있다. AI가 추천할 때 그 질문을 어디에 던져야 하는지는 답이 없다.
신의성실 원칙, 즉 금융소비자 이익을 최우선으로 해야 한다는 7대 원칙 중 하나가 이 지점에 걸려 있다. 그러나 AI가 추천한 상품이 신의성실 원칙을 위반했는지를 사후에 어떻게 입증하고 구제받을 수 있는지는 여전히 불분명하다.
소비자가 지금 할 수 있는 것
권리가 있다고 해서 행사가 쉬운 건 아니다. 그래도 현재 가능한 경로는 있다.
AI 자동화평가로 대출이 거절됐다면, 해당 금융사에 자동화평가 결과에 대한 설명과 재심사를 서면으로 요청할 수 있다. 신용정보법 제36조의2에 근거한 권리다. 금융사가 이를 거부하거나 무성의하게 응한다면 금융감독원 민원 신청이 다음 경로다.
AI가 추천한 금융상품에서 손실이 발생했고 적합성 원칙 위반이 의심된다면, 금융감독원 분쟁조정 신청이 가능하다. 다만 AI 추천의 적합성 위반을 입증하는 것은 현재로서는 소비자가 스스로 해내기 어렵다.
이번 금융위 가이드라인에서 안내데스크 운영을 예고한 것은 이런 문제점을 해결하고자 하는 시도다. 금융사가 현장에서 발생하는 궁금증을 해소할 수 있도록 금융위가 '금융분야 인공지능 가이드라인 안내데스크'를 운영하겠다고 밝혔다. 소비자 민원 창구로서 어떻게 기능할지는 운영 이후를 봐야 안다.
AI가 판단하는 시대, 그 판단에 이의를 제기할 권리는 법에 있다. 그 권리가 실제로 작동하는 구조를 만드는 것은 아직 진행 중이다.
