메일 누락·관리 부실로 차단 체계 허점 드러나
정부가 접속 차단을 요구한 딥페이크 음란물 사이트 대부분이 여전히 열려 있었다. 인공지능을 악용한 불법 콘텐츠를 막기 위한 차단 조치가 실질적인 효과를 내지 못하고 있다는 점이 감사 결과로 확인됐다.
감사원은 ‘인공지능 대비 실태 감사’ 결과를 공개하고, 딥페이크 음란물 대응을 포함한 AI 관리 체계 전반에 보완이 필요하다고 밝혔다.
감사에 따르면 방송미디어통신심의위원회는 피해자 신고나 수사기관 이첩에 따라 음란물 게시 사이트를 확인하면 통신사업자에게 접속 차단을 요청하고 있다.
그러나 감사원이 2024년 접속 차단이 요구된 음란물 사이트 2만3천107개 가운데 1천개를 무작위로 추출해 3개 통신사를 점검한 결과, 854개(85.4%)가 여전히 일부 통신망을 통해 접속 가능한 상태였다.
이 중 173개는 차단 목록이 이메일 스팸 처리나 서버 오류로 통신사에 전달되지 않아 차단 시스템에 등재되지 않은 것으로 나타났다.
나머지 681개는 차단 목록에 포함됐음에도 해외 서버를 활용한 콘텐츠 전송 네트워크(CDN) 기반 우회접속을 통해 접근이 가능했다. 감사원은 보안이 강화된 접속 환경에서는 기존 차단 방식의 효과가 제한적이라고 지적했다.
감사원은 또 심의위가 2024년 6월부터 2025년 5월까지 사후 점검을 통해 7천250개 사이트의 미차단 사실을 확인하고도 추가 차단을 요구하지 않은 점을 문제로 지적했다.
이에 차단 대상 목록의 송·수신 절차 개선과 우회접속을 식별·차단할 수 있는 기술 개발을 정부에 통보했다.
이와 함께 지능형 CCTV, 포트홀 감지 시스템 등 일부 공공 AI 서비스에서도 학습 데이터 부족 등으로 성능 저하가 발생하고 있는 것으로 나타났다.
감사원은 ‘고영향 AI’ 분류 기준과 검·인증 체계가 실제 활용 방식과 괴리가 있다며, AI 확산에 맞춘 제도 정비가 필요하다고 밝혔다.
