생성형 AI 서비스가 대중화되면서, 이를 악용한 디지털 범죄의 진입 장벽이 빠르게 낮아지고 있다는 우려가 커지고 있다. 과거에는 딥페이크 영상을 만들려면 전문가를 섭외해 비용을 지불해야 했지만, 지금은 챗GPT·제미나이·클로드 같은 생성형 AI 서비스 몇 개만 오가면 누구나 손쉽게 결과물을 만들어낼 수 있게 됐기 때문이다.
이런 우려는 통계로도 확인된다. 경찰청 국가수사본부가 2024년 8월28일부터 2025년 3월31일까지 약 7개월간 진행한 허위영상물(딥페이크) 범죄 집중단속 결과 963명이 검거되고 59명이 구속됐다. 직전 동일 기간과 비교하면 검거 인원이 260% 늘어난 수치다.
특히 연령대별로 보면 10대가 669명(이 중 형사처벌 대상이 아닌 촉법소년 72명), 20대가 228명으로, 10·20대가 전체 검거 인원의 93%를 차지했다. 같은 경찰청이 2024년11월부터 2025년10월까지 집계한 자료를 보면, 접수된 사이버 성폭력 범죄 4413건 가운데 허위영상물이 1553건(35.2%)으로 가장 큰 비중을 차지했다.
딥페이크로 자녀 얼굴을 합성한 영상을 통해 금전을 요구하는 신종 수법도 이미 실제 발생한 것으로 확인됐다.
보안업계에서는 생성형 AI 서비스에 기본적으로 걸려 있는 안전장치(가드레일)가 반복적인 요청만으로 우회되는 사례가 늘고 있다고 지적한다. 얼굴 합성처럼 명백히 위험한 요청은 처음엔 거부되지만, 문구를 바꿔가며 같은 요청을 반복하면 결과물을 얻어내는 방식이다.
업계에서는 이런 우회 시도를 '탈옥'이라 부르며, 무기·마약 제조법이나 성착취물 제작 등 더 심각한 범죄에도 같은 방식이 악용될 수 있다는 우려가 제기된다. 범죄자들이 서비스별 강점을 파악해 이미지 생성엔 특화 서비스, 문서 작성엔 다른 서비스 하는 식으로 여러 생성형 AI를 조합해 활용한다는 점도 대응을 더 까다롭게 만드는 요인으로 꼽힌다.
이런 가운데 AI 스마트 안경의 빠른 확산도 새로운 위험 요인으로 지목된다. 시장조사업체 IDC에 따르면 2026년 1분기 글로벌 스마트 글래스 출하량은 약 356만대로, 이 중 메타가 69.2%로 압도적 1위를 차지했고 레이네오(3.4%)·샤오미(3.1%)·비처(2.5%)·엑스리얼(2.0%) 등이 뒤를 이었다.
특히 안경에 내장된 카메라로 실시간 촬영이 가능하고 촬영물이 SNS와 곧바로 연동되는 경우가 많아, 불법 촬영이나 산업 기밀·설계도면 유출에 취약하다는 지적이 나온다. 사용자가 주민등록증이나 신용카드, 비밀번호 입력 장면 등을 무심코 촬영하는 과정에서 개인정보가 그대로 노출될 위험도 제기됐다.
디지털포렌식 업계 관계자는 "생성형 AI 서비스를 제공하는 빅테크 기업들의 보안 조치 강화와, 법 집행기관 차원의 대응 기술 마련이 함께 필요하다"고 말했다. AI 기술의 확산 속도만큼 이를 악용하는 범죄 수법도 빠르게 정교해지고 있는 만큼, 기술기업과 수사기관, 이용자 모두의 경각심이 요구된다는 지적이다.
