인공지능(AI) 기반 챗봇 서비스 '심심이(대표 최정회)'가 윤리 검증 모듈을 포함한 AI 챗봇 솔루션을 바탕으로 데이터 비즈니스를 본격화한다고 밝혔다.
최근 금융, 쇼핑 등 특정 작업을 수행하는 챗봇이 일반화된 가운데 친구처럼 특별한 목적 없이 일상적인 대화를 나누는 소셜 챗봇 수요 역시 부상하고 있다. 'GPT-3' 등 초거대 AI 언어모델은 다양한 언어 작업을 하나의 모델로 처리할 수 있는데, 특히 소셜 대화에 상당한 능력을 발휘하는 것이 특징이다.
이와 관련해 최근 들어 초거대 AI 언어모델을 보유하거나 개발하는 대기업과 심리 상담 플랫폼 개발 기업, 디지털 휴먼·메타버스 등이 주로 심심이가 보유한 감성 대화 시나리오와 윤리 데이터에 관심을 보이고 있다.
초거대 AI 모델이 채택하고 있는 딥러닝 기법 특성 상 학습이나 추론 과정이 어떻게 진행되는지 여부에 대해 추적하기가 거의 불가능하기 때문이다. 특히 챗봇이 차별, 혐오 등의 비윤리적인 대화를 하게 될 경우 기업 신뢰성에 큰 타격이 될 수 있다. 이 때문에 초거대 AI 모델 개발 기업들은 학습 데이터를 잘 정제하거나 모델이 제시한 답을 재차 검증하는 등 다양한 방법을 강구하고 있다.
이에 심심이는 이와 관련된 다수의 데이터를 보유하여 윤리 검증 모듈을 도입한 사례를 선보이고 있다.
심심이 관계자는 "2010년대 중반 소셜 챗봇에 대한 윤리 문제가 본격적으로 드러날 때 근본적인 윤리 문제 해결을 위해 연구개발 역량을 집중해왔다. 그 결과 수백만 명의 해당 언어 사용자들에게 챗봇 대화를 10회 이상 교차 검증하도록 하는 크라우드소싱 플랫폼을 개발하는데 성공했다"고 전했다.
현재까지 30개 이상의 언어에서 약 3,500만 문장을 검수했고 해당 데이터로 신경망 모델을 제작해 대화 관련 윤리 검증 모델 개발에 성공했다는 설명이다.
아울러 언어별 특성에 따른 정교한 단어 및 문구 수주의 필터, 민감한 주제에 대응하는 닷지(Dodge) 필터 등을 개발하며 데이터를 축적해왔다고 덧붙였다.
심심이는 올해 한국지능정보화진흥원(NIA)이 추진하는 인공지능 학습용 데이터 구축사업에 참여하여 국내 최초로 AI 윤리 데이터 구축 과제를 수행하고 있다.
최근에는 기초과학연구원 데이터사이언스그룹(CI 차미영 교수)에서 심심이 데이터를 분석해 윤리 검증 및 감성 대화 등 여러 건의 학회 논문을 발표한 바 있다.
한편 심심이는 올해 하반기부터 B2B 비즈니스 관련 조직을 기획하고 B2B 영업 전문가를 영입하는 등 공격적인 행보에 나서고 있다. 또한 윤리 모듈 관련 공인 시험 성적서를 발급받는 등 본격적인 데이터 비즈니스 준비에도 착수하고 있다.
심심이 최정회 대표는 "B2B 비즈니스를 위해 챗봇 및 윤리 데이터에 대한 수요를 직접 확인하고 조직을 정비하여 B2B, B2G에 대한 아웃바운드 영업 활동이 가능해졌다."며 "앞으로 기존 수요에 대응하면서 댓글 필터링 등 추가 수요처 발굴을 통해 소셜 챗봇과 AI 윤리 비즈니스 활성화에 박차를 가할 예정"이라고 전했다.
