문화콘텐츠 플랫폼 예스24가 AI로 부적절한 혐오 표현을 자동 감지해 필터링하는 ‘클린봇’ 서비스를 도입했다.

예스24, AI로 부적절한 표현 필터링하는 `클린봇` 도입

예스24가 새롭게 도입하는 ‘클린봇’은 도서와 직접적인 관련이 없는 작가·책에 대한 혐오 표현을 AI가 스스로 감지하고 필터링하는 것이 특징이다. 예스24는 해당 서비스를 서점 업계 최초로 도입해, 도서를 탐색하고 구매하려는 독자들에게 보다 건전한 정보를 제공할 전망이다.

‘클린봇’ 활성화 시, 도서 상세페이지 하단의 ‘한줄평’ 및 작가 페이지의 ‘작가에게 한마디’에 포함된 부적절한 표현을 자동으로 감지해 해당 글을 숨김 처리한다. 필요에 따라 클린봇 기능을 켜거나 끌 수 있어 숨김 처리된 글도 눈으로 직접 확인할 수 있다.

이번 서비스에는 20여 년간 풍부하게 축적된 예스24의 도서 리뷰 및 한줄평 데이터가 활용됐다. 이를 기반으로 AI가 문장의 맥락을 분석해 직접적인 욕설이나 비속어 외에도 폭력적, 차별적 용어 등 불쾌감을 조성하는 여러 표현을 차단하고 필터링한다.

2024년 기준 약 150만 건의 한줄평이 예스24에 등록되는 등 활발한 상품 후기 활동이 이어지는 만큼, 클린봇 도입이 보다 건강한 소통 환경 조성에 기여할 것으로 기대된다.

예스24 유서영 커뮤니티팀 팀장은 “이번 클린봇 서비스는 도서나 작가와 관계없는 무분별한 혐오 표현으로 인해 도서 탐색 과정에서 생길 수 있는 피로감을 줄이기 위해 도입됐다”며 “앞으로도 예스24는 정확하고 건전한 정보를 제공해 고객들의 편안한 독서 활동에 도움이 될 수 있도록 지속적으로 노력해 나가겠다”고 말했다.