네이버, 악성 댓글 거르는 ‘AI 클린봇’…다른 앱‧사이트에도 제공

성희롱·음란·혐오 댓글 잡는 ‘클린봇 레드·오렌지 버전’도 개발 중

김동현 기자 승인 2020.11.26 10:51 의견 0
(사진=연합뉴스)

[토요경제=김동현 기자] 네이버는 악성 댓글(악플)을 필터링하는 ‘클린봇’ 기술을 다른 앱‧사이트에서도 활용할 수 있도록 공개하기로 했다.

IT업계에 따르면 최경호 네이버 미디어인텔리전스 소속 개발자는 25일 개막된 네이버 개발자 콘퍼런스 ‘데뷰 2020’에서 이런 내용을 발표했다.

네이버는 AI 클린봇의 응용프로그램 인터페이스(API)를 조만간 오픈 API로 공개할 예정이다. API란 어떤 기술의 프로그래밍 규격이다.

API를 오픈하면 다른 사이트에서 기술을 ‘호출’해 쓸 수 있다. 쇼핑몰 앱에서 네이버로 가입·로그인하거나 기업이 회사 위치를 구글 맵으로 알리는 것 등이 대표적인 오픈 API 사례다.

네이버는 ‘네이버 개발자 센터’에서 일부 네이버 기술의 오픈 API를 제공하고 있다. 클린봇은 악성 댓글을 자동으로 가리는 네이버의 AI 기술로, 지난해 4월부터 웹툰·스포츠·연예·뉴스 등의 댓글에 차례로 도입된 바 있다.

네이버는 “올해는 단순히 욕설·비속어가 포함된 댓글뿐 아니라 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되면 댓글을 가리는 수준으로 클린봇이 고도화됐다”고 했다.

올해 상반기 기준 욕설 사이에 일부러 이모티콘이나 오타를 넣은 사례까지 모두 거르는 클린봇 2.0의 정확도는 95%에 달했다. 클린봇 도입 이전 대비 악플 탐지 건수는 2배가량 늘었고, 악성 댓글 신고 건수는 19% 감소했다.

네이버가 클린봇 API를 공개하면 다른 사이트나 앱 개발자도 클린봇 기술을 가져다 쓸 수 있게 된다. 제휴·심사 등을 거치면 무료로 쓸 수 있다.

네이버는 또한 성희롱·음란성 댓글을 잡아내는 별도의 기술인 ‘클린봇 레드·오렌지 버전’도 개발 중이다. 성희롱 댓글의 경우 일반적인 악플보다 더 섬세한 접근이 필요하다고 판단해 별도 모델을 개발했다.

‘레드 모델’은 텍스트만으로 명백한 성희롱이거나 음란성 의도가 보이는 댓글을 걸러내는 기술이다. 또 ‘오렌지 모델’은 댓글 텍스트 자체에는 성적인 표현이 없지만 기사나 게시글 본문과 이어지는 맥락이 있거나 성 인지 감수성 관점에서 봤을 때 부적절한 댓글을 걸러낸다.

최 개발자는 “혐오·비하 표현이나 공격성을 띠는 댓글을 잡아내는 모델도 개발하고 있다”며 “스포츠 커뮤니티에서는 적절한 싸움을 허용하는 식으로, 각자 서비스에 맞게 악플 기준을 달리하는 모델도 개발 중”이라고 말했다.

저작권자 ⓒ 토요경제, 무단 전재 및 재배포 금지