[글로벌데일리 김경현 기자] 유튜브가 AI를 활용해 잡음이 끊이지 않는 악성댓글 관리에 나섰다.

유튜브는 지난 3일 AI를 이용해 부적절한 댓글에 알림 팝업을 띄우는 새로운 커뮤니티 가이드라인을 시행한다고 발표했다.

커뮤니티 가이드라인은 작성자에게 현재 포스팅하려는 댓글이 적절한지 가이드라인을 읽어보라고 권고하고 그대로 게시하거나 수정할 수 있도록 선택권을 부여하는 방식이다.
유튜브는 그동안 AI를 활용해 유해 동영상 관리를 해왔으며 그동안 축적된 기술력을 기반으로 이번 악성 댓글 차단에도 AI를적극 활용하기로 결정했다.

그간 유튜브는 유해 동영상을 AI가 판단하고 관리자가 재확인하는 방식을 통해 관리해 왔다. 급증하는 유해 동영상을 처리하기 위해 AI를 적극 활용하기로 결정한 이후 올해 3분기에 유튜브가 삭제한 동영상은 약 787만여개에 달한다.

같은 기간 180만 개 이상의 채널이 커뮤니티 가이드를 3회 이상 위반하거나 심각한 악용 등으로 폐쇄 조치했다. 증오 표현, 잘못된 정보, 괴롭힘 등 유해 여부 판단이 애매한 경우가 많아 AI가 부적절하다고 판단한 동영상을 인간이 재확인 후 최종 결정한다.

유튜브는 최근 부적절한 내용이 포함되어 삭제된 댓글이 지난해 대비 46배나 늘어 AI를 이용한 관리 강화를 결정했다. 이용자들이 반복적으로 신고한 내용을 AI가 학습하고 공격성이 있다고 판단되는 댓글을 식별하는 방식이다.

학습이 충분치 않아 오류가 있을 수 있음을 인지한 유튜브는 도입 초기 단계임을 고려해 댓글 작성자의 참여를 유도해 AI 성능을 테스트한 것으로 알려졌다.

한편, 네이버는 올해 6월부터 댓글에 욕설이 없더라도 문맥상 모욕적이거나 타인을 비하하는 표현이 있을 경우 악플로 인식하는 ‘클린봇 2.0’을 출시했다.

인터넷 댓글 관련 문제가 끊이지 않는 가운데 악성 댓글을 감지·차단할 수 있는 자연어 처리기술의 고도화가 유망 활용 분야로 부상하고 있다.

김경현 기자 kimkh@globaldaily.co.kr