[비즈니스포스트] 토스증권이 불법 리딩방 홍보와 악성 게시글을 차단하기 위해 인공지능(AI) 기반 커뮤니티 자동 검수 체계를 도입했다.

토스증권은 건전한 투자 소통 환경을 만들기 위해 자사 커뮤니티에 AI 기반 게시글 검수 모델을 구축했다고 4일 밝혔다.
 

이번 조치는 단순 금지어 차단 방식의 한계를 넘어 맥락을 파악하고 부적절한 게시글을 정밀하게 걸러내기 위해 마련됐다. 게시글의 문맥을 종합 분석해 욕설과 비방은 물론 교묘한 불법 리딩방 홍보까지 탐지한다.

검수 모델은 게시글을 올리거나 수정할 때 제목과 본문, 첨부 이미지를 자동으로 분석한다. 정책 위반 정도에 따라 추천 목록 제외나 게시글 숨김 등 단계별 제재를 즉각 적용한다.

작성 단계의 필터링 방식도 손질했다. 

우회 표현까지 폭넓게 탐지하도록 기능을 고도화하고 금지어가 포함되면 전체 등록을 막던 기존 방식 대신 해당 단어만 마스킹 처리해 게시할 수 있도록 바꿨다.

글 작성 시 금지어 필터링을 거치고 작성 직후 AI가 내용을 자동 판별하는 이중 검수 체계를 갖춘 셈이다.

토스증권 관계자는 "투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 상황을 줄이기 위해 체계를 개선했다"며 "앞으로도 신뢰할 수 있는 커뮤니티 환경을 지속해서 가꿔나가겠다"고 말했다. 권동규 기자