[비즈니스포스트] 페이스북과 인스타그램 등 소셜네트워크서비스(SNS)를 운영하는 메타가 미국 대선과 유럽 집행위원장 선거 등에 대비해 가짜뉴스 확산 방지를 위한 대책을 내놓았다.

특히 인공지능(AI) 기술을 활용한 광고나 콘텐츠 관련 규제가 강화돼 ‘딥페이크’ 영상이 여론에 영향을 미치는 일을 막기 위한 조치에 초점이 맞춰졌다.

메타는 미국 현지시각으로 28일 공식 블로그를 통해 “2024년 미국 대선을 비롯한 여러 주요 국가와 유럽연합(EU)의 선거에 체계적으로 대비하고 있다”고 전했다.

미국과 인도, 인도네시아와 멕시코 대통령 및 유럽연합 집행위원장을 선출하는 여러 주요 선거가 예정된 만큼 다양한 조치를 통해 선거에 미칠 영향을 최소화하겠다는 것이다.

메타는 2016년부터 현재까지 200억 달러(약 26조 원)에 이르는 비용을 들여 여러 전문인력 및 협력사를 활용하며 가짜뉴스에 대응하는 데 주력하고 있다는 점을 강조했다.

페이스북과 인스타그램 등 플랫폼이 가짜뉴스를 퍼뜨리는 창구 역할을 해 선거에 부정적 영향을 미치는 일을 방지하기 위한 목적이다.

특히 메타는 최근 인공지능을 비롯한 디지털 기술 발전으로 진짜와 구별할 수 없는 가짜 사진과 동영상, 음성 등이 제작되고 공유되는 일을 규제하겠다는 계획을 제시했다.

우선 정치인 또는 사회적 이슈와 관련한 광고에 인공지능 기술이 활용된다면 광고주들은 앞으로 이를 공개해야만 한다.

실제로 존재하지 않는 인물이나 장면 등이 활용되거나 원본 이미지 또는 영상이 디지털 기술로 수정되었다면 이러한 사실을 고지해야 할 의무가 있다는 것이다.

광고주뿐 아니라 일반 사용자들이 게시하고 공유하는 콘텐츠도 메타의 정책을 위반한다면 적극적인 조치가 이뤄진다.

선거 또는 여론에 영향을 미칠 수 있는 내용, 차별과 폭력 등을 조장하는 내용이 인공지능 기술 등을 통해 콘텐츠에 포함된다면 메타가 이를 삭제할 수 있다.
  메타가 이처럼 선거를 앞두고 적극적인 규제 정책을 꺼내든 이유는 인공지능 기술 대중화로 조작된 영상과 음성을 만드는 일이 이전보다 훨씬 쉬워졌기 때문으로 분석된다.

특정 인물이 실제로 하지 않은 행동이나 발언을 한 것처럼 꾸며진 딥페이크 영상은 최근 들어 사회적 문제로 더 중요하게 대두되고 있다.

상반기에 미국 펜타곤이 폭발하는 가짜 영상이 퍼져 미국 증시에 영향을 미쳤던 사례나 도널드 트럼프 전 대통령이 경찰에 체포되는 사진이 만들어져 공유된 사례가 대표적으로 꼽힌다.

메타는 미국 지방선거와 다른 여러 국가의 주요 선거에서 자사 플랫폼을 악용한 적이 있었다고 전하며 내년에는 이를 방지하기 위해 더 확실한 준비를 갖추겠다고 강조했다.

블룸버그는 메타의 대응 정책에 관련한 보도에서 “내년 대선은 미국에서 생성형 인공지능 기술이 민주주의를 시험대에 놓이게 하는 첫 사례가 될 수 있다”고 바라봤다.

고도화된 인공지능 기술이 일반 사용자까지 대중화돼 특별한 기술이나 지식이 없이도 원하는 대로 이미지를 조작하고 생성할 수 있게 됐기 때문이다.

메타는 최근 소셜네트워크 플랫폼이 선거에 미칠 수 있는 영향과 관련해 월스트리트저널 등 주요 언론에서 비판을 받았다.

지난해에도 이와 관련한 정책을 개선해 시행으로 옮겼지만 여전히 2020년 대선이 조작되었다고 주장하는 광고가 게시되는 등 사례로 논란이 발생했기 때문이다.

이번에 메타가 선거와 관련된 콘텐츠 및 광고 규제를 강화한 것은 이러한 비판에 대응하기 위한 목적으로 볼 수 있다.

반면 일론 머스크 테슬라 CEO가 인수한 X(트위터)는 꾸준히 표현의 자유를 주장하며 가짜뉴스 관련한 대응 정책에 별다른 변화를 추진하지 않는 상반된 모습을 보인다.

미국 정치전문지 더힐은 최근 논평을 통해 “표현의 자유에 대한 일론 머스크의 ‘실패한 실험’은 비도덕적이고 위험하다”며 “가짜뉴스 확산으로 민주주의의 미래가 더욱 불안해지고 있다”고 전했다. 김용원 기자