[비즈니스포스트] 일론 머스크가 설립한 인공지능(AI) 기업 xAI가 선보인 이미지 생성 기능이 미국 대선을 앞두고 ‘딥페이크’ 영상 확산을 주도하는 주범으로 도마 위에 올랐다.

표현의 자유를 지지하는 일론 머스크의 성향이 반영된 결과라는 평가가 나오지만 이는 미국에서 AI 규제 논의가 본격화되는 계기로 작용할 수 있다는 분석도 나온다.

1일 블룸버그와 포브스 등 주요 외신을 종합하면 xAI에서 개발한 그록-2 인공지능 모델이 자극적이거나 선정적 이미지, 가짜뉴스에 악용될 수 있는 이미지 생성에 거의 제한을 두지 않아 논란에 휩싸였다. 

일론 머스크가 소유한 X(옛 트위터)는 최근 유료 가입자가 그록 모델로 생성한 인공지능 이미지를 올리고 공유할 수 있는 기능을 추가했다. 이후 폭력적이거나 선정적 이미지가 소셜네트워크 상에서 빠르게 퍼져나갔다.

조작된 영상과 음성을 실존 인물의 얼굴이나 신체에 합성하는 딥페이크 이미지도 다수 확산됐다.

더버지는 그록을 통해 유명인의 속옷 차림 사진, 불법 약물을 사용하는 모습, 중범죄를 저지르는 모습, 나치 유니폼을 입은 사진 등을 어렵지 않게 생성할 수 있었다고 전했다.

오픈AI의 달리(DALL-E)나 어도비 파이어플라이 등 유사한 서비스는 사용자가 부적절한 이미지를 요구하면 이를 거부하거나 다른 대상으로 대체하는 반면 그록은 이를 제한하지 않은 것이다.

X는 그록과 관련한 논란이 커지자 이미지 생성 기능을 출시한 지 일주일만에 방지책을 도입했다. 그러나 이미 다수의 부적절한 이미지가 온라인상에 퍼져 있다.

특히 전 세계 수억 명의 사용자를 확보한 X가 이러한 이미지 확산을 주도했다는 점에서 비판이 커지고 있다.

가짜뉴스 추적 전문 서비스인 뉴스가드의 잭 브루스터 편집인은 블룸버그에 “그록이 다른 AI 이미지 생성 프로그램들과 다른 점은 세계에서 가장 널리 사용되는 소셜미디어에 자체적으로 내장되었다는 점”이라고 지적했다.
  그록을 둘러싼 논란은 11월 미국 대선에 출마하는 후보들이 포함된 이미지가 다수 공유되며 더욱 붙붙었다.

미국 대선 후보들이 범죄를 저지르는 장면이나 선정적인 행위를 하는 등 이미지가 포함됐는데 일부 이미지는 인공지능으로 생성되었다는 점을 쉽게 파악하기 어렵다.

영국 인디펜던트에 따르면 비영리단체 ‘디지털 증오 대응센터(CCDH)’는 그록에서 미국 대선 후보들 이름을 언급하지 않고도 일부 묘사만을 통해 그들과 관련한 가짜 이미지들을 손쉽게 만들 수 있었다는 연구 결과를 내놓았다. 

이러한 이미지가 가짜뉴스로 악용되거나 이를 실제 사진으로 오인하는 사람들이 늘어나 대선 결과에도 영향을 미칠 수 있는 셈이다.

포브스는 “그록은 AI 윤리와 책임에 관한 인류의 관념을 뒤흔들고 있다”고 비판했다.

일론 머스크는 이전부터 절대적인 표현의 자유를 주장해 왔다. 트위터를 직접 인수해 X를 설립한 것도 소셜네트워크 플랫폼에서 이뤄지는 검열에 불만을 품은 데서 시작됐다.

머스크는 자신의 공식 X 계정을 통해 해리스 부통령이 등장하는 인공지능 생성 이미지를 직접 공유하거나 그록이 세상에서 가장 재미있는 인공지능 기술이라고 직접 홍보에도 나섰다.

따라서 그록의 이미지 생성 기능을 제한하지 않은 것은 기술적 문제가 아닌 고의에 해당할 수 있다는 추측도 나온다.

미국 대선이 임박하며 민감한 시기에 그록의 이미지 생성 기능과 관련한 논란이 커진다면 이는 인공지능 관련 규제가 강화되는 결과로 이어질 수 있다.

디지털 증오 대응센터는 연구 보고서를 통해 “X는 (오픈AI와 같은) 기업과 달리 방지 조치를 취하지 않은 것으로 보이며 이는 11월 대선을 앞두고 우려를 부르고 있다”고 짚었다. 

이미 미국 정치권에서 이번 사태를 계기로 인공지능 이미지와 관련한 딥페이크 규제를 강화해야 한다는 목소리가 나오고 있다.

정치전문매체 더힐에 따르면 숀텔 브라운 민주당 하원의원을 포함한 의원들은 연방선거위원회(FEC)에 딥페이크 규제 강화를 요청하는 서한을 보냈다. 

이를 계기로 인공지능 규제가 강화되면 xAI와 테슬라 등 일론 머스크가 운영하는 기업의 인공지능 신사업에 악영향을 미칠 수 있다.

딥페이크 이미지와 관련한 윤리적 논란이 커질수록 일론 머스크를 향한 여론도 악화할 가능성이 충분하다.

테슬라는 이미 미국 캘리포니아와 유럽 일부 국가에서 일론 머스크의 트럼프 전 대통령 지지 선언 영향으로 정치적 중립 관련한 논란이 일며 사업에 타격을 받고 있는 것으로 파악된다. 이번 사태는 기름을 붓는 격이 될 수 있다.

미국 씽크탱크 애틀란틱카운슬의 에머슨 브루킹 수석 연구원은 블룸버그에 “일론 머스크는 인공지능의 안전성을 경시하고 사회적 공분을 조장하고 있다”고 비판했다. 이근호 기자