선풍적인 인기를 끌고 있는 챗GPT를 탄생시킨 인공지능 개발사 오픈 AI. /AP

AI 진화속도 빨라

댓글부대 필요 없이

정교한 오보 유포 가능

공화당 대선 주자인 론 디샌티스 플로리다 주지사는 지난달 트위터에 한 영상을 올렸다.

영상에는 같은 당 대선주자 중 선두인 도널드 트럼프 전 대통령이 앤서니 파우치 전 국립알레르기·전염병연구소(NIAID) 소장을 안는 이미지가 담겼다.

트럼프 전 대통령은 재임 시절 팬데믹 대처 방식을 놓고 파우치 전 소장과 심각한 마찰을 빚었다. 

이 이미지는 그럼에도 파우치 전 소장을 경질하지 않은 트럼프 전 대통령의 태도를 은근히 비난하는 듯했다. 이미지는 급속히 확산했고 팩트체크 기관과 '네티즌 수사대' 등이 분석에 나선 끝에 '가짜'라는 점이 밝혀졌다. 하지만 이후에도 트위터는 해당 영상을 제거하지 않았다. 뒤늦게 영상 속 스틸샷 3장은 인공지능(AI)이 생성한 것이라는 점만 고지했다.

CNN 방송은 17일 내년 미국 대선을 앞두고 AI 생성 콘텐츠가 유권자를 혼란에 빠뜨릴 가능성을 언급하며 이번 에피소드는 시작에 불과하다고 보도했다.

제빈 웨스트 워싱턴대 교수는 "캠페인이 늘어나기 시작했고 선거가 빠르게 다가오고 있으며 기술도 빠르게 발전하고 있다"며 "우리는 AI가 끼칠 수 있는 영향력의 증거를 이미 봤다"고 말했다. 전문가들은 특히 소셜미디어(SNS) 플랫폼에서는 수십억명이 정보를 찾아 다니고 '악당'이 종종 가짜 주장을 퍼뜨린다는 점에서 관련 기업의 위험 관리 책임이 크다고 지적한다.

CNN은 하지만 지금 상황은 선거관련 오보의 물결을 따라잡기가 어느 때보다 어려운 탓에 SNS는 '퍼펙트 스톰(초대형 복합위기)'에 직면해있다고 강조했다.

AI가 만들어내는 글이 매우 설득력 있고 이미지가 사실적이라 유권자가 잘못된 정보에 쉽게 휘둘릴 가능성이 크다는 점에서다. 와중에 일부 메이저 SNS 네트워크는 선거오보 관련 대응에 미온적이며 일부는 대량 해고사태까지 겪었다.