트럼프가 체포되는 모습. AI가 만든 가짜사진이다. /Twitter

생성형 인공지능(AI) 때문에

허위정보 범람 우려 확산

민주주의 선진국인 미국과 영국에서 최근 급속도로 발달 중인 생성형 인공지능(AI)을 두고 허위정보 범람에 대한 우려가 커지고 있다. 

20일 영국 일간 가디언에 따르면 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 주요 선거에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다. 지난 16일 샘 올트먼 오픈AI 최고경영자(CEO)는 연방의회 청문회에서 "가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력"이라고 경고했다.

리시 수낵 영국 총리가 지난 18일 영국이 AI 위험을 제한하는 데에 앞장서겠다고 공언하고 나서는 등 최근 전세계에서 동시다발적으로 AI 기술에 대한 경계의 목소리가 커지고 있다. 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 '딥페이크' 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다.

특히 이런 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 가디언은 짚었다. 

대만해협 갈등, 성소수자 권리, 기후변화 등 논쟁적 주제에 대한 관련한 특정 논점을 반복하도록 훈련된 AI의 메시지가 수천개의 소셜미디어 계정을 통해 전파될 경우 정치적 반대파의 목소리를 억누르고, 관망하는 이들의 귀를 솔깃하게 하는 식으로 생산적 공론 과정을 차단할 수 있다는 것이다.