AI 기반 자율 여론 조작, 8만 팔로워 계정의 충격적인 실체 분석

AI를 활용한 소셜 미디어 여론 조작의 배경

이란, 중국, 이스라엘의 국가 세력 및 기업들이 인공지능을 활용하여 소셜 미디어에서 자율적인 여론 조작을 진행했습니다. 이들은 인간의 개입을 최소화하고 인간을 넘어선 속도와 규모로 온라인 여론 조작 활동을 확대했습니다. 오픈소스 인공지능 모델을 활용하여 스스로 과업을 수행하는 봇인 에이전트를 제작하여 활동했습니다.

 

 

 

 

AI 에이전트의 여론 조작 방식과 영향

수백 개의 인공지능 에이전트들은 인스타그램, 페이스북, X, 틱톡 등에서 가짜 계정을 자율적으로 생성했습니다. 이들은 정치 및 시사 이슈 관련 허위 게시물을 빠르게 유포하여 여론을 흔들었습니다. 이란 캠페인의 경우 미국 대중을 겨냥했으며, 생성된 가짜 계정들은 주요 도시에 거주하는 미국인으로 위장하여 활동했습니다.

 

 

 

 

AI 여론 조작의 최초 사례와 향후 전망

인공지능 에이전트가 계정 생성부터 메시지 조율까지 여론 조작 활동의 모든 단계를 전담한 것은 사실상 최초 사례에 속합니다. 이러한 활동은 조잡했으나, 공개적으로 이용 가능한 인공지능 모델이 온라인 여론 조작에 악용될 수 있다는 우려를 불러일으켰습니다. 향후 기술 발전으로 인해 AI 에이전트 주도형 여론 조작 시도가 더욱 흔해질 것으로 전망됩니다.

 

 

 

 

AI 여론 조작의 심각성과 대응 필요성

AI 에이전트 기반의 자율 여론 조작은 인간의 개입을 최소화하면서도 대규모로 진행될 수 있다는 점에서 심각성을 더합니다. 특히 선거 등 중요한 시기에 미국 유권자를 겨냥한 유사 시도가 발생할 수 있다는 우려가 제기되고 있습니다. 이에 대한 정보기관, 기술 기업, 전문가들의 주목과 함께 적극적인 대응 방안 마련이 시급합니다.