AI 혐오 콘텐츠, 일본 고령층 노려 '돈벌이 수단'으로 악용되는 충격 실태

일본 온라인, AI 혐중 영상 범람…고령층 겨냥한 '돈벌이 공장'

최근 일본 온라인 공간에서 중국을 비하하고 일본을 미화하는 생성형 AI 영상이 급증하고 있습니다. 특히 고령층 시청자를 겨냥한 자극적인 제목과 쉬운 음성으로 조회수를 높여 광고 수익을 얻는 구조가 형성되고 있습니다. 실제 사건인지 허구인지 구분하기 어려운 영상들이 무분별하게 유포되며 사회적 문제로 떠오르고 있습니다. 이러한 영상들은 AI 이미지와 기계 음성을 활용하여 제작되며, '신칸센에 세계가 놀랐다'와 같은 선정적인 문구로 시청자의 감정을 자극합니다. 일부 영상은 수십만 회 이상의 조회수를 기록하며 제작자에게 상당한 광고 수익을 안겨주고 있습니다.

 

 

 

 

AI 혐오 콘텐츠, '돈벌이'를 위한 조직적 움직임

이러한 AI 혐오 영상 제작에는 별도의 매뉴얼까지 존재하는 것으로 알려졌습니다. 시설명이나 지명 등은 실제 존재하는 곳을 사용하고, 고령층 시청자를 고려하여 음성은 최대한 알아듣기 쉽게 만들라는 지침이 포함되어 있습니다. '큰소리로 항의하는 중국인'과 같은 문구를 AI에 입력하면 몇 분 안에 그럴듯한 이미지가 생성되는 방식입니다. 이는 단순한 개인의 일탈을 넘어, 조직적으로 움직이는 '혐오 콘텐츠 공장'의 실태를 보여줍니다. 얼굴도 모르는 사람들이 연결되어 AI를 통해 대량으로 영상을 생산하며 수익을 창출하는 구조가 형성된 것입니다.

 

 

 

 

하청 맡은 20대, '부업'으로 시작했다가 느낀 당혹감

이러한 영상 편집을 하청받아 진행했던 한 20대 남성의 증언은 충격을 더합니다. 그는 구인 사이트에서 '중국 비판 계열 해외 반응 유튜브 영상 작업'이라는 공고를 보고 일을 시작했으며, 특별한 사상이나 원한 없이 '가벼운 마음으로 시작한 부업'이었다고 밝혔습니다. 집에서 간단히 처리할 수 있다는 점이 매력적이었지만, 자신이 만든 영상이 플랫폼에 연달아 게시되는 것을 보며 의구심과 당혹감을 느꼈다고 토로했습니다. 이는 혐오 콘텐츠 생산의 이면에 개인들이 어떻게 연결되고 이용되는지를 보여주는 단적인 사례입니다.

 

 

 

 

인터넷 혐오 콘텐츠, '효율적인 돈벌이 구조'의 어두운 단면

아사히신문은 이러한 인터넷 영상의 한편에는 보는 사람의 증오를 자극하고 때로는 사고를 왜곡하는 콘텐츠가 존재하며, 그 이면에는 얼굴도 모르는 사람들끼리 연결되어 AI로 영상을 대량 생산하는 '효율적인 돈벌이 구조'가 형성되어 있다고 지적했습니다. 이는 단순한 정보 전달을 넘어, 감정을 자극하고 왜곡된 인식을 심어줄 수 있는 혐오 콘텐츠가 어떻게 '돈벌이 수단'으로 악용될 수 있는지를 명확히 보여줍니다.

 

 

 

 

AI 혐오 콘텐츠, 고령층 노린 '돈벌이 수단'으로 전락

일본 온라인에서 AI를 이용한 혐중 콘텐츠가 급증하며 고령층을 겨냥한 '돈벌이 수단'으로 악용되는 실태가 드러났습니다. 자극적인 제목과 쉬운 음성으로 조회수를 높여 광고 수익을 얻는 조직적인 움직임이 포착되었으며, 하청을 맡은 젊은층까지 가담하는 '효율적인 돈벌이 구조'의 어두운 단면이 확인되었습니다.

 

 

 

 

AI 혐오 콘텐츠, 이것이 궁금합니다

Q.AI 혐오 콘텐츠는 주로 어떤 방식으로 제작되나요?

A.AI 이미지 생성 기술과 기계 음성 합성을 활용하여 제작됩니다. 실제 지명이나 시설명을 사용하고, 고령층 시청자를 고려하여 음성을 쉽게 만드는 등 별도의 매뉴얼이 존재하기도 합니다.

 

Q.이러한 콘텐츠가 고령층을 타겟으로 하는 이유는 무엇인가요?

A.고령층 시청자들이 상대적으로 자극적인 제목이나 쉬운 설명에 더 반응할 가능성이 높고, 특정 정치적 성향을 가진 시청자층을 공략하기 용이하기 때문으로 분석됩니다.

 

Q.AI 혐오 콘텐츠의 확산이 사회에 미치는 영향은 무엇인가요?

A.특정 집단에 대한 증오심을 조장하고, 사실과 다른 정보를 퍼뜨려 사회적 갈등을 심화시킬 수 있습니다. 또한, 잘못된 정보로 인해 시청자들의 사고가 왜곡될 위험이 있습니다.