해용님의 블로그

AI 기반 콘텐츠 제작의 새로운 지평인공지능(AI) 기술의 발전으로 카메라 앞의 사람 없이도 AI 배우와 실존하지 않는 인플루언서가 탄생하고 있습니다. 이는 콘텐츠 제작의 문턱을 낮추어 소규모 제작자에게 새로운 기회를 제공합니다. 전문 장비나 큰 예산 없이도 콘텐츠를 제작할 수 있는 환경이 조성되었습니다. AI 인플루언서 제작 과정 및 비용기자는 챗GPT 워크와 힉스필드 플랫폼을 활용하여 25세 한국인 여성 인플루언서 '하시엔다'를 생성했습니다. 슬래커코어 스타일의 의상과 오드아이 특징을 가진 캐릭터를 만드는 데 약 1500원의 비용이 소요되었습니다. 이어서 릴스 영상 제작까지 총 1시간 남짓한 시간과 1만 원 내외의 비용으로 완성할 수 있었습니다. AI 콘텐츠의 저작권 및 신뢰성 문제AI 콘..

AI 성착취물 유포 사건의 전말현직 경찰관이 AI를 이용해 수백 건의 성착취물을 제작 및 유포한 혐의로 구속되었습니다. 이 사건은 지난해 12월 부산경찰청 사이버범죄수사대의 위장 수사를 통해 드러나게 되었습니다. 법 개정 이후 처음으로 위장 수사가 시작되었으며, 이를 통해 운영자와 유포자가 특정되었습니다. 피의자의 충격적인 범행 수법과 전적용의자로 특정된 인물은 서울 동대문경찰서 소속 현직 경찰관으로 밝혀졌습니다. 그의 휴대전화에서는 아동·청소년 성착취물 및 불법 촬영물을 포함한 총 5천600개의 불법 영상이 발견되었습니다. 또한, 지인 사진에 나체 이미지를 합성하는 등 400건 이상의 AI 성착취물을 직접 제작하여 유포한 혐의도 받고 있습니다. 경찰 임용 전력과 현재 조치피의자는 경찰관 임용..

AI 생성 의혹 사진의 확산 배경도널드 트럼프 미국 대통령과 나탈리 하프 보좌관이 키스하는 사진이 SNS를 통해 급속도로 확산되었습니다. 해당 사진은 140만 회 이상의 조회수를 기록하며 큰 주목을 받았습니다. 그러나 이 사진들은 실제가 아닌 인공지능(AI)으로 조작된 가짜 사진이라는 주장이 제기되었습니다. AI 조작 증거 및 전문가 분석뉴스위크는 사진에서 발견된 시각적 부자연스러움을 근거로 AI 조작 가능성을 제기했습니다. 하프 보좌관의 손가락 개수가 6개로 보이거나, 골프 장비 및 배경의 형태가 일관되지 않는 점 등이 주요 증거로 제시되었습니다. 또한, AI 챗봇인 그록과 챗GPT 역시 해당 사진들이 AI 생성 또는 디지털 조작의 특징과 일치한다고 분석했습니다. 백악관 입장 및 하프 보좌관..

네타냐후 총리 사망설, 온라인 확산 원인베냐민 네타냐후 이스라엘 총리의 연설 영상에서 손가락이 여섯 개처럼 보인다는 의혹이 온라인에서 확산되며 사망설 및 AI 영상 생성 주장이 제기되었습니다. 일부 누리꾼들은 네타냐후 총리가 이미 사망했으며, 이를 숨기기 위해 AI로 생성된 영상을 공개한 것이 아니냐는 의혹을 제기했습니다. 이러한 주장은 이스라엘과 전쟁 중인 이란혁명수비대의 경고 메시지와 맞물려 더욱 증폭되었습니다. 이란혁명수비대는 네타냐후 총리를 향해 '살아 있다면'이라는 전제를 달며 사망설에 무게를 싣는 듯한 발언을 했습니다. 총리 직접 반박 및 영상 진위 확인네타냐후 총리는 15일(현지시간) 텔레그램을 통해 직접 사망설을 반박했습니다. 예루살렘 외곽 카페에서 보좌관과 대화하는 영상을 공개하며,..

AI 악용한 딥페이크 허위정보, 무관용 원칙으로 엄정 대응다가오는 전국동시지방선거를 앞두고 검찰과 경찰이 인공지능(AI) 기술을 악용한 딥페이크 허위정보 유포 행위에 대해 무관용 원칙을 적용해 엄정 대응하기로 했습니다. 유재성 경찰청장 직무대행과 구자현 검찰총장 직무대행은 합동 브리핑을 통해 선거 공정성을 해치는 선거범죄 및 허위조작 정보 근절 방안을 발표했습니다. 이는 민주주의 질서를 훼손하는 행위에 대한 단호한 의지를 보여줍니다. 신속한 수사로 가짜뉴스 유포자 검거경찰은 지난해 10월부터 '허위정보 유포 등 단속 태스크포스(TF)'를 운영하며 중요 사건에 대해 직접 수사하고 있습니다. 특히 '한국에 하반신 없는 시체가 수십구 발견됐다'는 허위 사실을 유포한 유튜버를 수사 착수 하루 만에 특정해 ..

AI 챗봇 '그록'의 충격적인 현실엑스(X)의 AI 챗봇 '그록'이 딥페이크 기술을 악용하여 성인용 콘텐츠를 생성하는 문제로 인해 큰 논란이 일고 있습니다. '스파이시 모드'라는 기능을 통해 노출 이미지를 생성할 수 있다는 사실이 밝혀지면서, 사회적 우려가 커지고 있습니다. X 플랫폼의 대응: 기술적 조치와 안전 장치 마련X 안전팀은 아동 성착취물 및 동의 없는 노출을 포함한 위험 콘텐츠를 제거하기 위한 기술적 조치를 시행했습니다. 그록 계정이 실제 인물의 이미지를 편집하여 노출이 심한 상태로 생성하는 것을 제한하며, 이는 유료 구독자를 포함한 모든 사용자에게 적용됩니다. 또한, 그록을 악용한 불법 행위에 대한 책임을 강화하기 위해 유료 구독자에게만 이미지 생성·편집 기능을 제공합니다. 규제 ..

도쿄대 미스콘, 전통과 논란을 넘어선 새로운 시작일본 최고 명문 대학인 도쿄대에서 '미스 & 미스터 도쿄대 콘테스트 2025'의 본선 결과가 발표되었습니다. 이 행사는 도쿄대 광고연구회가 주최하는 행사로, 뛰어난 외모, 재능, 인성, 그리고 사회적 메시지를 갖춘 학생들을 선발합니다. 전통적으로 일본 방송사 아나운서 및 연예계 데뷔의 등용문으로 여겨지며, 많은 이들의 관심과 기대를 한 몸에 받아왔습니다. 올해는 특히 AI 딥페이크 이슈 이후 더욱 주목받으며, 그 의미를 더했습니다. 법학부 대학원생 스가 아리사, 미스 도쿄대 그랑프리 수상이번 '2025 미스 & 미스터 도쿄대 콘테스트'에서 미스 도쿄대 그랑프리의 영예는 도쿄대 법학부 대학원 1학년생 스가 아리사 양에게 돌아갔습니다. 스가 양은 도쿄대 ..

AI 딥페이크, 죽음 이후에도 계속되는 고통고(故) 로빈 윌리엄스의 딸 젤다 윌리엄스가 아버지의 AI 생성 영상 확산에 대해 강한 우려를 표명했습니다. 그녀는 자신의 인스타그램을 통해 이러한 행위가 인간의 삶을 역겹게 가공하는 것과 같다고 비판하며, AI 콘텐츠를 '콘텐츠 인간 지네'에 비유하며 혐오감을 드러냈습니다. 젤다 윌리엄스는 딥페이크 기술을 통해 고인의 이미지가 무분별하게 사용되는 현실에 대해 깊은 슬픔과 분노를 느끼고 있습니다. 젤다 윌리엄스의 절규: 훼손되는 고인의 명예젤다 윌리엄스는 AI 영상이 고인의 명예를 훼손하는 어리석은 시간 낭비일 뿐이라고 지적했습니다. 그녀는 앞서 AI 재현물을 '끔찍한 프랑켄슈타인 괴물'이라 칭하며, 고인과 같이 동의할 수 없는 인물에 대한 AI 학습 시도..

진실을 삼켜버린 기술: 딥페이크의 역습AI 기술의 눈부신 발전은 우리 삶에 혁신을 가져왔지만, 동시에 새로운 위협을 드리우고 있습니다. 특히, 딥페이크 기술은 정치인, 연예인 등 유명 인사의 영상과 음성을 교묘하게 조작하여 진실을 왜곡하고 있습니다. 최근에는 윤석열 전 대통령의 딥페이크 영상이 100만 회가 넘는 조회수를 기록하며, 그 심각성을 여실히 드러냈습니다. 이 영상은 마치 실제 발언처럼 보이도록 제작되어, 많은 사람들을 혼란에 빠뜨렸습니다. 이처럼 정교해진 딥페이크 기술은 가짜 뉴스, 사기 등 다양한 범죄에 악용될 수 있으며, 개인의 명예를 훼손하고 사회적 혼란을 야기할 수 있다는 점에서 심각한 문제입니다. AI가 만든 가짜 음반: 음악 시장을 뒤흔들다AI 기술은 영상뿐만 아니라 음악 분야..