해용님의 블로그

AI 악용한 딥페이크 허위정보, 무관용 원칙으로 엄정 대응다가오는 전국동시지방선거를 앞두고 검찰과 경찰이 인공지능(AI) 기술을 악용한 딥페이크 허위정보 유포 행위에 대해 무관용 원칙을 적용해 엄정 대응하기로 했습니다. 유재성 경찰청장 직무대행과 구자현 검찰총장 직무대행은 합동 브리핑을 통해 선거 공정성을 해치는 선거범죄 및 허위조작 정보 근절 방안을 발표했습니다. 이는 민주주의 질서를 훼손하는 행위에 대한 단호한 의지를 보여줍니다. 신속한 수사로 가짜뉴스 유포자 검거경찰은 지난해 10월부터 '허위정보 유포 등 단속 태스크포스(TF)'를 운영하며 중요 사건에 대해 직접 수사하고 있습니다. 특히 '한국에 하반신 없는 시체가 수십구 발견됐다'는 허위 사실을 유포한 유튜버를 수사 착수 하루 만에 특정해 ..

AI 챗봇 '그록'의 충격적인 현실엑스(X)의 AI 챗봇 '그록'이 딥페이크 기술을 악용하여 성인용 콘텐츠를 생성하는 문제로 인해 큰 논란이 일고 있습니다. '스파이시 모드'라는 기능을 통해 노출 이미지를 생성할 수 있다는 사실이 밝혀지면서, 사회적 우려가 커지고 있습니다. X 플랫폼의 대응: 기술적 조치와 안전 장치 마련X 안전팀은 아동 성착취물 및 동의 없는 노출을 포함한 위험 콘텐츠를 제거하기 위한 기술적 조치를 시행했습니다. 그록 계정이 실제 인물의 이미지를 편집하여 노출이 심한 상태로 생성하는 것을 제한하며, 이는 유료 구독자를 포함한 모든 사용자에게 적용됩니다. 또한, 그록을 악용한 불법 행위에 대한 책임을 강화하기 위해 유료 구독자에게만 이미지 생성·편집 기능을 제공합니다. 규제 ..

도쿄대 미스콘, 전통과 논란을 넘어선 새로운 시작일본 최고 명문 대학인 도쿄대에서 '미스 & 미스터 도쿄대 콘테스트 2025'의 본선 결과가 발표되었습니다. 이 행사는 도쿄대 광고연구회가 주최하는 행사로, 뛰어난 외모, 재능, 인성, 그리고 사회적 메시지를 갖춘 학생들을 선발합니다. 전통적으로 일본 방송사 아나운서 및 연예계 데뷔의 등용문으로 여겨지며, 많은 이들의 관심과 기대를 한 몸에 받아왔습니다. 올해는 특히 AI 딥페이크 이슈 이후 더욱 주목받으며, 그 의미를 더했습니다. 법학부 대학원생 스가 아리사, 미스 도쿄대 그랑프리 수상이번 '2025 미스 & 미스터 도쿄대 콘테스트'에서 미스 도쿄대 그랑프리의 영예는 도쿄대 법학부 대학원 1학년생 스가 아리사 양에게 돌아갔습니다. 스가 양은 도쿄대 ..

AI 딥페이크, 죽음 이후에도 계속되는 고통고(故) 로빈 윌리엄스의 딸 젤다 윌리엄스가 아버지의 AI 생성 영상 확산에 대해 강한 우려를 표명했습니다. 그녀는 자신의 인스타그램을 통해 이러한 행위가 인간의 삶을 역겹게 가공하는 것과 같다고 비판하며, AI 콘텐츠를 '콘텐츠 인간 지네'에 비유하며 혐오감을 드러냈습니다. 젤다 윌리엄스는 딥페이크 기술을 통해 고인의 이미지가 무분별하게 사용되는 현실에 대해 깊은 슬픔과 분노를 느끼고 있습니다. 젤다 윌리엄스의 절규: 훼손되는 고인의 명예젤다 윌리엄스는 AI 영상이 고인의 명예를 훼손하는 어리석은 시간 낭비일 뿐이라고 지적했습니다. 그녀는 앞서 AI 재현물을 '끔찍한 프랑켄슈타인 괴물'이라 칭하며, 고인과 같이 동의할 수 없는 인물에 대한 AI 학습 시도..

진실을 삼켜버린 기술: 딥페이크의 역습AI 기술의 눈부신 발전은 우리 삶에 혁신을 가져왔지만, 동시에 새로운 위협을 드리우고 있습니다. 특히, 딥페이크 기술은 정치인, 연예인 등 유명 인사의 영상과 음성을 교묘하게 조작하여 진실을 왜곡하고 있습니다. 최근에는 윤석열 전 대통령의 딥페이크 영상이 100만 회가 넘는 조회수를 기록하며, 그 심각성을 여실히 드러냈습니다. 이 영상은 마치 실제 발언처럼 보이도록 제작되어, 많은 사람들을 혼란에 빠뜨렸습니다. 이처럼 정교해진 딥페이크 기술은 가짜 뉴스, 사기 등 다양한 범죄에 악용될 수 있으며, 개인의 명예를 훼손하고 사회적 혼란을 야기할 수 있다는 점에서 심각한 문제입니다. AI가 만든 가짜 음반: 음악 시장을 뒤흔들다AI 기술은 영상뿐만 아니라 음악 분야..