최근 인공지능(AI) 기술을 악용해 유명인을 사칭하는 범죄가 유튜브 등 사회관계망서비스(SNS)를 중심으로 급증하고 있다. 범죄자들은 특정 인물의 목소리를 학습시킨 뒤 자극적인 가짜 뉴스를 생성해 사용자의 클릭을 유도한다. 특히 정부 지원금이나 대출 탕감 등 민감한 경...
최근 인공지능(AI) 기술을 악용해 유명인을 사칭하는 범죄가 유튜브 등 사회관계망서비스(SNS)를 중심으로 급증하고 있다. 범죄자들은 특정 인물의 목소리를 학습시킨 뒤 자극적인 가짜 뉴스를 생성해 사용자의 클릭을 유도한다. 특히 정부 지원금이나 대출 탕감 등 민감한 경제 정보를 미끼로 활용해 금전적 피해를 입히고 있어 주의가 요구된다.
유명 유튜브 채널 '1분미만'은 지난 4일 자신의 목소리를 도용한 사칭 광고에 대해 직접 주의를 당부했다. 범죄자들은 AI로 목소리를 복제했을 뿐 아니라 자막 폰트와 배경음악까지 똑같이 따라 했다. 심지어 채널명과 영상 구도까지 복사해 일반 시청자가 육안으로 구분하기 어렵게 만들었다. 과학의 발전이 범죄의 도구로 전락한 씁쓸한 단면이다.이들이 제작한 가짜 영상은 유튜브 쇼츠 광고를 통해 무려 500만회 이상의 조회수를 기록했다. 광고비까지 지불하며 대규모로 유포되는 조직적인 양상을 띤다. 영상 내용은 '정부가 대출금 30%를 줄여준다'거나 '성실한 상환자만 손해'라는 식의 기만적 정보가 주를 이룬다. 교묘하게 편집된 정보는 공신력 있는 제도처럼 포장되어 시청자를 현혹한다.
더욱 충격적인 사실은 이러한 사칭 광고의 배후에 일부 법무법인이 연루되었다는 정황이다. 피해 유튜버가 직접 해당 광고 사이트를 추적한 결과 운영 주체가 법 전문가 집단으로 드러났다. 저작권법과 음성권을 누구보다 잘 아는 이들이 오히려 법망을 피해 불법 행위를 자행한 셈이다. 고양이에게 생선을 맡긴 격이라는 비판이 나오는 이유다.사칭범들은 시청자의 신뢰를 이용해 개인정보를 수집하거나 특정 상품 가입을 유도한다. 1분미만 운영자는 모든 영상의 댓글을 열어두고 있으며 유료 광고는 엄격히 제한하고 있다고 강조했다. 전문 기자가 보기에도 수법이 너무 정교해 'AI 판별기' 없이는 대응이 쉽지 않아 보인다. 법적 제도 보완이 기술의 속도를 따라가지 못하는 실정이다.
∙ AI 딥보이스 기술로 유명인의 목소리를 100% 가깝게 복제∙ 영상 폰트, 배경음악, 편집 스타일을 그대로 모방하여 신뢰 구축∙ 정부 지원금, 대출 감면 등 자극적인 경제적 미끼 활용∙ 유튜브 유료 광고 기능을 이용해 단기간에 수백만 명에게 유포∙ 법무법인 등 의외의 주체가 배후에서 수익 창출 시도
AI 기술의 대중화로 사칭 범죄의 진입 장벽은 더욱 낮아질 것으로 전망된다. 금융감독원에 따르면 AI 활용 보이스피싱 시도는 향후 1년 내 현재보다 2배 이상 증가할 가능성이 크다.정부는 AI 생성 콘텐츠에 '가짜'임을 명시하는 워터마크 의무화를 추진하고 있다. 하지만 기술적 우회 수법이 계속 등장할 것이기에 사용자의 비판적 정보 수용 능력이 가장 중요한 방패가 될 것이다.