라떼군 이야기
"혐오는 돈이 된다": 알고리즘을 해킹한 런던 가짜뉴스 틱톡커의 고백
TL;DR 런던의 한 부동산 계약직원이 AI 음성과 자극적인 키워드를 이용해 가짜 혐오 콘텐츠를 제작, 막대한 조회수를 기록한 사건을 다룹니다. 그는 “혐오가 조회수를 부른다"는 알고리즘의 맹점을 악용해 수익을 창출하려 했으며, 이는 플랫폼의 추천 시스템과 콘텐츠 검열의 한계를 적나라하게 보여줍니다.
소셜 미디어 알고리즘이 극단적인 콘텐츠를 어떻게 증폭시키는지 보여주는 적나라한 사례가 등장했습니다. 런던의 평범한 부동산 관련 종사자가 AI 툴과 틱톡의 추천 시스템을 악용해 가짜 뉴스를 퍼뜨리고 수익을 노린 사건인데요. 이 글은 단순한 가십을 넘어, 기술이 어떻게 인간의 욕망과 결합하여 ‘혐오 비즈니스’를 만들어내는지, 그리고 플랫폼은 왜 이를 막지 못했는지 분석합니다.
핵심 내용
범인은 부동산 뷰잉 에이전트로 일하며 확보한 실제 집 영상을 배경으로, AI 음성을 입혀 “불법 이민자에게 공짜로 집을 줬다"는 거짓 정보를 유포했습니다. 그는 정치적 신념이 아닌 순수하게 “돈과 조회수"를 위해 극우 콘텐츠 형식을 차용했다고 고백했습니다. 특히 “알고리즘이 영상을 띄워줬으니 문제가 없다"고 생각하며, 플랫폼의 필터링 부재를 정당화의 근거로 삼았습니다. 결국 탐사 보도로 신원이 밝혀지고 경찰 수사가 진행 중이지만, 그는 여전히 자신의 행동을 ‘알고리즘 게임’의 일환으로 인식하고 있습니다.
기술적 인사이트
엔지니어 관점에서 이 사건은 ‘참여도(Engagement) 최적화 알고리즘’의 치명적인 부작용(Negative Externality)을 보여줍니다. 추천 시스템이 도덕적 판단 없이 클릭률(CTR)과 체류 시간만을 최적화할 때, ‘분노(Rage)‘는 가장 효율적인 변수가 됩니다. 또한, 생성형 AI(GenAI)의 보편화로 인해 고품질의 가짜 콘텐츠(Deepfake/Voiceover) 제작 비용이 0에 수렴하게 되면서, 인간 검수자가 개입할 수 있는 속도를 넘어선 ‘비대칭적 스케일’의 문제가 발생하고 있습니다. 이는 기술적 트레이드오프로 볼 때, ‘표현의 자유 및 추천의 정확도’와 ‘안전성 및 신뢰성’ 사이의 균형이 완전히 무너진 상태임을 시사합니다.
시사점
플랫폼 개발자와 데이터 사이언티스트에게는 ‘책임감 있는 AI(Responsible AI)‘와 알고리즘 윤리가 더 이상 선택이 아닌 필수 리스크 관리 요건임을 시사합니다. 단순히 텍스트 기반의 혐오 표현을 필터링하는 것을 넘어, 영상 맥락과 멀티모달(Multimodal) 데이터를 분석해 허위 정보를 식별하는 기술 고도화가 시급합니다. 또한, 수익화 모델(Monetization) 설계 시 조회수뿐만 아니라 콘텐츠의 신뢰도(Trustworthiness)를 핵심 지표(KPI)에 포함시키는 구조적 변화가 필요합니다.
“혐오가 조회수를 부른다"는 명제가 참인 이상, 기술적 차단만으로는 한계가 있을 수밖에 없습니다. 우리는 알고리즘이 인간의 가장 저열한 본성을 자극하여 수익을 창출하는 구조를 방치할 것인지, 아니면 기술적 가드레일과 사회적 합의를 통해 새로운 생태계를 설계할 것인지 고민해야 합니다.