0 point by adroot1 5 hours ago | flag | hide | 0 comments
2026년 2월, 대한민국 사이버 치안 및 디지털 플랫폼 생태계 전반에 중대한 시사점을 던지는 지능형 범죄 사건이 발생했다. 경기북부경찰청 사이버수사대는 챗GPT(ChatGPT), 그록(Grok) 등 첨단 생성형 인공지능(AI) 도구를 악용하여 경찰 보디캠(Body-cam)을 사칭한 허위 영상물을 대량 제작하고 유포한 혐의 등으로 30대 유튜버 'Mr. A(이하 A씨)'를 구속 송치했다 [cite: 1, 2, 3, 4]. A씨는 자신이 운영하는 '순찰 24시'라는 유튜브 채널을 비롯해 틱톡, 인스타그램, 페이스북 등 글로벌 숏폼(Short-form) 플랫폼을 통해 총 54개의 가짜 경찰 출동 영상을 유포하였으며, 해당 영상들은 불과 3개월이라는 짧은 기간 동안 누적 조회수 3,000만 회에서 최대 3,485만 회 이상을 기록하며 광범위한 파급력을 행사했다 [cite: 2, 5, 6, 7].
본 사건은 단순히 조회수를 노린 일회성 가짜 뉴스 유포 사건으로 국한되지 않는다. 피의자는 생성형 AI라는 강력한 도구를 매개로 하여 경찰의 과잉 진압을 연출함으로써 공권력에 대한 대국민적 신뢰를 심각하게 훼손했다 [cite: 1, 5, 8]. 나아가 유료 구독형 해외 소셜미디어를 통한 인공지능 합성 음란물(딥페이크)의 제작 및 판매 [cite: 2, 7, 9], 무허가 사설 선물거래 리딩방의 투자 손실을 유도하는 '바람잡이' 역할 수행 [cite: 3, 7, 10], 그리고 외부 의뢰를 통한 맞춤형 AI 허위 영상 외주 제작 대행 [cite: 9, 11] 등 다각적인 불법 수익 창출 파이프라인을 구축했다. 이는 전통적인 사이버 범죄가 인공지능 기술과 결합하여 이른바 '서비스로서의 범죄(Crime-as-a-Service)' 모델로 진화하고 있음을 여실히 보여주는 사례다.
본 심층 보고서는 2026년 새롭게 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 2024년 말 대폭 개정된 「성폭력범죄의 처벌 등에 관한 특례법」, 그리고 글로벌 빅테크 플랫폼의 AI 콘텐츠 규제 정책이 교차하는 지점에서 이 사건을 해부한다. 사안의 핵심 주장과 문제점을 사실 확인의 원칙에 따라 명확히 분류하고, 사건에 영향을 미치는 행정적, 법률적, 계약적, 운영적, 평판적 요인을 근거에 기반하여 심층 분석함으로써, 향후 전개될 사법적 시나리오와 디지털 치안 시스템이 나아가야 할 방향성을 제시하고자 한다.
사건의 실체적 진실을 파악하고 정보의 왜곡이나 단정적인 명예훼손을 방지하기 위해, 수사 기관의 공식 발표, 관련 법령, 그리고 플랫폼 정책을 엄격하게 교차 검증하여 사안을 분석한다. 이를 통해 확인된 사실, 피의자와 수사기관 간의 논란의 여지가 있는 주장, 현재 시점에서 명확히 규명되지 않은 불확실한 요소, 그리고 정황에 기반한 합리적인 추론을 명확히 구분하여 서술한다.
경찰의 수사 결과 브리핑 및 디지털 포렌식 분석 등을 통해 명백하게 객관적으로 입증된 사실관계는 피의자의 범행 규모, 유포 경로, 기술적 기망 행위, 그리고 다각화된 범죄 수익 창출 네트워크로 요약된다.
피의자 A씨는 2025년 10월부터 12월까지 약 3개월간 챗GPT와 그록 등 생성형 AI를 활용해 총 54개의 가짜 경찰 보디캠 영상을 제작했다 [cite: 2, 3, 6, 7]. 이 영상들은 '순찰 24시' 유튜브 채널뿐만 아니라 인스타그램, 틱톡, 페이스북 등 다수의 소셜 네트워크 서비스에 숏폼 형태로 유포되었으며, 3,485만 회라는 폭발적인 누적 조회수를 기록했다 [cite: 3, 7]. 영상의 주제는 '중국인 난동 테이저건 체포', '여장남자 여성 탈의실 출동', '인터넷 BJ 과잉 진압' 등 사회적 갈등을 노골적으로 조장하고 자극적인 소재에 집중되었다 [cite: 2, 7, 9, 11]. 이러한 허위 영상물은 매우 정교하게 제작되어, 실제 상황으로 오인한 다수의 시민들이 경찰청에 경찰관의 과잉 대응을 비판하고 항의하는 민원을 실제로 접수하는 등 행정력 낭비와 사회적 혼란을 야기했다 [cite: 5, 6, 8, 11].
더욱 심각한 사실은 피의자의 고의적인 기술적 기망 행위다. A씨는 유튜브 채널 소개란에 '실제 경찰과 무관하며 실화 바탕 각색 AI'라는 문구를 형식적으로 기재하기는 했으나, 정작 개별 숏폼 영상에는 AI 생성물임을 알리는 식별 표지나 라벨링을 전혀 하지 않았다 [cite: 2, 3, 8]. 특히 인공지능 생성 도구가 결과물의 투명성을 위해 자동으로 부여하는 워터마크를 고의로 편집하여 지우는 등 대중을 속이려는 명백한 의도를 보였다 [cite: 2, 3, 12, 13].
나아가 A씨의 범죄는 단순한 영상 유포를 넘어선 복합적인 불법 수익 모델로 확장되었다. 첫째, 2025년 9월부터 2026년 1월까지 유료 구독형 해외 소셜미디어를 운영하며 자신이 직접 AI로 제작한 가상 인물 기반의 딥페이크 음란물을 41회에 걸쳐 판매하여 수익을 올렸다 [cite: 2, 7, 9, 10]. 둘째, 무허가 사설 선물거래 프로그램 및 해외선물 투자 리딩방 운영 조직에 가담해, 생성형 AI로 조작된 허위 기업 수익 전망과 수익 인증 자료를 유포하는 '바람잡이' 역할을 수행하고 그 대가로 3,000만 원의 부당이득을 취했다 [cite: 2, 3, 7, 9, 10]. 셋째, 자신이 획득한 허위 영상 제작 기술을 활용하여 타인의 사업 광고 의뢰를 받아 유튜브 썸네일 1건당 1만 원, 허위 영상물 1건당 20만 원의 수수료를 받고 외주 제작을 대행한 사실이 압수수색 결과 확인되었다 [cite: 7, 9, 11].
이에 경기북부경찰청 사이버범죄수사1대는 2026년 1월 29일, A씨를 「전기통신기본법」, 「정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법)」, 「자본시장과 금융투자업에 관한 법률(자본시장법)」 위반 혐의로 입건하여 구속 송치했다 [cite: 2, 4, 6, 7].
사건 당사자인 피의자의 진술과 수사기관의 판단이 날카롭게 엇갈리며, 향후 치열한 법정 공방이 예상되는 핵심 쟁점은 '영리 목적성의 존부'와 '기망의 고의성'이다.
피의자 A씨는 경찰 조사 과정에서 "생활비가 없어서 가짜 영상을 만들고 음란물 사이트를 운영하는 것을 직업으로 삼았다"며 경제적 궁핍을 호소하는 한편, 경찰 보디캠 허위 영상 제작 행위 자체에 대해서는 "영리를 목적으로 한 것은 아니며 단지 재미와 장난으로 한 것"이라는 취지로 일부 혐의를 축소하거나 부인하려 시도했다 [cite: 4, 6, 7, 14]. 피의자 측은 채널 메인 소개란에 '실화 바탕 각색 AI'라는 문구를 명시했음을 근거로 들어, 대중을 기만하여 타인에게 물리적, 경제적 손해를 가하려는 악의적 고의성은 없었다고 방어 논리를 펼칠 개연성이 높다 [cite: 1, 2, 3, 13].
반면, 경찰을 비롯한 수사기관의 판단은 단호하다. 경찰은 A씨가 단일 채널이 아닌 다수의 플랫폼에 숏폼을 동시다발적으로 유포하여 3,485만 회라는 폭발적 조회수를 의도적으로 창출한 행위 자체가 채널을 성장시켜 광고를 삽입하고 수익을 얻기 위한 명백한 '영리 목적'에 기인한다고 분석했다 [cite: 7, 9, 11]. 특히 피의자가 단순히 채널을 운영하는 데 그치지 않고, 허위 영상물 제작 기술을 하나의 상품으로 삼아 외부의 의뢰를 받고 영상과 썸네일을 유료로 제작해 준 객관적 정황은, 그의 행위가 단순한 호기심이나 장난이 아닌 조직적이고 상업적인 목적을 지닌 범죄 비즈니스였음을 강력하게 뒷받침하는 근거로 채택되었다 [cite: 9, 11].
현재 시점의 증거와 공개된 수사 결과만으로는 명확하게 진상이 규명되지 않아, 수사기관의 추가적인 포렌식 분석과 보강 수사가 절실히 요구되는 영역이 존재한다.
가장 불확실한 요소는 유튜브 등 플랫폼으로부터 피의자가 획득한 직접적인 '광고 수익의 실제 규모'다. 누적 조회수 3,485만 회는 통상적으로 상당한 금액의 파트너 프로그램 수익으로 연결되지만, 경찰 브리핑에서는 "수익을 향후 연결하려는 영리 목적이 인정된다"거나 "영상을 통해 수익을 직접 얻지는 않았으나"라는 다소 유보적인 표현이 등장한다 [cite: 7, 11]. 이는 유튜브가 2025년 하반기부터 딥페이크 및 공권력 사칭, 혹은 이른바 'AI 슬롭(AI Slop)'이라 불리는 저품질 기계적 생성 콘텐츠에 대해 수익 창출을 원천적으로 제한(Demonetization)하는 정책을 강력하게 시행함에 따라 [cite: 15, 16, 17, 18], A씨의 채널이 이미 플랫폼의 자율 규제 필터링에 걸려 수익금 정산이 보류되었거나 차단되었을 가능성을 강하게 시사한다. 이 부분은 플랫폼 기업에 대한 압수수색 영장 집행을 통해서만 정확한 내역을 확인할 수 있다.
또한, A씨가 가담한 무허가 사설 선물거래 및 투자 리딩방 사기 조직의 전모와 전체 피해자 규모 역시 불확실하다. A씨가 '바람잡이' 명목으로 수수한 3,000만 원은 조직 전체가 편취한 범죄 수익의 극히 일부일 가능성이 크며, 그가 생성한 허위 AI 수익 인증 자료에 속아 재산상 피해를 입은 일반 투자자들의 규모와 총책의 검거 여부는 계속 수사 중인 사안이다 [cite: 9, 11]. 더불어, 유료 해외 소셜미디어에서 판매된 41건의 AI 음란물과 관련하여, 이를 금전적으로 구매하고 시청하거나 제3자에게 재유포한 구독자들을 특정할 수 있을지, 그리고 이들에 대한 수사 확대가 물리적으로 가능한지 여부도 향후 수사의 중대한 변수로 남아있다 [cite: 9, 19, 20, 21].
비록 법적 증거로 확정되지는 않았으나, 피의자의 행동 패턴과 기술적 궤적을 분석할 때 도출할 수 있는 고도의 논리적 추론이 존재한다.
경찰 수사 관계자가 "초반에 제작된 영상은 상당히 어설펐으나, 시간이 지날수록 영상의 질이 급격히 향상되었다"고 언급한 대목은 이 사건의 기술적 위험성을 대변한다 [cite: 2, 12]. 이는 피의자가 단순히 챗GPT나 그록 등 대형언어모델(LLM)에 텍스트 프롬프트를 한두 번 입력하여 우연히 영상을 얻어낸 것이 아님을 의미한다. 오히려 피의자는 치밀한 시나리오를 구성하고, 딥페이크 모델(예: LoRA, ControlNet 등)과 영상 생성 AI를 결합하여 수십 차례의 A/B 테스트와 교차 편집을 수행하는 등, 이른바 '프롬프트 엔지니어링(Prompt Engineering)'을 범죄의 질적 고도화에 적극적으로 활용했음을 시사한다 [cite: 4, 9, 11].
또한, 피의자가 제작한 영상의 핵심 소재가 '중국인 흉기 난동', '여장남자 탈의실 침입', '인터넷 방송인 과잉 진압' 등으로 극도로 편향적이고 자극적이라는 점은 우연의 일치가 아니다 [cite: 1, 2, 7, 8]. 이는 현대 숏폼 플랫폼(유튜브 쇼츠, 틱톡 등)의 추천 알고리즘이 사용자들의 '분노(Outrage)'나 극단적인 감정적 반응을 유발하는 콘텐츠에 더 긴 체류 시간과 가파른 확산 가중치를 부여한다는 알고리즘의 본질적 취약성을 피의자가 정확히 꿰뚫어 보고 이를 의도적으로 공략했음을 강력하게 뒷받침한다.
| 정보의 층위 | 주요 내용 및 특징 | 관련 쟁점 및 파급 효과 |
|---|---|---|
| 확인된 사실 | - 3개월간 54개 AI 보디캠 허위 영상 제작 및 3,485만 뷰 기록<br>- AI 음란물 41회 판매, 투자 사기 가담(수익 3천만 원), 외주 제작 대행 | 범행의 객관적 입증 완료, 다각적 범죄 수익 창출 모델 입증 [cite: 3, 7, 9] |
| 논란의 주장 | - 피의자: "생활고로 인한 직업, 보디캠 영상은 장난 및 영리 목적 없음"<br>- 경찰: "조회수 수익 창출, 광고 삽입 의도 등 명백한 영리 목적" | 기망 고의성 및 영리 목적 인정 여부를 둘러싼 치열한 법정 공방 예상 [cite: 6, 11, 14] |
| 불확실한 요소 | - 유튜브 정책에 따른 실제 현금성 수익 창출 및 정산 규모<br>- 투자 리딩방 사기 조직의 전체 피해 규모 및 음란물 구매자 특정 여부 | 범죄수익 추징 규모 산정의 어려움 및 플랫폼 압수수색 필요성 [cite: 7, 9, 18] |
| 합리적 추론 | - 반복적 테스트를 통한 프롬프트 엔지니어링 역량의 고도화<br>- 플랫폼 분노 유발 추천 알고리즘의 취약성을 의도적으로 타겟팅 | 단일 범죄자를 넘어선 기술 숙련화 및 소셜 미디어 알고리즘의 악영향 [cite: 2, 4, 8] |
이 사건은 한 개인의 일탈이라는 좁은 렌즈로 해석될 수 없다. 급진전하는 인공지능 기술, 새롭게 도입된 규제 법제, 급변하는 플랫폼의 자율 정책, 그리고 사회적 신뢰 기반이라는 다차원적 요소들이 복잡하게 얽혀 폭발한 현상이다. 사안을 추동한 핵심 요인들을 세밀하게 분해하여 분석한다.
수사기관이 피의자 A씨에게 적용한 혐의들의 법률적 근거는 2024년부터 2026년 사이에 급격히 진화하고 강화된 대한민국 디지털 법제의 지형도를 그대로 반영한다. 과거 기술의 발전 속도를 따라가지 못해 발생했던 법적 공백들이 최근의 입법을 통해 촘촘하게 메워지면서, 피의자는 복합적인 중범죄 혐의에 직면하게 되었다.
첫째, 헌법재판소 위헌 판결의 그늘을 벗어난 「전기통신기본법」 제47조 제2항의 부활이다. 본 사건에서 경찰 사칭 영상 유포에 적용된 핵심 조항은 전기통신기본법 제47조 제2항이다 [cite: 22, 23]. 과거 인터넷상에서 '공익을 해할 목적'으로 허위의 통신을 하는 행위를 처벌하던 제47조 제1항은, 이른바 2010년 '미네르바 사건'을 계기로 헌법재판소에서 명확성의 원칙과 표현의 자유를 침해한다는 이유로 위헌 결정을 받아 역사 속으로 사라졌다 [cite: 23]. 이에 따라 인터넷상 허위정보 유포 자체를 처벌하는 데에는 오랫동안 뚜렷한 한계가 존재했다. 그러나 "자기 또는 타인에게 이익을 주거나 타인에게 손해를 가할 목적으로" 허위의 통신을 한 자를 처벌하는 제47조 제2항은 여전히 실정법상 유효하게 존속해 왔다 [cite: 22, 23]. 과거에는 이를 입증하기 까다로워 사문화된 조항으로 여겨졌으나, 생성형 AI를 이용한 극도로 정교한 가짜 뉴스가 타인(국가 기관 등)에게 실질적인 손해를 입히고 사적 수익을 창출하는 명백한 도구로 전락하자, 경찰은 이 조항을 범죄의 핵심 타격 수단으로 적극 부활시켰다 [cite: 22]. A씨가 썸네일과 외주 제작으로 경제적 이익(자기 이익)을 도모하고, 가짜 영상으로 실제 112 민원을 유발하여 경찰청의 행정력을 낭비(타인 손해)하게 만든 요건이 이 조항의 구성요건을 완벽히 충족한다고 판단한 것이다 [cite: 4, 22]. 유사한 맥락에서 2026년 4월 발생한 대전 오월드 늑대 탈출 AI 합성 사진 유포 사건에서도 피의자에게 위계에 의한 공무집행방해 등 강력한 형사 제재가 가해진 바 있다 [cite: 14].
둘째, 「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2 신설에 따른 무관용 원칙의 적용이다. A씨가 해외 유료 SNS 채널을 통해 판매한 41건의 AI 음란물 범행은 피의자에게 가장 치명적인 법적 위협이다 [cite: 9, 10, 24]. 2024년 사회를 강타한 대규모 딥페이크 성범죄 사건(이른바 서울대 N번방 등)을 계기로 국회는 성폭력처벌법을 대대적으로 개정했다 [cite: 19, 25, 26, 27]. 개정된 제14조의2에 따르면, 단순히 사람의 얼굴이나 신체를 성적 수치심을 유발할 형태로 '편집, 합성, 가공'하는 행위만으로도 7년 이하의 징역에 처할 수 있다 [cite: 21, 24, 28]. 나아가 과거와 달리 해당 편집물을 단순히 '소지, 구입, 저장, 시청'한 자까지도 3년 이하의 징역으로 처벌하는 규정이 신설되어 소비자층까지 강력히 압박하고 있다 [cite: 19, 24, 26, 29]. 특히, 피의자 A씨처럼 유료 채널을 통해 **"영리를 목적으로 정보통신망을 이용하여 반포"**한 경우 상한선뿐만 아니라 **'3년 이상의 유기징역'**이라는 매우 무거운 법정형의 하한선이 적용된다 [cite: 21, 24]. 이는 법원이 정상참작을 통해 작량감경을 하더라도 집행유예가 불가능에 가까운 중범죄로 분류됨을 의미한다.
셋째, 2026년 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 규범적 압박이다. 2026년 1월 대한민국에서 전면 시행된 인공지능기본법은 이 사건을 이해하는 최신의 규제적 맥락을 제공한다. 이 법은 생성형 AI를 활용한 텍스트, 이미지, 영상 결과물에 대해 이용자가 이를 인공지능 산출물임을 명확히 인지할 수 있도록 워터마크 등 가상 정보 표시를 의무화하고 있다 [cite: 15, 30]. A씨가 영상의 퀄리티를 높이고 사람들을 속이기 위해 AI 생성 도구가 자동으로 삽입하는 워터마크를 고의로 지우고 단일 숏폼 내에서 AI 표시를 누락한 행위는 [cite: 2, 3] 이 법의 입법 취지를 정면으로 위반한 것이다. 비록 법 시행 초기의 유예 기간(통상 1년) 중에 발생한 사건이라 최대 3,000만 원의 과태료 처분이 즉각적으로 부과될지는 다툼의 여지가 있으나 [cite: 15], 형사 재판 과정에서 피의자의 '치밀한 고의성'과 '악의적인 기망 의도'를 강력하게 증명하는 양형 참작 사유로 불리하게 작용할 것이 자명하다.
이 사건은 국가 행정기관, 특히 경찰의 수사 패러다임이 사후 대처에서 선제적 방어로 전환되는 강력한 촉매제가 되었다.
사이버 분석팀 신설과 선제적 방어 체계의 구축 '순찰 24시' 채널의 정교한 가짜 영상들은 단순한 정보의 오염을 넘어 실제 일선 경찰서의 치안 행정력을 심각하게 소모시켰다. 가짜 영상을 실제상황으로 오인한 시민들의 항의 전화가 쇄도하면서, 실제 위급한 치안 수요에 투입되어야 할 경찰력이 영상의 진위를 파악하고 해명하는 데 낭비된 것이다 [cite: 5, 6, 8, 11]. 이처럼 가짜뉴스가 국가 기능을 마비시키는 부작용이 속출하자, 이재명 대통령은 "국정에 혼란을 주는 가짜뉴스를 퍼뜨리는 행위는 반란 행위나 다름없다"며 강력한 대응을 지시했다 [cite: 31, 32]. 이에 화답하여 2026년 4월, 경찰청은 허위·조작 정보에 선제적으로 대응하기 위한 전담 조직인 **'사이버 분석팀'**을 서울, 경기남부, 광주, 경남 등 4개 주요 시·도경찰청 사이버수사대 산하에 전격 신설했다 [cite: 31, 32, 33, 34]. 이는 A씨와 같은 지능형 AI 범죄에 대하여 기존의 고소·고발에 의존하던 수동적 수사 관행을 탈피하고, AI 툴을 활용해 텔레그램, 다크웹, 소셜 미디어 상의 불법 콘텐츠를 능동적으로 탐지하고 확산 이전에 차단하겠다는 행정력의 패러다임 전환을 의미한다 [cite: 31, 35]. 과거 대포폰이나 선불유심을 범죄 조직에 개통해 준 행위에 대해 '미필적 고의'를 넓게 인정하여 전기통신사업법 위반으로 엄단했던 대법원 판례의 기조처럼 [cite: 36, 37], 생성형 AI를 범죄 목적으로 유통하고 활용하는 행위 전반에 대해 수사기관의 그물망이 대폭 촘촘해진 것이다.
방송통신심의위원회 제재의 한계와 우회적 압박 현행법상 온라인상의 불법·유해 정보는 방송통신심의위원회(방심위)의 심의와 의결을 거쳐 삭제나 접속 차단 등 시정 요구가 이루어지는 것이 원칙이다 [cite: 38, 39, 40]. 그러나 숏폼 알고리즘의 특성상 영상이 수십만, 수백만 명에게 퍼지는 데 걸리는 시간은 불과 수 시간에 지나지 않는 반면, 방심위의 회의 소집 및 심의 절차는 물리적, 행정적 지연을 필연적으로 수반한다 [cite: 40, 41]. 경찰이 A씨를 체포한 직후 "모든 영상을 즉각 삭제 조치했다"고 이례적으로 밝힌 대목은 [cite: 5, 42], 수사기관이 방심위의 행정 심의를 기다리기보다는 압수수색 및 체포라는 수사권 발동을 통해 피의자를 강하게 압박하여 원본 소스를 직접 파기하게 하거나, 채널 자체를 폐쇄하도록 강제하는 우회적이고도 즉각적인 실력 행사를 택했음을 보여준다. 이는 기존 심의 기구가 지닌 절차적 한계를 수사기관이 직접 메우고 있는 행정적 현실을 반증한다.
본 사건은 유튜브, 메타(페이스북, 인스타그램) 등 글로벌 빅테크 기업들이 최근 전면적으로 수정하여 도입한 AI 콘텐츠 규제 정책과 정면으로 충돌하는 사례다.
'AI 슬롭(AI Slop)' 규제와 수익 창출의 원천적 차단 2025년 하반기부터 2026년을 기점으로, 글로벌 소셜 미디어 플랫폼들은 생성형 AI 도구로 기계적이고 대량으로 찍어낸 저품질 콘텐츠, 이른바 **'AI 슬롭(AI Slop, 찌꺼기)'**에 대해 전면적인 칼을 빼들었다 [cite: 18, 43]. 유튜브는 시청자가 실제 상황이나 인물이라고 착각할 수 있는 현실적인 사건을 AI로 묘사할 경우, 콘텐츠 업로드 단계에서 반드시 '변경된 콘텐츠(Altered Content)'라는 라벨을 체크하도록 정책을 강제화했다 [cite: 13, 15]. 피의자 A씨가 조회수를 극대화하기 위해 이 라벨링 의무를 고의로 회피한 것은 유튜브 서비스 약관(TOS)에 대한 명백하고 중대한 위반 행위다. 나아가 유튜브는 "본인 목소리가 아닌 단순 기계음이나, 인간의 창의적 개입 없이 기계적으로 생성된 영상은 유튜브 파트너 프로그램(YPP)을 통한 수익 창출 대상에서 제외한다"는 강화된 수익 창출 제한(Demonetization) 정책을 엄격히 적용하고 있다 [cite: 16, 17, 18]. 따라서 A씨가 비록 3,485만 뷰라는 천문학적 조회수를 달성했더라도, 플랫폼의 자동화된 탐지 시스템이 해당 영상들의 허위성과 AI 양산성을 선제적으로 감지하여 광고 수익 지급을 원천적으로 보류하거나 차단했을 확률이 매우 높다. 메타 역시 10억 개가 넘는 가짜 계정을 제재하고 1,000만 개의 사칭 계정을 삭제하는 등 비창의적 AI 콘텐츠의 노출을 극단적으로 축소하는 알고리즘 업데이트를 단행했다 [cite: 18]. A씨의 범죄 모델은 단기적으로는 알고리즘의 맹점을 파고들었으나, 장기적으로는 플랫폼의 생태계 정화 정책에 의해 지속 불가능한 계약적 구조를 가지고 있었다.
A씨의 행태를 분석할 때 가장 눈에 띄는 것은 그의 범행 운영 방식이 기존 사이버 범죄자들의 단순한 일탈을 넘어, 완전히 고도화된 '서비스로서의 범죄(Crime-as-a-Service, CaaS)' 모델을 띠고 있다는 점이다.
그는 생성형 AI라는 저비용·고효율 생산 도구를 지렛대 삼아 사업 다각화를 이루었다. 첫째, 프롬프트 엔지니어링의 무기화다. 초기 영상의 어설픔을 극복하고 점진적으로 품질을 향상시킨 과정은 [cite: 2, 12], 그가 딥페이크 모델과 영상 생성 AI를 활용해 지속적인 파인튜닝(Fine-tuning)과 A/B 테스트를 거치며 대중의 시선을 사로잡는 최적의 시나리오와 연출 기법을 확립했음을 의미한다 [cite: 4, 11]. 둘째, B2B(기업 간 거래) 불법 서비스 제공이다. 본인의 유튜브 채널이나 유료 SNS를 직접 운영하는 B2C(기업과 소비자 간 거래) 모델을 넘어, 썸네일(1만 원)과 허위 영상(20만 원)을 타인에게 맞춤형으로 제작 대행해 준 행위는, 피의자가 자신을 단순한 콘텐츠 크리에이터가 아닌 '불법 AI 콘텐츠 공급 에이전시'로 정체화하고 운영했음을 명백히 보여준다 [cite: 9, 11]. 이는 AI 도구가 범죄의 진입 장벽을 극단적으로 낮추는 동시에 범죄 수익의 규모의 경제를 실현하게 해주는 매개체로 작용했음을 증명한다.
본 사건이 남긴 가장 뼈아픈 상처는 심리적이고 평판적인 요인에 있다. 단기적으로 A씨의 가짜 보디캠 영상은 경찰 공권력이 시민을 상대로 무자비한 과잉 진압을 행사한다는 부정적 평판을 여과 없이 확산시킴으로써, 치안 유지의 근간이 되는 경찰청의 대국민 신뢰도를 추락시켰다 [cite: 1, 2, 5, 8]. 그러나 학계 전문가들과 정책 입안자들이 더욱 심각하게 우려하는 지점은 장기적으로 발생할 이른바 '거짓말쟁이의 배당금(Liar's Dividend)' 효과다. '순찰 24시' 사태처럼 실제 상황과 구별할 수 없는 고품질의 AI 허위 영상이 일상에 만연해 있다는 사실을 대중이 뼈저리게 학습하게 되면, 아이러니하게도 향후 권력 기관의 진짜 인권 침해 영상이나 정치인의 비위 영상이 내부 고발을 통해 공개되더라도 가해 당사자가 "저것은 나를 음해하기 위해 AI로 조작된 딥페이크 영상일 뿐이다"라고 너무도 쉽게 책임을 회피할 수 있는 면죄부를 제공하게 된다 [cite: 27, 44]. 즉, 진짜 명백한 증거의 신뢰성마저 대중의 의심 속에서 연쇄적으로 붕괴하는 이른바 '객관적 진실의 마비 현상'을 초래할 수 있다는 점에서, A씨의 범죄가 지니는 사회적 해악성은 개별법의 형량을 훨씬 상회한다.
수사 기관의 구속 송치 이후 전개될 치열한 법정 공방 및 사건의 최종적 결말에 대하여, 세 가지 진행 시나리오를 도출하고 각각의 증거, 반대 증거, 논리적 발생 확률, 그리고 전문가적 관점에서의 신뢰도를 종합적으로 평가한다.
가장 유력한 시나리오는 A씨에게 적용된 전기통신기본법 위반, 성폭력처벌법 위반, 자본시장법 위반(및 사기 방조)이 법원에서 모두 유죄로 병합 인정되어, 실경합범으로서 작량감경을 배제한 실형이 선고되고 불법으로 취득한 3,000만 원 이상의 부당이득이 전액 몰수되거나 추징되는 상황이다.
사건의 단초가 된 '순찰 24시' 보디캠 영상 유포 건(전기통신기본법 위반 혐의)에 집중하여, 피의자 측 대형 로펌이 헌법상 보장된 '표현의 자유' 및 형벌 법규의 '명확성 원칙'을 내세워 유무죄를 치열하게 다투는 시나리오다.
국가의 형사 처벌 프로세스와는 완전히 별개로, 유튜브나 메타와 같은 글로벌 빅테크 플랫폼이 자사의 서비스 약관 및 커뮤니티 가이드라인(AI 라벨링 의무 등) 위반을 근거로 A씨의 계정을 영구 정지시키고, 그동안 불법적인 방식으로 획득한 광고 수익을 전액 환수하거나 별도의 손해배상 청구 소송을 제기하는 시나리오다.
| 사법적·정책적 시나리오 | 예상 결과 요약 | 근거 및 반대 논리 | 발생 확률 |
|---|---|---|---|
| 시나리오 A: 실형 및 전액 몰수 | 다중 범죄 병합으로 징역형, 3천만 원 이상 추징 | 근거: 영리 목적 AI 음란물 반포의 중범죄성 (성폭력처벌법 제14조의2 제3항) [cite: 21, 24]<br>반대: 초범 주장 및 대상이 가상 인물이라는 법리 방어 시도 [cite: 9, 45] | 85% (높음) |
| 시나리오 B: 전기통신기본법 공방 | 허위 통신(제47조 제2항)에 대한 위헌성 및 무죄 주장 | 근거: 채널 소개란의 AI 고지를 통한 기망 고의성 부인 [cite: 3, 13]<br>반대: 영상 워터마크 고의 삭제 및 실제 민원 발생에 따른 손해 입증 [cite: 2, 8] | 40% (보통) |
| 시나리오 C: 플랫폼의 민사 소송 | 영구 퇴출 및 부당 이득 반환 청구 소송 | 근거: 유튜브의 강화된 AI 슬롭 규제 및 라벨링 의무 위반 [cite: 15, 18]<br>반대: 계정 정지로 자체 종결하며, 개인 대상 민사 소송 제기의 실효성 부재 | 20% (낮음) |
2026년 2월 대한민국을 흔든 '순찰 24시' 운영자 A씨 구속 사건은, 생성형 인공지능이 일상 깊숙이 대중화된 시대에 새롭게 출현할 수 있는 **'초융합적 지능형 사이버 범죄'**의 전형적인 단면을 적나라하게 보여주는 사례다. 이 사안이 남긴 핵심적인 분석 결과와 정책적 제언은 세 가지 층위로 요약할 수 있다.
첫째, 범죄의 기술적 진입 장벽이 획기적으로 붕괴되었다. 과거에는 고도의 전문 지식을 갖춘 영상 편집 기술자나 해커 조직 단위가 필요했던 허위 영상의 조작, 정교한 딥페이크 음란물 제작, 그리고 금융 사기용 허위 수익 인증 문서 위조 등의 범행이 이제는 챗GPT나 그록 등 일반에 공개된 상용 AI 툴과 약간의 프롬프트 엔지니어링 기술만으로 누구나 실행 가능해졌다. 피의자 A씨는 이러한 도구의 힘을 빌려 철저히 개인 단위에서 '불법 범죄 수익 창출의 다각화 모델'을 성공적으로 완성했다. 이는 우리 사회가 누구나 쉽게 첨단 범죄자가 될 수 있는 위험한 임계점에 도달했음을 알리는 강력한 경고등이다.
둘째, 국가 규제망과 행정 시스템의 기민한 작동과 대응 능력이 입증되었다. 비록 사후적 제재의 성격을 완전히 띨 수는 없었으나, 과거 실효성 논란과 헌법적 시비가 있었던 전기통신기본법(제47조 제2항)의 법리를 적극적으로 해석하고, 강화된 성폭력처벌법(제14조의2)을 지체 없이 적용하여 피의자를 즉각적으로 구속한 수사기관의 법리적 판단은 시의적절하고 타당했다. 또한, 2026년에 주요 시·도경찰청에 전격적으로 신설된 '사이버 분석팀'과, 세계 최초로 도입된 '인공지능기본법'의 전면 시행은 향후 이와 유사한 초지능 범죄의 확산을 선제적으로 차단할 수 있는 유의미한 제도적 방어선이 대한민국 내에 차근차근 구축되고 있음을 의미한다 [cite: 31, 32].
셋째, 글로벌 플랫폼 기업의 자율 규제가 지닌 근본적인 맹점과 기술적 한계가 여실히 드러났다. 피의자가 AI 워터마크를 지우고 숏폼을 통해 3,485만 회라는 폭발적인 뷰를 달성하며 범죄 수익 파이프라인을 구축하는 동안, 거대 플랫폼들의 AI 필터링 시스템과 사전 검열 알고리즘은 이를 완벽히 방어하거나 차단하지 못했다 [cite: 3, 7, 18]. 유튜브와 메타 등 빅테크 기업들이 아무리 훌륭한 언어로 'AI 슬롭 차단 정책'과 '콘텐츠 라벨링 의무화'를 선언하더라도 [cite: 15, 18, 43], 이를 조작된 이미지나 영상의 픽셀 단위에서 실시간으로 역추적하고 탐지해내는 기술적 고도화 조치가 수반되지 않는다면, 이는 범죄의 확산 이후에나 적용되는 사후약방문에 그칠 수밖에 없음을 본 사건은 증명했다.
결론적으로, 다중적인 법령을 노골적으로 위반하며 사적인 영리를 취하고 공권력이라는 사회적 신뢰 자본을 무너뜨린 피의자 A씨는 향후 전개될 형사 재판에서 중형을 면하기 어려울 것으로 강력히 예상된다. 이번 사건을 중대한 변곡점으로 삼아, 국가 수사기관과 입법부, 그리고 글로벌 플랫폼 업계는 단일 범죄 중심의 낡고 파편화된 과거의 수사 방식에서 벗어나야 한다. 기술 악용 단계에서부터 불법 콘텐츠의 유포, 그리고 가상 자산 등을 통한 수익의 최종 창출과 은닉에 이르는 'AI 범죄의 전 생애주기(Life-cycle)'를 입체적으로 탐지하고, 범죄자의 자금줄을 즉각적으로 동결할 수 있는 다원화되고 긴밀한 민관 초국경 공조 체계를 서둘러 완성해야 할 것이다.
Sources: