라떼군 이야기
OpenAI는 왜 당신의 신분증을 요구했을까? 폭로된 대국민 AI 감시망의 실체
TL;DR 보안 연구원들이 해킹 없이 공개된 인터넷 데이터(OSINT)만으로 OpenAI, 신원 인증 업체 Persona, 그리고 미국 정부가 연계된 거대한 신원 감시 시스템의 실체를 폭로했습니다. 단순한 봇 방지나 연령 인증인 줄 알았던 시스템 이면에는 안면 인식을 통한 정부 감시 목록 대조와 의심 거래 보고(SAR)가 자동으로 이루어지고 있었습니다. 프로덕션 환경에 실수로 남겨진 소스맵과 보안 헤더가 역으로 전체 시스템의 아키텍처를 낱낱이 드러내는 치명적인 단서가 되었습니다.
최근 AI 서비스들이 ‘안전과 신뢰’를 명목으로 사용자에게 신분증과 셀카를 요구하는 경우가 늘고 있습니다. 우리는 이를 단순한 성인 인증이나 정책 준수용으로 가볍게 넘기곤 하지만, 최근 한 보안 연구팀의 추적 결과 그 이면에는 훨씬 더 거대하고 은밀한 목적이 숨어있었음이 밝혀졌습니다. 이 글은 편리함의 대가로 우리가 무심코 넘겨준 생체 정보가 어떻게 국가 기관의 감시망과 연결되는지, 그리고 그 기술적 실체가 어떻게 허무하게 폭로되었는지 파헤칩니다.
핵심 내용
연구팀은 Shodan, 인증서 투명성(CT) 로그, DNS 등 100% 합법적인 공개 정보만을 활용해 신원 인증 업체 ‘Persona’의 숨겨진 인프라를 발견했습니다. 특히 OpenAI 전용으로 구축된 ‘openai-watchlistdb’라는 격리된 서버에서는 53MB 분량의 자바스크립트 소스맵이 아무런 인증 없이 노출되어 있었습니다. 이 코드를 통해 사용자의 셀카가 14개 범주의 범죄자 감시 목록과 안면 인식으로 대조되고, 정부 기관에 의심 활동 보고서(SAR)를 자동 제출하는 로직이 확인되었습니다. 더욱이 연방 정부 전용 플랫폼의 CSP(Content-Security-Policy) 헤더를 분석한 결과, 민감한 생체 정보가 Sentry, Datadog 같은 서드파티 모니터링 도구로 흘러가고 있을 가능성도 제기되었습니다. 또한, 미국 이민세관집행국(ICE)의 AI 감시 도구와 동일한 이름의 ‘onyx’ 서브도메인까지 발견되며 정부 기관과의 깊은 유착 관계가 드러났습니다.
기술적 인사이트
소프트웨어 엔지니어 관점에서 이 사건은 ‘보안을 위한 격리’가 오히려 ‘가장 확실한 타겟’이 될 수 있음을 보여주는 역설적인 사례입니다. Persona는 일반 고객용 트래픽을 Cloudflare로 보호했지만, 가장 민감한 OpenAI 워치리스트 데이터베이스는 별도의 GCP 인스턴스로 분리했다가 오히려 OSINT 스캐닝에 덜미를 잡혔습니다. 또한, 디버깅 편의성을 위해 프로덕션 환경에 남겨둔 소스맵(Source Map)과 보안을 위해 설정한 CSP 헤더가 역으로 내부 아키텍처와 서드파티 의존성을 낱낱이 보여주는 ‘보물지도’ 역할을 했다는 점이 뼈아픕니다. 이는 마이크로서비스 아키텍처와 SaaS 연동이 일상화된 현대 웹 개발에서, 사소한 메타데이터 노출이 시스템 전체를 붕괴시키는 취약점이 될 수 있음을 시사합니다. 데이터 컴플라이언스를 지키기 위해 구축한 깐깐한 아키텍처가 역설적으로 가장 큰 정보 유출의 통로가 된 셈입니다.
시사점
이 사건은 개발자와 보안 담당자들에게 프로덕션 환경의 메타데이터 및 에셋 관리가 얼마나 중요한지 강력한 경종을 울립니다. 웹팩(Webpack) 등의 프론트엔드 빌드 과정에서 생성된 소스맵이 퍼블릭에 노출되지 않도록 CI/CD 파이프라인을 철저히 점검해야 하며, CSP 헤더나 DNS 레코드 같은 공개 정보가 공격자에게 어떤 힌트를 줄 수 있는지 위협 모델링에 반드시 포함해야 합니다. 또한, B2B SaaS 솔루션을 도입할 때 우리의 고객 데이터가 서드파티의 또 다른 서드파티(에러 트래킹, 애널리틱스 등)로 어떻게 흘러가는지 데이터 흐름(Data Lineage)을 엄격히 추적하고 통제할 필요가 있습니다.
‘안전한 AI’를 만들기 위해 전 세계 사용자의 신원을 감시하고 프로파일링하는 것이 과연 우리가 동의한 정당한 교환일까요? 기술의 발전이 편리함을 넘어 거대한 감시 자본주의로 이어지는 지금, 엔지니어로서 우리가 무심코 연동하는 API와 시스템이 사회적으로 어떤 파장을 일으킬지 깊은 윤리적 고민이 필요한 시점입니다.