라떼군 이야기
AI 생산성 역설: CEO 90%가 "실질적 효과 없다"고 고백한 이유
TL;DR 최근 6,000명의 경영진을 대상으로 한 조사에서 90%가 AI 도입 후 지난 3년간 생산성이나 고용에 변화가 없었다고 답했습니다. 이는 1980년대 IT 도입 초기 생산성이 오히려 정체되었던 ‘솔로우의 역설’이 재현되는 현상으로 보입니다. 하지만 전문가들은 이를 기술 도입 후 성과가 나타나기 전의 일시적 정체기인 ‘J-커브’ 현상으로 해석하며, 향후 본격적인 생산성 향상이 일어날 가능성을 제시합니다.
2026년 2월, 수천억 달러의 투자에도 불구하고 AI가 거시경제 지표에 유의미한 흔적을 남기지 못하고 있다는 충격적인 보고서가 나왔습니다. 노벨 경제학상 수상자 로버트 솔로우가 1987년에 제기했던 ‘컴퓨터는 어디에나 있지만 생산성 통계에는 없다’는 역설이 AI 시대에 다시 소환된 것입니다. 왜 현장의 CEO들은 AI의 효과를 체감하지 못하고 있는지, 이것이 단순한 거품 붕괴인지 아니면 도약을 위한 숨 고르기인지 분석해 봅니다.
핵심 내용
NBER(전미경제연구소)의 최신 연구에 따르면, 미국, 독일 등 주요국 경영진의 약 90%는 AI가 기업의 생산성과 고용에 미친 영향이 미미하다고 답했습니다. 실제로 AI를 업무에 활용하는 시간은 주당 1.5시간에 불과했으며, 25%는 전혀 사용하지 않는 것으로 나타났습니다. 이는 1980년대 컴퓨터 도입 초기에 과도한 정보 생성으로 오히려 업무 효율이 떨어졌던 현상과 유사합니다. 다만, 일부 경제학자들은 이를 새로운 기술을 프로세스에 통합하는 과정에서 겪는 필연적인 ‘적응 비용’으로 보며, 1990년대 후반의 생산성 폭발처럼 향후 ‘J-커브’ 형태의 급격한 성장이 뒤따를 수 있다고 전망합니다.
기술적 인사이트
소프트웨어 엔지니어링 관점에서 이 현상은 ‘데모(Demo)와 프로덕션(Production)의 간극’으로 해석할 수 있습니다. LLM(거대언어모델) API를 호출하는 것은 쉽지만, 이를 기존 레거시 시스템에 통합하고 환각(Hallucination)을 제어하며 신뢰할 수 있는 워크플로우로 만드는 엔지니어링 비용(Integration Cost)은 매우 높습니다. 또한, AI가 생성한 코드나 문서를 인간이 검토(Review)하는 데 드는 인지적 부하가 초기 생산성 향상분을 상쇄하고 있을 가능성이 큽니다. 기술적으로는 모델 자체의 성능보다 RAG(검색 증강 생성)나 에이전트 워크플로우 같은 ‘시스템 통합’ 기술이 성숙해야 비로소 생산성 그래프가 우상향할 것입니다.
시사점
기업과 개발자들에게 주는 시사점은 명확합니다. 단순히 AI 툴을 도입하는 것만으로는 생산성이 저절로 높아지지 않는다는 것입니다. ‘무엇을 쓸 것인가’보다 ‘어떻게 기존 업무 프로세스를 AI에 맞춰 재설계할 것인가’가 핵심 경쟁력이 될 것입니다. 또한, IBM의 사례처럼 엔트리 레벨 업무 자동화가 미래의 중간 관리자 육성 파이프라인을 붕괴시킬 위험이 있어, 인력 양성 방식에 대한 근본적인 재검토가 필요합니다.
우리는 지금 가트너 하이프 사이클의 ‘환멸의 단계’를 지나고 있는지도 모릅니다. 하지만 1980년대의 정체가 90년대 인터넷 붐의 밑거름이 되었듯, 지금의 정체기는 AI가 실질적인 가치를 창출하기 위해 비즈니스 구조가 재편되는 과정일 수 있습니다. 앞으로 주목할 것은 AI 모델의 성능 수치가 아니라, 각 산업 현장에서 구체적으로 어떻게 ‘구현(Implementation)‘되고 있는지에 대한 데이터입니다.