[AI 생산성 역설] AI는 빨라졌는데 기업 성과는 왜 제자리인가

[더파워 이경호 기자] 개인 업무 효율을 높이는 AI가 기업 전체 생산성으로 이어지지 않는 ‘AI 생산성 역설’이 기업 현장에서 현실화하고 있다.

AI는 이미 개인의 일하는 방식을 바꾸고 있다. 문서 작성과 코딩, 계약 분석, 마케팅 성과 개선까지 사람의 시간을 줄이고 결과물의 품질을 끌어올리는 사례가 잇따르고 있다. 그러나 기업 전체로 시야를 넓히면 다른 장면이 펼쳐진다. AI를 적극 도입했는데도 재무성과와 노동생산성 개선은 기대만큼 나타나지 않는 현상이 확산되고 있다.

생성형 AI는 이제 단순 보조 도구를 넘어 에이전틱 AI로 진화하고 있다. 생성형 AI가 문서, 이메일, 요약문 등 사람이 요청한 작업물을 만들어내는 데 강점이 있었다면, 에이전틱 AI는 여러 단계의 계획을 세우고 도구를 호출해 업무를 자율적으로 수행하는 ‘AI 대리인’에 가깝다. AI가 결과물을 만드는 수준을 넘어 일정한 업무 흐름 자체를 맡아 처리하는 단계로 이동하고 있는 셈이다.

경제적 기대도 크다. PwC는 AI가 글로벌 GDP를 최대 15%가량 끌어올릴 수 있다고 전망했고, 맥킨지는 생성형 AI가 지식관리와 리서치 등에서 2조6000억~4조4000억달러 규모의 추가 가치를 창출할 수 있다고 분석했다. BCG도 AI 에이전트가 기업 업무 자동화를 확대하면서 전체 AI 창출 가치에서 차지하는 비중이 커질 것으로 봤다.

개인 단위의 생산성 개선은 이미 수치로 확인되고 있다. 프로그래머가 AI 코딩 에이전트를 활용해 웹 개발 작업을 수행하면 AI를 쓰지 않은 집단보다 작업 속도가 55.8% 개선된 것으로 나타났다. 액센츄어 프로그래머의 코드 변경 요청 건수는 8.69% 늘었고, 요청이 실제 반영되는 비율도 15% 증가했다. 법률 분야에서는 며칠 걸리던 계약 분석 업무를 약 2시간 만에 마친 사례도 제시됐다.

문제는 이 같은 개인 효율이 조직 성과로 잘 전이되지 않는다는 데 있다. AI 생산성 역설은 AI가 시간 절감과 품질 개선 등 개인 업무에는 효과를 내지만, 그 효과가 기업의 재무성과나 노동생산성으로 연결되지 못하는 현상을 뜻한다. MIT NANDA는 기업들이 생성형 AI 도입에 막대한 자금을 투입했음에도 95%가 유의미한 재무제표상 이익을 실현하지 못했다고 분석했다. 주요국 기업 고위급 임원을 대상으로 한 NBER 조사에서도 AI를 적극 활용한다는 응답은 많았지만, 생산성 영향이 미미하다는 인식이 압도적으로 높았다.



이 간극은 AI 기술 자체보다 조직 운영 방식에서 비롯된다. 상당수 기업은 AI를 어디에, 왜 도입해야 하는지 전략적으로 따지기보다 이사회나 언론에 설명하기 쉽고 단기간에 성과처럼 보이는 사례를 먼저 선택한다. 고객 접점 서비스에 AI를 성급하게 적용하면 예외 처리와 운영 복잡성이 커지고, 오히려 고객 경험 악화로 이어질 수 있다.

업무 통합 실패도 생산성 역설을 키운다. 내부 데이터와 업무 시스템, 실제 업무 절차에 연결되지 않은 AI는 검색이나 요약에 쓰이는 범용 도구에 머물 가능성이 크다. 직원들이 사내 AI를 적극적으로 쓰지 않게 되면 회사 승인 없이 외부 AI를 활용하는 섀도우 AI 문제로 번질 수 있다. 이 경우 데이터 유출, 규제 위반, 책임 소재 불명확성 같은 새로운 위험이 발생한다.

AI와 사람, 부서 간 조정 과정도 병목이 된다. 지점 직원이 AI로 기업 보고서를 빠르게 작성하더라도 본점 심사역이 이를 수기로 검토한다면 전체 기업대출 의사결정 속도는 크게 개선되지 않는다. AI가 만든 미흡한 산출물을 사람이 다시 검토하고 고치는 시간이 늘어나면 생산성은 오히려 떨어질 수 있다. AI 연구기관 METR 실험에서는 AI 에이전트를 사용한 프로그래머들이 전체 시간의 9%를 미흡한 산출물 검토와 수정에 쓰면서 작업 속도가 19% 둔화된 결과도 나왔다.

직원들의 저항도 무시할 수 없다. AI 도입은 직원의 역할을 단순 수행자에서 업무 절차를 설계하는 설계자, AI 결과물을 검토하고 책임지는 검토자, 자신의 노하우를 AI에 반영하는 기여자로 바꾼다. 이 과정에서 일자리 불안, 평가제도 지체, 복잡한 권한 승인 절차, 구성원별 역량 차이를 고려하지 않은 집합교육은 AI 활용 문화를 늦추는 요인으로 작용한다.

인력 재배치가 뒤따르지 않는 점도 한계다. AI로 개인의 업무 시간이 줄어도 그 시간을 고부가가치 업무로 옮기지 못하면 기업 전체 생산성은 개선되지 않는다. 업무 효율화는 즉각 나타날 수 있지만 조직 개편과 인사제도 변경은 부서 이해관계와 제도 개편을 동반하기 때문에 속도가 느릴 수밖에 없다. 개인은 빨라졌지만 조직은 그대로인 상황이 벌어지는 것이다.

생산성 개선이 지연된다고 해서 AI 도입이 곧바로 실패했다고 단정하기는 어렵다. 생산성 J-Curve 이론에 따르면 범용 기술이 실제 성과를 내기까지는 업무 절차 혁신, 운영 노하우 축적, 직원 훈련, IT 인프라 통합 같은 무형자산 투자가 필요하다. 전기 기술도 생산 현장에 본격적으로 투입되기까지 공장 구조와 생산 방식의 재설계가 필요했고, 노동생산성이 개선되기까지 긴 시간이 걸렸다.

AI도 마찬가지다. 업무 표준화, 데이터 정비, 시스템 통합, 직원 재교육, 역할 재정의, 통제 체계 구축이 동반되는 과정에서는 단기 비용 증가나 생산성 둔화가 나타날 수 있다. 중요한 것은 생산성 하락 자체가 아니라 그 하락이 단순한 도구 도입 실패에서 비롯된 것인지, 아니면 조직 전환을 위한 투자 과정에서 발생한 것인지를 구분하는 일이다.

AI 생산성 역설은 결국 기업에 같은 질문을 던진다. AI를 얼마나 많이 도입했는지가 아니라, AI가 실제로 일할 수 있는 조직으로 바뀌었는가다. 개인의 업무 속도가 빨라지는 것만으로는 기업 성과가 자동으로 개선되지 않는다. 목표, 업무 흐름, 의사결정 구조, 인력 배치가 함께 바뀌어야 AI는 비용이 아니라 생산성의 원천이 될 수 있다.

이경호 더파워 기자 lkh@thepowernews.co.kr