먼저 보고서가 말하는 비용의 의미를 짚어볼 필요가 있습니다. 모든 AI 서비스의 구독료가 분기마다 절반 가까이 내려갔다는 이야기는 아닙니다. 연구진이 추적한 건 특정 평가에서 일정한 점수를 얻을 수 있는 가장 저렴한 방법입니다. 모델을 바꾸거나 답을 생성하는 데 쓰는 계산량을 조절하면서, 목표한 성능에 도달하는 최소 비용을 비교한 겁니다.
이 구분은 실제로 AI를 도입할 때도 중요합니다. 회사의 온라인 고객센터를 통해 들어온 문의를 유형별로 AI에게 분류하도록 시킨다고 가정해 보겠습니다. 이 업무에 필요한 정확도를 저렴한 모델로도 확보할 수 있다면, 매번 가장 비싼 모델을 사용할 이유는 줄어듭니다. 새로운 모델이 더 어려운 문제를 풀 수는 있겠지만, 이 같은 분류 작업에서 비싼 모델을 쓸 필요는 없을 겁니다.
반면 소비자가 AI에 기대하는 성능은 계속 높아지고 있습니다. 단순한 질문에 답하는 수준을 넘어 복잡한 코드를 작성하거나, 여러 문서를 분석하고, 장시간에 걸쳐 작업을 수행하기를 원하죠. 이런 작업에는 더 높은 성능의 모델이나 더 많은 계산량이 필요할 수 있습니다.
즉 지난해 최고 성능을 발휘하던 AI를 올해는 훨씬 저렴하게 이용할 수 있더라도, 올해 새롭게 등장한 최고 성능의 AI까지 저렴하게 운영할 수 있다는 뜻은 아닙니다. 에포크 AI의 보고서는 일정한 성능을 확보하는 데 드는 최소 비용이 얼마나 줄었는지를 보여줄 뿐, AI 기업이 실제 서비스를 운영하는 데 지출하는 비용이 같은 속도로 감소했다고 말하지는 않습니다.
그렇다면 사용량이 늘어나는 상황은 어떨까?
가령 문서 분석 비용 때문에 중요한 문서만 골라 처리하던 회사라면, 비용 하락 이후에는 분석 대상을 늘리거나 다른 업무에 AI를 투입할 여지가 생기겠죠. 같은 예산으로 더 많은 일을 맡길 수 있고, 이전에는 비용 대비 효과가 작았던 업무도 도입 대상으로 검토할 수 있게 됩니다.
소비자도 마찬가지입니다. AI가 더 유용해지고 저렴해질수록 과거에는 직접 처리하던 일까지 AI에게 맡기게 될 수 있습니다. 한 번 이용할 때 드는 비용은 줄어들더라도 이용 횟수가 충분히 늘어나면 전체 지출은 오히려 증가할 수 있는 겁니다.
인접 분야를 봐도 이런 현상을 어렵지 않게 찾아볼 수 있습니다. 하드디스크와 SSD 같은 저장장치의 용량 대비 가격은 장기적으로 크게 떨어졌지만, 운영체제와 프로그램이 차지하는 용량, 저장해야 하는 데이터의 양도 함께 늘어났습니다. 저장공간이 저렴해졌다고 해서 사람들이 저장장치를 더 이상 구매하지 않게 된 것은 아니죠.
AI 역시 비슷한 상황을 맞을 수 있습니다. 저렴해진 비용이 새로운 수요를 만들어내고, 그 결과 AI 기업의 매출이 증가하는 겁니다. 다만 매출이 늘어나는 것과 이익이 남는 것은 또 다른 문제입니다. 고객에게 받는 돈보다 서비스를 제공하는 비용이 더 빠르게 늘어난다면 수익성은 오히려 나빠질 수 있으니까요.
구독료는 같은데, 사용량은 왜 줄일까?
여기서 AI 서비스의 구독 방식에 주목할 필요가 있습니다. 기업이 API를 판매할 때는 사용한 토큰이나 처리량에 따라 요금을 청구하는 경우가 많습니다. 반면 일반 소비자를 대상으로 하는 챗GPT나 제미나이의 유료 서비스는 일정한 구독료를 받고 정해진 범위 내에서 서비스를 이용하도록 하는 방식입니다.
이 경우 서비스를 많이 이용하는 고객과 적게 이용하는 고객이 같은 구독료를 낼 수 있습니다. 하루에 AI에게 열 번 질문하는 고객과 수백 번 질문하는 고객이 기업에 가져다주는 매출은 같지만, 서비스를 제공하는 데 드는 비용은 달라지겠죠.
이용자가 늘거나 기존 고객의 사용량이 증가하면 기업이 감당해야 할 전체 비용도 커질 수 있습니다. 모델의 효율이 개선되더라도 사용량이 그보다 빠르게 늘어난다면 비용 절감 효과가 상쇄될 수 있는 겁니다.
구독료를 올리지 않고 사용량을 제한하는 건 이런 문제에 대응하는 방법 중 하나입니다. 특히 계산 비용이 높은 최신 모델의 이용량을 조절하면 기업은 한 명의 고객에게 제공하는 서비스의 원가를 관리할 수 있습니다.
저렴해진 AI의 혜택은 누구에게 돌아갈까?
그렇다면 앞으로도 AI 기업들은 비용 절감 효과를 고스란히 수익으로 가져갈 수 있을까요? 반드시 그렇지는 않을 겁니다. 비슷한 성능의 서비스를 더 저렴하게 제공하는 경쟁사가 등장한다면 기존 기업들도 가격을 낮추거나 사용 한도를 늘릴 이유가 생기니까요.
다만 가격만으로 고객을 빼앗아 오기는 어려울 수도 있습니다.
예를 들어 고객 문의에 답하는 AI를 도입한 기업을 생각해 보겠습니다. 답변 문장을 만드는 기능 외에도 최신 상품 정보를 가져오고, 고객별 주문 내역을 확인하며, 직원만 볼 수 있는 정보가 밖으로 나가지 않도록 해야 합니다. AI가 처리하기 어려운 문의는 담당자에게 넘겨야 하고요.
모델 사용료가 내려간다고 이 작업이 저절로 완성되지는 않습니다. 고객사의 시스템과 연결하고, 접근 권한을 설정하고, 오류가 생겼을 때 원인을 찾아 고치는 일은 여전히 필요합니다. 기존에 연결해 둔 AI를 새로운 모델로 바꾸려면 다시 시험하고 일부 소프트웨어를 수정해야 할 수도 있겠죠.
일반 소비자도 비슷한 문제를 겪을 수 있습니다. AI에 저장한 대화나 개인화 설정, 다른 서비스와의 연결 기능이 많아질수록 구독 서비스를 바꾸는 일이 번거로워집니다. 경쟁사가 조금 더 저렴한 모델을 내놓더라도 기존 서비스를 계속 이용하는 편이 낫다고 판단할 수 있는 겁니다.
이처럼 기업이 고객에게 제공하는 가치는 AI 모델의 답변 생성 능력만으로 결정되지 않습니다. 서비스의 편의성과 안정성, 기존 업무나 다른 소프트웨어와의 연결도 가격을 결정하는 요인이 될 수 있습니다.
보고서 역시 실제 사용자가 연구에서 제시한 만큼의 절감 효과를 누리지는 못할 수 있다고 설명합니다. 연구에서는 가장 저렴한 모델을 계속 찾아 바꾸는 상황을 가정했지만, 현실에서는 모델을 교체하는 데에도 비용이 들기 때문입니다. 평가 시험의 점수가 좋아졌다고 실제 업무에서도 그만큼 유용해졌다고 단정할 수 없다는 한계도 있습니다.
결국 AI의 비용이 낮아지는 것과 소비자가 더 저렴하게 AI를 이용할 수 있게 되는 것은 별개의 문제입니다. 기업은 줄어든 비용을 구독료 인하에 사용할 수도 있지만, 서비스 개선이나 수익성 확보에 활용할 수도 있습니다.
물론 이런 상황이 계속 유지되리라는 보장은 없습니다. 비슷한 수준의 서비스를 더 저렴하게 제공하는 경쟁사가 등장하고, 고객들이 실제로 서비스를 옮기기 시작한다면 기존 기업들도 가격이나 사용 조건을 다시 검토할 수밖에 없을 겁니다.
에포크 AI의 보고서는 같은 수준의 AI 성능을 확보하는 데 필요한 돈이 얼마나 빠르게 줄어드는지 보여줍니다. 하지만 소비자가 그 혜택을 얼마나 누릴 수 있을지는 또 다른 이야기가 됩니다. AI 서비스를 이용할 때에는 구독료뿐 아니라, 그 돈으로 얼마나 많은 일을 시킬 수 있는지도 살펴봐야 할 것 같습니다.
