기업들, AI 모델 이용비 폭증에 저가 중국산 모델 찾아
최근 많은 관심을 받고 있는 뉴스입니다.
🛒 추천 상품
✔ 🌻 송화 돈 들어오는 해바라기 꽃밭 그림 액자 [확인]
✔ 🚜 한정특가 산지직송 국산 땅두릅 [확인]
✔ 🥗 국내산 신선 비름나물 모음 [확인]
✔ ⭐ 재구매율 1위! 제철 봄나물 곰취 [확인]
✔ 🏃 아이야 봄가을 신상 트레이닝 세트 [확인]
✔ 👟 스타일닥터 봄철 로우탑 남성 스니커즈 [확인]
✔ 🖼️ 집안 분위기를 바꾸는 세계 명화 액자 [확인]
✔ 🍊 새콤달콤 제주 제철 과일 카라향 [확인]
✔ 🌿 향긋쌉쌀 자연산 방풍나물 (봄철 별미) [확인]
✔ 🍡 명가삼대떡집 쑥설기 (영양간식) [확인]
✔ 🛌 SOTCAR 봄철 이중 수면 담요 [확인]
✔ 👕 YLEMI 남자 봄가을 오버핏 프린팅 면 [확인]
✔ 🧣 로지제이 데일리 봄사각 스카프 [확인]
✔ 🌱 산지직송 봄향기 가득 국내산 참두릅 [확인]
✔ 🧥 맨즈셀렉터 봄 가을 탈부착 후드 청자켓 [확인]
✔ 🧘 봄철 여성용 기능성 트레이닝 세트 [확인]
✔ 👞 봄철 통기성 좋은 캐주얼 로퍼 [확인]
김태균
기자
구독
구독중
이전
다음
AI 도입 경쟁에 종량제 ‘폭탄’…”토큰 사용량 예측도 어려워”
딥시크 등 인기…”가격 20분의1에 성능 격차 계속 좁아진다”
이미지 확대
중국의 대표 고효율 AI인 딥시크의 로고
[AP=연합뉴스. 재판매 및 DB 금지]
(서울=연합뉴스) 김태균 기자 = 기업들이 앞다퉈 코딩 등 실무에 인공지능(AI) 도구를 쓰면서 눈덩이로 불어나는 AI 비용이 AI 전환의 핵심 난관으로 부상했다.
로이터 통신은 29일(현지시간) “생산성을 높인다는 이유로 AI 도구를 많이 쓸 것을 권장하던 기업들이 막대한 비용 청구서를 접하면서 내부 고민 끝에 중국산 AI 등 값싼 모델을 찾고 있다”며 이처럼 보도했다.
로이터에 따르면 기업용 AI 에이전트(업무 도우미)는 대부분 ‘AI 토큰’이란 사용량 단위에 비례해 요금이 올라가는 종량제 구조를 채택하고 있다.
◇ “한해 AI 예산 수개월 만에 바닥”
많은 기업은 AI 전환이 본격화하자 생산성 경쟁 때문에 AI 에이전트의 사내 사용량을 대폭 늘리는 ‘토큰맥싱'(tokenmaxxing)을 감행했는데, 이 결과 종량제 비용이 종잡을 수 없이 치솟으며 재무구조를 압박하기 시작했다.
오픈AI와 앤트로픽 등 주요 AI 에이전트 개발사들이 계속 토큰당 비용을 낮추고 있지만, AI 도구의 비약적 발전으로 활용 범위가 늘며 기업이 AI 사용량과 비용을 예측하기 너무 어려워진 것도 큰 문제점으로 꼽힌다.
이미지 확대
챗GPT와 클로드 앱
[AFP=연합뉴스. 재판매 및 DB 금지]
예컨대 차량 플랫폼 기업 우버는 AI 코딩 도구의 사용량이 급증하며 올해 책정한 AI 예산이 불과 4개월 만에 소진되자 불가피하게 AI 토큰 소비량을 제한하는 조처를 발동했다.
컨설팅 업체 가트너에 따르면 AI 코딩 도구에서 발생하는 비용은 2028년이면 평균 수준의 인간 개발자가 받는 연봉을 앞지를 것으로 예측된다.
가트너가 기업을 대상으로 실시한 다른 설문조사 결과를 보면 올해 테크 예산의 인상을 전망한 업체의 비율이 4분의 3에 달했다. 특히 이중 절반에 가까운 곳들은 두 자릿수 증가율을 예상했다.
◇ 18센트 대 4달러…가성비 모델의 공습
이에 따라 기업들이 중국산 오픈소스(공개 소프트웨어) AI 등 저렴한 선택지로 빠르게 고개를 돌리고 있다. ‘오픈 라우터’ 등 라우팅(경로 연결) 서비스도 인기가 높아졌다.
라우팅 서비스는 일종의 ‘AI 오픈 장터’로, 쉬운 작업은 가성비(가격 대비 성능)가 좋은 AI에 선별 배정하고 고난도 업무는 클로드 등 프리미엄 AI 도구에 지정해 비용을 절감하는 것이 골자다.
이미지 확대
AI와 로봇팔 일러스트
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
댓글 남기기