지난해 매출을 수백만 달러까지 높인 베이스텐은 기업이 AI 애플리케이션을 실용적인 방식으로 구축하도록 돕는 기술로 4000만 달러 투자금을 유치했다.

▎(왼쪽부터)베이스텐의 공동 설립자 아미르 하기가트, 투힌 스리바스타바, 필 하위스, 판카지 굽타. / 사진:SLCA STUDIOS

기업들은 인공지능(AI) 모델을 학습시키기 위해 연산 비용으로 수십억 달러를 지불해왔지만, 이제는 그 비용이 AI가 실제로 사용되는 순간으로 넘어가고 있다. 예를 들면 챗GPT가 질문에 실시간으로 대답하기 위해 사용하는 연산이 그렇다. 지난해 엔비디아 실적 보고서에 따르면 ‘추론’이라 불리는 이 프로세스는 전체 연산 매출에서 40%를 차지했다. 젠슨 황 엔비디아 CEO는 최근 IT 전문지 와이어드와의 인터뷰에서 “엔비디아의 비즈니스가 90% 학습과 10% 추론으로 구성된다”며 “이제 그렇게 많은 연산력이 추론에 투입되니 AI가 마침내 성과를 내고 있는 것”이라고 말했다.

수많은 스타트업이 기업의 추론을 돕기 위해 몰려들고 있다. 미국 샌프란시스코에 자리한 베이스텐은 최근 대규모 투자를 유치한 스타트업 중 하나다. 지난 2월 IVP, 스파크캐피털 등이 주도하고 기존 투자자인 그레이록과 컨빅션 파트너스, 에인절투자자 래치 그룸이 참여한 시리즈 B 투자에서 4000만 달러를 유치했다. 사안에 정통한 소식통에 따르면 이 라운드에서 베이스텐의 가치는 2억 달러 이상으로 평가됐다.

베이스텐은 고객이 이미 학습을 거친 오픈소스 또는 맞춤형 AI 모델로 대중 대상 애플리케이션을 출시하도록 돕는다. 고객은 백엔드 인프라를 직접 설정하는 대신 자사 모델을 베이스텐의 클라우드에 구축할 수 있다. 베이스텐의 소프트웨어는 일정 기간에 AI 모델로 들어오는 트래픽에 따라 회사가 지불하는 연산 자원의 양을 자동으로 조정한다. 고객이 원하면 공급이 희소한 GPU 이용 권한도 중개할 수 있다.

베이스텐은 2019년 설립된 이래 2022년 말까지 AI 기반 앱을 쉽게 구축하게 해주는 소프트웨어를 판매하는 스타트업 중 하나였다. 그러나 그다지 주목은 받지 못했다고 공동 설립자 투힌 스리바스타바가 말했다. 스리바스타바는 아미르 하기가트, 필립 하위스, 판카지 굽타와 함께 회사를 공동 설립했다. 그들의 노력에도 불구하고 “매출은 0”이었다고 스리바스타바가 포브스에 말했다. 그는 “2023년에는 추론이 가장 큰 시장임을 깨달았고, 그래서 모든 역량을 추론에만 쏟아부었다”고 덧붙였다.

지난해 전 세계를 열광하게 만든 오픈AI의 챗GPT를 말하는 것이다. 스리바스타바는 “챗GPT가 훌륭한 이유는 어설프게 느껴지지 않기 때문”이라며 “오픈AI는 내부적으로 수십 명에게 추론 업무를 맡긴 것으로 드러났다”고 말했다. 그 결과 챗GPT의 반응 시간이 빨라지고 중단 시간이 없어졌다.

4000만 달러 투자 유치

추론에 집중한다는 베이스텐의 결정은 매출을 500만 달러 안팎까지 높였다. IVP의 파트너인 소메시 대시와 시라반 나라옌은 영업 팀이나 마케팅 팀 없이도 이처럼 성장을 이뤄낸 것을 보자 투자를 할 수밖에 없었다고 포브스에 말했다. 일부 투자금은 영업과 마케팅 부문을 구축하는 데 들어갈 것이라고 스리바스타바는 말했다. 그는 현재 25명인 직원 수를 연말까지 50명으로 늘릴 계획이다. 일부 신규 자금은 GPU를 더 구매하고 회사 소프트웨어를 최적화하는 데 투입된다.

스리바스타바에 따르면 이미 대기업 20여 곳과 개발자 수만 명이 사용한 연산력만큼 요금을 청구하는 베이스텐 제품에 돈을 지불하고 있다. 소비자가 콘텐트 제작자에게 돈을 지불하고 영상이나 기타 콘텐트에 대한 독점 접근권을 제공받는 멤버십 플랫폼 페이트리언은 베이스텐을 사용하여 자동으로 자막을 생성하는 오픈 AI의 오픈소스 음성 인식 모델 위스퍼의 자사 버전을 관리한다.

스리바스타바는 “우리는 지난 12개월 동안 대단히 좋아진 오픈소스 모델의 물결에 올라탔다”고 말했다. 그러나 현재의 열풍이 나중에는 위험 요소가 될 수도 있다. 베이스텐의 제품은 인프라를 관리하는 추가적인 수고를 감수하더라도 맞춤 설정이 가능한 오픈소스 모델을 사용하려는 고객에 의존한다. 만약 오픈API의 GPT, 앤스로픽의 클로드, 구글의 제미나이 같은 클로즈드 소스 솔루션이 시장을 지배하게 되면 베이스텐은 고객을 잃을 수 있다. 그러나 스리바스타바는 앞으로 개발자가 오픈 모델과 클로즈드 모델을 모두 사용할 것이라고 예측한다. 그는 클로즈드 소스 서비스가 성능은 더 나을 수 있지만 비용, 속도, 개인정보보호 등 여러 요인이 스타트업을 계속해서 오픈소스 모델로 끌어들일 것이라고 말했다.

또 다른 위험 요소는 AI 인프라 공급업체들 사이에서 경쟁이 치열해지고 있다는 것이다. 스파크캐피털의 윌 리드는 베이스텐이 시중에서 가장 저렴한 업체가 아님에도 “믿기 어려울 정도로 많은 비율”의 고객을 확보했다고 포브스에 말했다. 예를 들어 베이스텐은 리드가 투자하는 또 다른 스타트업인 동영상·팟캐스트 편집 앱 디스크립트의 모든 머신러닝 기능을 공급한다. 스리바스타바는 고객이 성능을 보고 경쟁사가 아닌 베이스텐을 선택할 것이라 믿는다. 베이스텐은 2023년 서비스를 제공하는 AI 앱 전체에서 중단 시간 0분을 기록했다.

추론에 주력하는 회사에 투자하는 투자자들이 늘고 있다. 모달 랩스는 레드포인트와 앰플리파이 파트너스로부터 투자를 받았다. 파이어웍스 AI는 벤치마크와 세쿼이아의 투자를 받고, 리플리케이트는 지난해 앤드리슨 호로비츠 등 투자사로부터 4000만 달러를 유치했다. 투게더 AI와 애니스케일 같은 유니콘 스타트업도 이 부문에 진입하고 있다. 스리바스타바는 아마존, 마이크로소프트 같은 기업도 들어올 것으로 예상한다며 “현실적으로 초거대 기업들도 고려해야 한다. 그들도 이곳이 경쟁력 있는 시장이라고 볼 것이기 때문”이라고 말했다.

- Kenrick Cai 포브스 기자

위 기사의 원문은 http://forbes.com 에서 보실 수 있습니다.

포브스 코리아 온라인 서비스는 포브스 본사와의 저작권 계약상 해외 기사의 전문보기가 제공되지 않습니다.

이 점 양해해주시기 바랍니다.