글로벌 반도체 시장에서 새로운 차원의 파워시프트가 일어나고 있다. 삼성전자와 SK하이닉스가 장악한 메모리 반도체에 이어 4차 산업혁명에 대응할 AI 반도체가 핵심 인프라로 떠오르면서다. AI 반도체를 설계하는 한국 스타트업 리벨리온은 세계에서 가장 빠른 칩을 선보이며 ‘차세대 빅씽’을 열 기대주로 부상했다.
“글로벌 투자은행(IB)들이 금융회사를 넘어 IT 기업으로 변신 중”이라는 뉴스가 화제를 모은 지 이미 수년이 지났다. 하루에도 셀 수 없이 쏟아지는 경제지표와 공시, 주가, 글로벌 시장 환경 같은 데이터를 인공지능(AI)이 분석해 투자수익을 극대화한다는 개념이다. 로보애널리틱스 같은 말이 유행처럼 번지기 시작한 것도 그즈음부터였다. 증권사 트레이더들이 전화기나 마우스를 붙잡고 거래에 나서는 풍경은 점차 흘러간 구시대의 유물처럼 여겨지기 시작했다.

지금은 어떨까. ‘금융사인지 IT 기업인지 헷갈린다’는 표현조차도 뭔가 부족한 느낌이다. 퀀트(Quant) 같은 시스템 트레이딩 부문에선 아예 금융사들이 자체 제작한 반도체칩을 사용하는 수준으로 발전했다. 구글과 애플, 아마존이 자사 비즈니스에 최적화된 칩을 직접 만들어 쓰듯, 골드만삭스와 모건스탠리가 남보다 조금이라도 빨리 거래하기 위해 전용 칩을 제작해 쓴다는 말이다.

이 같은 혁신적 변화는 속도가 모든 것을 결정하는 싸움 때문이다. 가령 뉴욕거래소(NYSE)에서 책정된 가격에 시카고상품거래소(CBOT)의 선물·옵션이 대응하는 상황은 몇 초 수준이 아니라 1000분의 1초인 밀리세컨드(㎳)나 100만분의 1초인 마이크로세컨드(㎲) 단위에서 결판난다. 내로라하는 글로벌 IB 간의 ‘고빈도거래(High Frequency Trade)’ 전쟁에서 승부처는 결국 ‘누가 더 빛의 속도에 가깝게 움직이느냐’의 싸움이고, 이를 가능하게 만드는 것이 반도체칩의 성능이다. 개별 기업이 보유한 반도체의 성능이 승패를 가르는 핵심 인프라가 된 셈이다.

마이크로세컨드가 결정짓는 속도의 세계

▎리벨리온이 처음 선보인 AI 반도체 아이온(ION). 현재 세계에서 가장 빠른 시스템 트레이딩 전용 칩으로 꼽힌다.

박성현 리벨리온(Rebellions) 대표는 반도체칩 설계 분야를 주도하는 미국에서 성공적인 커리어를 쌓아온 업계 최고 엔지니어로 꼽힌다. 업계 간, 업종 간 살벌한 전투가 벌어지는 글로벌 반도체 전장의 최일선에 서 있었고, 지금도 이런 사실엔 변함이 없다. 2020년 9월 리벨리온 창업 직전까지도 박 대표는 모건스탠리에서 퀀트 트레이더로 일하며 마이크로세컨드 수준의 고빈도거래를 위한 칩 설계를 맡아왔다.

과학고를 2년 만에 조기 졸업하고, 카이스트 수석 졸업, 미국 MIT 석박사 과정을 5년 만에 해치운 수재의 반도체 커리어는 컴퓨터공학 전공을 선택한 순간 이미 결정된 것과 다름없었다. MIT 재학 시절, 글로벌 반도체 신은 듀얼코어를 넘어 쿼드, 옥타, 식스틴 순으로 멀티코어 CPU 설계 분야에서 발전을 거듭했다. 그 역시 2014년 대학원 과정을 마친 직후, 당시 세계에서 CPU 설계를 가장 잘한다는 인텔 연구실에 들어갔다. 이후 2017년 스페이스X(일론 머스크의 그 스페이스X가 맞다)에서 인공위성에 들어가는 칩을 설계했고, 모건스탠리 퀀트 트레이더를 거쳐 2020년 리벨리온의 수장으로 변신했다. 글로벌 무대에서 잘나가던 엔지니어가 다시 고국으로 유턴한 이유는 무엇일까? 박 대표는 “반도체 산업의 핵이 아시아로 향하고 있다”고 단언했다.

“미국에서 11년을 살았고, 네트워크가 다 거기 있으니 사실 쉽지 않은 결정이었어요. 하지만 한국 삼성전자, 대만 TSMC 같은 회사가 미국에는 없죠. 최첨단 미세공정 자체는 한국이 따라잡은 지 오래고, 반도체산업 전반을 둘러싼 생태계(에코시스템) 자체가 한국·대만을 중심으로 한 아시아에서 재편되고 있어요. 바이든이 왜 한국에 와서 제일 먼저 삼성전자를 찾았을까요? 엔비디아 같은 팹리스들이 아직 건재하다지만, 에코시스템이 무너진 미국과 지금도 성장세가 이어지고 있는 한국의 전세가 4~5년 안에 역전될 거라 확신해요.”

칩 설계 엔지니어가 창업한 기업답게 리벨리온 역시 반도체 스타트업이다. 좀 더 정확히는 ‘인공지능(AI) 반도체를 설계하는 팹리스’ 기업이다. 팹리스란 ‘가공’을 뜻하는 패브리케이션(fabrication)과 리스(less)의 합성어로, 생산·가공 공정, 즉 생산공장이 없다는 뜻이다. 반도체의 여러 제조 공정 중 설계만 전문적으로 하는 곳을 팹리스라 부른다. 팹리스에서 만든 설계도면을 받아 위탁 생산하는 기업이 대만 TSMC 같은 파운드리다. 설계에서 생산까지 전 과정을 책임지는 종합 반도체 회사인 삼성전자, 파운드리만 전문으로 하는 TSMC, 설계만 하는 엔비디아 같은 기업들이 모두 반도체 회사다. 최근에는 삼성전자 역시 기존 메모리 반도체에 이어 비메모리(시스템) 반도체의 파운드리 생산 확대에 힘을 쏟고 있다.

설계도면만 내놓는 팹리스라 해서 우습게 보면 곤란하다. 엔비디아의 시총은 이미 인텔을 넘어섰다. 말하자면 고성능을 발휘할 수 있는 원천 설계(팹리스)와 이를 현실화할 제작 능력(파운드리)이 시너지를 일으켜야 비로소 쓸 만한 반도체가 나온다는 뜻이다.

앞서 소개한 글로벌 IB들의 경쟁 사례에서 보듯, 업종과 시장 상황에 긴밀히 대응할 수 있는 반도체 개발과 확보는 기업의 생사를 결정할 열쇠가 되고 있다. 세계 반도체 시장은 범용 반도체칩이 들어가는 CPU를 시작으로 게임 등 그래픽 처리를 위해 개발된 GPU를 넘어, AI 딥러닝 전용 반도체인 NPU(Neural Processing Unit)의 시대로 넘어가고 있다. 보고 듣고 인식해 이를 분석하고 판단해 실행에 옮기는 인간의 능력을 AI가 해내도록 하는 바탕이 바로 AI 반도체다. 리벨리온은 바로 이러한 AI 반도체를 설계하고, 구동할 수 있는 프로그램까지 함께 개발해 공급하는 팹리스 스타트업이다.

팹리스 업계를 장악한 스타트업들의 활약

삼성전자·SK하이닉스 같은 공룡들이 즐비한 반도체 시장에서 이제 창업한 지 만 2년이 채 안 된 스타트업이 존재감을 드러내기나 할 수 있을까. 박 대표는 이런 질문에 “팹리스 중심의 시스템 반도체, 특히 AI 칩 설계는 온전히 스타트업의 영역”이라는 뜻밖의 답을 내놓았다.

“AI 칩을 설계하는 팹리스는 결국 창의적인 아이디어를 어떻게 현실화하느냐의 싸움입니다. 기존 레거시, 즉 대기업들은 대부분 메모리 분야에 특화돼 있죠. 이들이 굳이 시스템에 목맬 필요는 없어요. 인텔마저 내부 설계는 접었고, 이스라엘 같은 나라에서 잘하는 팹리스를 인수하는 방향으로 틀었습니다. 이미 글로벌 투자자들도 AI 칩의 ‘넥스트 빅씽(Next Big Thing)’이 스타트업에서 나올 거란 걸 알고 있어요. 한국에선 리벨리온이 실현하겠다는 각오입니다.”

박 대표가 설명하는 AI 반도체란 특정 AI 시스템과 알고리즘을 실행하는 데 최적화된 칩을 말한다. 가령 자율주행 차량이 장애물을 인식해 브레이크를 밟는 상황을 떠올려보자. 100분의 1초, 1000분의 1초 차이에 생사가 달라질 수 있다. 기존 CPU, 이보다 고성능의 GPU보다 훨씬 뛰어난 속도를 갖춘 NPU를 탑재한 자율주행 차량이 장애물을 인식하고 브레이크를 제어하는 속도가 기존 칩을 장착한 차량보다 빠를 것임은 당연하다.

“AI를 계산 단위로 인수분해하면 엄청나게 큰 행렬들의 곱하기가 남습니다. AI를 뜯고 뜯다 보면 결국 엄청난 양의 계산(연산)이 남는다는 뜻이죠. 이런 계산을 기성 범용 칩보다 훨씬 빠르게 하는 칩이 있다면, AI 알고리즘 역시 훨씬 빠른 속도로 돌릴 수 있게 됩니다. 글로벌 팹리스 스타트업들이 AI 칩 개발에 매달리는 이유죠.”

박 대표가 일했던 모건스탠리의 고빈도거래 역시 전용 AI 칩을 확보하느냐 마느냐의 싸움이었다.

“당시 모건스탠리에선 FPGA(Field Programmable Gate Array)라고 하는, 세계에서 제일 빠른 반도체를 사용해 거래했어요. 일반 반도체와 달리 사용자의 용도에 따라 회로를 다시 새길 수 있는, 하드웨어와 소프트웨어의 중간쯤 되는 칩이죠. 그런데 최근 이마저도 ASIC(Application Specific Integrated Circuit) 반도체로 진화하고 있어요. 특정 용도와 목적을 위해 제작한 주문형 반도체죠. 현재 몇몇 글로벌 헤지펀드가 ASIC 칩을 도입해 선제적으로 대응하고 있어요. 대형 IB들은 아직 FPGA로 트레이딩하고 있죠. 리벨리온이 설계하는 반도체가 바로 ASIC 칩입니다.”

박 대표는 “범용 칩인 CPU와 GPU에서 시작해 주문형 반도체(ASIC)인 AI 칩으로 발전해가는 건 인류의 기술사적 측면에서 자연스러운 진화 과정”이라고 설명했다. 더욱이 이런 변화를 글로벌 현장에서 직접 겪고 목격했으니, 창업은 큰 결심이 필요했다기보다 자연스러운 흐름에 올라탄 과정에 가까웠다.

“맥가이버칼을 떠올려보세요. 이것저것 다 되던 칼 뭉치가 CPU·GPU라면, 자르거나 써는 데 특화된 칼날 하나만 남겨놓은 게 바로 AI 칩입니다. 금융 트레이딩이든 자율주행이든 특정 알고리즘에 최적화된 주문형반도체, 여기에 전력 사용량까지 획기적으로 줄인 반도체가 있다면, 속도가 생사를 가르는 기업 입장에선 채택하지 않을 이유가 없죠.”

ION, 세계에서 가장 빠른 트레이딩 전용 칩

▎박성현 대표는 내로라하는 글로벌 IT 기업에서 AI 반도체 설계 경력을 쌓아왔다.

날고 기는 경쟁자들이 즐비한 글로벌 팹리스 시장에서 창업 2년 차 리벨리온이 들고 나온 무기는 무엇일까. 박 대표는 “전문화(specialized)에 전문화를 한 번 더한 것이 리벨리온이 설계한 칩”이라고 소개했다. CPU·GPU의 부족한 성능을 만회하기 위해 AI 칩이 등장했다면, 이에 더해 특정 산업과 업종을 겨냥한, 그야말로 스페셜한 AI 칩을 설계했다는 설명이다. 리벨리온의 첫 번째 AI 칩인 ‘아이온(ION)’이다.

리벨리온은 창업 채 1년이 안 된 올 초 첫 시제품 아이온을 내놓아 업계를 놀라게 했다. 모건스탠리 근무 경험을 살려 고빈도거래에 특화된 AI 칩 개발에 나선 것이다. 그제야 ‘전문화에 전문화를 더했다’는 설명이 이해된다.

리벨리온의 첫 작품 아이온이 세계적으로 화제를 모은 건 짧은 개발 기간만이 아니었다. 업계에 이제 막 발을 뗀 팹리스 스타트업의 실력이라고는 믿기 어려운 수준의 고성능이 단박에 눈길을 사로잡았다. 아이온은 현존하는 시스템 트레이딩 알고리즘 ASIC 중 가장 빠른 속도를 구현했다. 기존 GPU 대비 10배 이상, 인텔 하바나랩스(인텔은 2019년 이스라엘 AI 칩 팹리스인 하바나랩스를 20억 달러에 인수했다)보다 30~40%, 기존 ASIC 칩에 비해서도 50% 이상 빠른 성능을 자랑한다. 아이온은 개발 직후 대만 TSMC의 7나노 파운드리 공정을 따내며 또 한 번 믿기 힘든 경쟁력을 입증했다.

현재 리벨리온은 월스트리트의 글로벌 IB들과 아이온 도입을 위한 협상에 나선 상태다. 가격과 도입 절차 등을 여러 고객사 후보군과 논의 중인데, 아이온을 채택할 금융사가 정해지는 대로 TSMC에서 위탁 생산에 들어갈 예정이다. 박 대표는 이 밖에도 AI 기반 상장지수펀드(FTF)를 미국에 상장해 화제가 된 국내 스타트업 크래프트와도 아이온 도입을 논의 중이라고 밝혔다. 크래프톤은 손정의 창업자가 이끄는 소프트뱅크그룹이 올 초 1억4600만 달러(약 1700억원)를 투자해 화제가 된 기업이다.

아이온에 이은 연타석 홈런 계획도 착착 진행 중이다. 금융 트레이딩에 이어 서버 시장 공략을 위한 전용 칩인 ‘아톰’이다. 박 대표는 “두 번째 선보일 아톰 역시 세계 최고 수준(Tier 1)급 AI 칩”이라며 “인텔, 엔비디아와 대등하게 싸울 수 있는 몬스터급 칩이 내년에 등장할 것”이라 장담했다. 아톰은 동일한 성능 대비 전력 사용량을 크게 줄인 제품이다. 전 세계 파운드리 쇼티지(부족) 사태 속에서도 아이온이 TSMC의 7나노 공정을 따온 것처럼, 아톰은 삼성전자의 5나노 공정을 이미 확보했다. 삼성전자가 국내 스타트업에, 더욱이 모바일 칩이 아닌 AI 칩에 5나노 공정을 내어준 것도 리벨리온이 처음이다.

“반도체 쇼티지 때문에 차량 생산이 멈출 정도잖아요. 우리 같은 스타트업에 공정을 내준 것 자체가 빅뉴스였죠. 파운드리에게는 일종의 투자 개념일 겁니다. 대기업 입장에서 우리가 벌 돈의 규모가 아쉬운 수준은 아니지만, 미래를 위한 선제적 투자에 나선다는 개념이죠. TSMC는 지금도 전 세계를 돌면서 우리 같은 유망주들을 발굴합니다. 리벨리온에도 대만 본사에서 파견한 한국지사장이 직접 방문했어요. 애플이나 퀄컴 같은 회사뿐 아니라, 유망한 스타트업의 칩을 그 큰 회사에서 찍어주는 거예요. 처음엔 ‘12나노를 열어주겠다’고 했고 ‘7나노로 가야 승부가 난다’는 설득 끝에 공정을 열어줬어요. 고맙게도 삼성전자는 먼저 우리를 찾아 문을 두드려주었고요.”

삼성전자와 TSMC가 점찍은 AI 칩

▎한자리에 모인 리벨리온 임직원들. 업계에선 ‘국대급 어벤저스’들이 모였다는 평가다.

이쯤 되면 리벨리온이라는 이름의 스타트업을 좀 더 깊숙이 들여다보지 않을 수 없다. 도대체 어떤 사람들이 모였길래, 창업 1년도 안 돼 시제품을 내놓고, TSMC와 삼성전자의 문을 열었을까. AI 반도체 신에서 리벨리온은 ‘진욱스팀’으로 불리기도 한다. 리벨리온 공동 창업자 가운데 한 명인 오진욱 CTO를 가리키는 말이다. 박 대표와 1984년생 동갑내기인 오 CTO는 서울대 학부와 카이스트 박사를 마친 후, 리벨리온 합류 전까지 IBM 왓슨연구소에서 AI 반도체 수석설계자(아키텍트리드)로 일해온 최고 전문가다. 박 대표는 오 CTO를 두고 “전 세계 AI 반도체 섹터에서 셀러브리티로 통하는 인재로 이해하면 쉽다”고 소개했다.

“오 박사는 IBM에서 7년간 AI 칩 개발의 모든 걸 경험한 분입니다. 개인적으론 한국 AI 칩계의 문익점 같은 사람이라고 생각해요. IBM과 구글, MS 등 미국의 3대 AI 연구소를 모두 거쳤죠. 국내에는 아직 AI 칩을 제대로 개발할 줄 아는 인력이 부족합니다. 칩을 만드는 장인이 오 박사라면, 현장의 실용성을 더해 더욱 날카롭게 만드는 게 제 역할이에요. 이 정도 역량을 갖춘 팀은 국내는 물론 전 세계 대기업에도 많지 않다고 자부합니다.”

국가대표를 넘어 ‘어벤저스급’이라는 평가는 김효은 CPO가 합류하면서 더욱 탄탄해졌다. 김 CPO는 리벨리온 합류 전까지 의료 AI 스타트업 루닛에서 딥러닝 개발을 지휘했다. 루닛의 제품 개발 총괄은 물론 프리-IPO까지 진두지휘한 김 CPO의 합류는 글로벌 대기업 문화에 익숙한 기존 멤버들이 스타트업, 특히 국내 스타트업 생태계에 안착하는 데 큰 힘이 됐다.

쟁쟁한 창업 멤버들 말고도 현재 리벨리온 임직원 50여 명 대부분이 삼성전자나 SK하이닉스 등에서 합류한 전문 개발자와 엔지니어들이다. 박 대표는 “삼성과 SK라는 찬란한 문화가 잡혀 있는 한국이야말로 글로벌 반도체의 성지가 될 게 분명하다”고 단언했다.

“카이스트나 포스텍 같은 훌륭한 학교, 삼성과 SK 같은 엄청난 기업이 있는 나라예요, 한국은. 다만 지금까지 대기업을 제외하곤 큰 구심점이 없었던 것 같습니다. 레거시 맨파워가 잘 갖춰진 만큼 이제는 스타트업이 활로를 뚫어야 합니다. 글로벌 AI 칩 패권이 3년 안에 결정된다고 봐요. 리벨리온이 최전선에서 뛸 겁니다.”

어벤저스급 멤버들이 모여 사고 칠 준비를 하자, 투자자들이 이들을 눈여겨보기 시작한 건 당연했다. 카카오벤처스가 시드 투자 단계에서 55억원을 쏟은 것은 시작이었다. 삼성전자 5나노 공정을 확보한 직후에는 브리지펀드 개념의 프리A 투자로 145억원을 유치했다. 국내 벤처개피털 KCA파트너스의 결단이었다. 이후로도 미래에셋벤처투자, IMM인베스트, KDB산업은행, KT인베스트먼트, SV인베스트먼트 등 내로라하는 국내 대표 기관들이 리벨리온의 새로운 투자자로 나섰다.

지난 6월 3일 발표된 뉴스는 또 한 번 국내 스타트업 투자 역사의 새 장을 써냈다는 평가를 받는다. 싱가포르 국부펀드 테마섹의 파빌리온캐피털이 시리즈A 투자에 620억원을 쏟아부으면서다. 이로써 리벨리온은 설립 2년 만에 기업가치 3500억원을 인정받게 됐다. 더욱이 테마섹은 리벨리온의 주주 명부에 이름을 올리는 사모투자(PE) 형태로 참여했다. 단순 투자금 회수(엑시트) 개념이 아니라, 장기적인 관점에서 리벨리온의 성장을 돕는 전략적투자자(SI)를 자처했다는 점 역시 스타트업 업계에선 보기 드문 일이다. 현재 리벨리온의 투자 유치금액은 총 1000억원에 이른다. 박 대표는 투자금을 바탕으로 아이온과 아톰에 이은 넥스트 스텝 계획도 이미 세워놨다고 밝혔다. 초거대 AI 모델을 돌릴 수 있는 ‘리벨’의 양산이다.

“사람처럼 그림도 그리고 소설을 쓰는 AI를 생각해 보세요. AI가 단순한 예측과 분석에 머무는 게 아니라 인간의 고유 영역인 크리에이티브 수준으로 발전하는 거죠. 그게 초거대 AI 모델입니다. 세계적으로는 일론 머스크가 주도하고 있죠. 리벨은 바로 이 초거대 모델에 적용할 칩입니다. 2026년 양산 계획인데, 그때를 계기로 글로벌 넘버원에 도전할 수 있을 거예요. 삼성전자가 초격차를 만들어낸 것처럼, 감히 말하건대 리벨리온이 한국의 초격차 시즌 2를 쓰고 싶습니다.”

[박스기사] 반도체산업의 새 트리거, AI 반도체

한국반도체산업협회에 따르면 글로벌 반도체 시장은 시스템 반도체가 전체의 55%를 점유해, 이미 메모리 반도체 시장 규모를 넘어섰다. 메모리 반도체의 경우 삼성전자와 SK하이닉스가 세계시장의 60%가량을 장악하고 있다. 한국은 글로벌 메모리 반도체 생산의 최강국이다.

반면 시스템 반도체는 여전히 미국이 압도적이다. 한국의 시장점유율도 3% 남짓에 불과하다. 대만은 물론 중국에도 못 미치는 수준이다. 반도체는 한국의 수출 1위 효자 품목이지만, 메모리 중심의 산업구조를 시스템 반도체로 확장해야 한다는 지적이 계속해서 나온다. 특히 첨단 시스템 반도체로 꼽히는 AI 반도체는 인공지능, 사물인터넷(IoT), 자율주행 등 4차 산업혁명 실현을 위해 없어서는 안 될 핵심 부품이다. AI 반도체는 이미 레거시를 이룬 메모리 반도체에 이어 한국 반도체산업을 다시 한번 도약시킬 트리거가 될 것으로 기대된다.

AI 반도체는 한국뿐 아니라 전 세계 반도체 메이커와 팹리스 업체에 기회의 땅이 될 게 분명하다. 시장조사기관 가트너는 향후 2030년까지 AI 반도체 시장이 2020년 대비 6배 성장해 거대 시장이 될 것으로 전망했다. 2020년 184억 달러 규모였던 AI 반도체 시장은 2030년에는 1179억 달러 규모로 커진다는 게 가트너의 예상이다. 세계 최고 수준의 파운드리 제조 역량을 갖춘 한국은 이에 비해 팹리스, 즉 AI 반도체 설계 역량이 미국 등에 비해 한참 뒤처져 있다. 리벨리온의 등장은 그래서 더 반갑다.

※ 참조 한국전자통신연구원(ETRI) ‘AI 반도체 시장 동향 및 우리나라 경쟁력 분석’(2020.12. 박영준)

- 장진원 기자 jang.jinwon@joongang.co.kr·사진 최영재 기자