AI 시대의 총아 엔비디아에 HBM3·HBM3E 공급 성공하며 SK하이닉스 시총 150조원 넘어서
삼성전자, 반도체 수장까지 바꾸며 전열 정비… 메모리·파운드리 아우르는 ‘IDM’ 시너지 모색

▎2024년 6월 삼성전자가 HBM 메모리와 파운드리에서 기대치를 밑돈다는 비관론 속에서 이재용(오른쪽 다섯 째) 삼성전자 회장은 미국 출장길에 올랐다. 퀄컴 수뇌부를 만난 자리에는 삼성전자의 반도체 새 수장 전영현(왼쪽 넷째) DS 부문장(부회장)도 동참했다. / 사진:삼성전자

곽노정 SK하이닉스 CEO는 2024년 1월 미국 라스베이거스 CES(세계 최대 가전·IT 전시회)에서 “현재 약 100조원인 시가총액을 3년 이내에 200조원까지 높일 수 있다”고 발언했다. 당시만 해도 드러내놓고 말하지 못했을 뿐, SK하이닉스 내부에서조차 “설마 이게 되겠냐”며 반신반의하는 분위기였다. 하지만 그로부터 반년이 지난 6월 13일, SK하이닉스 시총은 163조8000억원을 넘겼다. 곽 CEO가 말한 3년이라는 시한보다도 훨씬 빠른 속도로 시총 200조원에 접근하고 있는 셈이다. 이를 두고 삼성전자 임원 출신인 양향자 개혁신당 전 의원은 “3년 전 SK하이닉스의 시총을 찾아봤더니 62조원이었다”고 말했다. 삼성전자가 시총 450조~500조원 사이에서 답보하는 사이, SK하이닉스가 진격을 거듭했음을 에둘러 이렇게 표현한 것이다.

대한민국의 명운이 걸린 반도체 산업에서 ‘1등 삼성전자, 2등 SK하이닉스’라는 견고한 프레임이 뒤집어질 수도 있음을 보여준 결정적 모멘텀은 HBM(고대역폭메모리)이다. 챗GPT가 상용화되는 등 AI는 이제 시대의 메가 트렌드로 자리 잡았다. 여기서 가장 각광받는 기업이 AI 가속기에 탑재되는 GPU(그래픽처리장치) 점유율 세계 1위 회사 엔비디아다.

삼성전자의 HBM 실기와 이재용 사법 리스크

불과 10년 전 3달러였던 엔비디아 주가는 1300달러를 넘기며 액면분할까지 했다. 미국 나스닥에서 애플, 마이크로소프트에 필적하는 시총 빅3까지 올라섰다. 이런 엔비디아의 GPU를 가동하는 데 필수적인 메모리반도체가 HBM이다. 여기서 SK하이닉스의 4세대 HBM(HBM3)과 5세대 HBM(HBM3E) 제품이 엔비디아에 사실상의 솔밴더(독점공급) 지위를 확보하며 두 회사의 미래가치가 연동되는 구조가 형성된 것이다.

결과만 놓고 말하면 예전부터 SK하이닉스는 HBM의 잠재적 가치를 간파했고, 삼성전자는 간과했다고 볼 수 있다. 하지만 전지적 관점이 아니라 2019년의 시점으로 회귀해보면, 두 회사의 선택에는 그럴 만한 ‘개연성’이 존재한다.

지금도 완전히 해소되지 않았지만, 당시 삼성전자에서는 이재용 회장의 사법 리스크가 비등했다. 이 회장은 2017년 2월 구속까지 됐고, 이후 약 1년 만에 석방됐지만 재판은 계속 이어졌다. 이 과정에서 삼성전자 전문 경영진은 원가절감 같은 단기적 성과에 치중할 수밖에 없었다. 실제 ‘반도체 슈퍼 사이클’과 맞물리며 역대급 호황을 누렸다. 이때까지만 해도 HBM이 삼성전자 반도체 전체 매출에서 차지하는 비중은 1%도 안 됐다. 선택과 집중을 중시하는 전문 경영진은 서버용 D램과 모바일용 D램에 주력했다.

일각에선 “이 당시 삼성전자가 HBM의 가능성을 경시한 나머지 개발 부서를 해체했다”고 언급하지만, 삼성전자 측은 단호하게 “팩트가 아니다”라고 부정했다. 삼성전자 관계자는 “해체한 적이 없다. 그랬다면 HBM3(4세대)가 바로 나올 수 있었겠나”라고 반문했다. 인력의 축소는 있었지만 부서가 존속됐기에 HBM2(2세대), HBM2E(3세대)가 출시됐고 그 기술력을 바탕으로 빠르게 HBM3를 시장에 내놓을 수 있었다는 주장이다.

하지만 삼성 사정에 밝은 익명의 인사는 “김기남 당시 삼성전자 DS부문장(부회장)이 책임에서 자유롭지 못하다”고 지적했다. 당장 돈 되는 사업에 치중하다가 조직문화의 혁신이 희미해졌고, HBM 대응 실패로 쌓였던 모순이 터졌다는 것이다. 이 인사는 “그룹 총수의 파괴적 결단은 자유로움에서 온다”고 전제하며 “이 회장 사법 리스크가 HBM 등 삼성전자의 장기 비전 설계에 부정적 영향을 끼쳤다는 지적은 일리가 없지 않다”고 봤다. 이에 관해 삼성 측은 “재판이 진행 중”이라며 극도로 발언을 자제했다.

음미할 대목은 비슷한 시기 SK하이닉스의 행보다. SK하이닉스가 미디어에 제공하는 [반도체 소개자료] ‘HBM 개발 히스토리’에 따르면 SK하이닉스가 HBM을 최초 개발한 시점은 2013년으로 거슬러 올라간다.

2010년 SK하이닉스는 미국의 GPU와 CPU 설계기업 AMD와 고성능 메모리 반도체 제품 ‘스펙’을 공동 연구하는 과정에서 HBM 개발에 착수했다. 이 당시만 해도 AI 관련 시장은 형성되지 않았다. 다만 ‘컴퓨터 시스템에서 메모리 반도체의 성능이 갈수록 중시되는 시기가 도래할 것’이라는 예측에 근거해서, SK하이닉스는 뚜렷한 시장이 없었음에도 HBM에 베팅했다.

사실 엔비디아가 AI 시장을 주도하기 전까지만 해도 HBM보다 대세로 주목받았던 그래픽카드 고속 메모리는 GDDR D램이었다. 초창기만 해도 고성능이지만, 생산단가가 비싸고 수율 문제로 대량생산이 힘든 HBM은 실용성이 떨어진다는 평가를 들었다. 삼성전자가 HBM에 사력을 다하지 않은 주된 이유로 추정된다.

SK하이닉스의 HBM3, 게임 체인저가 되다

▎SK하이닉스가 HBM 최강자로 올라선 데에는 불확실성을 감수한 최태원(왼쪽) SK그룹 회장의 지원과 곽노정(왼쪽 둘째) SK하이닉스 CEO의 지속적 역량 투입이 있었다. / 사진:SK하이닉스

그 대신 삼성전자는 상대적으로 생산단가가 저렴하고 대량생산에 용이한 GDDR에 보다 공을 들였다. GDDR도 차세대 그래픽용 D램으로 불리는 GDDR7 버전까지 2024년 내 양산을 앞두고 있을 정도로 시장 점유율 경쟁이 치열하다. 하지만 AI 시대가 도래하며 속도에 방점이 찍히는 고성능 HBM이 거스를 수 없는 대세가 됐다.

2013년 12월 SK하이닉스가 최초 개발한 HBM을 압축적으로 설명하면 여러 개의 D램을 수직으로 쌓은 형태를 일컫는다. HBM의 장점은 기존 D램을 능가하는 처리 속도다. 게다가 전력 소모도 낮아서 고성능 그래픽 작업에 적합하다. 막대한 데이터 처리가 요구되는 AI 서버에 최적화된 D램이라고 할 수 있다.

당연히 HBM은 굉장히 난도가 높은 기술력을 필요로 한다. SK하이닉스 관계자는 “D램을 8단, 12단, 16단씩 쌓아서 TSV(실리콘관통전극)로 구멍을 뚫는 후공정 측면에서 고도의 기술이 요구된다”며 “일반 D램과 많이 다르다”고 설명했다.

지금으로부터 무려 15년 전인 2009년부터 SK하이닉스는 TSV 기술개발팀을 구성했다. 여기가 HBM 개발의 본진으로 기능했다. SK하이닉스 측은 “관련 장비 투자나 개발 비용이 매우 비쌌다. 또 HBM을 처음 만들 때만 해도 큰 매출 비중을 차지하는 것도 아니었다”며 “하지만 최태원 회장을 비롯한 경영진과 엔지니어들은 HBM이 차세대 D램을 이끌어나갈 수 있다고 판단했기에 지속적 투자를 감행했다”고 설명했다.

SK하이닉스는 2015년부터 1세대 HBM을 양산했다. 이어 2018년 2세대인 HBM2 양산을 세상에 알렸다. 2019년 8월에는 반도체 업계 최고속 HBM2E를 개발했다. HBM2E는 2020년 7월부터 양산이 시작됐다. 그리고 2021년 10월 HBM 시장의 게임 체인저가 되는 HBM3가 세계 최초로 SK하이닉스에서 탄생했다. 2022년 6월 역시 세계 최초 양산이 시작됐고, 이 순간부터 SK하이닉스는 HBM 분야 주도권을 쥐었다. 2022년 6월은 바로 엔비디아에 HBM3를 공급한 시점과 일치한다. 챗GPT가 개화하는 적기에 SK하이닉스는 4세대 HBM을 출시한 것이다.

이어 2023년 4월, 12단 적층 HBM3를 또다시 세계 최초로 개발하며 독주 체제를 굳혔다. 불과 4개월 뒤인 8월에는 5세대 HBM인 HBM3E를 개발해 고객사에 샘플을 공급했다. HBM3E(8단)는 올해 3월 세계 최초로 본격 양산됐다.

SK하이닉스 측은 “우리의 HBM은 속도와 방열부분에 강점을 가지고 있다”고 부각했다. 그 비결에 대해 “자체 개발한 기술인 MR-MUF의 구조적 특성이 세계 최고 수준의 방열 특성으로 이어졌다”고 강조했다. MR-MUF 기술은 반도체 칩을 쌓아올린 뒤 칩과 칩 사이의 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고 굳히는 공정이다. 공정의 효율성을 담보할 수 있고, 열 방출에 효과적이라는 평가를 받는다. 이와 관련해 권재순 SK하이닉스 수율담당 부사장은 지난 5월 영국 [파이낸셜타임스(FT)]와의 인터뷰에서 “HBM3E 수율(품질 기준을 충족한 합격품 비율)이 80%에 거의 도달했다”고 밝혔다. 업계에서 ‘꿈의 수율’로 불리는 80%를 달성하면 양산에 필요한 시간을 50% 단축할 수 있다. 엔비디아에 HBM3E를 공급하는 SK하이닉스 주가가 신고가(6월 13일, 22만6000원)까지 치솟은 배경이다.

엔비디아의 테스트 통과를 고대하는 삼성전자

▎젠슨 황 엔비디아 CEO가 삼성의 12단짜리 HBM3E 반도체에 남긴 친필 사인. 황 CEO는 삼성전자가 꾸준히 엔비디아의 파트너가 될 수 있음을 암시하고 있다. / 사진:한진만 삼성전자 부사장 SNS

SK하이닉스가 HBM 시장을 선점, 선도하는 사이 삼성전자는 무엇을 했던 것일까? 반도체 시장 조사업체 트렌드포스의 2023년 통계에 따르면, HBM 점유율에서 SK하이닉스 53%, 삼성전자 38%, 마이크론 9%로 나와 있다. 얼핏 격차가 크지 않은 것처럼 비치지만, 시장은 “삼성전자 점유율의 상당 부분을 HBM2나 HBM2E가 차지하고 있다”고 추정한다. 다시 말해 선단 제품인 HBM3부터는 SK하이닉스가 압도적 우세라는 의미다.

실제로 삼성전자는 2015년 10월 HBM2를 개발했고, 불과 두달 후인 12월 세계 최초로 양산을 개시했다. 2018년 양산을 시작한 SK하이닉스보다 훨씬 빨랐다. 이후에도 ‘세계 최초 4GB HBM 양산(2016년 1월)’, ‘HBM2 플레어볼트 양산(2016년 6월)’, ‘8GB HBM2 공급 확대(2017년 7월)’, ‘HBM2 아쿠아볼트 양산(2017년 12월)’ 등의 기술 업데이트가 잇따랐다. 하지만 2018년 1월 ‘8GB HBM2 본격 양산’을 끝으로 HBM과 관련한 삼성전자의 ‘임팩트’는 거의 없었다. 2020년 1월 3세대인 ‘HBM2E 플래시볼트 양산’ 이후 2023년 7월 ‘HBM3 아이스볼트 양산’ 발표가 나오기까지 약 3년 6개월을 공백기로 둔 셈이다.

2024년 5월 1일 경계현 삼성전자 DS부문장(사장)은 사내 경영 현황 설명회에서 “AI 초기 시장에서 우리가 승리하지 못했다”며 “2라운드에서는 우리가 승리해야 한다”고 말했다. 사실상 HBM 패권 쟁탈전에서 SK하이닉스에 패배했음을 시인한 발언이다. 역전을 위한 삼성전자의 회심작은 2024년 2월 업계 최초로 개발한 ‘HBM3E 12단’ 제품이다. 36GB의 용량은 현존하는 5세대 HBM 중 최대로 알려져 있다.

삼성전자의 HBM3E는 젠슨 황 엔비디아 CEO의 친필 사인으로 이미 널리 회자된 바 있다. 2024년 3월 황 CEO는 미국 캘리포니아주 새너제이에서 열린 연례 개발자 콘퍼런스 ‘GTC 2024’에 마련된 삼성전자 부스를 찾아 ‘JENSEN APPROVED’라는 사인을 남겼다. 한진만 삼성전자 DS부문 미주 총괄 부사장이 그 사진을 찍어 SNS에 올리며 세상에 알려졌다. 이를 두고 시장에선 ‘삼성전자가 엔비디아의 인증 통과를 받은 것 아닌가’라는 기대감이 증폭됐다. 실제 3월 19일 7만2800원까지 하락했던 삼성전자 주가는 20일 하루 5% 넘게 급등했고, 이후 4월 8일 8만6000원까지 찍었다.

하지만 엔비디아의 테스트 통과와 관련한 공식 발표는 나오지 않았다. 삼성전자 HBM3의 엔비디아 공급설은 2023년 9월부터 나왔지만 현실화하지 못했고, HBM3E도 마찬가지다. 이 와중에 5월 24일 ‘발열과 전력 소비 등의 문제로 삼성전자의 HBM이 테스트를 통과하지 못했다’는 로이터통신 보도까지 나왔다. 삼성전자는 극히 이례적으로 “HBM은 고객사의 필요에 맞춰 최적화 과정이 필요하며 고객사들과 긴밀히 협조하고 있다”는 입장문까지 즉각 내며 반박했다. 그럼에도 5월 말 주가는 7만3500원까지 하락했다. “‘기술의 삼성’이 ‘언플의 삼성’이 됐다”는 비아냥마저 나오며 삼성 위기론이 또다시 확대 재생산됐다.

수장 바꾼 삼성전자 vs SK하이닉스는 TSMC와 연합

▎2024년 3월 GTC에 참석한 젠슨 황 엔비디아 CEO가 AI 세상의 미래를 역설하고 있다. 이제 반도체 산업은 엔비디아와 어떤 규모와 형태로 연대할 수 있느냐에 따라 비전이 확보되는 상황이다. / 사진:AFP연합뉴스

이런 흐름을 반전시킨 이는 뜻밖에도 엔비디아 황 CEO였다. 6월 4일 대만 타이베이를 찾은 황 CEO는 “삼성전자의 HBM은 아직 어떤 인증 테스트에도 실패한 적이 없다. 다만 더 많은 엔지니어링 작업이 필요하다”고 단언하며 삼성전자의 활로를 열어뒀다.

이 시국에 이재용 회장은 삼성전자 반도체 수장을 전격 교체하는 강수를 뒀다. 5월 21일 DS 부문장으로 전영현 미래사업기획단장(부회장)을 임명한 것이다. 기존 경계현 부문장과 자리를 맞바꾸는 모양새를 취했다. 연말 정기인사 관례를 깬 원 포인트 개편은 이건희 전 회장 시절인 2011년 7월 여름 인사 이후 13년 만에 나온 파격이다. 훗날 삼성전자반도체에 초격차 개념을 정리한 권오현 전 회장이 이때 사장으로 중용됐었다.

익명을 요청한 삼성 출신 인사는 “삼성전자는 늘 기술력과 인적 자원을 염두에 두고 15년 계획을 세웠다. 하지만 사법 리스크 이후 지금 그런 컨트롤 타워가 있는지 의심스럽다”고 우려했다. 일각에서는 “이 회장의 복심으로 알려진 정현호 부회장(삼성전자 사업지원TF장)은 엔지니어 출신이 아니다. 그 결과 삼성전자가 기술보다 재무에 무게중심을 실은 것 아닌가”라는 시선도 없지 않다.

파운드리에서 고전을 면치 못하는 와중에, 본진인 D램까지 흔들리며 ‘1등 삼성’에 대한 이미지가 흔들리는 상황에서 전영현 부회장은 7년 만에 구원투수로 등판했다. 전 부회장에 대해 삼성 안팎에선 “삼성전자의 위기 때마다 항상 거론되는 카드였다. D램과 낸드플래시 경쟁력 위기를 돌파한 경험도 갖췄다”는 호평이 들린다. 다만 “전 부회장의 리더십 스타일이 2024년에도 호환될지 여부는 미지수”라는 단서가 붙는다.

전 부회장에게 부여된 시급한 책무는 AI 열풍에서 삼성전자가 소외된 상황을 타개하는 것부터다. 프랑스의 IT시장조사업체 욜 그룹에 의하면, 2023년 55억 달러 수준이었던 HBM 시장은 2024년 140억 달러로 팽창했다. 이것이 2029년에는 380억 달러까지 확장할 것으로 예상된다.

이 전장에서 곽노정 SK하이닉스 CEO는 “(6세대인) HBM4의 양산 시기를 2025년으로 1년 앞당기겠다”고 선언했다. 특히 주목할 지점은 패키징 분야에서 대만 TSMC와의 연합이다. SK하이닉스 관계자는 “HBM에 붙는 베이스 다이의 패키징을 그동안 SK하이닉스가 자체적으로 해왔는데, 5세대인 HBM4부터는 TSMC와 협력할 것”이라고 밝혔다. 또 최태원 SK 회장은 지난 4월 미국 인디애나주에 후공정 패키징 공장을 설립할 계획을 내비쳤다. 차세대 HBM 생산기지로 삼겠다는 복안이다.

역사적으로 삼성전자는 고비마다 ‘패스트 팔로어’ 전략으로 전세를 뒤엎었다. 어떤 사업의 가치를 확신하면, 엄청난 물량과 속도를 앞세워 1등의 지위를 뺏는 방식이다. 삼성전자는 메모리, 파운드리, 시스템LSI, 설계, 패키징 역량을 모두 갖춘 세계 유일의 IDM(종합반도체) 회사다. ‘넓은 전선’은 약점으로 작용할 때도 있지만, 서로 보완 가능한 이점도 발생한다. 과거 삼성전자가 반도체~모바일~가전 3각 편대로 리스크를 분산한 것과 흡사한 효과다.

삼성전자의 주력인 D램과 낸드플래시는 대표적인 시클리컬 업종이다. 생산능력(Capacity)과 설비투자(Capax)에서 SK하이닉스 등 경쟁 업체보다 총알(자금력)에서 우세하다. 시황이 좋아지면, 경쟁사에 비해 영업이익의 사이즈부터 다르다. HBM 역시 표준을 SK하이닉스에 뺏겼지만, 주문 물량과 시기의 문제일 뿐 세컨드 밴더로서 엔비디아 공급은 여전히 유력하다.

이재용 삼성전자 회장이 혜안 발휘할 때

삼성전자는 숱한 도전에 슬기롭게 응전하며 독보적 해자를 구축했다. 하지만 HBM이라는 최첨단 분야에서 ‘축적의 시간’을 갖지 못하며 미증유의 위기에 직면했다. 그렇더라도 삼성의 기술력과 자금력이면 못 쫓아갈 격차는 아니라는 것이 중평이다. 오히려 “삼성전자의 진짜 환부는 과거와 다른 조직문화, 노조 대응, 정부와의 소통 등을 망라한 급변하는 환경 속에서 어떻게 혁신 본능을 되찾느냐”라는 것이 다수 전문가의 견해다.

6월 미국 출장에서 마크 저커버그 메타 CEO, 앤디 제시 아마존 CEO, 크리스티아노 아몬 퀄컴 CEO 등을 만나고 돌아온 이 회장은 “(기술 초경쟁시대에) 삼성의 강점을 살려 삼성답게 미래를 개척하자”고 역설했다. 삼성이 한국 경제에서 차지하는 위상을 고려할 때, 이 회장의 다짐은 곧 대한민국의 성쇠와 직결된 사안이기도 하다.

- 김영준 월간중앙 기자 kim.youngjoon1@joongang.co.kr