2월26일 미국 반도체 기업 마이크론이 깜짝 뉴스를 발표했다. 반도체 업계 최초로 5세대 고대역폭 메모리(HBM) 양산에 성공했다는 소식이다. HBM은 AI 개발에 필수적인 부품으로, 현재는 4세대가 가장 고성능 제품이다. 마이크론은 HBM 경쟁에서 SK하이닉스와 삼성전자를 이은 만년 3위였기에 이날 발표는 기대와 동시에 의구심을 불러일으켰다.

마이크론 소식이 한국에 전해진 2월27일, 공교롭게 삼성전자도 5세대 HBM 개발 소식을 알렸다. 마이크론이 양산에 성공했다는 HBM과 같은 세대이지만, 삼성 쪽 용량이 더 크다. 삼성전자는 “AI 서비스의 고도화로 데이터 처리량이 급증하는 상황 속에서 AI 플랫폼을 활용하는 다양한 기업들에게 최고의 솔루션이 될 것으로 기대된다”라고 자평했다.

반도체는 크게 시스템 반도체와 메모리 반도체로 나뉜다. 시스템 반도체는 계산(연산)을 담당하고, 메모리 반도체는 정보 저장을 맡는다. HBM은 메모리 반도체의 일종이다. AI 학습을 위해 필요한 데이터를 시스템 반도체에 제공하는 역할을 한다. AI가 발전하며 학습량이 대폭 늘어나고 있기 때문에, 메모리 반도체의 데이터 용량과 전송속도 역시 고도화되고 있다.

저장용량과 전송속도를 늘리기 위한 가장 직관적인 방법은 메모리칩을 수평으로 더 많이 배치하는 것이다. 그런데 이 방법은 비효율을 발생시킨다. 수평으로 더 많은 메모리칩을 연결하면 전달 경로가 길어져 데이터 처리에 부하가 생길 수 있다.

HBM은 이러한 비효율 문제에서 자유롭다. HBM은 메모리칩(D램)을 수평으로 배치하는 것이 아니라 수직으로 쌓아 올린다(〈그림〉 참조). 비유하자면 1층짜리 건물을 많이 짓는 대신 고층 건물을 몇 개만 짓는 것이다. D램을 수직으로 쌓음으로써 HBM은 데이터 전달 경로를 혁신적으로 줄일 수 있으며, 저장용량과 전송속도라는 두 마리 토끼를 모두 잡을 수 있다.

당연히 D램을 쌓는 일 자체로는 HBM을 만들 수 없다. 고층 건물을 지을 때 각 층을 연결해주는 엘리베이터가 필수이듯, 여러 단으로 쌓인 메모리칩을 연결해줄 기술이 필요하다. 여기서 사용되는 기술이 실리콘 관통 전극(TSV)이다. 여러 단으로 연결된 D램들에 수직으로 관통하는 구멍을 뚫고 이 공간을 전도성 재료(전기가 통하는 재료)로 채워서 각 메모리칩을 연결한다. HBM은 이 구멍이 1024개에 이른다. 고층 빌딩에 엘리베이터가 1024개 있는 것과 같다. 또 다른 그래픽카드 특화 메모리 반도체인 GDDR의 정보 전달 통로가 32개인 것에 비하면 압도적인 숫자다. 연결 통로가 기하급수적으로 늘어난 만큼, 단위 시간당 전송할 수 있는 데이터의 양이 비례해 증가한다.

SK하이닉스 위협하는 삼성전자·마이크론

2022년 챗지피티(ChatGPT)의 등장 이후 AI가 산업으로서 주목을 받으며 HBM에 대한 수요도 큰 폭으로 증가했다. 공급이 따라잡지 못할 만큼 수요가 폭발적으로 증가하고 있다. 미국 시장조사기관 가트너는 2022년 11억 달러 수준이던 HBM 시장규모가 2025년엔 50억 달러 수준으로 성장할 것이라고 예측했다.

현재 HBM 시장에서 가장 앞서 나가는 기업은 SK하이닉스다. 2021년 10월 최초로 개발에 성공해 2022년 6월 양산하기 시작한 4세대 제품 ‘HBM3’은 AI 산업 성장 국면에서 SK하이닉스가 주도권을 잡는 데 결정적인 기여를 했다. 현재 가장 각광받는 AI 반도체는 엔비디아의 그래픽 처리장치(GPU) H100인데, SK하이닉스는 H100에 들어가는 HBM3을 독점 공급하고 있다.

물론 현재 상황을 SK하이닉스의 독주라고 볼 수는 없다. 점유율로만 따지면 지금의 4세대 HBM 시장은 삼성전자와 SK하이닉스가 사실상 양분하고 있다. 더욱이 5세대 HBM 경쟁은 점차 격화하고 있다. HBM은 세대가 올라갈수록 단위 시간당 데이터 전송량과 저장용량이 증대되기에, 차세대 HBM 개발·양산이 늦어진다면 시장 주도권을 뺏길 수 있다.

만년 3위 기업 마이크론은 두 회사 간의 경쟁에 5세대 HBM(HBM3E)을 들고 뛰어들었다. 마이크론의 신제품은 메모리칩을 8층(8단)으로 쌓아 올렸다. 올해 상반기 출시 예정인 엔비디아 차세대 GPU H200에 탑재될 예정이다. 

삼성전자가 개발 완료를 알린 HBM3E는 12단 제품이다. 마이크론의 신제품과 같은 5세대 HBM이지만, 삼성전자의 이 반도체는 D램을 더 많이 쌓아 올렸기 때문에 그만큼 더 큰 용량을 자랑한다. 삼성전자는 시스템 반도체부터 메모리 반도체, 후공정까지 반도체에 관련한 모든 과정을 담당할 수 있는 기업이다. 이 가운데 가장 강점을 가진 분야는 HBM과 같은 메모리 반도체다. 다만 최근 첨단 HBM 개발 및 양산에서 SK하이닉스에 밀리는 모습을 보여왔다. 삼성전자의 12단 HBM3E 최초 개발은 HBM 시장에서 선두로 올라서겠다는 의지의 표현으로 해석된다.

마이크론과 삼성전자가 연달아 새로운 소식을 전하던 시기, SK하이닉스는 별다른 소식을 발표하지 않았다. HBM 시장 강자인 SK하이닉스가 차세대 경쟁에서 밀리고 있다는 의미일까. 반도체 업계의 생리를 고려한다면 그렇지 않을 확률이 크다. HBM은 GPU의 일부 구성 요소이고, 반도체 업계와 같은 제조업에선 ‘양산 가능’과 ‘양산 능력’ 사이에 꽤 큰 간극이 있기 때문이다.

먼저 HBM이 GPU의 구성 요소란 사실을 고려해보자. 고성능 HBM을 개발했다고 하더라도 이를 탑재할 GPU가 없다면 이는 실질적 매출로 연결되지 않는다. 반대로 말하면, HBM을 탑재할 GPU의 출시 일정에 맞춰 양산 능력을 갖추기만 하면 경쟁사 간 개발 순서는 결정적인 변수가 되기 어렵다. 삼성전자가 개발을 완료한 12단 HBM3E의 경우, 현재 탑재 예정인 모델이 없다. 시장에서는 2025년부터 12단 HBM3E가 본격 활용될 것이라고 예상한다. 따라서 해당 제품을 최초로 개발했다는 소식이 지금 시점에서 큰 의미를 갖기는 어렵다.

이에 비해 마이크론의 이번 8단 HBM3E는 당장 올 상반기 출시될 엔비디아 GPU에 탑재될 예정이다. ‘마이크론이 5세대 HBM 시장을 선점했다’란 표현이 가능한 이유다. 하지만 마이크론의 발표에 대해서는 해석이 갈린다. 마이크론은 HBM 경쟁에서 SK하이닉스와 삼성전자에 현격히 뒤졌다는 평가를 받아왔다. 이 회사는 4세대 HBM도 양산하지 못했다. 다수 전문가들은 마이크론이 정말 HBM3E 양산 능력을 가졌는지 의구심을 표한다.

2년 반 만에 끝난 ‘반도체의 겨울’

반도체 생산은 첨단기술 산업인 동시에 제조업의 성격을 강하게 띤다. 기술개발도 중요하지만, 실제로 불량률이 낮게 반도체를 양산할 수 있는 노하우도 중요하다는 의미다. 특히 D램을 수직으로 쌓아 올리는 HBM에서 불량률 문제는 치명적이다. 여러 겹으로 쌓아 올린 D램 중 한 곳에서 불량이 발생하면 전체 HBM을 사용하지 못하기 때문이다. 만약 D램에서 평균 1%로 불량품이 발견된다고 한다면, 단순 계산했을 때 8단 HBM 제품에서는 불량률이 7.7%로 치솟는다. 다량의 HBM을 성공적으로 양산해본 경험이 적은 마이크론이 경쟁자들을 제칠 가능성은 낮다고 여겨지는 이유다.

마이크론의 발표로부터 약 3주 후인 3월19일, SK하이닉스는 8단 HBM3E 양산 성공 소식을 알렸다. 지난해 8월21일 개발에 성공한 지 약 7개월 만의 일이다. SK하이닉스가 “세계 최초로 양산”에 성공했다고 발표한 점은 특기할 만하다. SK하이닉스보다 앞서 마이크론이 양산 성공을 알렸지만 해당 발표에 의구심을 보인 것으로 해석된다. 반도체 업계 관계자는 “마이크론은 양산 소식을 전하며 ‘세계 최초’라는 표현도 사용하지 않았다. ‘양산’이란 단어를 사용하긴 했지만 업계에서 말하는 일반적인 의미는 아니라는 해석이 지배적이다”라고 말했다.

지난 2년 반은 ‘반도체의 겨울’이라고 불렸다. 메모리 반도체는 시장 상황이 좋을 때와 나쁠 때가 극명히 갈리는 분야다. 업황이 좋을 때는 수요가 공급을 압도하며, 가격이 치솟는다. 이에 따라 기업들은 메모리 반도체 생산능력을 확충한다. 반면 시간이 지나면 생산능력은 늘어나는 한편 수요는 점차 줄어든다. 결국 공급 과잉이 찾아와 재고가 쌓이고, 기업들은 감산에 들어간다. 2021년 4분기부터 시작된 메모리 반도체의 불황으로 삼성전자와 SK하이닉스의 관련 매출과 영업이익이 급감했다. 이 시기 HBM은 반도체 기업들에 한줄기 빛이었다. 업계 불황에도 불구하고 HBM 수요는 치솟으며 충격을 견딜 힘을 불어넣었다.

2024년 현재, 반도체의 겨울은 끝나가고 있다. 과학기술정보통신부가 발표한 ‘2024년 1월 정보통신산업 수출입 동향’에 따르면, 메모리 반도체 수출액은 전년 대비 90.5% 증가했다. 다시 찾아온 봄, 반도체 기업들은 미래 먹거리 경쟁을 시작했다. 과연 누가 HBM 경쟁의 승자가 될까. 2024년 상반기는 반도체 기업들에게 결정적인 시기가 될 전망이다.