이 글은 HBM(고대역폭 메모리)의 기술적 진화와 AI 시대 도래가 메모리 산업의 판을 어떻게 바꾸었는지, 그리고 그 과정에서 삼성전자의 전략적 시행착오와 현재의 반격 가능성을 분석한다.
초기 HBM은 성능 대비 가격이 지나치게 비싸 시장에서 외면받았고, 삼성전자는 2019년 수익성 부족을 이유로 HBM 사업에서 철수했다. 그러나 AI의 급부상으로 성능이 가격보다 우선되는 시장 환경이 만들어지며 HBM은 필수 인프라가 되었다. 삼성전자는 이 변화를 늦게 인지해 경쟁사 대비 2년가량 뒤처졌고, 이는 ‘삼성의 흑역사’로 평가된다.
HBM은 소량 생산·고객 맞춤형 구조라는 점에서 대량 표준화에 강한 삼성의 기존 제조 DNA와 충돌했다. 그럼에도 불구하고 삼성은 HBM3E를 통해 엔비디아·브로드컴 납품에 성공하며 점유율 회복에 나섰고, 구글 TPU 등장이라는 새로운 변수 속에서 HBM4·HBM4E로의 반격 가능성이 제기되고 있다.
목차
1. HBM은 왜 초기에 실패했는가
HBM은 여러 개의 D램을 수직 적층해 데이터 전송 거리를 줄이는 고성능 메모리다.
초기 HBM은 최대 4층, 8GB 수준에 그쳐 성능 우위가 미미했다.
가격은 몇 배 비쌌지만 이를 활용할 초고성능 수요가 없어 가성비가 성립되지 않았다.
기술은 있었지만 시장이 없었다
초기 HBM은 성능 차이가 체감되지 않았다.
고사양 게임과 같은 킬러 콘텐츠가 부재했다.
결과적으로 수요 없는 고급 기술이 되었다.
삼성전자의 2019년 철수
수익성이 없다고 판단한 삼성은 HBM 사업에서 물러났다.
합리적 판단이었지만, 미래 수요를 놓쳤다.
이 결정은 이후 큰 전략적 공백으로 이어졌다.
2. AI의 등장과 HBM의 운명 반전
HBM3부터 성능은 비약적으로 개선되었다.
HBM3는 12층 24GB까지 적층되며 구조적 한계를 돌파했다.
전력 소모는 1/4 수준으로 낮아졌고, AI 연산에 최적화되었다.
수직 적층이 만든 물리적 혁신
GPU와 메모리 간 거리가 짧아졌다.
노이즈 간섭이 줄어 성능이 안정화됐다.
고속·저전력이라는 AI 최적 조건이 완성됐다.
AI는 가격보다 성능을 선택했다
AI 경쟁은 국가 단위로 격화됐다.
성능이 곧 패권이 되었다.
HBM은 선택이 아닌 필수가 되었다.
3. 삼성전자의 늦은 복귀와 구조적 한계
삼성은 2021년 HBM 재개를 결정했다.
그러나 이미 경쟁사는 앞서 있었다.
삼성 특유의 ‘선생산 후주문’ 방식은 HBM과 맞지 않았다.
HBM은 맞춤형 시장이다
고객사마다 요구 사양이 다르다.
표준화 대량 생산이 어렵다.
‘고급 단독주택’ 같은 산업 구조다.
삼성 DNA와의 충돌
삼성은 규모의 경제에 강하다.
HBM은 소량·고난도 대응이 핵심이다.
이 괴리가 장기간 삐걱거림을 만들었다.
4. HBM3E 돌파와 경쟁 구도의 변화
삼성은 HBM3를 건너뛰고 HBM3E에 집중했다.
2025년 3분기, 엔비디아와 브로드컴에 납품에 성공했다.
점유율은 다시 상승 국면에 진입했다.
구글 TPU라는 새로운 변수
구글은 TPU를 외부 판매하기로 결정했다.
GPU 독점 구조에 균열이 생겼다.
AI 칩 경쟁은 다극화되고 있다.
메모리 기업에게는 기회
GPU든 TPU든 HBM은 필수다.
삼성전자와 SK하이닉스의 역할은 유지된다.
한국 반도체 산업의 전략적 의미는 더 커졌다.
5. HBM4와 2026년을 향한 변수
삼성의 HBM4는 SiP 테스트에서 고속 성능을 기록했다.
발열 문제도 개선되었다는 보도가 나왔다.
2026년 TPU v8 경쟁에서 가능성이 제기된다.
한 장 요약
- HBM은 AI 시대의 핵심 메모리
- 초기엔 비싸서 실패, AI로 부활
- 삼성은 철수 후 늦게 복귀
- HBM은 맞춤형 산업 구조
- HBM3E로 반격 시작
- HBM4는 2026년 승부처
오늘의 사유
기술의 가치는 기술 자체가 아니라, 그것을 필요로 하는 시대가 결정한다. HBM은 너무 일찍 태어나 외면받았고, AI라는 거대한 파도가 밀려오자 비로소 무대의 중심에 섰다. 삼성전자의 시행착오는 한 기업의 실패라기보다, 미래를 예측하기 어려운 산업의 본질을 보여준다. 지금의 경쟁은 단순한 점유율 싸움이 아니라, 한 국가의 생존과 연결된 문제다.