HBM의 뒤를 잇는 차세대 AI 핵심 메모리, HBF(High Bandwidth Flash) 완벽 정리

HBM의 뒤를 잇는 차세대 AI 핵심 메모리, HBF(High Bandwidth Flash) 완벽 정리

전 세계 IT 업계를 이끌고 있는 주인공이 고대역폭 메모리인 HBM(High Bandwidth Memory)이라는 사실은 이제 모두가 잘 알고 있습니다. 그런데 최근 반도체 업계에서 HBM의 치명적인 약점을 보완할 새로운 다크호스로 주목받는 기술이 있습니다. 바로 HBF(High Bandwidth Flash, 고대역폭 플래시메모리)입니다.

샌디스크, SK하이닉스 등 글로벌 기업들이 앞다투어 표준화를 추진하고 있는 HBF가 과연 무엇인지, 그리고 왜 AI 시대의 새로운 열쇠로 꼽히는지 알기 쉽게 풀어 드립니다.

---

1. HBF란 무엇일까? (개념 잡기)

HBF는 우리말로 '고대역폭 플래시메모리'라고 부릅니다. 아주 쉽게 요약하자면 다음과 같습니다.

한 줄 요약
"HBM이 'DRAM(램)'을 쌓아 만든 초고속 메모리라면, HBF는 'NAND Flash(낸드 플래시, SSD의 원료)'를 쌓아 만든 대용량 메모리"입니다.

기존의 낸드 플래시(NAND)는 전원이 꺼져도 데이터가 반영구적으로 저장되는 든든한 '대형 창고' 같은 존재였습니다. 하지만 데이터를 주고받는 통로가 좁아 속도가 느리다는 치명적인 약점이 있었습니다. HBF는 이 거대한 창고에 고대역폭 패키징 기술을 입혀, '엄청난 대용량'을 유지하면서도 '속도'까지 획기적으로 끌어올린 혁신적인 차세대 메모리 계층입니다.

2. HBF가 탄생하게 된 배경: HBM의 치명적인 한계

현재 인공지능(AI) 구동에는 엔비디아의 GPU 옆에 HBM을 짝지어 사용하는 것이 정석처럼 여겨집니다. 하지만 ChatGPT 같은 거대언어모델(LLM)이 비약적으로 커지면서 두 가지 치명적인 문제가 발생했습니다.

• 용량의 한계: D램 기반인 HBM은 속도가 우주선처럼 빠르지만, 한 번에 담을 수 있는 데이터 용량이 매우 제한적입니다. 수천억 개의 매개변수(파라미터)를 다뤄야 하는 초대형 AI 모델 전체를 HBM에 다 담기에는 턱없이 부족합니다.
• 살인적인 가격: HBM은 제작 공정이 극도로 까다로워 가격이 일반 메모리의 수십 배에 달합니다. 이를 데이터 센터 전체에 무한정 늘리기에는 비용 감당이 되지 않습니다.

이때 "용량이 크고 가격이 저렴한 낸드 플래시(NAND)를 HBM처럼 초고속으로 만들어서 쓰면 어떨까?" 하는 아이디어에서 탄생한 구원투수가 바로 HBF입니다.

3. HBF의 작동 원리: 낸드에 HBM의 옷을 입히다

HBF는 낸드 플래시 칩을 수직으로 고층 아파트처럼 적층한 뒤, HBM의 핵심 기술인 TSV(실리콘 관통 전극) 공법을 동일하게 적용합니다. 칩에 머리카락보다 미세한 구멍을 뚫어 수천 개의 데이터 초고속 통로를 다이렉트로 뚫어버리는 것입니다.

기존 낸드 플래시가 편도 1차선 시골길로 데이터를 찔끔찔끔 보내던 스토리지였다면, HBF는 수천 차선의 초고속 고속도로를 뚫어 고용량 데이터를 한 번에 쓸어 담는 장치가 된 셈입니다.

여기에 HBF는 멀리 떨어진 저장장치 슬롯이 아니라, GPU 바로 옆 기판(인터포저) 위에 HBM과 나란히 배치됩니다. 이 덕분에 기존 SSD와 비교가 불가능할 정도의 대역폭과 극도로 짧은 지연 시간을 실현하게 되었습니다.

4. HBF의 주요 장점과 단점 (빛과 그림자)

[장점]

• 독보적인 고용량 (HBM의 8~16배): 디램 기반의 HBM 대비 압도적인 저장 용량을 자랑합니다. 거대한 AI 추론(Inference) 모델을 메모리 안에 한 번에 적재해 올려둘 수 있어 시스템 효율을 대폭 올립니다.
• 놀라운 가격 경쟁력: 낸드 플래시 기반이기에 기가바이트(GB)당 생산 단가가 HBM에 비해 획기적으로 저렴합니다.
• 극강의 전력 효율: 용량 대비 전력 소비량이 매우 낮아, 전력난에 시달리는 데이터 센터의 숨통을 틔워 줍니다.

[단점/과제]

다만 낸드 플래시 고유의 성질을 공유하기 때문에 '수명 제한(쓰기 횟수 한계)'이 존재한다는 점과, 읽기 속도 대비 '상대적으로 느린 쓰기 속도'는 향후 업계가 극복해 나가야 할 주요 과제로 꼽힙니다.

5. 앞으로의 전망: HBM의 대체가 아닌 보완재

HBF는 HBM을 완벽히 밀어내고 대체하는 기술이 아닙니다. 컴퓨터 시스템 내에서 "가장 빠르지만 용량이 적고 비싼 HBM"과 "느리지만 대용량인 일반 SSD" 사이에 존재하던 거대한 틈새를 메우는 역할을 합니다. 즉, AI 두뇌 바로 옆에서 가장 핵심 연산은 HBM이 돕고, 바로 그 뒤에서 거대한 AI 지식 데이터 세트를 초고속으로 대기시키고 공급하는 역할을 HBF가 전담하게 되는 시너지를 발휘하는 구조입니다.

현재 반도체 업계는 SK하이닉스와 샌디스크를 중심으로 HBF 글로벌 표준화 협력을 본격화하며 미래 시장 선점에 속도를 내고 있습니다. 그로인해 노트북, 데스크탑에 쓰이는 부품이 가격이 많이 상승한 부분은 소비자에게 가격부담이 되는 상황입니다.

하지만 머지않은 미래에 AI 서버의 메인 심장 옆에서 HBM과 HBF가 나란히 빛날 날을 기대해 봅니다.