GPU 옆에 SSD를 붙인다? AI 반도체의 다음 카드 'HBF' 쉽게 정리

도입

GPU 32개로 돌리던 AI 작업을 단 2개로 줄였습니다. 같은 모델, 같은 결과를 더 빠른 속도로요. SK하이닉스가 자체 시뮬레이션에서 공개한 숫자입니다. 비결은 더 강력한 GPU가 아니었어요. 그 옆에 새로 붙이는 메모리 한 종류였습니다. 요즘 AI 반도체 업계의 화제 한가운데에 있는 이름, 바로 HBF(High Bandwidth Flash)인데요. 도대체 이게 뭐길래 이렇게 시끄러운 걸까요.

핵심 내용 요약

한 줄로 요약하면 이렇습니다. HBF는 "GPU 옆에 직접 붙이는 거대 용량 플래시 메모리"입니다. 지금까지 AI 칩 옆에 붙던 HBM(고대역폭 메모리)이 빠른 D램으로 채워졌다면, HBF는 같은 적층 패키징을 그대로 가져오되 그 안을 NAND 플래시로 채워요. 결과는요? HBM 대비 용량이 약 8~16배인데 대역폭은 비슷합니다. SK하이닉스는 HBM 단독 대비 동시 쿼리 처리량이 최대 18.8배 늘고, 와트당 성능이 2.69배 올랐다는 시뮬레이션을 공개했어요.

쉽게 풀어 설명

비유로 풀어볼게요. AI 모델은 음식을 만드는 주방 같은 거예요. GPU는 셰프, HBM은 셰프 손이 닿는 작업대 위 재료 트레이입니다. 빠르고 가깝지만, 좁아요. 반대로 SSD는 지하 창고예요. 어마어마한 양을 쌓아둘 수 있지만 갔다 오는 데 시간이 걸리죠.

HBF는 그 사이에 놓이는 "주방 옆 대용량 냉장고"입니다. 작업대만큼 빠르진 않아도, 작업대보다 훨씬 큰 양을 손 닿는 거리에 둘 수 있어요. 거대 LLM을 통째로 GPU 옆에 올려두고 부르면 곧장 꺼내 쓰는 식이죠.

기술적으로는 NAND 플래시 다이를 TSV(실리콘 관통 전극) 기술로 수직 적층해서, 인터포저 위에 GPU와 나란히 올리는 구조예요. HBM이 쓰던 패키징 노하우를 그대로 빌려옵니다. 샌디스크와 SK하이닉스는 2025년 8월 함께 표준화하기로 손을 잡았고, 2026년 2월 25일에는 미국 캘리포니아 밀피타스에서 OCP(Open Compute Project) 산하에 정식 표준화 워크스트림을 띄웠어요. 첫 샘플은 2026년 하반기, 첫 AI 추론 디바이스는 2027년 초가 목표입니다.

영향 분석

왜 지금 갑자기 떠들썩한 걸까요. 답은 "AI의 무게중심이 학습에서 추론으로 옮겨가고 있어서"입니다. 지금까지 AI 반도체의 주 무대는 모델을 학습시키는 GPU였어요. 그런데 ChatGPT, 클로드 같은 거대 모델이 이미 만들어졌고, 이제는 이걸 매일 수억 명이 쓰는 추론(inference) 단계로 무게추가 옮겨갔습니다. 추론에서는 모델 전체를 메모리에 올려두는 게 핵심이라, "얼마나 많은 데이터를 GPU 가까이에 둘 수 있느냐"가 곧 비용과 속도를 결정해요.

HBM만 쓰면 용량이 부족하고 비싸요. SSD를 쓰면 너무 느립니다. HBF는 정확히 그 사이를 메우는 새 카드이고, 그래서 추론 시대의 "메모리 월(memory wall)" 문제를 풀어줄 후보로 지목받고 있죠.

기업 구도도 흥미롭습니다. SK하이닉스가 샌디스크와 함께 표준화 선두를 잡은 가운데, 삼성전자는 아직 구체 행보를 공개하지 않은 상태예요. 일본 키옥시아(Kioxia)도 참전 채비 중입니다. AI 메모리 패권 경쟁이 HBM에서 HBF로 한 단계 더 넘어가는 모양새고요.

한 줄 정리

HBF는 "AI 칩 옆에 붙이는 새 대용량 메모리"이고, 학습에서 추론으로 넘어가는 AI 시대에 GPU 옆에 테라바이트를 통째로 붙이는 카드가 될 가능성이 높습니다.

출처

• SK hynix Newsroom — Global Standardization of HBF (2026-02-25)
• Tom's Hardware — Sandisk·SK hynix HBF, 8~16x capacity vs HBM
• EE Times — NAND Reimagined in High-Bandwidth Flash to Complement HBM
• TrendForce — SK hynix HBF AI Chip Architecture, 2.69x perf/W
• 경향신문 — "이젠 HBF" SK하이닉스 시장 선점 잰걸음