AI 시대, 게임 체인저가 될 ‘고대역폭 플래시 메모리(HBF)’ 등장 임박
샌디스크와 SK하이닉스가 손잡고 AI 연산 능력을 획기적으로 향상시킬 차세대 메모리 기술, ‘고대역폭 플래시 메모리(High Bandwidth Flash, HBF)’ 개발에 나섰습니다. 이는 기존 AI 가속기에 사용되던 고대역폭 메모리(HBM)의 대안으로, 더 큰 용량과 에너지 효율성을 제공하여 AI 모델의 규모를 확장하고 데이터센터 운영 방식을 혁신할 잠재력을 지니고 있습니다.
HBF, DRAM 기반 HBM의 한계를 넘어설 대안
HBM은 빠른 속도로 데이터 처리가 가능하지만, 용량 확장에 한계가 있고 전력 소비가 높다는 단점이 있습니다. 반면 HBF는 낸드 플래시 메모리를 기반으로 하여 HBM과 유사한 패키징 설계를 유지하면서도, DRAM의 일부를 플래시 메모리로 대체하여 용량을 8배에서 16배까지 늘릴 수 있습니다. 또한, 낸드 플래시 메모리는 전원이 꺼진 상태에서도 데이터를 보존하는 비휘발성 특성을 가지고 있어 전력 소비를 줄이는 데 기여합니다.
더 커진 AI 모델, 더 낮은 전력 소비
AI 모델의 규모가 커질수록 더 많은 메모리 용량이 필요하며, 이는 데이터센터의 전력 소비 증가로 이어집니다. HBF는 이러한 문제를 해결할 수 있는 효과적인 대안입니다. 대규모 모델을 운영하는 하이퍼스케일 사업자는 HBF를 통해 데이터센터의 냉각 비용과 전력 예산을 절감할 수 있으며, 엄격한 전력 및 냉각 제한이 있는 환경에서도 AI 추론을 확장할 수 있습니다. 이는 AI 기술 발전의 새로운 가능성을 열어줄 것으로 기대됩니다.
‘LLM in a Flash’ 개념의 통합
HBF는 'LLM in a Flash'라는 연구 개념을 기반으로 합니다. 이 연구는 대규모 언어 모델(LLM)을 실행할 때 SSD를 추가 계층으로 활용하여 DRAM에 대한 부담을 줄이는 방식을 제시합니다. HBF는 이러한 로직을 하나의 고대역폭 패키지에 통합하여, SSD의 저장 용량과 AI 워크로드에 필요한 속도를 결합합니다. 이는 AI 연산의 효율성을 극대화하는 데 기여할 수 있습니다.
샌디스크의 HBF 프로토타입 공개 및 향후 전망
샌디스크는 Flash Memory Summit 2025에서 독자적인 BiCS 낸드와 웨이퍼 본딩 기술을 사용한 HBF 프로토타입을 공개했습니다. HBF 샘플 모듈은 2026년 하반기에 출시될 예정이며, HBF를 사용하는 첫 번째 AI 하드웨어는 2027년 초에 출시될 것으로 예상됩니다. SK하이닉스는 주요 AI 칩 제조업체인 엔비디아에 메모리를 공급하는 주요 업체로서, HBF 표준이 확정되면 HBF 채택을 가속화할 수 있을 것으로 기대됩니다.
경쟁 심화: 삼성과 엔비디아의 움직임
샌디스크와 SK하이닉스의 HBF 개발은 메모리 시장에 새로운 경쟁 구도를 형성하고 있습니다. 삼성은 플래시 기반 AI 스토리지 티어를 발표하고 HBM4 DRAM 개발을 지속하고 있으며, 엔비디아와 같은 기업은 DRAM 기반 설계에 집중하고 있습니다. 이러한 경쟁 속에서 HBF가 성공적으로 자리 잡는다면, DRAM, 플래시 메모리, 기타 영구 스토리지 유형이 공존하는 이기종 메모리 스택이 등장할 가능성도 있습니다.
결론
샌디스크와 SK하이닉스의 HBF 개발은 AI 기술 발전의 중요한 전환점이 될 수 있습니다. HBF는 더 큰 용량, 더 낮은 전력 소비, 그리고 잠재적인 비용 절감 효과를 통해 AI 모델의 규모를 확장하고 데이터센터 운영 방식을 혁신할 수 있는 가능성을 제시합니다. 향후 HBF 기술의 발전과 시장 경쟁 상황을 주시하며, AI 시대의 새로운 기회를 포착해야 할 것입니다.
