SK하이닉스 곽노정 대표이사 사장이 4일 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋(Summit) 2024’에서 ‘차세대 AI 메모리의 새로운 여정, 하드웨어를 넘어 일상으로'를 주제로 한 기조 연설에 나섰다.

이 자리에서 곽 사장은 현존 HBM 최대 용량인 48GB(기가바이트)가 구현된 16단 HBM3E 개발을 세계 최초로 공식화했다. 이는 기존 12단을 넘어선 HBM3E 최고층 제품이다.

HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품이다.

HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됐다. 기존 12단 HBM3E의 용량은 3GB D램 단품 칩 12개를 적층한 36GB였다.

최태원 SK 회장, 유영상 SK텔레콤 CEO 등 SK그룹 최고경영진과 주요 빅테크, AI 업계 유력인사들이 참석한 이날 행사에서 곽 사장은 시간의 흐름에 따른 메모리의 개념 변화를 설명하고, AI 시대를 이끌어 가고 있는 SK하이닉스의 기술력과 제품을 소개한다.

곽 사장은 “고객과 파트너, 이해관계자들과 긴밀히 협력해 ‘풀스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’로 성장하겠다”고 미래 비전을 제시했다.

다음은 곽 사장의 기조 연설 주요 내용

시간의 흐름에 따른 메모리의 개념 변화

과거, 인류는 오래 전부터 기억을 저장하고 전달하기 위해 벽화와 종이 등 여러 가지 도구를 사용해 왔다. 이 도구들이 지속 발전해 현재의 PC와 스마트폰 등 전자기기에 이르렀으며, 이제 우리의 기억은 전자기기 속 메모리 반도체를 통해 데이터로 변환되고 있다.

이 시기까지의 데이터는 개인의 PC와 스마트폰에서 각각 별개로 존재했다. 이렇듯 과거의 메모리는 ‘개인적 메모리(Personal Memory)’라고 할 수 있다.

현재, 클라우드와 SNS가 대중화되며 데이터들이 서로 공유되고 있다. 특히 챗GPT의 등장을 기점으로 데이터 간 연결성은 AI 시대를 가속화하는 핵심 요소가 됐다. 이처럼 현재의 메모리는 ‘연결된 메모리(Connected Memory)’라고 정의할 수 있다.

미래, 앞으로 본격화될 AI 시대에는 메모리가 ‘창의’와 ‘경험’으로 확장된 의미를 가지게 될 것이다. 과거의 데이터를 학습하고, 이를 기반으로 새로운 데이터를 추론하는 AI가 인류에게 새로운 경험과 미래를 선물할 것이기 때문이다.

이것이 SK하이닉스가 내다보는 미래의 ‘창의적 메모리(Creative Memory)’이며, 이런 변화는 강력한 컴퓨팅 파워를 지원하는 차세대 메모리 반도체 없이는 실현될 수 없다.

AI 시대를 준비하는 SK하이닉스의 제품과 기술력

당사는 현재 세계 최초로 개발, 양산하고 있는 ‘월드 퍼스트(World First)’ 제품을 다양하게 준비 중이며, 최고의 경쟁력을 갖춘 ‘비욘드 베스트(Beyond Best)’ 제품을 계획하고 있다. 또한 AI 시대에 시스템 최적화를 위한 ‘옵티멀 이노베이션(Optimal Innovation)’ 제품을 선보일 예정이다.

World First, HBM4부터 16단 시장이 본격적으로 열릴 것으로 보이며, 이에 대비해 당사는 기술 안정성을 확보하고자 48GB 16단 HBM3E를 개발 중이며, 내년 초 고객에게 샘플을 제공할 예정이다.

16단 HBM3E를 생산하기 위해 당사는 12단 제품에서 양산 경쟁력이 입증된 어드밴스드(Advanced) MR-MUF 공정을 활용할 계획이며, 백업 공정으로써 하이브리드 본딩(Hybrid bonding) 기술도 함께 개발하고 있다.

MR-MUF(Mass Reflow-Molded Under Fill): 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적이라는 평가. 특히, SK하이닉스의 어드밴스드 MR-MUF는 기존 공정보다 칩을 쌓을 때 가해지는 압력을 줄이고, 휨 현상 제어(Warpage control)도 우수해 안정적인 HBM 양산성을 확보하는 데 핵심이 되고 있다.

16단 HBM3E는 내부 분석 결과 12단 제품 대비 학습 분야에서 18%, 추론 분야에서는 32% 성능이 향상됐다. 향후 추론을 위한 AI 가속기 시장이 커질 것으로 예상되는 가운데, 16단 HBM3E는 향후 당사의 AI 메모리 No.1 위상을 더욱 공고히 해줄 것으로 기대된다.

Beyond Best, 당사는 저전력 고성능을 강점으로, 향후 PC와 데이터센터에 활용될 것으로 전망되는 LPCAMM2 모듈을 개발하고 있으며 1cnm 기반 LPDDR5와 LPDDR6를 개발 중이다. 또, 낸드에서는 PCIe 6세대 SSD와 고용량 QLC 기반 eSSD, 그리고 UFS 5.0을 준비 중이다.

▲ 셀 하나에 1비트를 저장하는 SLC(Single Level Cell), ▲ 2비트를 저장하는 MLC(Multi Level Cell), ▲ 3비트를 저장하는 TLC(Triple Level Cell), 4비트를 저장하는 QLC로 구분됨. 동일한 셀을 가진 SLC 대비 QLC는 4배 더 많은 데이터를 저장할 수 있어 고용량을 구현하기 용이하고, 생산원가 효율성도 높다.

더 나아가 당사는 HBM4부터 베이스 다이(Base Die)에 로직 공정을 도입할 예정임. 글로벌 1위 파운드리 협력사와의 원팀 파트너십을 기반으로 고객에게 최고의 경쟁력을 갖춘 제품을 제공하겠다.

Optimal Innovation, 커스텀(Custom) HBM은 용량과 대역폭, 부가 기능 등 고객의 다양한 요구를 반영해 성능을 최적화한 제품으로, 향후 AI 메모리의 새로운 패러다임이 될 것이다.

한편, AI 시스템 구동을 위해서는 서버에 탑재된 메모리 용량이 대폭 증가해야 한다. 이를 위해 당사는 여러 메모리를 연결해 대용량을 구현하는 CXL을 준비 중이며, 초고용량 QLC eSSD를 개발해 고객이 더 많은 데이터를 더 작은 공간에서 저전력으로 이용할 수 있도록 준비하겠다.

마지막으로, 당사는 메모리 병목 현상을 극복하기 위해 메모리에 연산 기능을 더하는 기술을 개발하고 있다. PIM(Processing in Memory), 컴퓨테이셔널 스토리지(Computational Storage) 같은 기술은 초거대 데이터를 다루게 될 미래의 필수 기술로, 차세대 AI 시스템의 구조를 바꾸는 큰 도전이자 AI 업계의 미래가 될 것이다.

Wrap up

당사는 ‘World First, Beyond Best, Optimal Innovation’ 세 방향성을 미래 발전의 가이드라인으로 삼고, 고객과 파트너, 이해관계자들과의 긴밀한 다중(多重) 협력을 통해 ‘풀스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’를 목표로 지속 성장하도록 노력하겠다.

당사는 또, AI 시대에 전 영역에 걸친 AI 메모리 솔루션 라인업을 갖춤으로써 여러분과 함께 새로운 미래를 창조해 갈 준비가 되어 있음. 앞으로도 SK하이닉스의 발전을 응원해 주시기를 부탁 드린다.