SK하이닉스가 지난 9일부터 나흘간 미국 캘리포니아주 새너제이(San Jose)에서 열린 ‘AI Hardware & Edge AI Summit 2024(이하 AI 하드웨어 서밋)’에 참가했다. AI 하드웨어 서밋은 글로벌 IT 기업과 유망 스타트업 등이 참가해 최신 기술과 연구 결과를 공유하고 네트워킹을 통해 산업 내 협력 기회를 모색하는 자리다.

▲ AI 하드웨어 서밋에 설치된 SK하이닉스 부스 모습

회사는 이번 AI 하드웨어 서밋에서 ‘데이터센터부터 엣지 디바이스*까지, AI 성능을 가속하는 AiM*(Boost Your AI: AiM is What You All Need From Data Center to Edge Device)’이라는 슬로건을 걸고, 가속기 카드인 AiMX* 등 AI 시대를 위한 기술을 선보였다.

* AiM(Accelerator-in-Memory): SK하이닉스의 PIM 반도체 제품명, PIM은 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
* 엣지 디바이스(Edge-Device): 인간과 매일매일 접촉하며 데이터를 만들어내는 기기
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품

▲ AI 하드웨어 서밋에 전시된 AiM 칩과 AiMX 카드

이번 행사에서 선보인 AiM/AiMX은 최근 비약적으로 발전하고 있는 생성형 AI를 위한 최고의 솔루션이다. 생성형 AI에 활용되는 대규모 언어 모델(Large Language Model, 이하 LLM)의 크기가 지속적으로 증가하고 있으며, 이로 인한 데이터센터의 컴퓨팅 비용 역시 빠르게 상승하고 있다. SK하이닉스는 자사의 AiM이 메모리 내에서 일부 연산을 수행해 기존 메모리 대비 높은 대역폭과 우수한 에너지 효율성을 보이며, LLM 기반의 생성형 AI가 요구하는 높은 컴퓨팅 성능을 더 경제적으로 구현할 수 있게 해준다고 설명했다.

▲ AI 하드웨어 서밋에서 AiMX 카드를 활용해 최신 LLM을 시연하고 있는 모습

전시 부스에서는 최신 LLM인 ‘Llama3 70B*’ 활용해 AiMX의 성능을 시연했다. 이번에 공개된 AiMX는 메모리 용량이 16GB에서 32GB로 기존 대비 두 배 늘어 났으며, 여러 데이터 그룹을 동시에 처리하는 기법인 Multi-Batch로 데이터를 처리해 업계 관계자들의 많은 관심을 받았다.

* Llama3(Large Language Model Meta AI): 메타의 최신 LLM 모델로 700억 개의 매개변수를 가짐

또한, SK하이닉스는 이번 행사에서 데이터센터뿐만 아니라 엣지 디바이스(온디바이스 AI)에도 적용 가능한 AiM 솔루션을 공개했다. 회사는 “기존 엣지 디바이스의 메모리 인터페이스를 변경하지 않고도 성능을 높일 수 있는 것이 이번 솔루션의 강점”이라며 “모바일 D램을 자사의 AiM으로 대체할 경우, 기존 대비 최대 3배 이상의 LLM 속도 향상과 에너지 효율이 기대된다”고 밝혔다.

▲ 임의철 부사장이 데이터센터와 엣지 디바이스에서의 AiM 제품 개발 계획을 발표하고 있다.

한편, SK하이닉스는 세션 발표를 통해 AiM 솔루션의 미래 비전도 제시했다. 임의철 부사장(Solution AT 담당)은 ‘LLM 서비스의 성능 향상(Accelerating LLM Services from Datacenter to Edge Device)’을 주제로 데이터센터부터 엣지 디바이스까지 AiM 기술이 LLM 서비스를 위한 핵심 솔루션임을 강조했다. 특히 모바일 D램을 기반한 온디바이스 AI용 AiM 제품 개발 계획을 공유하며, 청중들의 이목을 끌었다.

SK하이닉스는 앞으로도 다양한 AiM 솔루션을 통해 글로벌 기업들과 협력해 차세대 AI 가속기 생태계를 구축하고, 온디바이스 AI 시장에서도 리더십을 강화해 나간다는 계획이다.

SK하이닉스가 지난 17일부터 사흘간 미국 캘리포니아 산호세에서 열린 ‘OCP 글로벌 서밋 2023(OCP Global Summit 2023, 이하 OCP 서밋)’에 참가해 차세대 메모리 반도체 기술과 제품을 선보였다고 밝혔다.

OCP 서밋은 세계 최대 규모의 데이터센터 기술 커뮤니티인 OCP(Open Compute Project)가 주최하는 행사로 업계 전문가들이 모여 다양한 기술력과 비전을 공유하는 자리다. 올해 SK하이닉스는 자회사인 솔리다임(Solidigm)과 함께  ‘기술로 하나가 되다(United Through Technology)’라는 슬로건을 걸고, 인공지능(AI, Artificial Intelligence) 시대를 이끌어 갈 첨단 메모리 반도체 제품을 선보였다.

▲ ‘OCP 글로벌 서밋 2023’에 참가한 SK하이닉스의 전시 부스 모습

하이닉스, 부스 전시를 통해 글로벌 선도 AI 메모리 기술력 선보여

SK하이닉스는 생성형 AI 붐 속에서 선도적인 기술력으로 화제가 된 ▲HBM(HBM3/3E)* ▲CXL* ▲AiM* 등 첨단 메모리 솔루션을 선보였다. 또, 회사는 ▲DDR5 ▲MCR DIMM ▲LPDDR CAMM* ▲Enterprise SSD(이하, eSSD) 등 최신 제품 포트폴리오도 공개했다.

* HBM(High Bandwidth Memory): 여러 개의 D램 칩을 TSV(Through Silicon Via, 실리콘 관통 전극)로 수직 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반 차세대 인터커넥트 프로토콜. 기존 D램 제품과 함께 서버 시스템의 메모리 대역폭을 늘려 성능을 향상하고, 쉽게 메모리 용량을 확대할 수 있는 차세대 메모리 솔루션
* AiM(Accelerator in Memory): SK하이닉스의 PIM(Process In Memory) 반도체 제품명, GDDR6-AiM이 이에 포함된다.
* LPDDR CAMM(Low-Power Double Data Rate Compression Attached Memory Module): 노트북/모바일의 차세대 메모리 규격(CAMM)에 맞춰 LPDDR 패키지를 기반으로 개발한 제품. 이는 기존 모듈(So-DIMM) 대비 단면 구성으로 두께가 반으로 줄고, 대용량 탑재와 전력 효율까지 개선됐다.

이 중 엔비디아의 인공지능용 고성능 그래픽처리장치(GPU)인 ‘H100’에 탑재된 SK하이닉스의 HBM3와 차세대 제품인 HBM3E[관련기사]가 많은 관람객의 이목을 집중시켰다. 초고성능·저전력 반도체인 HBM은 회사의 압도적인 기술력과 함께 전력 소모가 큰 인공지능용 서버에 최적화된 제품임을 인증하는 자리가 됐다.

▲ SK하이닉스가 ’OCP 글로벌 서밋 2023’에서 전시한 HBM3와 HBM3E와 MCR DIMM, DDR5 RDIMM, LPDDR CAMM의 모습

또, CXL 메모리에 연산 기능을 통합한 차세대 메모리 솔루션인 CMS(Computational Memory Solution)* 2.0 등 SK하이닉스의 CXL 핵심 솔루션 3종도 눈길을 끌었다. CXL은 NMP(Near Memory Processing)* 기술을 적용해 CPU와 메모리 사이의 불필요한 데이터 이동을 최소화한 기술이다. 회사는 CMS 2.0을 SK텔레콤의 실시간 유동인구 분석 솔루션(Lightning DB 기반 공간 데이터 분석 및 시각화 솔루션)에 접목해 서버 CPU와 동등한 데이터 처리 성능을 보여줬다. 이를 통해, CMS가 데이터 처리 성능과 에너지 효율 향상에 크게 기여한다는 것을 입증했다.

* CMS(Computational Memory Solution): 고용량 메모리를 확장할 수 있는 CXL의 장점에 빅데이터 분석 응용 프로그램이 자주 수행하는 머신러닝 및 데이터 필터링 연산 기능이 포함된 메모리 솔루션
* NMP(Near-Memory Processing): CPU-메모리 간 데이터 이동 시 발생하는 병목 현상을 해결하고, 처리 성능 향상을 위해 연산 기능을 메인 메모리 옆으로 이동하는 메모리 아키텍처

회사는 이와 함께 CXL 기반의 풀드 메모리(Pooled Memory) 솔루션을 시연하는 자리도 마련했다. 풀드 메모리 솔루션은 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들어 여러 호스트가 효과적으로 용량을 나누어 사용할 수 있도록 해 유휴 메모리가 없도록 사용량을 최적화하면서도 전력 소모를 줄여 비용 절감을 가능하게 하는 기술로 큰 관심을 받았다. 이 기술은 미국 소프트웨어 파트너사 멤버지(MemVerge)와의 협업을 통해 개발됐으며, 인공지능과 빅데이터 분산 처리 시스템에서 어떻게 메모리 성능을 높일 수 있는지 보여줬다.

CXL 메모리를 메타(Meta)에서 개발한 소프트웨어 엔진인 캐시립(CacheLib)에 적용한 메모리 확장기(Memory Expander)도 선보여졌다. 이는 CXL 기반의 메모리 솔루션이 성능 향상과 비용 절감을 위해 어떻게 소프트웨어를 최적화하는지 보여준 사례가 됐다.

▲ SK하이닉스가 ‘OCP 글로벌 서밋 2023’에서 시연한 CXL 기반 CMS, 풀드 메모리(Pooled Memory) 솔루션 그리고 메모리확장기(Memory Expander)

SK하이닉스는 PIM* 반도체 GDDR6-AiM[관련기사]과 이를 활용한 가속기 카드 AiMX*[관련기사] 시제품도 시연했다. GDDR6-AiM은 인공지능 모델의 추론 과정에서 메모리 자체에 연산 기능을 탑재한 반도체로 인공지능, 고성능 컴퓨팅, 빅데이터 분야에서 주목받는 차세대 기술 중 하나다. 회사는 GDDR6-AiM칩을 여러 개 탑재한 생성형 AI 가속기 카드 제품인 AiMX의 프로토타입을 함께 공개하며, 업계를 선도하는 기술력을 뽐냈다.

* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품

▲ SK하이닉스가 ‘OCP 글로벌 서밋 2023’에서 전시한 PIM과 AiMX

이번 행사에서는 PCle* 5세대 기반 eSSD인 PS1010 E3.S도 만나볼 수 있었다. 이는 데이터 사용이 많은 애플리케이션, 클라우드 컴퓨팅, 인공지능에 최적화된 제품이다. 이 제품은 이전 세대 대비 뛰어난 속도와 낮은 탄소 배출량으로 향상된 성능과 안정성을 제공할 것으로 기대된다.

* PCle(Peripheral Component Interconnect Express): 직렬 구조의 고속 입출력 인터페이스로 디지털 장치의 메인보드에서 사용된다.

▲ SK하이닉스가 ‘OCP 글로벌 서밋 2023’에서 전시한 PCIe 5세대 기반의 기업용 SSD인 PS1010 E3.S

하이닉스, 대담과 세션 발표를 통해 ‘기술력과 비전’ 제시

SK하이닉스는 이번 서밋에서 대담과 세션 발표를 통해 차세대 메모리 기술의 발전 방향도 제시했다.

김호식 부사장(시스템아키텍처담당)은 ‘데이터 중심의 컴퓨팅, 현재와 미래(Data Centric Computing, Present and Future)’를 주제로 한 대담에 패널로 참석해 새로운 컴퓨팅 및 프로그래밍 모델에 대해 논의했다. 또 김 부사장은 ‘CXL: 메모리 중심 컴퓨팅의 서막(CXL: A Prelude to a Memory-centric Computing)’을 주제로 세션을 진행하며 SK하이닉스 CXL 기술 개발 현황과 메모리 중심 컴퓨팅에 대한 회사의 비전을 공유했다.

▲ OCP 글로벌 서밋 2023’에서 회사의 CXL 기술 개발 현황과 메모리 중심 컴퓨팅에 대한 회사의 비전을 발표하고 새로운 컴퓨팅과 프로그래밍 모델에 대해 대담하고 있는 SK하이닉스 시스템아키텍처그룹 김호식 부사장

그리고 CXL의 잠재력을 알리기 위해 세 번의 세션 발표가 진행됐다. 먼저, 주영표 부사장(소프트웨어솔루션담당)은 CXL 기반 연산 메모리 솔루션 아키텍처의 유용성과 유연성을 높이는 방법에 대해 발표했다.

이어서 문동욱 TL(메모리시스템연구 소속)은 CXL 기술이 인공지능, 웹 서비스와 같은 기술에서 어떤 효과를 만드는지 언급했다. 특히 문 TL은 CXL이 캐싱(Caching) 계층에서 메모리 용량과 대역폭을 개선해 궁극적으로 성능 및 효율성을 높일 수 있다고 강조했다.

마지막으로 최정민 TL(메모리시스템연구 소속)은 CXL 기술을 활용해 분리된 메모리 자원을 여러 CPU가 효율적으로 공유할 수 있는 기술에 대해 발표했다. 그는 이 기술을 통해 현재 데이터센터가 직면한 유휴 메모리 문제를 해결함과 동시에 시스템의 성능까지 개선할 수 있다고 설명했다.

▲ ‘OCP 글로벌 서밋 2023’에서 회사의 CXL 최신 기술을 활용한 솔루션을 소개 중인 SK하이닉스 소프트웨어솔루션 주영표 부사장, 메모리시스템연구 문동욱 TL, 최정민 TL

한편, 임의철 부사장(메모리솔루션담당)은 세션 발표를 통해 인공지능을 위한 메모리와 컴퓨팅 수요에 대응하는 PIM 기술의 잠재력을 설명하며, SK하이닉스의 PIM 기반 AiM 가속기를 포함한 핵심 기술들을 소개했다.

▲ OCP 글로벌 서밋 2023’에서 회사의 PIM 기반 AiM 기속기와 PIM 기술 기반의 핵심 기술을 주제로 발표 중인 SK하이닉스 메모리솔루션 임의철 부사장

SK하이닉스는 이번 행사를 통해 회사가 ‘글로벌 No.1 AI 메모리 솔루션 공급자’로서 인공지능 등 첨단기술을 구현하기 위한 획기적인 솔루션 개발에 대한 의지를 확고히 했다. 또, 앞으로도 AI 시대에 맞춰 혁신적인 기술 연구와 개발을 지속해 나갈 것이라고 밝혔다.

▲ ‘AI Hardware & Edge AI 서밋 2023’ 내 SK하이닉스 현장 부스

▲ ‘AI Hardware & Edge AI 서밋 2023’ 내 SK하이닉스 현장 부스

▲ ‘AI Hardware & Edge AI 서밋 2023’ 내 SK하이닉스 현장 부스

▲ ‘AI Hardware & Edge AI 서밋 2023’ 내 SK하이닉스 현장 부스

AI 서밋은 영국 마케팅 기업 키사코 리서치(Kisaco Research)가 주최하는 연례 행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.

회사는 이번 서밋에서 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM* 반도체 AiM*(Boost Your AI: Discover the Power of PIM with SK hynix’s AiM)’이라는 슬로건을 걸고, GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 처음 선보였다[관련기사].

▲ GDDR6-AiM(Accelerator-in-Memory)을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품

생성형 AI*는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에, 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다.

▲ AiMX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습

SK하이닉스는 이번 행사에서 메타(Meta)의 생성형 AI인 ‘OPT(Open Pre-trained Transformer) 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 1/5 수준이다. 회사는 이번 시연을 통해 최신 가속기 대비 높은 성능*을 낼 수 있다는 점을 보여주며 인공지능을 서비스하는 글로벌 기업들의 주목을 받았다.

* AiMX 카드 내부 AiM Control Hub를 ASIC(Application-Specific Integrated Circuit, 특정 용도로 맞춤 제작한 회로)으로 개발 가정했을 때의 성능

▲ AiMX의 성능에 대해 설명하는 SK하이닉스 임의철 부사장(메모리솔루션담당)

▲ AiMX의 성능에 대해 설명하는 SK하이닉스 임의철 부사장(메모리솔루션담당)

이와 함께 회사는 AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. SK하이닉스 임의철 부사장(메모리솔루션담당)은 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션(Cost-Effective Generative AI Inference Acceleration using AiM)’이라는 주제로 GPU와 AiMX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다.

임 부사장은 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라며, “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다.

인공지능(AI, Artificial Intelligence)은 현재 전 세계를 가장 뜨겁게 달구는 키워드다. SK하이닉스 뉴스룸에서는 [인공지능 반도체] 코너를 마련, 인공지능 전문가 정인성 작가와 함께 총 일곱 편의 기고문을 연재하고 있다.

이번 연재물에서는 컴퓨터와 반도체의 관점에서 인공지능을 살펴볼 것이다. 인공지능으로 바뀌면서 ‘0’과 ‘1’이 구체적으로 어떻게 변화되어 응용되는지를 알아보고, 이때 반도체는 어떤 역할을 해야 하는지 확인해 볼 것이다. (필자 주)

“PIM은 연산의 효율을 높여주는 것이지, 1만 개의 이미지 필요량을 5,000개로 줄이지는 않기 때문이다. PIM으로 인해 더 빠른 연산이 가능해지면서, 메모리 반도체 회사들은 더 많은 용량의 메모리를 생산해야 되는 상황이다.”

인공지능의 발전에 필요한 새로운 반도체

우리는 첫 장에서 인공지능과 반도체가 어떻게 함께 발전해 왔는지 알아봤다. 인공지능에서 반도체는 대부분 기존에 있던 인프라를 개선하는 역할이었다. GPU(Graphic Processing Unit)는 CPU(Central Processing Unit)가 할 수 없었던 대규모의 부동소수점* 연산을 가능하게 했고, HBM(High Bandwidth Memory)은 GPU 기반 학습에서 대역폭과 물리적으로 한정된 공간을 이겨내기 위해 사용됐다. 또, 낸드플래시(NAND Flash)는 GPU 학습에 필요한 데이터를 저장, 가공한 뒤 빠른 속도로 학습 서버로 전송하는 역할을 했다.

* 부동소수점 : 실수에서 정수와 소수가 본래 소수점의 위치를 고정하는 고정소수점과 대비되는 개념으로 소수점의 위치를 바꿔 정수와 소수를 구분 표기해 연산에 용이하게 하는 것. 본래의 실수가 123.485인 경우, 1.23485X 10^2, 혹은 0.00123485X10^5 등으로 연산 표기한다.

이런 반도체들 덕분에, 기존 CPU만으로는 불가능했던 일이 가능해졌다. 인공지능 기술은 대량의 데이터를 짧은 시간 안에 투입하는 방식으로 프로그래밍 방법론 자체를 변화시켰으며, 반도체들은 과학자들이 필요로 하는 요구사항에 맞춰 더 높은 성능, 더 큰 용량으로 발전했다.

하지만, 일정 수준의 발전을 이룬 반도체는 미세화에 큰 어려움이 생기기 시작했다. 예를 들면, 반도체 제조의 핵심이라 할 수 있는 노광기*의 가격은 한 대당 1,000억 원을 넘어서고 있고, 다음 세대 장비는 4,000억 원 이상으로 추정하고 있다. 그 외 기술적인 여러 가지 장애물과 함께 다양한 이유로 GPU와 메모리 반도체 모두 성능 발전의 속도가 점점 느려지기 시작했다.

* 노광기 : 반도체 제조 Photo공정에서 미세한 회로를 그리기 위해 빛을 직접 노출(Exposure)시키는 장비로 Stepper, EUV Scanner 등이 있다.

이런 흐름에 맞춰 우리의 초점도 약간 바뀌어야 한다. 단순히 더 빠르고 더 큰 용량의 메모리 반도체 개발로는 한계가 있어, 인공지능 혹은 컴퓨팅 시스템 자체를 다시 설계해야 할 필요가 있다. 당연히도 이를 위해선 새로운 개념의 반도체가 필요하다.

캐시메모리의 등장과 GPU의 부상

지난 수십 년간 컴퓨터를 괴롭혀 온 장애물 중 하나는 메모리 성능 한계였다. 본래 폰 노이만 구조로 컴퓨터를 연산장치와 메모리로 구성했을 때, 메모리의 용량과 속도는 무한하다는 가정이 있었다. 이 중 메모리 용량 문제는 메모리 반도체 전문 기업들이 기술을 발전시키며 해결해왔으나, 그중에도 메모리의 동작 속도가 발목을 잡았다. 성능 향상이 가장 빠르던 1980년대 후반부터 2000년대 중반까지 CPU의 동작 속도는 매년 약 60%씩 상승하고 있었으나, D램의 반응 속도는 10% 정도 상승하는 데 그쳤기 때문이다. []

위와 같은 문제로 인해 CPU 내부에 초고속 메모리를 직접 탑재하기 시작했다. 이것이 캐시메모리(Cache Memory)다. 캐시메모리는 일반 D램 대비 반응 속도가 10배 이상 빠르기 때문에, CPU가 데이터를 필요로 할 때 빠르게 읽기·쓰기 요청에 응할 수 있다. 물론 캐시메모리가 제 역할을 하기 위해서는 캐시메모리의 용량이 충분히 커야 할 뿐만 아니라, CPU가 다음에 쓸 데이터를 최대한 정확하게 예측하고 저장하는 기술이 필요했다. 이 모든 것이 CPU의 트랜지스터를 소모하는 과정이었다.

이러한 문제들 때문에 GPU가 인공지능 산업의 중심이 될 수 있었다. GPU는 거대한 캐시메모리와 분기 예측기* 등에 사용할 트랜지스터까지 전부 연산장치에 투입할 수 있었기 때문이다. 특히 반도체 기술이 더욱 발전하면서 GPU가 처리할 수 있는 연산 능력도 기하급수적으로 늘어나게 됐다. 거대한 공장이 끊임없이 돌아가려면 튼튼한 재고 창고와 강력한 물류체계가 필요하듯, GPU는 고용량·고대역폭 HBM*을 탑재해 쉬지 않고 인공지능 작업을 처리하고자 했다. 거대한 캐시메모리를 만들 트랜지스터까지 아껴 연산장치를 투입했으니, 이제 메모리 반도체가 연산장치들에 데이터를 전달해야 하는 상황이 된 것이다.

* 분기 예측기 : CPU 내에서 분기 예측을 수행하는 디지털 회로. 조건 분기의 다음 명령을 예측하고 실행해 계산 대기 시간을 낭비하지 않아 CPU의 성능을 높여준다.
* HBM(High Bandwidth Memory) : D램 여러 개를 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고대역폭 반도체로 고성능 컴퓨터와 그래픽 카드에서 사용된다.

▲ SK하이닉스가 개발한 차세대 메모리반도체 PIM이 적용된 ‘GDDR6-AiM’

PIM : 연산 반도체 역할의 일부를 가져오다

우리는 메모리와 연산용 반도체(GPU, CPU 등)는 창고와 공장과 같고 이는 도로로 연결된 것과 같다는 것을 앞서 살펴봤다. 하지만 사실 이 안에는 컴퓨터 프로그램이 가지는 중요한 요소가 빠져있다. 바로 ‘연산용 반도체는 중간 결과물을 메모리에 저장해야 한다’는 것이다. 이는 실제 공장과는 달리 재료가 한번 들어오면 완제품이 만들어지는 구조가 아닌 제조 공정 단계별로 생산되는 재공품(생산과정 가운데 있는 미완성품)을 창고에 보관했다가, 가공하기 위해 다시 가져오는 것과 같다.

▲ 그림 1 : 메모리와 연산용 반도체의 데이터 처리 과정을 창고와 공장 간의 가공 과정으로 비유한 예시

<그림 1>는 메모리와 연산 반도체 사이에 발생하는 데이터 처리 과정을 가상의 공장(연산 반도체)과 창고(메모리)의 모습으로 설명한 예시이다. 공장이 원자재 완제품으로 만들기(데이터 처리) 위해서는 절단과 도색 두 가지 작업이 필요하다. 여기서 공장의 역할은 절단과 도색 두 가지 작업을 하는 것이지 원자재와 재공품을 보관하는 것이 아니다. 때문에 절단과 도색을 할 때 마다 창고에서 원자재와 재공품을 가지고 오고, 다시 가져다 놓는 일을 반복해야 한다. 이런 이동은 번거롭고 시간이 많이 소요된다. 때문에 공장에 작은 선반 같은 것을 두고 임시로 원자재와 재공품을 보관하면 더 빠르고 편해질 것이다. 여기서 말한 선반이 바로 캐시메모리의 역할이다.

여기서, 공장의 효율적인 생산, 즉 연산장치와 메모리를 통한 인공지능 동작 성능을 높이려면 어떻게 해야 할까? 메모리의 동작 속도를 높이는 방법이나 재공품 선반(캐시메모리)의 크기를 키우는 방법이 있을 것이다. 하지만 전자의 경우, 앞서 이야기 했듯 동작 속도의 성능 향상의 한계로 인해 어려움이 있다. 또한, 후자의 경우, 지금도 캐시메모리는 동일 용량의 D램보다 10배 이상 많은 면적을 차지하기 때문에 매우 비효율적이다.

그렇다면, 여기서 한 가지 아이디어가 떠오른다. ‘자주 해야 하는 작업에 필요한 물건은 굳이 공장으로 옮기지 않고, 이를 창고에서 바로 처리한다면 효율이 오르지 않을까?’라는 것이다. 이렇게 해서 등장한 아이디어가 바로 PIM(Processing-In-Memory)이다.

▲ 그림 2 : PIM이 적용되면 데이터 처리 과정이 비약적으로 줄어든다.

<그림 2>는 <그림 1>에서 메모리를 PIM으로 변경했을 경우의 데이터 처리 과정이다. 두 그림을 비교해 보니 PIM이 왜 필요한지 좀 더 명확하게 보인다. 데이터 전송은 연산 과정에서 상당 부분을 차지한다. 그래서 메모리 반도체 회사들은 처음부터 메모리 반도체에서 연산용 반도체로 데이터를 전송할 필요 없도록 방법을 찾은 것이다. PIM을 사용하면, 메모리 반도체의 데이터 전송 과정이 줄어들고 이로 인해, 데이터 처리 속도가 상당히 향상될 뿐만 아니라, 전성비(전력 대비 성능비)도 매우 높아진다. PIM은 인공지능 등이 요구하는 각종 연산을 메모리에 내재화해 전체적인 성능뿐 아니라, 전성비까지 개선하는 훌륭한 아이디어인 셈이다.

반도체 설계 관점에서 보면, PIM은 두 가지 방법으로 만들 수 있다. 첫째는 기존 D램 칩 내부에 연산기를 탑재하는 방식이고, 둘째는 D램과 매우 가까운 곳에 별도의 논리연산을 수행하는 칩을 배치하는 것이다. 전자는 D램 칩의 면적이 넓어지지만, 용량에 비례해 자동으로 연산 속도가 올라가는 장점이 있고, 후자는 로직 칩이 동반되어 메모리 반도체 회사 입장에서는 큰 비용을 들이지 않고 탑재 가능한 장점이 있다. 엄밀하게는 후자는 PNM(Processing-Near-Memory)이라 부른다. 연산 장치가 메모리 반도체에 가까이 있을 뿐, 별도의 칩에 있기 때문이다.

▲ 그림 3 : D램의 뱅크 내부에 연산기가 탑재돼 있는 PIM(왼쪽)과 D램 다이 하단에 별도로 로직 다이가 적용되는 PNM(오른쪽)

이런 메모리는 인공지능 개발사와 인공지능을 활용하는 서비스 회사 모두에게 매우 큰 이점을 준다. 인공지능 개발사는 현재 자신의 회사가 개발 중인 인공지능에 활용할 데이터는 충분하지만, 학습 속도가 느릴 때 PIM과 같은 솔루션을 도입함으로써 학습 속도를 크게 개선할 수 있다. 만약 인공지능 시장이 거대 신경망을 자주 학습시켜야 하는 방향으로 진화한다면, PIM은 매우 매력적인 솔루션이 될 것이다. 인공지능을 도입해 서비스하는 회사들에게 운용 비용 감소의 이점을 제공할 수 있기 때문이다. 또한, 전력 대비 성능이 높기에 전기를 적게 쓸 뿐만 아니라, 더 적은 개수의 GPU가 탑재된 서버로도 동일한 수준의 서비스를 제공할 수 있어, 공간에 대한 임대료도 낮아지게 된다.

뿐만 아니라, PIM과 같은 솔루션은 GPU 이외의 반도체를 인공지능 시장에 끌어들일 수 있을 것이다. CPU의 경우, 조건에 맞춰 선택지를 택하는 각종 분기 처리 등을 향상하기 위해 총 연산 능력을 줄였는데 PIM이 도입되면 그 단점을 상쇄시키는 동시에 CPU의 장점 또한 유지할 수 있다.

메모리 회사의 유망한 미래 사업

PIM은 메모리 반도체 회사 입장에서 매우 훌륭한 미래 시장이 될 수 있다. PIM이 탑재되어도 메모리 반도체의 사용량은 줄지 않기 때문이다. 예를 들어, PIM이 탑재된 시스템에서 작동되는 특정 인공지능이 1만 개 이미지를 처리해야 한다고 해도 메모리는 여전히 1만 개의 이미지가 들어갈 용량이 확보돼야 한다. PIM은 연산의 효율을 높여주는 것이지, 1만 개의 이미지 필요량을 5,000개로 줄이지는 않기 때문이다. PIM으로 인해 더 빠른 연산이 가능해지면서, 메모리 반도체 회사들은 더 많은 용량의 메모리를 생산해야 되는 상황이다.

다만, PIM을 사용하기 위해서는 기존의 소프트웨어를 고쳐야 한다는 장애물이 있다. PIM이 존재하지 않던 시절의 소프트웨어들은 연산을 위해 다음의 과정을 거칠 수밖에 없다.

이런 연산 과정을 가진 소프트웨어 기반의 컴퓨터에 아무리 PIM을 적용해도 기존 소프트웨어들은 어떤 장점도 얻을 수 없다. PIM을 통한 장점을 활용하기 위해서는 다음의 형태로 프로그램을 고쳐야만 한다.

이러한 입장을 이해해야만 PIM의 잠재력을 온전히 보여줄 수 있다. 아직 많은 소프트웨어 회사들은 PIM을 잘 이해하지 못한다. 이 때문에 PIM의 잠재력을 100% 보여주고, 고객의 마음을 사로잡기 위해서는, 메모리 반도체 회사가 소프트웨어의 입장을 이해해야 하는 시대가 된 것이다.

인공지능의 시대, ‘PIM’이 핵심

인공지능 시대가 도래하면서 데이터를 이용해 수많은 연산을 해야 하는 상황이 됐다. 데이터를 저장하고 운송하는 주체가 메모리 반도체인 이상, 인공지능 시대는 메모리 반도체 회사에 엄청난 기회가 되고 있다.

하지만, 이 기회는 공짜가 아님을 유념해야 한다. 메모리 회사 앞에는 메모리의 큰 고객인 GPU, CPU 칩 메이커들을 비롯해, 최고의 효율을 뽑아내고 싶어 하는 클라우드 고객들, 수많은 인공지능 알고리즘 연구개발, 인공지능을 활용한 서비스 제공 기업 등 다양한 이해관계자들이 존재한다.

PIM은 단순한 메모리 반도체가 아니기 때문에 앞에서 언급한 이해관계자들과 단편적인 관계를 맺을 순 없다. PIM의 판매량이 늘어날수록 이해관계자들과의 관계는 새롭게 구축될 것이다. 고객이었던 상대가 어느 순간 경쟁자가 되기도 하고, 직접적인 관계가 없던 상대가 가장 중요한 고객이 될 수도 있다.

이러한 변화에서 PIM이 고객들에게 더 큰 호응을 얻기 위해선, 고객의 입장이 돼야 한다. 단순한 제품이 아니기에 이론상의 최대 성능에만 집중해선 안 된다. 실제로 고객들이 SK하이닉스의 PIM과 PNM 제품을 사용했을 때 얼마나 큰 효용을 얻는지가 중요해질 것이다. 특히 단순한 메모리가 아닌 만큼 예상치 못한 문제가 발생했을 때 얼마나 빠르게 해결할 수 있는지도 중요하다. 결과적으로, 완전히 새로운 아이디어인 PIM과 PNM 제품이 확실한 효용 증대를 불러오고 큰 불편함이 없다는 것이 증명될수록 고객들은 기꺼이 PIM과 PNM 제품을 도입할 것이다.

고객들은 전성비가 10% 나빠지고, 가격이 10% 비싸져도 새로운 칩을 도입했을 때 기존에 고민했던 문제를 빠르게 해결할 수 있다면 기꺼이 도입할 것이다. 결과적으로 새로운 비즈니스가 아닌 기존 고객과의 신뢰를 기반으로 변화되는 요구사항을 만족시키는 혁신이 중요하다. 이런 면에서 SK하이닉스는 PIM과 PNM 제품을 출시하고 있는 상황이기에 미래가 더욱 기대된다.

※ 본 칼럼은 반도체에 관한 인사이트를 제공하는 외부 전문가 칼럼으로, SK하이닉스의 공식 입장과는 다를 수 있습니다.

“We Do Future Technology”

미래 인재를 위한 반도체 기술 해설 시리즈

어려운 반도체 최첨단 기술 용어, SK하이닉스 실무진이 핵심만 쏙쏙 뽑아서 알려드립니다.

4차 산업혁명이 시작되며, 컴퓨터가 처리하는 데이터는 폭발적으로 늘어났다. 컴퓨터의 연산은 CPU가 담당하고, 데이터 저장은 메모리가 담당한다. 메모리는 더 많은 데이터를 담을 수 있게 발전하고 있는데 수많은 데이터를 불러와 연산하는 CPU의 부담은 날로 커지고 있는 상황.

그렇다면, CPU에 내보내는 데이터 일부를 메모리에서 연산하면 어떨까? 이렇게 탄생한 것이 바로 지능형 메모리 반도체 PIM(Processing In Memory)이다. 한 마디로 메모리가 똑똑해진 셈.

똑똑한 메모리 PIM은 CPU에 어떻게 도움이 될까? PIM 도입은 반도체 생태계에 어떤 영향을 미칠까? PIM 기술의 영향력과 SK하이닉스가 개발한 고성능 PIM 제품까지, 모두 아래 영상에서 확인할 수 있다.

지난 CES 2021 · 2022는 각각 온라인, 온 · 오프라인 병행으로 진행된 바 있다. 올해는 3년 만에 처음으로 완전한 대면 행사가 진행되는 만큼 많은 빅테크 기업이 참석했다. 이들 기업은 신기술과 제품을 전시하는 한편, 기후변화 대응 등 글로벌 과제를 해결하기 위한 혁신을 모색하고 전 세계가 당면한 핵심 이슈를 논의할 예정이다.

SK하이닉스를 비롯한 SK그룹 8개사*는 1,223㎡(약 370평) 규모의 전시 공간을 마련하고 자사 제품 및 기술을 공개했다. 특히 SK하이닉스는 혁신기술 선도기업으로서 다양한 첨단기술을 선보였다.

* SK㈜, SK이노베이션, SK E&S, SK텔레콤, SK하이닉스, SK에코플랜트, SKC, SK바이오팜

탄소 없는(Carbon-Free) 미래를 향한 SK그룹의 비전

▲ SK하이닉스를 포함한 SK그룹 8개사는 ‘행동(Together in Action)’을 주제로 하여 ‘탄소 없는 미래’를 선보였다

SK그룹은 미국 파트너사 10개사와 팀을 이루어 넷제로(Net Zero)에 대한 포부를 실천으로 바꾸자는 메시지인 ‘행동(Together in Action)’을 슬로건으로 한 부스를 선보였다. SK그룹은 CES 2022를 통해 약속한 바와 같이 2050년까지 탄소 중립을 달성한다는 목표다. 2030년까지 탄소 배출량 2억 톤 감축 및 전 세계 탄소 감축량 1%를 담당한다는 목표도 유지한다.

올해 SK그룹 8개사는 그룹의 비전 ‘탄소 없는(Carbon-Free) 미래’를 실천하기 위해 총 40개의 탄소 저감 기술을 선보였다. SK하이닉스는 자사 제품 전시 주제인 ‘그린 디지털 솔루션(Green Digital Solution)’을 내세워, 주요 고객과 전문가들의 눈길을 끌었다.

그린 디지털 솔루션으로 빅테크 기업 ‘니즈’ 충족해

▲ SK하이닉스는 ‘Green Digital Solution’ 주제를 바탕으로 탄소 감축을 획기적으로 이룬 제품들을 선보였다.

SK하이닉스는 성능과 에너지 효율을 크게 향상 시킨 신제품 및 핵심 제품으로 환경 영향을 최소화하고 있다. 글로벌 기술 기업들은 AI · 빅데이터 · 자율주행 · 메타버스 등 진화하는 첨단기술을 구현하기 위해 더욱 강력한 메모리 솔루션을 필요로 하는데, CES 2023에서 공개한 SK하이닉스 제품은 이들 기업의 니즈를 충족할 것으로 기대된다.

이번 전시에서 SK하이닉스가 중점을 둔 제품은 ‘PS1010 E3.S’다. 최신 기업용 SSD(eSSD)로 CES 2023을 통해 처음 공개했다. PS1010 E3.S는 176단 낸드플래시를 다수 결합해 만들었으며, PCIe 5세대(Gen 5)* 인터페이스를 지원한다. 자체 개발한 컨트롤러와 펌웨어가 포함된 이 제품은 이전 세대 대비 읽기, 쓰기 속도가 각각 130%, 49% 향상됐다.

또한, 전성비를 갖춰 성능 효율이 이전 세대보다 75% 개선됐다. 이로써 서버 운영 비용 및 탄소 배출량을 줄이는 데 도움을 준다. SK하이닉스는 새롭게 선보인 PS1010 E3.S를 통해 낸드 부문 경쟁력을 강화한다는 계획이다.

* PCIe(Peripheral Component Interconnect Express): 디지털기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스. 세대를 거듭할수록 데이터 전송률이 약 2배씩 상승하는 것이 특징

SK하이닉스 부스에 방문한 관람객은 현존 세계 최고 성능의 D램 ‘HBM3’도 직접 살펴볼 수 있다[관련기사]. 이는 SK하이닉스가 업계 최초로 개발 · 양산한 4세대 HBM* 제품이다. 기존 D램 대비 데이터 처리 속도가 빠르며, HBM2 대비 전력 효율도 23%나 향상됐다.

SK하이닉스 부스에서는 또 다른 혁신 제품 ‘GDDR6-AiM’도 관람할 수 있다[관련기사]. AI 가속기 역할을 하는 PIM* 제품으로 자체 연산 능력을 갖췄다. 특정 연산에서 속도를 크게 높여주며, 기존 제품 대비 에너지 소비를 80% 줄이는 비약적인 효과를 낸다.

한편, 지난해 SK하이닉스는 메모리 용량과 성능을 유연하게 확장할 수 있는 ‘DDR5 D램 기반 CXL 메모리’ 샘플을 최초 개발하며, CXL* 솔루션 부문에서 기술 우위를 강화했다[관련기사]. 아울러 SK텔레콤과 협력해 CMS(Computational Memory Solution)를 생산한 바 있다. 이는 업계 최초로 연산 기능을 집적한 CXL 메모리다. CES 2023에서는 이 제품들과 함께 SK하이닉스가 올해 말 양산 예정인 CXL 포트폴리오도 만나볼 수 있다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품
* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반의 차세대 인터커넥트 프로토콜(Interconnect Protocol)

지속 가능 기술을 향한 하이닉스의 노력

▲ 관람객들은 CES에서 SK하이닉스의 환경친화적인 혁신기술을 체험했다.

올해 CES에서 선보인 SK하이닉스 제품들은 시장의 요구 조건을 충족시킨 것과 동시에 환경 문제를 해결하기 위한 지속가능성을 도모하면서 기술의 한계를 뛰어 넘기 위해 주력하고 있음을 보여준다. 이 제품들은 SK하이닉스 전체적인 ESG 전략에 부응하며, 회사가 추구하는 미래에 발을 맞추고 있다.

SK하이닉스 ESG 전략의 핵심 중 하나는 PRISM 프레임워크*다[관련기사]. 이는 지난해 ESG 관리 강화를 위해 개발했다. PRISM은 SK하이닉스의 ESG 목표를 구체화함으로써 이해관계자와 투명하게 소통하겠다는 메시지를 전달하는 한편, 전 세계에 긍정적인 영향력을 전파하겠다는 목표를 반영하고 있다.

* PRISM 프레임워크(Framework): ESG 활동 관련 세부 목표를 담은 ESG 전략 프레임워크, 프레임워크는 중장기 전략 방향성과 가치 제안을 담은 체계를 의미

반도체 산업의 기후변화 대응에 앞장서고 있는 SK하이닉스는 지난해 10월 반도체 기후 컨소시엄(SCC)에 창립멤버로 합류하기도 했다[관련기사]. SCC는 반도체 가치사슬 전반에 걸쳐 온실가스 배출을 줄이기 위해 최초로 구성된 글로벌 협의체다.

또한, SK하이닉스는 eSSD와 cSSD 제품의 탄소발자국 인증을 통해 온실가스 문제 해결을 위한 노력에서 더욱 큰 귀감이 되고 있다. 인증서는 지난해 여름 영국기후변화조직 ‘카본 트러스트(Carbon Trust)’를 통해 발급받았다. 이는 제품의 전체 수명주기 동안 탄소 배출 영향을 평가하고, 탄소 감축 요소 충족 제품에 한해 발급하는 인증서다.

친환경(Green) 미래 위하여 나아가는 SK하이닉스

▲ ‘탄소 없는 미래’를 위해, SK하이닉스는 관계사들과 함께 더 노력해 나갈 것이다.

제품이 환경에 미치는 영향, 특히 탄소 배출을 우려하는 목소리가 커지고 있다. 친환경에 대한 글로벌 니즈에 응답하고자, SK하이닉스는 CES 2023에서 에너지 효율을 높이는 다양한 고성능 제품을 선보였다.

SK하이닉스는 이번 기회를 통해 더 청정한 ‘친환경(Green) 미래’를 만들기 위해 노력할 예정이다. 뿐만 아니라, 향후에도 업계 관계자 · 기술 기업 및 소비자와 함께 환경 문제를 지속해서 논의하고 대응해 나간다는 계획이다.

· ‘그린 디지털 솔루션’ 타이틀로 주력/신규 메모리 라인업 소개

· 초고성능 기업용 SSD 공개, 서버용 메모리 시장 선도기업 위상 강화

· “고객의 페인 포인트(Pain Point) 해결해주는 솔루션 제시”

SK하이닉스가 내년 1월 5일부터 8일까지 미국 라스베이거스에서 열리는 세계 최대 전자∙IT 전시회 ‘CES 2023’에서 주력 메모리 제품과 신규 라인업을 대거 선보인다고 27일 밝혔다.

SK하이닉스는 “이번 CES에서 당사는 ‘탄소 없는 미래’라는 SK그룹의 방향성에 맞춰 탄소 배출을 획기적으로 줄인 제품들을 묶어 ‘그린 디지털 솔루션’이라는 타이틀 아래 선보이기로 했다”며 “당사가 공개할 라인업은 환경 영향 저감은 물론, 성능과 효율성도 이전 세대 대비 대폭 개선돼 글로벌 빅테크 고객과 전문가들의 관심을 끌 것으로 기대한다”고 강조했다.

최근 AI, 빅데이터, 자율주행, 메타버스 등 첨단산업의 성장 속도가 빨라지면서, 글로벌 기술기업들은 급격하게 늘어나는 데이터를 빠르게 처리하면서도 에너지 효율을 높여주는 메모리 반도체에 주목하고 있다. SK하이닉스는 CES에서 선보일 자사 제품들이 이러한 고객의 니즈(Needs)를 충족하는 우수한 전성비*와 성능을 구현했다고 보고 있다.

* 전성비: 일정 전력 단위당 처리할 수 있는 초당 데이터 용량을 계산한 상대적 지표

이번에 회사가 내세운 대표 전시 제품은 초고성능 기업용 SSD인 ‘PS1010 E3.S(이하 PS1010)’다. PS1010은 SK하이닉스의 176단 4D 낸드가 다수 결합돼 만들어진 패키지 제품으로, PCIe 5세대(Gen 5)* 인터페이스를 지원한다.

* PCIe(Peripheral Component Interconnect Express): 디지털기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스. 세대를 거듭할수록 데이터 전송률이 약 2배씩 상승하는 것이 특징

SK하이닉스 기술진은 “서버용 메모리 시장은 다운턴 상황에서도 지속 성장하고 있는 가운데, 이 분야 업계 최고 경쟁력을 갖춘 당사의 기술력이 집약된 신제품을 시의 적절하게 공개하게 됐다”고 설명했다. 실제로 PS1010은 이전 세대 대비 읽기와 쓰기 속도가 각각 최대 130%, 49% 향상됐다. 또, 이 제품은 75% 이상 개선된 전성비를 갖춰 고객의 서버 운영 비용과 탄소 배출량을 낮춰줄 것으로 보인다.

SK하이닉스 윤재연 부사장(NAND상품기획담당)은 “서버 고객의 페인 포인트(Pain Point)를 해결해줄 수 있는 SSD 제품을 CES라는 세계 최대 규모 행사에서 선보이게 돼 자랑스럽다”며, “자체 개발한 컨트롤러와 펌웨어를 탑재한 초고성능 제품을 기반으로 회사의 낸드 사업 경쟁력이 한층 강화될 것으로 기대한다”고 말했다.

이와 함께 이번 전시에서 SK하이닉스는 고성능 컴퓨팅(HPC, High Performance Computing) 환경에 적합한 차세대 메모리 제품으로, ▲현존 최고 성능의 D램인 ‘HBM3’*, ▲메모리에 연산 기능을 더한 PIM* 기술이 적용된 ‘GDDR6-AiM’, ▲메모리 용량과 성능을 유연하게 확장한 ‘CXL* 메모리’ 등을 선보인다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품
* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅 데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반의 차세대 인터커넥트 프로토콜(Interconnect Protocol)

한편, SK하이닉스 CES 부스에서는 SK그룹의 에너지 효율화 기업인 SK엔무브의 ‘액침냉각(Immersion Cooling)’* 기술도 함께 전시된다. 이는 반도체가 들어가는 서버의 가동 온도를 낮춰주는 기술로, SK하이닉스는 앞으로도 그룹 멤버사는 물론 외부 파트너들과의 협업을 확대해 반도체 사업 전반에서 새로운 부가가치를 창출하는 데 힘쓰겠다는 계획이다.

* 액침냉각(Immersion Cooling): 냉각유에 데이터 서버를 직접 침전시켜 냉각하는 차세대 열관리 기술로, 기존 공랭식 대비 냉각 전력이 크게 감소돼 전체 전력 소비량을 약 30% 줄일 수 있음

OCP(Open Compute Project) 글로벌 서밋은 점점 더 고도화되는 디지털 사회의 핵심인 고밀도·고효율의 차세대 데이터센터 환경 구현을 위한 최신 기술과 다양한 연구성과, 기술력 등을 공유하는 무대이다.

SK하이닉스, 부스 전시를 통해 다양한 차세대 메모리 기술 주요 네 가지 연구성과 시연

2016년부터 매년 OCP 글로벌 서밋에 참석해오고 있는 SK하이닉스는 올해 “Driving New Level of Performance for your Ultimate Data Experience”라는 주제로 부스를 오픈했다. 데이터 환경 성능을 새로운 차원으로 끌어올리는 혁신적인 연구 성과와 함께 차세대 메모리 기술들을 선보인 것이다.

특히, SK하이닉스는 부스 전시를 통해 ▲최신 Enterprise SSD(이하 eSSD)인 PCIe Gen5 PS1010, ▲CXL(Compute eXpress Link) 기반 연산 기능을 통합한 메모리 솔루션(이하 CMS: Computational Memory Solution) ▲DDR5 24Gb D램 기반 96GB CXL 메모리 EDSFF* E3.S ▲차세대 지능형 반도체 PIM(Processing In Memory) 기반 GDDR6-AiM를 공개, 참관객들에게 시연하며 선도적인 기술력을 바탕으로 한 솔루션 프로바이더(Solution Provider) 기업으로서의 면모를 뽐냈다.

* EDSFF(Enterprise & Datacenter Standard Form Factor): 고밀도·고성능을 갖춘 데이터센터용 저장장치 폼팩터

첫 번째는 SK하이닉스가 자체 개발한 PCIe 5세대 토탈 솔루션 제품인 최신 eSSD PCIe Gen5 PS1010다. PCIe 5세대 인터페이스* 채용에 따라 이전 4세대 대비 데이터 전송 속도가 2배 이상 빠르며, 업계 선두 제품인 V7 NAND를 사용하여 원가 및 성능 측면에서도 경쟁력을 확보했다는 점을 강조했다.

* PCIe(Peripheral Component Interconnect express) 5세대 인터페이스: 디지털기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스. 저장 장치를 연결하는 기술. 초 당 32GT 이상의 데이터를 전송할 수 잇는 것이 특징

▲ SK하이닉스가 최근 자체 개발한 PCIe 5세대 토탈 솔루션, PCIe Gen5 PS1010를 통해 속도를 시연하는 모습

두 번째는 업계 최초로 개발에 성공한 CXL 기반 연산 기능을 통합한 메모리 솔루션인 CMS다. 고용량 메모리를 확장할 수 있는 CXL의 장점에 빅데이터 분석 응용 프로그램이 자주 수행하는 머신러닝 및 데이터 필터링 연산 기능이 포함된 CMS는 설계부터 검증까지 모든 단계를 SK텔레콤과 협업하여, CMS가 적용된 빅데이터 분석 플랫폼까지 함께 시연할 수 있었다. CMS는 차세대 서버 플랫폼에 탑재되며 향후 시스템의 성능은 물론 에너지 효율까지 개선할 것으로 기대를 모았다.

▲ 업계 최초 CXL 메모리와 연산 기능이 포함된 CMS를 활용하여 빅데이터 분석 플랫폼을 시연하는 모습

세 번째로 SK하이닉스는 지난 8월 발표한 최신 DDR5 24Gb D램 기반 96GB CXL 메모리로 EDSFF E3.S 샘플을 시연했다. DDR5와 CXL 메모리를 비교할 수 있도록 시연이 진행됐는데, 이를 통해 DDR5만 사용된 메모리보다 실행시간은 20% 감소했으며, 메모리 대역폭은 50% 증가, 메모리 용량은 60% 확장하는 효과를 확인할 수 있었다. 용량과 성능이 고정되는 기존 서버 시장의 한계점을 보완, 유연하게 성능과 용량을 개선하는 SK하이닉스 CXL 메모리의 강점이 확연하게 드러났다.

▲ DDR5 24Gb D램 기반 96GB CXL 메모리 EDSFF E3.S를 통해 개선된 속도와 대역폭 등 성능을 시연하는 모습

마지막 시연 제품은 자체 연산 기능을 갖춘 PIM 기반의 차세대 지능형 반도체 GDDR6-AiM(Accelerator-in-Memory)로 메모리 중심 컴퓨터 구조(Memory-Centric Computing)에서 작동되는 거대 인공지능 언어 모델의 동작을 시연했다. 해당 제품은 일반 D램에 연산 기능을 탑재하여 최대 16배 성능과 낮은 동작 전압으로 에너지 소모를 최대 80%까지 줄여준다. 이는 데이터를 연산하는 동안 메모리 외부의 프로세서로 데이터를 전송하지 않아 프로세서와 메모리 간의 데이터 병목현상까지 줄이면서 고성능 컴퓨팅, 빅데이터의 연산과 저장 등에 용이해 앞으로 큰 활약을 보여줄 것으로 기대를 모았다.

▲ GDDR6-AiM(Accelerator-in-Memory)을 활용해 거대 인공지능 언어 모델을 시연하는 모습

SK하이닉스, 세 번의 세션 발표를 통해 증명한 당사의 기술력과 비전

SK하이닉스는 OCP 글로벌 서밋 2022에서 부스 전시와 함께 총 세 번의 세션 발표를 진행했다. DRAM상품기획 최원하 TL의 두 번의 발표와 메모리시스템연구 문동욱 TL의 발표로 당사의 다양한 기술력과 비전을 공유하는 시간을 가졌다.

먼저 “Enhancing the Scalability of Memory Sub-system with SK hynix CXL Devices(SK하이닉스의 CXL 메모리를 활용한 메모리 서브시스템의 확장성 향상)”를 주제로 발표한 최원하 TL은 CXL 메모리 기술과 새로운 가치에 대한 화두를 던지며, SK하이닉스의 관점과 비전을 연결해 이야기를 풀어냈다. 이어서 “Landscaping the Future for Robust CXL Memory Development(완성도 높은 CXL 메모리 개발을 위한 미래 환경 조성)”라는 주제로 CXL 메모리의 성공적인 개발을 위해 필요한 노력과 업계 협업을 위한 SK하이닉스의 기여 방안에 대해 발표했다.

▲ DRAM상품기획 최원하 TL이 발표를 진행하는 모습

그리고 문동욱 TL은 “CXL-based Memory Expansion and Near Memory Processing Opportunities: A Case Study for Data Analytics Platforms(CXL 기반 연산 기능을 통합한 SK하이닉스의 CMS가 탑재된 데이터 분석 플랫폼 적용 사례)”를 주제로 데이터 분석 플랫폼 운영 서버에 SK하이닉스의 CMS가 탑재 되었을 때 기대할 수 있는 성능과 에너지 효율에 대해서 구체적으로 소개했다.

▲ 메모리시스템연구 문동욱 TL이 발표를 진행하는 모습

SK하이닉스는 이번 OCP 글로벌 서밋 2022를 통해 다양하고 새로운 차원의 차세대 메모리 기술 연구 성과들을 공유하며 참관객들에게 좋은 호응을 얻었다. 이번에 소개한 기술뿐만 아니라 앞으로 시장에 소개할 의미 있는 기술 및 신제품 라인업들로, 향후 SK하이닉스가 진정한 ‘솔루션 프로바이더(Solution Provider)’로의 입지를 단단히 할 것으로 기대를 모으고 있다.