SK하이닉스가 지난 19일(현지시간)부터 이틀간 미국 캘리포니아주 산호세에서 열린 ‘인텔 이노베이션 2023’에 참가해 최신 메모리 기술과 제품을 선보였다고 22일 밝혔다.

인텔 이노베이션은 2019년부터 인텔과 고객 및 파트너사가 매년 한자리에 모여 각자의 반도체 기술 개발 성과를 공유하는 글로벌 IT 전시회이다. 이 행사에서 SK하이닉스는 ‘최고의 메모리 기술을 통해 미래를 개척하다(Pioneer Tomorrow with the Best)’라는 슬로건을 걸고, 생성형 AI 시대에 필수적인 첨단 메모리 반도체 제품을 선보였다.

▲ ‘인텔 이노베이션 2023’에 전시된 SK하이닉스 첨단 메모리 제품인 CXL, HBM3, DDR5 모듈

AI 가속기의 고속 성능을 지원하는 HBM3*와 10나노급 5세대(1b) 기반 서버용 DDR5 모듈(RDIMM)이 가장 큰 관심을 받았다. HBM3로 AI 메모리 선도기업으로 부상한 SK하이닉스는 내년 양산 예정인 HBM3E(Extended) 시장에서도 독보적인 지위를 이어갈 것으로 기대를 모았다.

SK하이닉스는 10나노급 5세대(1b) 기반의 DDR5 RDIMM도 공개했다. 이 제품은 업계 최고 수준인 초당 6400Mb(메가비트) 이상의 전송 속도를 지원하고, 특히 저전력 특성으로 고객의 비용 절감과 ESG 가치를 동시에 창출할 수 있는 제품으로 관심을 모았다.

SK하이닉스는 DDR5 기반 96GB(기가바이트) CXL* 메모리 모듈 제품도 전시했다. 회사는 CXL이 적용된 AI 가속 시스템 등의 응용 모델을 소개하고, CXL을 통해 성능 향상은 물론, 신뢰성, 보안, 관리 측면에서 고객이 얻을 수 있는 이점을 부각했다.

▲ ‘인텔 이노베이션 2023’에서 DDR5와 CXL 메모리를 주제로 발표 중인 SK하이닉스 DRAM상품기획 김진평 TL, DRAM기술기획 브라이언 윤 TL(왼쪽부터)

SK하이닉스는 현장에서 미래 메모리 솔루션에 관한 발표 세션도 진행했다. 미주법인 DRAM기술기획 브라이언 윤 TL과 DRAM상품기획 김진평 TL은 ‘데이터 기반의 혁신을 이끄는 DDR5와 CXL 메모리’를 주제로 발표를 진행하며, AI와 빅데이터 시대에 핵심적인 역할을 맡게 될 제품이라고 소개했다.

SK하이닉스 DRAM상품기획 류성수 부사장은 “향후에도 앞선 기술력을 선보여 고객과의 파트너십을 강화하고, 시장을 선도하는 글로벌 일류 기술기업으로서의 위상을 더욱 공고히 해나가겠다”고 밝혔다.

* 생성형 인공지능(Generative AI): 딥 러닝 모델을 사용하여 대량의 데이터를 학습, 이용자의 요구에 따라 능동적으로 결과를 생성하는 인공지능 기술
* 여러 개의 D램 칩을 TSV(Through Silicon Via)로 수직 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)를 거쳐 현재 5세대(HBM3E)까지 개발됨. HBM3E는 HBM3의 확장(Extended) 버전

이 중심에는 세계 최초로 HBM을 시장에 선보인 뒤, 꾸준히 최초·최고의 기록을 경신하고 있는 SK하이닉스가 있다. 지난 8월 SK하이닉스는 HBM 5세대인 ‘HBM3E’ 개발에 성공, 고객사에 샘플을 공급하며[관련기사], 다시 한번 AI 메모리 반도체 최강자임을 증명했다. HBM3E는 HBM3의 확장형 모델로, 속도부터 발열제어, 고객 사용 편의성 등 모든 측면에서 현존 최고 수준이라는 평가를 받고 있다.

뉴스룸은 HBM3E 개발을 성공적으로 이끈 개발진 대표들(DRAM상품기획 황현 TL, HBM Design 이재승 TL, DRAM개발 박온전 TL, HBM PKG제품 하경무 TL, HBM PE 홍양숙 TL)을 만나 제품의 특장점과 차세대 HBM 개발 로드맵에 관해 이야기 나누었다.

전 세대 제품 대비 속도·용량·발열제어 측면 모두 개선, 제품 호환성까지 확보

HBM3E는 핀당 처리 속도 최고 9.2Gbps, 초당 최고 1.15TB(테라바이트)를 넘는 데이터 처리 속도를 기록하며 HBM 제품 최초로 TB의 벽을 넘어섰다. 이는 FHD(Full-HD)급 영화(5GB) 230편 이상 분량의 데이터를 1초 만에 처리하는 수준이다.

HBM3E는 HBM3 대비 용량도 개선되었다. 8단 적층으로 12단 적층 HBM3와 동일한 용량을 확보해, 향후 12단 적층 제품 개발 시 용량이 한층 더 커지게 된다.

또한, 방열 특성을 강화하는 패키지 기술인 스택(Stack) 공법과 방열 소재를 개선한 어드밴스드 MR-MUF[관련기사]* 등 최신 기술이 적용됐다. 이를 통해, HBM3E는 열 방출 성능이 이전 세대 대비 10% 향상됐다.

* MR-MUF(Mass Reflow-Molded Under Fill): 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적인 공정으로 평가받음

HBM3E는 국제반도체표준화기구(JEDEC) 규격 기준, HBM3와 패키지 외관과 구조가 동일하다. 따라서 별도의 구조 변화 없이, HBM3를 염두에 두고 구성한 시스템이나 설계에서 HBM3E를 그대로 적용할 수 있는 하위 호환성(Backward Compatibility)*을 갖췄다.

* 하위 호환성(Backward Compatibility): 과거 버전 제품과 호환되도록 구성된 IT/컴퓨팅 시스템 내에서 신제품이 별도로 수정이나 변경 없이 그대로 쓰일 수 있는 것을 뜻함. 가령, CPU나 GPU 업체 입장에서는 메모리반도체 신제품이 하위 호환성을 갖추고 있으면 신제품에 특화한 설계 변경 등을 진행하지 않고 기존의 CPU/GPU를 그대로 쓸 수 있는 장점이 있음

DRAM상품기획 황현 TL은 “고객의 니즈(Needs)에 따라 속도, 용량, 발열 제어 측면에서 개선된 신제품 개발에 착수, 세계 최고 성능의 HBM3E 개발에 성공했다”며 “이전 제품인 HBM3 대비 속도는 1.3배 빨라졌고, 용량은 1.4배 높아졌다. 동시에 동일한 속도에서 전력 특성을 10% 개선했으며, HBM3 JEDEC 규격을 기반으로 제품 호환성까지 확보했다”고 강조했다. 또 황 TL은 “고객사 피드백을 적극 반영한 덕에 시장 반응 역시 상당히 긍정적이라”고 말했다.

AI 솔루션 최적화, 세계 최고 사양 ‘HBM3E’ 개발 발자취

AI 솔루션은 대량의 데이터를 빠르게 연산하고 및 저장하는 기술이 핵심이다. 때문에 HBM은 고대역폭을 통한 빠른 속도와 TSV 기술 기반 적층으로 고용량을 구현한 고성능 제품으로 최적화되어 현재 AI용 메모리 시장에서 가장 주목받는 제품군이다. 시장 선점을 위한 개발진의 미션은 더 빠르고, 더 큰 용량의, 전력 문제까지 개선한 차세대 제품을 만드는 것이었다.

HBM Design 이재승 TL은 “HBM3E는 HBM3와 동일한 패키지 안에 용량은 1.5배 높이고, 코어 넷다이는 동일한 수준으로 확보하며 개선된 성능을 구현했다”며 “셀은 늘었지만 면적은 줄여야 하고, 회로는 그대로인데 속도는 높여야 하는 어려운 과제였다”고 HBM3E 설계의 어려움을 털어놓았다.

▲ HBM3E의 속도 및 전력 특성에 대해 설명하고 있는 HBM Design 이재승 TL

이 TL은 소자간 간격 감소에 따른 병목현상 및 속도·전원 특성을 개선할 수 있는 설계를 적용했다. 또, 적층된 D램 칩 간 왜곡(Skew) 발생으로 인한 속도 저하 등을 설계 단계에서 예측하고 개선했다. 그는 “HBM3E의 속도 및 전력 특성은 현재의 D램 공정 기술로 가능한 최고 수준”이라며 “초당 1.15TB라는 데이터 처리 속도가 증명하듯, HBM3E를 통해 SK하이닉스는 AI용 메모리 시장에서 독보적인 지위를 이어갈 것이라고 확신한다”고 자신감을 드러냈다.

HBM3E는 패키지 기술로 용량과 속도를 증대시킬 때 고질적으로 따라붙는 발열 문제도 잡았다. HBM PKG제품 하경무 TL은 “속도와 용량이 높아지면 발열 또한 상승한다”며 “MUF(Molded Under-Fill) 소재를 고방열 신소재로 적용하고, 갭 높이도 줄여 만족할 만한 방열 성능을 달성했다”고 설명했다.

▲ SK하이닉스의 MR-MUF 소재 우수성을 설명하고 있는 HBM PKG제품 하경무 TL

이어 하 TL은 “당사가 기술적 우위를 가지고 있는 MR(Mass Reflow) 공법과 MUF 소재를 지속해 개발하고 있다”고 강조했다. [관련기사]

HBM3E는 일찍부터 글로벌 고객사들의 이목을 집중시킨 제품이었다. 이에 부응하기 위해, 개발진은 공정 개선의 어려움에도 불구하고 개발 일정까지 당기는 강수를 뒀다. 특히, 고객사의 높은 관심으로 샘플 요청 수량도 늘어난 상황. 패키지에 들어가는 D램 스택(Stack) 자체가 높아졌기 때문에, 샘플로 제작해야 하는 D램 단품 물량 역시 곱절로 늘어났다. 공정 프로세스 개발을 담당한 DRAM개발 박온전 TL은 제조·공정·소자 실무자들과의 ‘소통과 유기적인 협업’을 문제 해결의 키(Key)로 꼽았다.

▲ 유관부서 실무자들과 함께 문제를 해결한 과정에 대해 설명하고 있는 DRAM개발 박온전 TL

박 TL은 “공정 난이도는 높아졌지만, 고객사의 적극적인 요청에 최대한 일정을 당겼다”며 “쉽지 않은 일이었지만, 이미 HBM2E와 HBM3 개발에 성공한 경험과 노하우를 바탕으로 유관부서 실무자들과 함께 하나하나 문제의 실마리를 풀어가다 보니 어느 순간 목표에 도달해 있었다”고 덧붙였다.

테스트 측면에서는 지속적인 속도 평가 및 피드백을 통해 제품의 완성도를 높였다. HBM PE 홍양숙 TL은 “HBM3E는 속도가 생명”이라며 “제품 테스트 단계에서 원하는 만큼의 성능이 발휘되는지 점검하는 과정을 수없이 거치는데, 특히 다양한 환경에 맞춘 속도 평가를 세심하게 진행했다”고 말했다.

▲ 테스트 과정에서 어려움을 극복하며 개발자들이 기술적 성장을 이룰 수 있었음을 이야기하고 있는 HBM PE 홍양숙 TL

테스트 단계에 돌입했던 지난 4월에는 속도 특성이 목표치에 도달하지 못하는 등 장애요인들이 있었지만, 유관부서와의 치열한 논의와 지속적인 피드백으로 어려움을 돌파했다. 홍 TL은 “첫 소재 평가를 진행했던 지난 4월부터 개발에 성공한 순간까지 문제의 원인 및 개선 방안을 찾는 분석 회의를 하루도 빠지지 않고 진행했다”며 “이를 통해 제품 성능을 극대화했으며, 나아가 개발자들의 기술적인 성장까지 함께 이루어 냈기 때문에 개인적으로 더욱 의미 있는 과정이었다”고 덧붙였다.

‘1등 DNA’로 AI용 메모리 시장 제패, “당연히 자신있어”

▲ SK하이닉스의 HBM이 AI 메모리 시장에서 1등 기술력을 입증했다고 말하고 있는 DRAM상품기획 황현 TL

무엇보다 HBM3E 개발은 12단 적층을 통한 고용량, 고성능 HBM3 24GB(기가바이트) 패키지 개발 성공을 알린 지 단 3개월 만에 달성한 성과라는 점에서 의미가 크다. SK하이닉스는 HBM 최초 개발부터 HBM3E까지, HBM 제품 시장에서 꾸준히 퍼스트 무버 역할을 하며 기술 리더십을 공고히 하고 있다. DRAM상품기획 황현 TL은 “단기간 내 기술 장벽을 뛰어넘는 일은 쉽지 않지만, 유관부서 모든 구성원이 한계를 극복하는 정신력을 발휘하며 노력했기에 가능한 일이었다고 생각한다”고 말했다.

제품 개발에 성공했지만, 여전히 갈 길은 멀다. 특히, AI 시장의 가파른 성장과 함께 HBM3E를 비롯한 생성형 AI용 고성능 메모리 수요는 더욱 늘어날 것으로 예측된다. 개발 성공만큼, HBM3E의 안정적인 양산 역시 중요한 상황. DRAM개발 박온전 TL은 “양산 환경에 최적화된 HBM3E 공정 구축을 통해 높은 수율과 공급 안정성 확보에 열정을 다하겠다”고 밝혔다.

개발진 모두는 시장 주도권을 지켜갈 수 있다는 자신감을 내비쳤다. HBM Design 이재승 TL은 “초당 TB라는 속도의 벽을 이제 막 넘어섰지만, 다음 단계는 지금까지 달성한 것 이상으로 훨씬 더 어려워질 것”이라며 “HBM은 당연히 SK하이닉스가 1등이라는 시각이 때로는 부담스러울 때도 있지만, 결국에 우리는 해낼 거라는 자신감이 앞선다”며 웃었다. HBM PE 홍양숙 TL은 “선행 제품 개발 업무는 난제가 많다 보니, 유관부서 구성원들끼리 끈끈해질 수밖에 없다”며 “함께 고민하고, 의견을 나누며 호흡을 맞추는 ‘원팀’ 문화가 회사의 HBM 기술 리더십을 굳건히 할 수 있는 저력” 이라고 말했다.

지난 3편에서 우리는 데이터센터를 구성하는 반도체, 그중에서도 DDR5와 MCR DIMM 등 D램에 관해 이야기를 나눴다. 하지만 D램의 영역은 생각보다 넓다. 데이터센터에 사용되는 D램은 이것이 전부가 아니다. 최근 챗GPT를 비롯해 인공지능에 대한 관심이 폭발적으로 늘어나자, 인공지능 구현에 최적화된 HBM(고대역폭메모리, High Bandwidth Memory)에 대한 관심도 덩달아 늘어났다. 실제로 HBM은 고성능 데이터센터를 구현하기 위한 GPU(Graphic Processing Unit)에 빠르게 적용되고 있다. 또한, 인공지능 등으로 인해 데이터 수요가 늘면서 많은 데이터를 저장하고 보관하는 스토리지(Storage)에 적용된 낸드플래시(NAND Flash) 역시 빼놓을 수 없다. 4차 산업혁명 시대에서 중요한 역할을 할 반도체로 기대되는 HBM과 낸드플래시에 대한 이야기, 지금부터 시작한다.

▲ SK하이닉스의 HBM이 적용된 GPU가 탑재된 SK텔레콤의 슈퍼컴퓨터 ‘타이탄(TITAN)’을 설명하고 있는 오수현 TL(가장 왼쪽)과 설명을 듣고 있는 정이현 TL, 이한주 대표, 이의상 TL, 이세라 TL(왼쪽부터)

인공지능의 방대한 데이터 처리엔 ‘HBM이 핵심’

이한주 대표 데이터센터를 구성하는 다양한 반도체에 대한 이야기를 나누고 있는데요[관련기사]. D램 분야에서는 확실히 SK하이닉스가 시장을 선도하고 있다는 것이 느껴지네요. 게다가 최근에는 챗GPT와 같은 인공지능의 등장으로 SK하이닉스의 반도체가 더욱 주목받고 있다고 들었습니다. 어떤 반도체인가요?

오수현 TL 네. 저희 SK하이닉스가 지난 2013년 최초로 개발에 성공한 HBM입니다. 고대역폭메모리 반도체인 HBM은 TSV* 기술을 적용해 여러 개의 D램을 수직으로 연결한 제품인데요. 수직으로 연결한 덕분에 HBM은 일반적인 D램에서 다소 어려웠던 데이터 병렬처리를 가능하게 해줍니다. HBM은 TSV 기술을 통해 상대적으로 패키징 사이즈가 작으며 매우 짧은 거리로 통신할 수 있어 더 빠르고 더 많은 데이터를 처리할 수 있습니다.

* TSV(Through Silicon Via, 실리콘 관통 전극) : D램 칩에 수천 개의 미세한 구멍을 뚫어 상층과 하층의 칩을 수직으로 관통해 상호 연결하는 첨단 패키지 방식

이의상 TL 저희가 둘러보고 온 SK텔레콤의 슈퍼컴퓨터 ‘타이탄’에도 SK하이닉스의 HBM이 적용돼 있었는데요. 인공지능을 위한 데이터센터 등에 널리 사용되고 있는 NVIDA의 GPU에 저희가 개발하고 생산하는 HBM이 적용돼 있습니다.

이한주 대표 HBM에 관해 잘 설명해 주셨는데요. HBM이 데이터센터에 적용되면 무엇이, 얼마나 좋을지 더 자세히 설명해 주시겠어요?

▲ HBM이 데이터센터에서 어떤 역할을 한지 설명하고 있는 오수현 TL과 설명을 듣고 있는 이의상 TL, 이한주 대표

오수현 TL 네. 데이터센터에서는 방대한 양의 데이터를 빠르게 처리해야 하는데요. 최근에는 챗GPT와 같은 인공지능이 큰 관심을 받으면서 더 많은 데이터를 더욱 빠르게 처리할 수 있는 메모리 수요가 늘어나고 있습니다. 이러한 수요를 충족할 수 있는 것이 바로 HBM인데요. HBM은 TSV 기술을 이용해 상대적으로 적은 면적에 더 많은 데이터 입출력 통로를 가지게 됩니다. HBM의 데이터 전송 통로(I/O)는 1,024개로 일반적인 D램의 데이터 전송 통로인 8개와 비교하면 매우 많다는 것을 알 수 있습니다.

이러한 구조적 차이가 데이터센터에 어떻게 적용되는지 이해하기 쉽도록 우리가 흔히 이용하는 도로에 빗대어 설명해 드리겠습니다. 똑같은 통행량이라고 가정했을 때 왕복 2차선 도로와 왕복 16차선 도로가 있다면 어느 쪽이 훨씬 원활할까요? 당연히 16차선 도로일 것입니다. 이러한 차이는 교통량이 많아질수록 더욱 커질 것입니다. HBM을 사용한다는 것은 더 많아지는 교통량을 위해 왕복 16차선 도로를 두는 것과 비슷합니다. 방대한 양의 데이터 전송이 필요한 데이터센터나 인공지능 학습을 위해 꼭 필요한 제품이죠.

이한주 대표 예를 들어 설명해 주시니 이해가 쉽네요. 전송해야 하는 데이터가 많을수록 HBM이 더욱 큰 역할을 할 수 있군요. 게다가 제가 알기로는 HBM은 더 적은 전력 소비에도 효과적이라고 들었는데요. 이에 대해서도 간단히 설명해 주시겠어요?

오수현 TL HBM의 경우, 곡선 형태로 연결된 선을 각각의 다이(Die)에 연결하는 기존 D램의 방식(Wire Bonding)이 아닌 다이(Die)를 수직으로 연결하는 TSV 기술이 적용했기 때문에 상대적으로 패키지의 크기가 매우 작으며, 통신 거리도 비교적 짧아집니다. 덕분에 데이터 전송에 필요한 소비 전력도 줄어드는 것이죠. 압도적으로 뛰어난 성능에 더해 저전력까지, HBM은 데이터센터에 반드시 필요한 반도체라고 생각합니다.

▲ TSV 기술을 도입해 획기적으로 면적을 줄일 수 있었던 HBM

이의상 TL 이처럼 높은 효율을 보이는 HBM에 대한 수요가 늘어나고 있는 만큼 저희 SK하이닉스 역시 HBM 개발을 꾸준히 이어왔는데요. 덕분에 저희는 지난 2021년 업계 최초로 HBM3 개발 성공을 이뤄냈습니다. HBM3는 초당 819GB(기가바이트)의 동작 속도를 자랑하는데요. 이는 FHD 영화 163편을 1초 만에 전송할 수 있는 엄청난 속도입니다.

▲ SK하이닉스가 세계 최초로 개발에 성공한 12단 적층 HBM3

오수현 TL 저희가 개발한 HBM3의 경우 지난해 6월부터 본격적인 양산을 시작해 현재는 세계 최고 수준의 인공지능 전용 GPU인 NVDIA의 H100에 탑재되고 있는데요. H100은 인공지능 솔루션을 위한 다양한 데이터센터에서 사용되고 있습니다. 저희 SK하이닉스는 세계 최초로 HBM3를 개발한 데 이어, 최근에는 12단 HBM3의 개발[관련기사]에 성공하면서 HBM 기술 리더십을 굳건히 했습니다.

12단 HBM3의 경우, 기존 HBM3에서 D램을 8단을 수직으로 쌓은 것보다 더 많은 12단을 쌓은 제품입니다. 이를 통해 기존 16GB에서 24GB로 용량을 50% 늘릴 수 있었죠. 기존의 HBM3와 같은 두께를 유지하면서 용량(적층 수)을 높이기 위해 HBM에 들어가는 D램을 40% 얇게 만들어 쌓았는데요. D램을 얇게 만들면서 칩이 쉽게 휘어지는 등의 문제를 해결하기 위해 개선된 보호재(ECM*)와 새로운 적층 방식을 활용한 어드밴스드(Advanced) MR-MUF* 기술을 적용했습니다.

* 에폭시 보호재(EMC, Epoxy Molding Compound) : 열경화성 고분자의 일종인 에폭시 수지를 기반으로 만든 방열 소재로, 반도체 칩을 밀봉해 열이나 습기, 충격 등 외부 환경으로부터 보호한다.
* MR-MUF(Mass Reflow-Molded Under Fill) : 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적인 공정으로 평가받고 있다. [관련기사]

이한주 대표 앞으로 더욱 늘어나게 될 클라우드와 데이터센터에서 SK하이닉스의 HBM들이 아주 큰 역할을 할 수 있을 것으로 기대가 되네요.

데이터센터의 또 다른 축, ‘스토리지’를 이루는 ‘낸드플래시’

이한주 대표 앞에서 얘기 나눴던 DDR5 MCR DIMM이나 HBM과 같은 반도체 제품들은 모두 데이터의 전송과 연산을 돕는 제품으로 알고 있는데요. 데이터센터에는 이외에도 핵심적인 역할을 하는 반도체가 있죠?

정이현 TL 네. 데이터를 저장하고 보관하는 스토리지를 구축하기 위한 낸드플래시가 있습니다. 지금까지 D램에 대한 이야기를 듣다 보니 ‘우리 SK하이닉스가 데이터센터, 그중에서도 D램 분야를 선도하고 있구나’라는 생각이 들었는데요. 낸드플래시 역시 데이터센터를 구축하는 한 축으로 매우 중요한 반도체이고 저희 SK하이닉스 역시 데이터센터를 위한 다양한 낸드플래시 제품을 개발 및 생산하고 있습니다.

▲ 데이터센터에 적용되는 낸드플래시의 다양한 제품들을 소개하고 있는 이의상 TL, 이한주 대표, 정이현 TL(왼쪽부터)

이한주 대표 낸드플래시는 우리가 흔히 사용하고 있는 SSD(Solid State Drive)를 구성하는 반도체인 것으로 알고 있는데요. SSD와 낸드플래시에 관해 설명해 주시겠어요?

정이현 TL 앞서 스토리지에 대해 살펴보면 좋을 것 같은데요. 과거 스토리지의 핵심이었던 자기를 이용한 HDD(Hard Disk Drive)에서 낸드플래시를 활용하는 SSD로 넘어오면서 우리는 많은 변화를 겪었습니다. 가장 먼저, 필요 전력이 감소했고, 데이터를 읽고 쓰는 속도가 비약적으로 상승했습니다. 게다가 자기 디스크를 사용해야 했던 HDD는 소형화에 물리적인 한계가 있었는데요. 그에 비해 낸드플래시를 활용했던 SSD는 소형화가 가능했습니다. 덕분에 지금 우리는 스마트폰을 비롯해 데이터센터 등에서도 공간을 절약하며 스토리지를 사용할 수 있죠.

특히, 저희 SK하이닉스는 지난해 8월 세계 최초로 238단 512Gb(기가비트) TLC(Triple Level Cell)* 4D 낸드플래시 개발에 성공하고 양산을 시작하기도 했습니다. 세계 최초로 238단 낸드플래시 개발에 성공했다는 것은 그만큼 저희 SK하이닉스가 낸드플래시 기술력에서 앞선다는 것을 의미하기도 합니다. 238단이라는 최고층에도 큰 의미가 있지만, CTP*와 PUC* 기술을 통해 구현한 4D 제품인 것도 큰 의미가 있습니다. 238단 4D 낸드플래시의 경우 이전 세대인 176단과 비교해 더 작은 크기로 생산이 가능해지면서 생산성이 높아졌고, 데이터 전송 속도는 2.4GB/s로 50% 빨라졌습니다. 게다가 소비 전력 역시 21% 줄었죠. 해당 제품이 지금 당장 서버용 SSD에 적용되는 것은 아니지만, 머지않아 서버에도 적용될 것으로 보이는데요. 이를 통해 데이터센터의 스토리지 성능과 전력 효율이 크게 향상할 수 있을 것입니다.

* 낸드플래시는 한 개의 셀(Cell)에 몇 개의 정보(비트 단위)를 저장하느냐에 따라 SLC(Single Level Cell, 1개)-MLC(Multi Level Cell, 2개)-TLC(Triple Level Cell, 3개)-QLC(Quadruple Level Cell, 4개)-PLC(Penta Level Cell, 5개) 등으로 규격을 구분. 정보 저장량이 늘어날수록 같은 면적에 더 많은 데이터를 저장할 수 있다.
* CTF (Charge Trap Flash) : 전하를 도체에 저장하는 플로팅 게이트(Floating Gate)와 달리 전하를 부도체에 저장해 셀 간 간섭 문제를 해결한 기술로, 플로팅게이트 기술보다 단위당 셀 면적을 줄이면서도 읽기, 쓰기 성능을 높일 수 있는 것이 특징이다.
* PUC (Peri. Under Cell) : 주변부(Peri.) 회로를 셀 회로 하단부에 배치해 생산효율을 극대화하는 기술

이한주 대표 낸드플래시 역시 D램과 같이 더 빨라진 속도와 작아진 크기, 저전력이 핵심이군요.

▲ 세계 최고층으로 개발된 SK하이닉스의 238단 4D 낸드플래시

정이현 TL 네. 맞습니다. 데이터센터에서 낸드플래시의 역할은 PC에서의 역할과 크게 다르지않게 데이터를 저장하고 보관하는 것입니다. 앞서 설명해 주신 D램과 비교해 보자면 D램은 가까운 곳에 손이 닿는 책상 정도로 생각할 수 있을 것 같습니다. 책을 볼 때만 책상 위에 책을 두는 것이죠. 하지만 SSD의 경우 다양한 책을 오래 보관하는 도서관이라고 할 수 있을 것 같아요. 잠시 불러오고 휘발되는 메모리가 아닌 장기간 저장할 수 있는 비휘발성 메모리라고 생각하시면 됩니다. 다만 데이터센터에 적용되는 낸드플래시의 경우, 단순히 데이터를 얼마나 빠르고 많이 읽고 쓸 수 있느냐를 넘어서 더 많은 요소를 고민해야 합니다.

정이현 TL 앞서 D램 제품들의 특징을 말씀해 주신 것과 상당히 비슷한 점이 있는데요. 낸드플래시 역시 데이터 저장뿐 아니라 SoC(System on Chip) 등을 활용해 연산 장치를 보조하는 등의 역할이 요구되고 있는 상황입니다. 그리고 저전력 역시 중요한 이슈이죠. 특별히 D램과 다른 점이 있다면 낸드플래시의 경우 데이터를 저장하기 위한 제품이다 보니 보안과 관련해 더 철저한 검증이 필요합니다.

개인 정보와 같은 민감한 정보가 저장되는 데이터센터의 경우, 보안 강화가 핵심 이슈가 될 수 있으며, 플랫폼이나 서비스 제공을 위한 데이터센터에서는 시스템 오류 등의 문제로 인해 발생하는 데이터 손상을 예방하거나 바로 복구 가능한 제품을 선호하는 경향이 있습니다. 심지어 보안 문제와 관련해선 일정 수준에 도달하지 못하면 아예 납품하지 못하는 경우도 빈번하기 때문에 저희도 제품의 보안 강화를 위해 노력하고 있는 상황입니다.

이한주 대표 보안과 관련된 부분은 저도 참 공감하는 부분이 많은데요. 이야기를 들어보니 소프트웨어 기반의 클라우드와 하드웨어 기반의 낸드플래시가 추구하는 방향이 상당히 비슷하다는 것을 느꼈습니다. 데이터를 저장한다는 측면에서 최근 클라우드 업계에서도 보안은 매우 중요한 이슈거든요. 과거에는 애플리케이션 단계에 보안 이슈가 집중돼 있었지만, 이제는 하드웨어 베이스에서까지 해킹할 수 있는 시대이기 때문에 낸드플래시 제품에서 더욱 보안에 힘쓰는 이유를 알 것 같네요.

지금까지 데이터센터에 어떤 반도체들이 필요하고, 해당 반도체들이 어떤 역할들을 하고 있는지 들어봤는데요. 데이터센터의 하드웨어 부분까지는 저도 잘 몰랐던 내용들이라 들으면서도 새롭게 알게 된 부분도 있어서 아주 신기하고 재밌었습니다. 반도체의 발전으로 더욱 쾌적한 환경의 클라우드 서비스와 데이터센터 운영이 가능했다는 생각이 듭니다. 그럼, 끝으로 클라우드 서비스와 데이터센터의 전망에 대한 이야기를 나눠보도록 할까요?
지금까지 데이터센터를 구성하는 다양한 반도체들에 관한 이야기를 나눴다. 더 빠른 데이터 전송을 위한 DDR5 MCR DIMM[관련기사]과 인공지능을 위해 특화된 HBM, 그리고 데이터 저장을 위한 핵심 반도체인 낸드플래시까지 살펴봤다. 해당 시리즈의 마지막 콘텐츠가 될 다음 편에서는 함께 나눈 대담에 대한 소감과 미래 전망에 대해 살펴볼 예정이다. 이한주 대표와 SK하이닉스의 미래를 위한 데이터센터와 클라우드, 그리고 반도체에 대한 이야기는 계속된다.

▲ ‘HPE 디스커버 2023’에 참가한 SK하이닉스의 전시 부스 모습

▲ ‘HPE 디스커버 2023’에 참가한 SK하이닉스의 전시 부스 모습

HPED는 미국의 ICT 기업인 HPE(Hewlett Packard Enterprise)가 주최하는 연례 행사로, HPE의 고객과 파트너들이 데이터센터 운영 트렌드를 파악하고 메모리 솔루션 등을 공유하는 자리다. SK하이닉스는 “이 행사에서 업계 최고 수준의 데이터센터향 메모리 솔루션을 선보여 주목을 받았다”며 “이를 통해 HPE와의 파트너십을 더욱 공고히 했다”고 밝혔다.

SK하이닉스는 이 행사에서 ‘메모리 성능으로 고객의 경쟁력을 높인다(Elevate your Edge with Memory Performance!)’는 슬로건을 걸고, 고성능 PCIe* 5세대 기반의 기업용 SSD인 PS1010 E3.S와 10나노급 5세대(1b) 공정이 적용된 서버용 D램 모듈인 DDR5 RDIMM을 소개했다. 또 회사는 이 두 제품을 HPE의 최신 서버인 Gen11에 장착해 성능을 시연하는 등 공동 프로모션을 진행했다.

* PCIe(Peripheral Component Interconnect Express) : 디지털 기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스

▲ ‘HPE 디스커버 2023’에서 소개된 SK하이닉스와 솔리다임의 첨단 메모리 솔루션

▲ ‘HPE 디스커버 2023’에서 소개된 SK하이닉스와 솔리다임의 첨단 메모리 솔루션

▲ ‘HPE 디스커버 2023’에서 소개된 SK하이닉스와 솔리다임의 첨단 메모리 솔루션

이와 함께, SK하이닉스는 생성형 AI 붐으로 화제가 된 HBM3*, 메모리 대역폭과 용량 확장이 용이한 CXL* 메모리, 차세대 지능형 반도체인 PIM* 등 첨단 메모리 솔루션도 소개했다. 또 자회사인 솔리다임이 PCIe 4세대 NVMe* 기반 SSD를 공개하는 등 양사는 폭넓은 제품 포트폴리오로 볼거리를 제공했다.

* HBM(High Bandwidth Memory) : 여러 개의 D램을 TSV(실리콘관통전극)로 수직 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품

* CXL(Compute Express Link) : 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반의 차세대 인터커넥트 프로토콜

* PIM(Processing-In-Memory) : 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅 데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술

* NVMe(Non Volatile Memory express) : PCIe 인터페이스를 기반으로 한 저장장치를 위한 통신 규격(프로토콜)으로 기존 SATA 인터페이스 대비 최대 6배 이상의 속도를 낼 수 있어 초고속, 대용량 데이터 처리에 적합함

▲ SK하이닉스 Solution개발 조직의 임의철 부사장(펠로우)이 ‘HPE 디스커버 2023’에서 PIM 반도체가 향후 어떻게 GPT의 효율성을 높일지 설명하고 있다.

이 행사에서 SK하이닉스는 메모리의 역할과 비전을 소개하는 발표 세션도 진행했다. Solution개발 조직의 임의철 부사장(펠로우)이 ‘GPT의 효율성을 높이는 PIM 반도체’에 대해 소개했으며, 미주법인 최태진 TL, 산토시 쿠마르 TL은 ‘차세대 서버의 SSD 스토리지 기술 동향’을 발표했다. 또 미주법인 이유성TL은 ‘빅데이터 시대의 차세대 D램 표준이 될 DDR5’에 대해 발표하며, 급변하는 IT환경에 대응하는 데 메모리 솔루션이 필수적이라는 점을 강조했다.

SK하이닉스 GSM전략담당 김석 부사장은 “앞으로도 당사는 더 진화된 차세대 솔루션 기술력을 기반으로 외부와의 접점을 늘려 주요 고객과의 파트너십을 강화해 나갈 계획”이라고 말했다.

SK하이닉스가 지난 22일(현지시간)부터 나흘간 미국 라스베이거스에서 열린 IT 전시회인 ‘델 테크놀로지스 월드(Dell Technologies World, 이하 DTW) 2023’에 참가해 최신 메모리 기술과 제품을 선보였다고 밝혔다.

▲ ‘델 테크놀로지스 월드 2023’에 참가한 SK하이닉스의 부스

DTW는 미국 전자기업 델 테크놀로지스(Dell Technologies)가 주최하는 가장 큰 연례행사로, 여러 글로벌 IT 기업이 참가해 향후 테크 트렌드를 이끌 다양한 개발 성과를 공개하는 자리다. 올해 SK하이닉스는 개최 지역인 라스베이거스의 특성을 녹인 ‘운에 베팅 말고, 기술에 베팅하라(Don’t bet on luck, bet on our Tech!)’라는 슬로건을 통해 새로운 데이터 시대(New Data Era)에 걸맞은 초격차 기술을 만들어 나가겠다는 메시지를 강조했다.

▲ SK하이닉스가 ‘델 테크놀로지스 월드 2023’에서 전시한 PCIe 5세대 기반의 기업용 SSD인 PS1010와 고객용 SSD인 PC801

▲ SK하이닉스가 ‘델 테크놀로지스 월드 2023’에서 전시한 PCIe 5세대 기반의 기업용 SSD인 PS1010와 고객용 SSD인 PC801

2019년부터 이 행사에 참가해온 SK하이닉스는 올해도 다양한 최신 기술과 제품을 선보였다. 우선, 델 테크놀로지스의 서버 제품군에 채용될 PCIe* 5세대 기반의 기업용 SSD인 PS1010을 공개하고, 고객용 SSD 신제품인 PC801을 델의 데스크톱에 장착해 성능을 시연하는 등 진화된 기술력을 관람객에게 선보였다.

* PCIe(Peripheral Component Interconnect Express) : 디지털 기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스

▲ SK하이닉스가 ‘델 테크놀로지스 월드 2023’에서 전시한 CXL 메모리와 HBM3

▲ SK하이닉스가 ‘델 테크놀로지스 월드 2023’에서 전시한 CXL 메모리와 HBM3

또 회사는 최근 큰 관심을 모으고 있는 CXL* 메모리를 실물 서버에서 성능을 시연하고, AI 챗봇에 활용되는 엔비디아의 GPU인 H100과 여기에 채용된 SK하이닉스 HBM3*를 합동 전시해 주목을 끌기도 했다.

* CXL(Compute Express Link) : 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반의 차세대 인터커넥트 프로토콜

* HBM(High Bandwidth Memory) : 여러 개의 D램을 TSV(실리콘관통전극)로 수직 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품

▲ SK하이닉스가 ‘델 테크놀로지스 월드 2023’에 전시한 최신 D램 및 SSD 제품. 다음 장은 SK하이닉스의 자회사인 솔리다임의 SSD 제품

▲ SK하이닉스가 ‘델 테크놀로지스 월드 2023’에 전시한 최신 D램 및 SSD 제품. 다음 장은 SK하이닉스의 자회사인 솔리다임의 SSD 제품

이 밖에도 SK하이닉스는 서버와 PC에 쓰이는 DDR5 모듈, 모바일 기기에 탑재되는 LPDDR5X, 그래픽용 D램인 GDDR6 등 여러 D램 제품군과 더불어, E1.S/U.2/M.2 22110/M.2 2280 등 다양한 폼팩터(규격)의 기업용 SSD, 신규 고객용 SSD인 PC801/BC901과 소비자용 SSD인 P31/P41 등을 함께 전시했다. 또 자회사인 솔리다임의 PCIe 4세대 NVMe* 기반의 기업 및 고객용 SSD를 선보이는 등 다양한 포트폴리오로 볼거리를 제공했다.

* NVMe(Non Volatile Memory express) : PCIe 인터페이스를 기반으로 한 저장장치를 위한 통신 규격(프로토콜)으로 기존 SATA 인터페이스 대비 최대 6배 이상의 속도를 낼 수 있어 초고속, 대용량 데이터 처리에 적합하다.

▲ SK하이닉스 차세대메모리기획 심응보 TL이 ‘델 테크놀로지스 월드 2023’ 발표 세션에서 CXL 메모리의 개념과 장점에 대해 설명하고 있다.

이와 함께 SK하이닉스는 CXL 메모리의 역할과 미래 비전을 소개하는 세션(Breakout Session)을 현장에서 진행했다. 발표를 맡은 차세대메모리기획 심응보 TL은 “CXL 메모리는 기존 D램 제품 보다 대역폭을 늘려 성능을 향상시키고, 더 쉽게 용량을 확대할 수 있는 솔루션으로, 곧 상용화될 것”이라며 “신뢰성, 보안, 관리 측면에서 장점을 가진 CXL은 앞으로 다양한 서버에서 활용될 것”이라고 설명했다.

SK하이닉스는 앞으로도 DTW를 비롯한 다양한 행사를 통해 주요 고객과의 파트너십을 강화하고, 다양한 신제품을 지속적으로 선보인다는 계획이다.

빅데이터, 챗GPT 등 인공지능(AI) 서비스 열풍이 거세지며, 이를 지원하는 고성능 반도체 기술 경쟁도 날로 치열해지고 있다. 이런 가운데 SK하이닉스는 잇따라 기술 한계를 넘어서며 고부가가치, 고성능 제품에서 경쟁 우위를 확보하고 있다. 대표적인 제품이 바로 HBM*이다.

세계 최초로 HBM3를 개발하고(2021년), 양산에 성공한(2022년) SK하이닉스는 기존 제품과 동일한 크기로 더 많은 용량을 제공하는, 세계 최초 12단 적층 HBM3 24GB(기가바이트) 패키지(이하 12단 HBM3)를 개발하고, AMD 등 고객사에 샘플을 제공하며 다시 한번 이 분야 기술 리더십을 굳건히 했다[관련기사].

뉴스룸은 어드밴스드(Advanced) MR-MUF 등 첨단 기술을 적용해 최고의 가치를 구현한 12단 HBM3 개발진(DRAM 상품기획 김왕수 PL, HBM PKG제품 박진우 PL, HBM PE 성형수 PL, WLP FE개발 양주헌 PL, WLP BE개발 권종오 PL)을 만났다. 이번 제품의 특장점과 개발 비하인드 스토리 그리고 차세대 제품에 대한 포부까지 기술 혁신 주역들에게 들어봤다.

어드밴스드 MR-MUF 등 또 한번 기술 혁신… 최고 용량 HBM3 구현해 고객사 신뢰 확보

SK하이닉스의 12단 HBM3는 제품 안에 적층되는 D램 칩의 개수를 8개(기존 16GB 제품)에서 12개로 늘려 용량을 50% 높인 제품이다. 이를 통해 SK하이닉스는 현존 최대 용량 24GB를 구현하면서도, 전체 높이(제품 두께)는 16GB 제품과 동일하게 유지했다. 기존과 동일한 공간 안에서 더 많은 데이터 처리가 가능한 솔루션을 제공할 수 있게 된 것이다.

두께를 유지하면서 용량(적층수)을 높이기 위해 D램 칩을 40% 얇게 만들어 위로 한 개씩 쌓아야 되는데, 이 경우 칩이 쉽게 휘어지는 등 문제가 발생한다. 이에 개발진은 개선된 에폭시 밀봉재(EMC)*와 새로운 적층 방식을 활용한 어드밴스드(Advanced) MR-MUF** 기술을 적용해 기술 한계를 극복했다.

SK하이닉스는 현재 다수 글로벌 고객사에 샘플을 제공해 성능 테스트를 진행 중이며, 상당히 긍정적인 반응을 얻고 있다.

특히 AMD의 메모리 제품 부문 총괄 책임자 로먼 키리친스키(Roman Kyrychynskyi) 부사장은 “AI 모델이 빠르게 성장하며 초고속, 고용량 메모리에 대한 수요를 이끌고 있다”며 “이러한 흐름에 발맞춰 새로운 HBM 메모리를 지속 개발해내고 있는 SK하이닉스의 노력에 감사한다”고 전했다.

SK하이닉스 DRAM상품기획 김왕수 PL은 “이 제품을 통해 SoC(System on Chip)* 업체들은 시스템 안에 추가 공간을 확보할 필요 없이 동일 크기의 제품으로 1.5배의 용량 상승 효과를 얻을 수 있다”며 “많은 고객사가 우리 기술력에 높은 신뢰를 보이고 있고, 회사는 올해 하반기부터 신제품 공급을 시작할 것”이라고 밝혔다.

열 방출 · 생산성 · 안정성 모두 탁월… “12단 HBM3가 SK하이닉스 시장 경쟁력 높여줄 것”

“SK하이닉스는 고객과 시장의 요구를 미리 예상하고 지난해부터 이미 24GB 제품을 개발 로드맵에 올려놨습니다. 덕분에 빠르게 기술 개발에 나서 12단 HBM3 24GB 패키지를 선보일 수 있었습니다.”

김왕수 PL은 기존의 8단 HBM3 양산 이후 약 10개월 만에 12단 HBM3를 개발했다고 밝혔다. 단기간 내 괄목할 만한 성과를 달성했지만, 그 과정은 결코 만만치 않았다. 특히 40% 얇아진 D램 칩 12장을 기존보다 13% 좁은 간격으로 쌓다 보니, 칩을 제어하기 힘들고 공정을 적용하기가 어려웠다. WLP BE개발 권종오 PL은 ‘어드밴스드 MR-MUF’ 공정 도입을 해법으로 꼽았다.

▲ WLP BE개발 권종오 PL(가운데)이 어드밴스드 MR-MUF 기술을 설명하고 있다.

“어드밴스드 MR-MUF는 기존 MR-MUF 대비 세 가지 개선점이 있었습니다. 먼저 얇아진 웨이퍼가 휘지 않도록 제어하는 신규 기술이 들어갔습니다. 다음으로 12단으로 쌓는 과정에서 칩과 칩 사이를 잇는 범프들이 고르게 연결되도록 강한 열을 순간적으로 가해 가접합했죠. 마지막으로 진공 상태에서 방열성 높은 신규 EMC 소재를 밀어 넣고 70톤의 압력을 가해 칩 사이사이 좁은 공간에 채워 넣었습니다.”

권 PL은 어드밴스드 MR-MUF를 통해 기존 MR-MUF의 장점을 고스란히 살리면서, 생산성은 약 3배, 열 방출은 약 2.5배 끌어올렸다고 강조했다.

조직 간 긴밀한 협업, 그리고 끊임없는 테스트로 완성된 12단 HBM3

김왕수 PL은 이번 제품 성공의 주된 요인으로 조직 간 협업을 꼽았다. 12단 적층 과정에서 불량을 방지하는 소자 기술, 더 높은 층의 셀에서도 같은 속도가 나오도록 하는 설계 기술, 효과적인 열 방출을 유지하는 패키지 기술 등이 조화를 이룬 원팀(One-team) 마인드가 빛났다고 말했다.

▲ HBM PKG제품 박진우 PL(왼쪽)과 WLP FE개발 양주헌 PL(오른쪽)이 12단 HBM3 개발 과정에 관해 이야기하고 있다.

품질과 신뢰성을 확보하기 위해 테스트에 공을 들인 것도 성공 요인이었다. WLP FE개발 양주헌 PL은 “칩과 칩 사이를 잇는 범프만 수십만 개나 된다”며 “하나하나 테스트를 거듭해 최적의 접합 조건을 찾아냈고, 불량을 최소화했다”고 말했다.

D램 웨이퍼 및 HBM3 테스트를 담당한 HBM PE 성형수 PL은 “기존 대비 1.5배 많은 칩이 적층돼 수율과 품질을 조기에 확보하기 힘든 상황이었다”며 “수없이 많은 시도를 거듭한 끝에 12단에 맞는 최적의 테스트 베이스라인을 구축해냈다”고 설명했다.

12단 HBM3는 고객사 제품과 오류 없이 패키징되었을 때 비로소 완제품이 된다. 이 과정을 완수하기 위해 김왕수 PL과 HBM PKG제품 박진우 PL이 힘쓰고 있다. 아직 고객사 성능 검증이 진행 중이기에 이들이 풀어야 할 과제는 남아 있다. 이에 대해 박 PL은 “현재 고객사와 적극적으로 소통하며 문제를 해결해 나가고 있다”며 “우리 회사와 고객사가 서로 이해하고 정보를 공유하며 최고의 제품을 만들 수 있도록, 윈-윈(Win-Win)하는 ‘HBM 에코 시스템’을 구축하고 있다”고 강조했다.

빛나는 1등 DNA… “HBM3E, HBM4도 SK하이닉스가 가장 강할 것”

아직 가야 할 길은 남았지만, 개발 주역들의 감회는 남달랐다. 성형수 PL은 “한번도 가보지 않았던 길을 가는 것은 언제나 두려움을 느끼게 하지만, 목표에 도달했을 때의 기쁨은 더욱 배가 된다”며 “세계 최초로 12단 HBM3을 개발한 데 자부심을 느낀다”고 소감을 전했다.

끝으로, 모두가 입을 모아 HBM 1등 리더십을 지켜가겠다는 의지를 보여주었다.

“SK하이닉스가 명실상부 HBM 강자로 자리매김한 만큼 다음 세대인 HBM3E 그리고 HBM4에서도 글로벌 1위 자리를 굳건히 해 나가겠습니다.”

SK하이닉스가 현존 최고 성능 D램인 ‘HBM3’*의 기술적 한계를 다시 한번 넘어섰다.

회사는 세계 최초로 D램 단품 칩 12개를 수직 적층해 현존 최고 용량인 24GB(기가바이트)**를 구현한 HBM3 신제품을 개발하고, 고객사로부터 제품의 성능 검증을 받고 있다고 20일 밝혔다.

* HBM(High Bandwidth Memory) : 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3) 순으로 개발돼 왔음
** 기존 HBM3의 최대 용량은 D램 단품 칩 8개를 수직 적층한 16GB였음

SK하이닉스는 “당사는 지난해 6월 세계 최초로 HBM3를 양산한 데 이어 이번에 기존 대비 용량을 50% 높인 24GB 패키지 제품을 개발하는 데 성공했다”며, “최근 AI 챗봇(Chatbot, 인공지능 대화형 로봇) 산업이 확대되면서 늘어나고 있는 프리미엄 메모리 수요에 맞춰 하반기부터 시장에 신제품을 공급할 수 있을 것”이라고 강조했다.

SK하이닉스 기술진은 이번 제품에 어드밴스드(Advanced) MR-MUF*와 TSV** 기술을 적용했다. 어드밴스드 MR-MUF 기술을 통해 공정 효율성과 제품 성능 안정성을 강화했고, 또 TSV 기술을 활용해 기존 대비 40% 얇은 D램 단품 칩 12개를 수직으로 쌓아 16GB 제품과 같은 높이로 제품을 구현할 수 있었다고 회사는 밝혔다.

* MR-MUF : 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적인 공정으로 평가받음
** TSV(Through Silicon Via) : D램 칩에 수천 개의 미세한 구멍을 뚫어 상층과 하층 칩의 구멍을 수직으로 관통하는 전극으로 연결하는 어드밴스드 패키징(Advanced Packaging) 기술. 이 기술이 적용된 SK하이닉스의 HBM3는 FHD(Full-HD) 영화 163편을 1초에 전송하는, 최대 819GB/s(초당 819기가바이트)의 속도를 구현함

SK하이닉스가 2013년 세계 최초로 개발한 HBM은 고성능 컴퓨팅을 요구하는 생성형 AI에 필수적인 메모리 반도체 제품으로 업계의 주목을 받고 있다.

특히, 최신 규격인 HBM3는 대량의 데이터를 신속히 처리하는 데 최적의 메모리로 평가받으며, 빅테크 기업들의 수요가 점차 늘어나고 있다.

회사는 현재 다수의 글로벌 고객사에 HBM3 24GB 샘플을 제공해 성능 검증을 진행 중이며, 고객들 역시 이 제품에 대해 큰 기대감을 보이고 있는 것으로 알려졌다.

SK하이닉스 홍상후 부사장(P&T담당)은 “당사는 세계 최고의 후공정 기술력을 바탕으로 초고속, 고용량 HBM 제품을 연이어 개발해낼 수 있었다”며, “상반기 내 이번 신제품 양산 준비를 완료해 AI 시대 최첨단 D램 시장의 주도권을 확고히 해나가겠다”고 말했다. [끝]

1980년생, 떠오르는 젊은 기술 리더로 여러 이목을 집중시킨 박 부사장의 힘찬 발걸음은 어디를 향하고 있을까? 뉴스룸은 박명재 부사장을 만나 세상에 없던 새로운 길을 여는 그만의 도전 정신과 미래 반도체 시장을 선도할 선행 제품 연구 목표에 관해 이야기 나누어 보았다.

열정과 집념, 도전이 성공의 기반이 되다

“HBM 개발에 처음 뛰어들었을 때, 이 분야는 엔지니어들 사이에서 공공연히 ‘오지’로 불렸다. 완전히 새로운 기술 기반의 제품이기에 노력에 비해 성과가 바로 보이지는 않았기 때문이다. 하지만 결국 HBM은 SK하이닉스의 기술력을 대표하는 제품으로 성장했다.”

특히 4세대 HBM 제품 ‘HBM3’는 SK하이닉스가 최초로 제안하고 개발에 성공, 양산까지 돌입한 기념비적 제품이다. 시장에서 경쟁우위를 선점한 건 물론이다. 박 부사장은 HBM3의 의미는 무엇보다 SK하이닉스가 1등의 기술력을 보여줬다는 데 있다고 설명했다.

“HBM3는 개발에 참여한 모든 구성원들의 큰 자부심이며, 동시에 다른 구성원에게는 힘들더라도 끝까지 노력한다면 결국엔 이루어 낼 수 있다는 귀감이 되었다.”

이러한 ‘도전 정신’은 학창 시절부터 꾸준히 쌓아온 경험의 결과다. 석사 과정에서 그가 낸 아이디어는 타사의 디스플레이 표준으로 채택되었고, 디스플레이 타이밍 컨트롤러를 설계하며 스타트업의 상장까지 이끌어냈다. 다양한 경험을 통해 달성한 성과를 바탕으로 박 부사장은 메모리 설계 분야에 도전장을 내밀었다.

“과거에 일했던 비메모리 분야에서 회로 설계자가 할 수 있는 일에는 한계가 있었다. 회로 설계자가 만들 수 있는 가장 큰 칩은 메모리다. 그리고 SK하이닉스의 메모리 기술력은 세계 최고다. 나도 세계 최고의 기술을 선도하는 일원이 되고 싶다는 마음으로 메모리 설계 분야에 도전했다.”

안정적인 커리어를 뒤로 하고 메모리 설계 분야에 도전하는 일은 쉽지 않았다. 하지만 새로움에 대한 열망과 긍정적인 소명 의식은 박 부사장을 움직이게 했다. 그리고 이 도전은 인생의 결정적인 변곡점이 되었다. HBM3와 같은 선행 제품의 개발 업무는 어려움의 연속이었지만, 그동안의 경험 위에 열정과 집념을 더해 결국 ‘개발 성공’이라는 마침표를 찍었다. 박 부사장은 “선배들이 닦아놓은 기술과 경험 위에서 동료들과 함께 최선을 다했기에 성공할 수 있었다”며 “개인적인 도전 역시 마찬가지였다”고 말했다.

결국 답은 ‘기술력’에 있다

박 부사장은 현재 글로벌 반도체 업계가 겪고 있는 위기를 타개하고, 나아가 미래 성장 기반을 탄탄하게 하기 위해서는 업의 본질인 ‘기술력’에 집중해야 한다고 말했다. 특히, 반도체 시장의 미래를 선도할 수 있는 HBM3 같은 선행 제품들의 개발이 중요하다고 강조했다.

“현재, HBM3 등 고부가가치 제품 시장의 규모는 상대적으로 작다. 하지만 AI나 머신러닝 등 미래 핵심 산업에 필수적으로 사용되는 제품이기 때문에 시장의 확장 가능성이 매우 높다.”

잠재력뿐만이 아니다. 기술력을 상징하는 선행 제품이 주는 파급효과도 크다. 자사의 잠재력을 시장에 증명하고, 이를 바탕으로 제품 경쟁력과 고객과의 관계를 고루 강화해갈 수 있기 때문이다.

박 부사장은 “항상 1등 제품 개발을 목표로 한다”고 말했다. 그리고 이를 위해 올해 내부적으로는 협력 체계, 외부적으로는 고객과의 커뮤니케이션 강화를 중점적으로 진행하겠다고 밝혔다. 특히, HBM3 개발 성공의 비결로 꼽기도 했던 ‘원팀으로서의 협력’을 강조했다.

“단지 설계만 잘한다고 해서 하나의 반도체 제품을 완성할 수 있는 건 아니다. 다양한 부서의 기술력이 잘 조합되어야 한다. 뿐만 아니다. 고객과의 긴밀한 소통도 필요하다. 결국 상품기획 단계에서 고객의 니즈(Needs)를 바탕으로 아이디어를 도출하고, 이를 실현하기 위해 모든 유관 부서가 함께 움직일 때 시너지가 발휘되고 성공적인 결과를 만들어낼 수 있다.”

박 담당은 이를 위해 구성원 개개인의 역량을 존중하고, 이를 최대한 발휘할 수 있는 조직을 만들고 싶다는 포부를 밝혔다.

“구성원들의 다양한 의견을 듣고, 그들의 역량을 하나로 모아 성과를 만드는 것이 내가 리더로서 자신 있는 부분이다. 이런 유연한 사고로 구성원들에게 가슴 뛰는 목표를 제시하고, 자연스럽게 적극적인 참여를 끌어내 자기만족과 소속감을 가질 수 있는 조직을 만들고 싶다.”

위기는 체질을 바꿀 수 있는 기회, 도전 정신으로 극복할 것

박 부사장은 2023년을 업턴을 위해 도약하는 한 해로 만들겠다고 강조했다. 그는 ‘위기는 체질을 바꿀 수 있는 하나의 기회’라는 긍정적인 시각을 전했다. 단순히 어려운 상황을 버티는 것이 아니라, 다운턴 시기에 도전할 수 있는 일에 집중한다면 결국 업턴이 왔을 때 더 크게 도약할 수 있는 저력을 축적한다는 것이다. SK하이닉스는 이렇게 도전 속에 더 강해지는 유전자(Gene)을 가지고 있다고 덧붙였다.

박 부사장은 “선행 제품은 당장 성과를 낼 수 있는 부분은 제한적이지만 결국에는 미래의 성과가 될 수 있듯이, 더 멀리 보고 현재에 집중하는 것이 곧 미래를 대비하는 것”이라고 말했다. 그만의 에너지가 느껴지는 대목이었다.

“2023년 계묘년, 우리에게는 다운턴 위기 극복이라는 큰 미션이 있다. 토끼가 뛰어오르기 전에 웅크리듯이, 도약을 위한 한 해를 보내자. SK하이닉스는 결국 위기를 돌파하여 2024년 갑진년에는 용처럼 날아오르는 시간을 맞을 수 있을 것이다.”

지난 CES 2021 · 2022는 각각 온라인, 온 · 오프라인 병행으로 진행된 바 있다. 올해는 3년 만에 처음으로 완전한 대면 행사가 진행되는 만큼 많은 빅테크 기업이 참석했다. 이들 기업은 신기술과 제품을 전시하는 한편, 기후변화 대응 등 글로벌 과제를 해결하기 위한 혁신을 모색하고 전 세계가 당면한 핵심 이슈를 논의할 예정이다.

SK하이닉스를 비롯한 SK그룹 8개사*는 1,223㎡(약 370평) 규모의 전시 공간을 마련하고 자사 제품 및 기술을 공개했다. 특히 SK하이닉스는 혁신기술 선도기업으로서 다양한 첨단기술을 선보였다.

* SK㈜, SK이노베이션, SK E&S, SK텔레콤, SK하이닉스, SK에코플랜트, SKC, SK바이오팜

탄소 없는(Carbon-Free) 미래를 향한 SK그룹의 비전

▲ SK하이닉스를 포함한 SK그룹 8개사는 ‘행동(Together in Action)’을 주제로 하여 ‘탄소 없는 미래’를 선보였다

SK그룹은 미국 파트너사 10개사와 팀을 이루어 넷제로(Net Zero)에 대한 포부를 실천으로 바꾸자는 메시지인 ‘행동(Together in Action)’을 슬로건으로 한 부스를 선보였다. SK그룹은 CES 2022를 통해 약속한 바와 같이 2050년까지 탄소 중립을 달성한다는 목표다. 2030년까지 탄소 배출량 2억 톤 감축 및 전 세계 탄소 감축량 1%를 담당한다는 목표도 유지한다.

올해 SK그룹 8개사는 그룹의 비전 ‘탄소 없는(Carbon-Free) 미래’를 실천하기 위해 총 40개의 탄소 저감 기술을 선보였다. SK하이닉스는 자사 제품 전시 주제인 ‘그린 디지털 솔루션(Green Digital Solution)’을 내세워, 주요 고객과 전문가들의 눈길을 끌었다.

그린 디지털 솔루션으로 빅테크 기업 ‘니즈’ 충족해

▲ SK하이닉스는 ‘Green Digital Solution’ 주제를 바탕으로 탄소 감축을 획기적으로 이룬 제품들을 선보였다.

SK하이닉스는 성능과 에너지 효율을 크게 향상 시킨 신제품 및 핵심 제품으로 환경 영향을 최소화하고 있다. 글로벌 기술 기업들은 AI · 빅데이터 · 자율주행 · 메타버스 등 진화하는 첨단기술을 구현하기 위해 더욱 강력한 메모리 솔루션을 필요로 하는데, CES 2023에서 공개한 SK하이닉스 제품은 이들 기업의 니즈를 충족할 것으로 기대된다.

이번 전시에서 SK하이닉스가 중점을 둔 제품은 ‘PS1010 E3.S’다. 최신 기업용 SSD(eSSD)로 CES 2023을 통해 처음 공개했다. PS1010 E3.S는 176단 낸드플래시를 다수 결합해 만들었으며, PCIe 5세대(Gen 5)* 인터페이스를 지원한다. 자체 개발한 컨트롤러와 펌웨어가 포함된 이 제품은 이전 세대 대비 읽기, 쓰기 속도가 각각 130%, 49% 향상됐다.

또한, 전성비를 갖춰 성능 효율이 이전 세대보다 75% 개선됐다. 이로써 서버 운영 비용 및 탄소 배출량을 줄이는 데 도움을 준다. SK하이닉스는 새롭게 선보인 PS1010 E3.S를 통해 낸드 부문 경쟁력을 강화한다는 계획이다.

* PCIe(Peripheral Component Interconnect Express): 디지털기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스. 세대를 거듭할수록 데이터 전송률이 약 2배씩 상승하는 것이 특징

SK하이닉스 부스에 방문한 관람객은 현존 세계 최고 성능의 D램 ‘HBM3’도 직접 살펴볼 수 있다[관련기사]. 이는 SK하이닉스가 업계 최초로 개발 · 양산한 4세대 HBM* 제품이다. 기존 D램 대비 데이터 처리 속도가 빠르며, HBM2 대비 전력 효율도 23%나 향상됐다.

SK하이닉스 부스에서는 또 다른 혁신 제품 ‘GDDR6-AiM’도 관람할 수 있다[관련기사]. AI 가속기 역할을 하는 PIM* 제품으로 자체 연산 능력을 갖췄다. 특정 연산에서 속도를 크게 높여주며, 기존 제품 대비 에너지 소비를 80% 줄이는 비약적인 효과를 낸다.

한편, 지난해 SK하이닉스는 메모리 용량과 성능을 유연하게 확장할 수 있는 ‘DDR5 D램 기반 CXL 메모리’ 샘플을 최초 개발하며, CXL* 솔루션 부문에서 기술 우위를 강화했다[관련기사]. 아울러 SK텔레콤과 협력해 CMS(Computational Memory Solution)를 생산한 바 있다. 이는 업계 최초로 연산 기능을 집적한 CXL 메모리다. CES 2023에서는 이 제품들과 함께 SK하이닉스가 올해 말 양산 예정인 CXL 포트폴리오도 만나볼 수 있다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품
* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반의 차세대 인터커넥트 프로토콜(Interconnect Protocol)

지속 가능 기술을 향한 하이닉스의 노력

▲ 관람객들은 CES에서 SK하이닉스의 환경친화적인 혁신기술을 체험했다.

올해 CES에서 선보인 SK하이닉스 제품들은 시장의 요구 조건을 충족시킨 것과 동시에 환경 문제를 해결하기 위한 지속가능성을 도모하면서 기술의 한계를 뛰어 넘기 위해 주력하고 있음을 보여준다. 이 제품들은 SK하이닉스 전체적인 ESG 전략에 부응하며, 회사가 추구하는 미래에 발을 맞추고 있다.

SK하이닉스 ESG 전략의 핵심 중 하나는 PRISM 프레임워크*다[관련기사]. 이는 지난해 ESG 관리 강화를 위해 개발했다. PRISM은 SK하이닉스의 ESG 목표를 구체화함으로써 이해관계자와 투명하게 소통하겠다는 메시지를 전달하는 한편, 전 세계에 긍정적인 영향력을 전파하겠다는 목표를 반영하고 있다.

* PRISM 프레임워크(Framework): ESG 활동 관련 세부 목표를 담은 ESG 전략 프레임워크, 프레임워크는 중장기 전략 방향성과 가치 제안을 담은 체계를 의미

반도체 산업의 기후변화 대응에 앞장서고 있는 SK하이닉스는 지난해 10월 반도체 기후 컨소시엄(SCC)에 창립멤버로 합류하기도 했다[관련기사]. SCC는 반도체 가치사슬 전반에 걸쳐 온실가스 배출을 줄이기 위해 최초로 구성된 글로벌 협의체다.

또한, SK하이닉스는 eSSD와 cSSD 제품의 탄소발자국 인증을 통해 온실가스 문제 해결을 위한 노력에서 더욱 큰 귀감이 되고 있다. 인증서는 지난해 여름 영국기후변화조직 ‘카본 트러스트(Carbon Trust)’를 통해 발급받았다. 이는 제품의 전체 수명주기 동안 탄소 배출 영향을 평가하고, 탄소 감축 요소 충족 제품에 한해 발급하는 인증서다.

친환경(Green) 미래 위하여 나아가는 SK하이닉스

▲ ‘탄소 없는 미래’를 위해, SK하이닉스는 관계사들과 함께 더 노력해 나갈 것이다.

제품이 환경에 미치는 영향, 특히 탄소 배출을 우려하는 목소리가 커지고 있다. 친환경에 대한 글로벌 니즈에 응답하고자, SK하이닉스는 CES 2023에서 에너지 효율을 높이는 다양한 고성능 제품을 선보였다.

SK하이닉스는 이번 기회를 통해 더 청정한 ‘친환경(Green) 미래’를 만들기 위해 노력할 예정이다. 뿐만 아니라, 향후에도 업계 관계자 · 기술 기업 및 소비자와 함께 환경 문제를 지속해서 논의하고 대응해 나간다는 계획이다.

제3시선, 최고가 최고를 만나다

‘제3시선, 최고가 최고를 만나다’는 최고의 ICT 업계 전문가들이 서로의 시선에서 공통의 주제를 이야기하며 세상을 바라보는 새로운 시선을 넓혀가는 연재 콘텐츠입니다. ICT 분야의 최고 전문가와 최고의 ICT 기술을 만들어 내는 SK하이닉스 구성원 간의 만남. 기존 인터뷰 콘텐츠에서 볼 수 없었던 이야기를 만나볼 수 있습니다.

이번 시리즈는 국내 최고의 인공지능 전문가인 정지훈 대구경북과학기술원(DGIST) 겸임교수와 SK하이닉스 구성원(권용기 PL, 김성재 PL, 류동일 TL, 주영표 부사장)들이 만나 미래를 변화시킬 인공지능 기술과 반도체를 주제로 총 4편으로 구성될 예정입니다.

인공지능의 역사와 비즈니스 모델에 살펴본 지난 편에 이어 이번 편에서는 인공지능을 위한 반도체에 대한 이야기를 담았습니다. 상상으로만 가능했던 인공지능이 현실이 될 수 있게 만든 반도체는 무엇일까요? SK하이닉스와 인공지능, 그리고 인공지능 반도체에 대한 본격적인 이야기, 지금부터 시작합니다. (편집자 주)

현실이 된 인공지능, 이를 가능케 한 반도체

인공지능(AI, Artificial Intelligence)은 어떻게 대중적인 기술이 됐을까?

다양한 분야에서 활용되고 있는 인공지능이지만 불과 몇 년 전만 해도 인공지능이라는 기술은 공상과학과도 같았다. SF영화나 소설 속에서만 존재했던 인공지능이 불과 몇 년 지나지 않아 이처럼  다양한 분야에서 널리 사용될 것이라고 예상한 사람은 그리 많지 않을 것이다. 인공지능이 이렇게 빨리 스스로 문제의 답을 찾고 인간의 언어를 사용할 수 있게 된 비결 무엇일까? 이번 대담을 통해 그 답을 찾고자 한다.

우리는 앞선 대담을 통해 인공지능의 시작과 세 차례의 인공지능 붐에 대해 알아봤다. 1950년대 인공지능이라는 개념이 생겨난 이후 머신 러닝(Machine Learning)과 인공 신경망이 주목받는 등 인공지능에 대한 기대감이 컸던 시기가 있었다. 하지만 이 모든 시기에서 인공지능은 기술력 부족, 데이터 부족 등 한계에 부딪히며 침체기를 겪었다.

여러 차례의 침체기에도 불구하고, 오늘날 인공지능이 널리 사용될 수 있도록 만든 주요한 이유는 무엇일까? 정지훈 교수와 SK하이닉스 구성원들은 이에 대해 반도체 등 하드웨어의 발전이 큰 역할을 했다고 입을 모았다. 인공지능의 발전과 대중화를 만들고 있는 반도체에 대한 이야기, 함께 들어보자.

▲ 류동일 TL, 정지훈 교수, 권용기 PL, 주영표 부사장, 김성재 PL(좌측부터)이 인공지능의 발전과 반도체의 발전은 떼어놓을 수 없는 관계라는 이야기를 나누고 있다.

인공지능을 실현할 수 있었던, 기술 ‘반도체’

정지훈 교수 본격적으로 인공지능 반도체에 대한 이야기를 나눠볼까 합니다. 앞서 함께 ‘2022 SK 테크 서밋(이하 테크 서밋)’에서 SK하이닉스가 개발하고 있는 다양한 인공지능 반도체를 살펴봤는데요. 인공지능의 발전과 반도체의 발전이 떼어놓을 수 없는 관계라는 점을 생각해 봤을 때 개인적으로는 SK하이닉스가 개발하고 있는 다양한 제품들은 아주 흥미로웠습니다. 각자 생각하시는 인공지능 반도체에 대한 의견을 말씀해주시겠어요?

권용기 PL 인공지능을 발전시킨 다양한 기술이 있겠지만, 하드웨어 관점에서 접근해본다면 결국 더 많은 데이터를 더 빠르게 처리할 수 있도록 하는 반도체의 발전이 큰 영향을 끼쳤다고 볼 수 있습니다. 방대한 양의 데이터를 학습시키는 머신러닝과 머신러닝의 다양한 방법 중 하나이자 3차 인공지능 붐을 불러온 딥러닝을 구현하기 위해선 더 많은 데이터를 더 빠르게 처리할 수 있는 메모리 반도체는 꼭 필요했습니다.

정지훈 교수 맞습니다. 물론, 우리가 현재 컴퓨터나 스마트폰과 같은 모바일 디바이스에서 사용하는 D램과 낸드플래시가 그대로 인공지능에 사용되는 것은 아니지만, 지금의 인공지능이 구현되기까지 반도체의 발전이 중요했다는 것은 부정할 수 없습니다. 특히 최근에는 그래픽카드의 GPU*등이 빠르게 발전하면서 인공지능 붐을 이끌고 있다는 것만 봐도 인공지능의 발전에 있어 하드웨어가 얼마나 중요한지 알 수 있죠.

* GPU(Graphics Processing Unit) : 초기 GPU는 단순히 CPU의 연산 결과를 그림이나 글자 신호 등으로 변환해 송출하는 보조 부품으로 인식됐지만, 3D(3차원) 게임이 등장하면서부터 3D 그래픽의 전용 프로세서로 개발됐다. 더 빠르고 더 많은 3D 구현을 목적으로 병렬방식의 데이터 처리 성능이 향상되면서 지금은 게임을 넘어 더 많은 영역에서 활용되고 있다.

김성재 PL 그렇죠. 어떻게 보면 우연의 일치일 수는 있겠지만, GPU가 발전하면서 GPU를 활용하는 인공지능도 함께 발전했죠. 실제로 많은 GPU가 인공지능 알고리즘을 구현하기 위해 사용되고 있는 상황이기도 합니다.

주영표 부사장 GPU가 최근 주목받는 이유는 인공지능 알고리즘의 데이터 연산 방식의 영향 때문인데요. 인공지능 연산을 살펴보면, 방대한 데이터에 대한 수많은 계산들을 통해 의미 있는 결론을 도출하는 것이잖아요. 더 빠르게, 보다 정확한 결과를 도출하기 위해 최대한 많은 데이터를 동시에 처리하는 것이 중요하죠. 데이터 처리가 주 역할인 메모리 반도체가 중요할 수밖에 없는 이유입니다.

정지훈 교수 이와 관련해 최근 SK하이닉스에서 GPU의 성능을 끌어올릴 프리미엄 메모리 반도체 양산에 돌입했다고 알고 있는데요. 무엇인가요?

주영표 부사장 올해 중순부터 프리미엄 D럠인 HBM3*를 양산하기 시작했습니다. 해당 제품은 글로벌 GPU 기업인 엔비디아(NVIDIA)에 공급하고 있는데요. HBM은 여러 개의 D램을 수직으로 연결해 기존의 D램 대비 혁신적인 속도향상을 이끌어낸 제품입니다. HBM3는 이전 세대인 HBM2E(3세대)와 비교하면 무려 78%의 성능향상을 이뤄내기도 했죠.

* HBM3(High Bandwidth Memory 3): 4세대 HBM 제품으로 여러 개의 D램을 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올렸다.

인공지능 등장으로 변화하는 패러다임

정지훈 교수 앞서 GPU가 주목받는 이유에 대해 잘 설명해 주셨는데요. 사실 인공지능과 관련해 시장에서 GPU에 주목하는 이유는 단순히 빨라진 속도 때문만은 아닙니다. 3차원 그래픽을 연산하는 것과 딥러닝의 연산 구조는 결국은 행렬 연산이 핵심이니까요. 그 덕분에 그래픽을 처리하기 위해 행렬 연산에 특화된 반도체가 발전하게 됐고, 자연스럽게 비슷한 연산 방법을 사용하는 인공지능까지 발전한 것이죠. 농담 삼아 하는 이야기이긴 한데, 게이머들 덕분에 인공지능 혁명이 일어난 것 아닌가 생각이 들기도 합니다.

류동일 TL 정말로 그럴 수도 있겠네요. 인공지능에 대한 기대감이 높아지면서 반도체 분야에서도 새로운 패러다임이 나타나고 있는 것 같아요. 더 많은 데이터를 빠르게 처리할 수 있는 성능향상에 초점을 맞춘 형태와 반도체에 각각의 연산 기능을 담은 형태로 말이죠. 주영표 부사장님이 말씀해주신 HBM3가 혁신적으로 빠른 속도의 D램으로 ‘고성능’에 초점을 맞춘 반도체라면 더욱 넓은 영역에 인공지능을 활용할 수 있도록 만드는 다양한 형태의 ‘인공지능 반도체’가 개발되고 있는 상황입니다.

정지훈 교수 맞습니다. 인공지능이 중요해지면서 최근 ‘인공지능 반도체’라는 표현이 많이 사용되고 있잖아요. 인공지능 반도체라 하면 여러 종류가 있겠지만, 기존 컴퓨팅 시스템이었던 폰 노이만 구조*에서 벗어나 각각의 모듈에 연산 처리 기능을 도입한 반도체들을 예로 들 수 있을 것 같아요.

* 폰 노이만 구조 : 주 기억 장치, 중앙 처리 장치, 입출력 장치 등 3단계 구조로 이뤄진 프로그램 내장형 컴퓨터 구조, 오늘날 사용하고 있는 대부분 컴퓨터의 기본 구조로 나열된 명령을 순차적으로 수행한다. 메모리의 값을 읽고 쓰는 구조이기 때문에 메모리 장치에서 병목현상이 발생한다는 한계가 있다.

류동일 TL 맞습니다. 저희가 개발하고 있는 iCIS 역시 인공지능 반도체를 필요로 합니다. 앞서 설명 드리자면 CIS(CMOS Image Sensor)는 카메라 센서 반도체인데요. 카메라 센서는 인공지능의 발전과 함께 많은 주목을 받고 있는 분야입니다.

정지훈 교수 아무래도 최근 스마트폰이나 CCTV 등을 통한 얼굴인식이나 자율주행 자동차에 사용되는 차량 주변 물체 인식 등 최근 카메라가 활용되는 곳이 아주 많아졌기 때문에 고성능 카메라 센서에 대한 수요도 많아지기는 했죠.

류동일 TL 카메라 센서도 인공지능의 발전과 함께 빠른 속도로 발전하고 있는데요. 기존의 카메라 센서인 CIS에 인공지능 기능을 도입한 iCIS 역시 이런 발전의 일환입니다. 기존 카메라 센서의 경우 단순히 빛을 받아 디지털 신호로 바꿔 이미지를 만드는 기능만 수행했는데요. 저희가 개발하고 있는 iCIS는 카메라 센서 차원에서 인물의 얼굴을 인식한다거나 특정 모션을 분석하는 기능이 탑재된 제품입니다.

사실 ‘카메라 센서에 이런 인공지능 반도체가 왜 필요한가’라는 질문을 받기도 하는데요. 우리가 지금 인공지능을 구동할 GPU를 사용한다고 하면 컴퓨터에 들어있는 그래픽 카드는 아주 거대하거든요. 결국 인공지능을 구현하기 위해 거대한 GPU를 필요로 한다는 것은 인공지능 범용성의 한계로 작용할 것입니다. 이런 한계를 넘어서기 위한 방안 중 하나가 인공지능 반도체이고, 그렇기 때문에 ‘굉장히 작은 칩 안에서 인공지능 기능을 수행하는 iCIS’가 필요한 것이죠.

권용기 PL 아무래도 카메라는 스마트폰에 적용되든 CCTV에 적용되든 더 작고 더 가볍게 만들어야 하기 때문에 iCIS가 더 중요해지는 것이군요. 기존의 카메라처럼 더 좋은 이미지를 촬영하는 것은 기본이고, 이 이미지 데이터를 어떻게 더 스마트하게 처리할 수 있는가? 그리고 이러한 기능을 하면서도 경량화할 수 있는가에 초점이 맞춰져 있는 것이겠군요.

▲ 2022 SK 테크 서밋에서 iCIS 전시 제품을 살펴보고 직접 시연하고 있는 권용기 PL, 류동일 TL, 주영표 부사장, 정지훈 교수, 김성재 PL(좌측부터)

▲ 2022 SK 테크 서밋에 전시된 iCIS 제품

류동일 TL 맞습니다. 그뿐만 아니라 카메라 센서 자체에 인공지능 연산이 가능한 기능을 포함하면 아무래도 센서와 디바이스 사이에서 데이터가 이동해야 하는 일도 줄어들 것이고, 데이터의 이동을 최소화하면서 자연스럽게 저전력 반도체를 구현할 수도 있습니다.

정지훈 교수 인공지능이 방대한 양의 데이터를 처리해야 하는 기술이다 보니 기존의 컴퓨팅 기술로는 분명 한계가 발생하는 것이겠죠. 말씀해주신 iCIS 역시 이러한 이유로 더욱 주목받을 것 같네요. 수없이 많은 이미지 데이터를 연산 장치로 가져와 연산하고 결과를 도출하는 것보다 촬영과 동시에 데이터를 연산하는 것이 아무래도 효율적이니까요. 결국 인공지능 반도체는 각각의 반도체가 각자 연산하는 모습으로 구현되겠네요.

달라진 연산 방법, 인공지능 위해 메모리 반도체도 이젠 연산 필요해

▲ 차세대 메모리 PIM이 적용된 GDDR6-AiM의 뛰어난 기술력과 그 활용 가치에 대해 설명하고 있는 권용기 PL과 이야기를 듣고 있는 정지훈 교수, 김성재 PL

권용기 PL 올해 초 저희가 샘플 개발에 성공한 ‘GDDR6-AiM’ 역시 인공지능 반도체라고 부를 수 있을 것 같습니다. 차세대 메모리 반도체인 PIM*인 GDDR6-AiM(Accelerator in Memory)는 16Gbps의 속도로 데이터를 처리하는 GDDR6* 메모리에 연산 기능을 갖춘 아주 똑똑한 반도체입니다. GDDR6-AiM의 경우 제품명에서 알 수 있듯 그래픽 D램이긴 하지만 개발 단계에서부터 인공지능 응용을 목적으로 개발된 제품으로 GPU뿐 아니라 NPU*에서도 사용이 가능한 제품입니다.

* PIM(Processing In Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅 데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술
* GDDR(Graphics DDR): 국제반도체표준화기구(JEDEC)에서 규정한 그래픽 D램의 표준 규격 명칭. 그래픽을 빠르게 처리하는 데 특화한 규격으로, 3-5-5X-6 순으로 세대가 바뀌었다. 최근에는 그래픽을 넘어 인공지능, 빅데이터 분야에서도 가장 대중적인 메모리로 주목받고 있다.
* NPU(Neural Processing Unit): 신경망처리장치로, 머신러닝 구동에 최적화된 프로세서. 소프트웨어를 통해 인공신경망을 만들어 학습해야 하는 GPU와 달리 하드웨어 칩 단위에서 인공신경망을 구현하고자 했다.

정지훈 교수 테크 서밋에서 살펴봤던 그 제품이군요. 시연 제품을 보니 GPT-2*를 활용했을 때 일반 CPU와 비교해 2배 이상 빠르게 결과를 도출해내는 것을 확인했는데요. GDDR6-AiM은 어떻게 더 빠른 인공지능 구동에 도움을 줄 수 있는 것인가요?

권용기 PL 높은 대역폭 때문입니다. 보통 우리가 대역폭을 고속도로와 많이 비교하잖아요. 대역폭이 높을수록 차선이 많은 고속도로라고 이야기하는데요. 지금까지의 메모리 대역폭이 1차선 고속도로였다면 GDDR6-AiM은 16차선 고속도로 수준입니다. 동시에 전송할 수 있는 데이터의 수가 기하급수적으로 늘어났으니 당연히 데이터 처리도 빠를 것이고 병목 현상도 줄어들겠죠.

또한, GDDR6-AiM은 각 메모리 뱅크*마다 연산을 수행하는데요. 이로써 내부 대역폭을 활용한 독립적인 메모리 뱅크들의 병렬 연산이 가능해지는 것입니다. 엄청난 혁신이죠. 고속도로 차선이 늘어났다고 하더라도 사람 한 명당 차 한 대씩 타고 고속도로를 이용하면 결국 정체가 생길 수 있잖아요.

하지만 GDDR6-AiM은 각 뱅크에 연산기를 설치해 메모리 차원에서 데이터의 연산을 진행하고 연산이 된 결과 데이터를 묶어 한 번에 전송할 수 있습니다. 고속도로를 이용하는 사람들이 버스를 타고 한 이동하는 것이라고 생각하면 이해가 쉬울 것 같은데요. 모든 사람들이 버스를 타고 이동하면 그만큼 많은 사람이 정체 없이 이동할 수 있듯, GDDR6-AiM 역시 메모리 차원에서 병렬 연산을 통해 한 번에 많은 데이터를 전송하는 것입니다.

* GPT-2(Generative Pre-trained Transformer-2): OpenAI에서 만든 텍스트 생성 딥러닝 인공지능 모델. 제시된 단어를 고려해 다음 단어를 입력하여 문장을 만드는 것을 목적으로 훈련된 모델입니다. 이는 인공지능이 수많은 데이터를 학습하면 다양한 질문과 답변이 가능하여 대화형 인공지능 서비스에 활용됩니다.
* 메모리 뱅크(Memory Bank): 데이터가 프로세서에 지속적으로 전송될 수 있도록 순차적으로 작동하는 메모리 장치 내부의 분할된 구역. 메모리와 연산 장치 사이의 데이터 전송을 빠르게 하기 위해 사용된다.

▲ 2022 SK 테크 서밋에 전시되어 있는 GDDR6-AiM 제품

▲ GDDR6-AiM을 장착한 서버 PC에서 텍스트 생성 딥러닝 인공지능 모델인 GPT-2가 시연되는 모습

정지훈 교수 최대한 많은 데이터를 한 번에 많이 전송할 수 있다는 것이 강점인 것 같군요. 게다가 데이터가 하나씩 개별적으로 이동해 연산하는 것이 아니라 메모리 자체에서 연산할 수 있도록 했다는 점도 훌륭하네요.

주영표 부사장 저희는 조금 다른 관점으로 인공지능에 접근했는데요. 메모리 자체에 연산 기능을 도입하는 것이 아니라 메모리 컨트롤러에 연산 가속 기능을 넣는 쪽을 선택했습니다. 이러한 개발의 결과물이 오늘 함께 살펴본 CXL*과 CMS*입니다. 특히 CMS는 흔히 PNM*이라고 불리는 기술인데요. 이라는 새로운 인터커넥트 기술이 메모리 용량을 유연하게 증가시켜 메모리와 GPU, 인공지능 가속기 등을 모두 탑재할 수 있다는 점에 주목하고, “그들을 하나의 솔루션에 담으면 어떨까?”라고 접근한 것이죠.

CXL 인터페이스를 기반으로 개발한 CMS는 고용량 메모리를 확장할 수 있는 CXL의 장점에 빅데이터 분석이나 머신러닝과 같은 인공지능 분야의 연산까지 제공하기 때문에 인공지능 분야에서도 다양하게 활용될 수 있다고 생각합니다. GPU나 인공지능 가속기들과는 주력 기능이 다르기 때문에, 상호 보완적으로 적용도 가능할 것입니다.

* CXL(Compute eXpress Link): 메모리뿐만 아니라, GPU, AI 가속기와 같은 다양한 솔루션을 보다 효율적으로 통합, 활용할 수 있도록 만들어진 새로운 인터커넥트 기술로 ‘메모리 용량의 유연한 증가’가 장점
* CMS(Computational Memory Solution): 고용량 메모리를 확장할 수 있는 CXL에 빅데이터 분석 응용 프로그램이 자주 수행하는 머신러닝 및 데이터 분석 연산 기능도 함께 제공하는 솔루션
* PNM(Processing Near Memory): 메모리 칩 내부가 아닌 메모리 패키지에 별도의 연산 장치를 넣고 필요한 연산을 수행하는 메모리

▲ 2022 SK 테크 서밋 전시장에 전시되어 있는 CMS에 활용되고 있는 CXL의 기술력과 활용 가치에 대해 설명하고 있는 주영표 부사장

정지훈 교수 PIM 기반의 GDDR6-AiM이 메모리 자체에 연산 기능을 도입한 제품이라면 CMS는 메모리와 연산 장치를 통합한 솔루션이라는 것이군요.

주영표 부사장 네 맞습니다. CXL과 CMS는 PIM과 달리 메모리 연산의 포인트를 데이터의 ‘준비’ 과정에 맞추고 있는 것인데요. 많은 데이터 중 실제로 필요한 데이터만을 뽑아내는 일은 연산 장치 입장에서는 쉽겠지만 굉장히 비효율적인 일이잖아요. 데이터를 하나하나 확인하느라 대부분의 시간을 허비하게 되니까요. 그래서 메모리 차원에서 연산 장치가 필요한 데이터가 무엇인지 미리 찾아준다면, 연산 장치는 더 복잡하고 중요한 연산에 집중할 수 있게 되는 것이죠. 게다가 이러한 구조는 불필요하게 이동하는 데이터를 획기적으로 줄일 수 있는데요. 이는 결국 전력 소비를 절감하는데도 큰 효과를 보일 수 있습니다.

▲ 2022 SK 테크 서밋에 전시되어 있는 CXL

▲ 2022 SK 테크 서밋에 전시되어 있는 CXL을 활용한 솔루션과 CMS

정지훈 교수 이야기를 들어보니 SK하이닉스가 인공지능에 대해 얼마나 진심인지를 다시 한번 느끼게 됐습니다. 지금까지 말씀해주신 제품들 모두 다가올 인공지능 시대를 앞당기거나 인공지능 시대에 아주 중요한 역할을 하게 될 것임을 느낄 수 있었습니다.

특히 더 빠르고 정확한 인공지능을 위해 제품의 성능 향상만 시도하는 것이 아니라, 기존 메모리 제품에 확장성을 부여하거나 새로운 기능을 추가하는 등 다양한 측면에서 개발을 이어 나가고 있다는 점이 인상적이었는데요. 이러한 다양한 접근들로 인해 인공지능 시대를 꽃피우는 SK하이닉스가 됐으면 좋겠습니다.

이번 대담을 통해 우리는 다가오는 인공지능 시대를 준비하는 SK하이닉스의 모습을 살펴봤다. 다양한 종류의 ‘인공지능 반도체’를 개발하고 생산하는 SK하이닉스는 다양한 측면에서의 혁신을 이뤄내고 있었다. 다음 편에서는 지금까지 다루지 못했던 ‘2022 SK 테크 서밋’에 대한 이야기와 인공지능 시대를 선도하기 위한 SK의 노력을 살펴보고자 한다. 인공지능 분야에서도 최초와 최고의 가치를 만들어내고 있는 SK하이닉스의 이야기는 계속된다.