SK하이닉스가 지난 12일(미국시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘슬롯 머신 프로그램 Hardware & Edge 슬롯 머신 프로그램 Summit(이하 슬롯 머신 프로그램 서밋) 2023’에서 GDDR6-슬롯 머신 프로그램M 기반의 생성형 슬롯 머신 프로그램 가속기*카드인 슬롯 머신 프로그램MX* 시제품을 최초 공개 및 시연했다고 18일 밝혔다.
슬롯 머신 프로그램 서밋은 영국 마케팅 기업 키사코 리서치(Kisaco Research)가 주최하는 연례 행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.
회사는 이번 서밋에서 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM*반도체 슬롯 머신 프로그램M*(Boost Your 슬롯 머신 프로그램: Discover the Power of PIM with SK hynix’s 슬롯 머신 프로그램M)’이라는 슬로건을 걸고, GDDR6-슬롯 머신 프로그램M과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 슬롯 머신 프로그램MX 시제품을 처음 선보였다[관련기사].
*슬롯 머신 프로그램MX(슬롯 머신 프로그램M based Accelerator): GDDR6-슬롯 머신 프로그램M 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품
*PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(슬롯 머신 프로그램)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
*슬롯 머신 프로그램M(Accelerator-in-Memory): SK하이닉스의 PIM 반도체 제품명, GDDR6-슬롯 머신 프로그램M이 이에 포함됨
▲ GDDR6-슬롯 머신 프로그램M(Accelerator-in-Memory)을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘슬롯 머신 프로그램MX’ 시제품
생성형 슬롯 머신 프로그램*는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에, 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다.
▲ 슬롯 머신 프로그램MX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습
SK하이닉스는 이번 행사에서 메타(Meta)의 생성형 슬롯 머신 프로그램인 ‘OPT(Open Pre-tr슬롯 머신 프로그램ned Transformer) 13B’ 모델을 슬롯 머신 프로그램MX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-슬롯 머신 프로그램M 칩을 탑재한 슬롯 머신 프로그램MX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 1/5 수준이다. 회사는 이번 시연을 통해 최신 가속기 대비 높은 성능*을 낼 수 있다는 점을 보여주며 인공지능을 서비스하는 글로벌 기업들의 주목을 받았다.
*슬롯 머신 프로그램MX 카드 내부 슬롯 머신 프로그램M Control Hub를 ASIC(Application-Specific Integrated Circuit, 특정 용도로 맞춤 제작한 회로)으로 개발 가정했을 때의 성능
이와 함께 회사는 슬롯 머신 프로그램MX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. SK하이닉스 임의철 부사장(메모리솔루션담당)은 ‘생성형 슬롯 머신 프로그램 서비스를 위한 효율적 슬롯 머신 프로그램M 가속 솔루션(Cost-Effective Generative 슬롯 머신 프로그램 Inference Acceleration using 슬롯 머신 프로그램M)’이라는 주제로 GPU와 슬롯 머신 프로그램MX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다.
임 부사장은 “SK하이닉스의 슬롯 머신 프로그램MX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라며, “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다.
