SK하이닉스, '생성형 AI 특화' AiMX 시제품 첫 공개

GDDR6-AiM 기반 가속기...메모리 반도체에 연산기능 더해
"기존 GPU보다 반응 속도 10배 빠르고 전력은 1/5로 줄여"

AiMX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습. 사진=SK하이닉스

[이지경제=정석규 기자] SK하이닉스가 기존 GPU보다 반응 속도가 10배 빠르면서도 전력은 적게 쓰는 신제품을 선보였다.

SK하이닉스는 지난 12일(미국시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘AI Hardware & Edge AI Summit(이하 AI 서밋) 2023’에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 최초 공개 및 시연했다고 18일 밝혔다.

AI 서밋은 영국 마케팅 기업 키사코 리서치(Kisaco Research)가 주최하는 연례 행사로 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.

회사는 이번 서밋에서 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM* 반도체 AiM*(Boost Your AI: Discover the Power of PIM with SK hynix’s AiM)’이라는 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 처음 선보였다.

AiMX는 메모리 반도체에 연산 기능을 더한 'GDDR6-AiM'칩을 사용해 대규모 언어 모델(LLM)에 특화된 가속기 카드 제품입니다. 생성형 AI는 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다.

SK하이닉스는 메타(Meta)의 생성형 AI인 'OPT 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다.

SK하이닉스에 따르면 GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응속도는 10배 이상 빠르지만 전력 소모는 5분의1 수준이다.

임의철 SK하이닉스 메모리솔루션담당(부사장)은 "SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션"이라며 "앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 말했다.