상단영역

본문영역

SK하이닉스, 생성형 AI 가속 솔루션 'AiMX' 시제품 공개....속도 10배, 전력 20%

  • Editor. 김경한 기자
  • 입력 2023.09.18 17:33
  • 댓글 0
이 기사를 공유합니다

[업다운뉴스 김경한 기자] 그동안 메모리 반도체는 데이터를 저장하고 CPU(중앙처리장치)나 GPU(그래픽처리장치)와 같은 시스템 반도체가 사람의 뇌와 같이 연산 기능을 담당했다. 하지만 SK하이닉스가 연산 기능도 지원하는 차세대 메모리 반도체인 PIM(지능형반도체)을 선보이면서 시스템 반도체의 데이터 처리 속도를 획기적으로 향상시킬 수 있을 것으로 보인다. 

SK하이닉스는 지난 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘AI(인공지능) 하드웨어 & 에지 AI 서밋 2023’에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 최초 공개 및 시연했다고 18일 밝혔다.

GDDR6-AiM을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품 [사진 출처=SK하이닉스]
GDDR6-AiM을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품 [사진 출처=SK하이닉스]

PIM은 연산 기능을 갖춘 차세대 메모리 반도체이며 AiM은 SK하이닉스가 개발한 자사 PIM에 붙인 제품명이다. GDDR6-AiM도 여기에 속한다.

SK하이닉스가 개발한 GDDR6-AiM 샘플은 초당 16기가비트(Gbps) 속도로 데이터를 처리하는 GDDR6 메모리에 연산 기능이 더해진 제품이다. 일반 D램 대신 이 제품을 CPU 및 GPU와 함께 탑재하면 특정 연산의 속도는 최대 16배까지 빨라진다. 이 제품은 GDDR6의 기존 동작 전압인 1.35V보다 낮은 1.25V에서 구동해 에너지 소모를 80% 줄여준다.

생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다. 따라서 GDDR6-AiM은 머신러닝, 고성능 컴퓨팅, 빅 데이터의 연산과 저장 등에 활용될 전망이다.

AiMX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습 [사진 출처=SK하이닉스]
AiMX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습 [사진 출처=SK하이닉스]

SK하이닉스는 이번 행사에서 ‘메타’의 생성형 AI인 ‘OPT 13B’ 모델을 AiMX 시제품 탑재 서버 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만 전력 소모는 20% 수준이다. 이번 시연을 통해 최신 가속기 대비 높은 성능을 낼 수 있다는 점을 보여주며 인공지능을 서비스하는 글로벌 기업들의 시선을 끌었다.

SK하이닉스는 AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. 임의철 SK하이닉스 부사장(메모리솔루션담당)은 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션’이라는 주제로 GPU와 AiMX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다.

임 부사장은 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라며 “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어 나갈 것”이라고 밝혔다.

저작권자 © 업다운뉴스 무단전재 및 재배포 금지

개의 댓글

0 / 400
댓글 정렬
BEST댓글
BEST 댓글 답글과 추천수를 합산하여 자동으로 노출됩니다.
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글수정
댓글 수정은 작성 후 1분내에만 가능합니다.
/ 400

내 댓글 모음

하단영역

© 2024 업다운뉴스. All rights reserved. ND소프트