삼성은 AMD 협력, SK는 메모리 공유…‘OCP’서 기술 혁신

미 ‘OCP 글로벌 서밋’서 기술 공개삼성, 공동 시연 및 검증 성과 제시SK하닉, AI 인프라 설계 방향 발표

[뉴스토마토 이명신 기자] 삼성전자(005930)와 SK하이닉스(000660)가 인공지능(AI) 메모리 기술 개발에 속도를 내고 있습니다. 삼성전자는 AMD와 메모리 확장 기술의 실증을 앞두고 있으며, SK하이닉스는 메모리를 중심으로 AI 서버 효율을 높이는 시스템 구조를 제시했습니다. 고대역폭메모리(HBM)의 성능 경쟁을 넘어 메모리 확장·공유와 데이터 관리까지 기술개발 영역이 넓어지는 모습입니다.

 

심호준 삼성전자 DS부문 메모리사업부 AE팀 상무가 12일(현지시각) 미국 새너제이에서 열린 ‘2026 OCP 글로벌 서밋’에서 발표하고 있다. (사진=삼성전자)

 

삼성전자와 SK하이닉스는 12일(현지시각) 미국 새너제이에서 개막한 ‘OCP 글로벌 서밋 2026’에서 차세대 AI 메모리 기술과 개발 방향을 공개했습니다. OCP는 반도체·서버·데이터센터 기업들이 개방형 하드웨어와 AI 인프라 혁신을 논의하는 행사입니다.

 

삼성전자는 오는 14일 AMD와 CXL(컴퓨트익스프레스링크) 기반의 CMM-D 메모리 풀링 기술을 공동 실증할 예정입니다. CXL은 서버의 메모리 용량을 유연하게 확장하는 연결 기술로, 메모리 풀링은 여러 시스템이 메모리를 공유하고 필요에 따라 배분하는 방식입니다. AI 에이전트 확산으로 추론 데이터가 늘면서 메모리 용량의 제약을 줄이고 활용도를 높이는 데 초점을 맞췄습니다.

 

삼성전자는 미국 반도체 사업장의 사내 AI 코딩 에이전트에 CXL 기반 AI 메모리 노드를 적용해 KV 캐시(이전 연산 결과를 저장하는 데이터) 활용도를 5~7배 높였다고 밝혔습니다. 별도의 메모리 풀링 실험에서는 메모리를 동적으로 배분해 고정 할당 방식보다 첫 토큰(답변) 생성 시간을 최대 38% 줄이고 유효 처리량을 최대 3.3배 높였다는 설명입니다.

 

심호준 삼성전자 DS부문 AE팀 상무는 이날 발표에서 AI 인프라 요구에 대응하기 위한 전략으로 속도·메모리 확장성·데이터 영속성을 제시했습니다. HBM5와 맞춤형 HBM, 메모리 내부에서 일부 연산을 수행하는 PIM(프로세싱인메모리)으로 처리 속도를 높이고 CXL로 용량을 확장하는 방향입니다. 차세대 SSD(솔리드스테이트드라이브)와 KV 캐시 최적화 기술로 AI 추론 데이터를 효율적으로 저장·관리하는 방안도 소개했습니다.

 

전시에서는 HBM5와 맞춤형 HBM의 콘셉트 제품, ‘LPDDR5X-PIM’ 기반 엣지 AI 가속기 등을 선보였습니다. 아울러 고객과 차세대 메모리를 사전 검증하는 ‘삼성 MAX 랩’, 개방형 소프트웨어 협력을 추진하는 GOST(글로벌 오픈 생태계 팀)를 통해 고객 맞춤형 개발을 강화할 방침입니다.

 

SK하이닉스가 지난해 11월 미국 세인트루이스에서 열린 ‘슈퍼컴퓨팅 2025’에서 전시한 ‘메모리 센트릭 AI 머신’ 데모. (사진=SK하이닉스)

 

SK하이닉스는 김호식 부사장이 ‘메모리 중심 AI 랙 시스템(MARS)’을 주제로 AI 인프라 설계 방향을 발표했습니다. 기존 서버가 CPU·GPU의 연산 성능을 중심으로 구성됐다면, MARS는 메모리 용량과 데이터 이동 효율을 주요 설계 요소로 고려합니다. 여러 서버와 연산 장치가 배치된 랙 단위에서 메모리 활용도를 높이려는 취지입니다.

 

SK하이닉스는 지난해에도 CXL 기반 공유 메모리로 여러 서버와 GPU를 연결하는 ‘메모리 센트릭 AI 머신’을 시연한 바 있습니다. 기존 네트워크 통신 대신 공유 메모리를 활용해 분산 AI 추론 성능을 높이는 기술입니다. 이번 MARS 발표 역시 개별 메모리의 성능을 넘어 시스템 전체의 효율을 높이려는 기술개발 방향과 맞닿아 있습니다.

 

양사는 글로벌 반도체 기업과의 협력도 확대하고 있습니다. 미국 마벨은 앞서 12일 차세대 CXL 3.2 메모리 확장 컨트롤러 ‘Structera X 3406·3506’을 공개하면서 삼성전자와 SK하이닉스의 협력을 소개했습니다. 삼성전자는 자사 DDR 메모리와 마벨 컨트롤러의 호환성을 확보하고 있으며, SK하이닉스도 마벨 컨트롤러와 자사 메모리의 상호운용성을 검증하고 있습니다. AI 서버의 메모리 확장성을 높이기 위한 협력입니다.

 

업계 관계자는 “AI 인프라 성능 고도화로 개별 반도체 성능뿐 아니라 데이터 이동, 시스템 단위의 최적화도 그만큼 중요해지고 있다”며 “고객사와의 공동 설계를 통해 메모리 효율성을 높이기 위한 협력이 활발해지는 추세”라고 했습니다.

 

이명신 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.