삼성전자의 야심작…AI 추론 뭐길래
삼성전자의 야심작…AI 추론 뭐길래
  • 뉴시스
  • 승인 2024.03.23 10:02
  • 댓글 0
이 기사를 공유합니다

김종택 기자 = 한종희 삼성전자 부회장이 20일 오전 경기 수원시 수원컨벤션센터에서 열린 삼성전자 제55기 정기 주주총회에서 발언하고 있다.

이현주 기자 = 삼성전자가 올해 연말 AI 추론 칩 '마하-1' 양산 계획을 밝히면서 AI 반도체 판도가 뒤바뀔 수 있다는 기대감이 나온다.

23일 업계에 따르면 경계현 사장은 지난 20일 경기 수원컨벤션센터에서 열린 제55기 삼성전자 정기 주주총회에서 '마하-1'를 개발하고 있다고 최초로 밝혔다.

'마하1'은 AI 추론에 특화된 반도체다. 컴퓨터 CPU(중앙처리장치) 같은 칩의 성능을 강화해 AI 추론이 일부 가능하게 해주는 역할을 할 수 있다. '마하-1'은 특히 메모리와 GPU와의 병목 현상을 해소할 수 있는 구조로, 고대역폭메모리(HBM) 대신 저전력 메모리를 활용해도 대규모언어모델(LLM) 추론이 가능할 것으로 보인다.

경 사장이 공개 석상에서 '마하-1' 개발을 언급한 건 이번이 처음이다. 그는 "AI 시대에는 컴퓨트와 메모리가 대규모 결집한다"며 "그러나 현존하는 AI 시스템은 메모리 병목으로 성능 저하와 파워 문제를 안고 있다"고 말했다.

이 문제를 개선하기 위해 AGI(범용인공지능) 컴퓨팅랩을 신설하고 AI 아키텍처의 근본 문제를 해결하겠다는 계획이다.

삼성전자는 AGI 반도체 개발을 위해 미국과 한국에 AGI 컴퓨팅랩을 설립했다. AGI 컴퓨팅랩은 마하-1 칩 개발을 담당하며, 구글 AI 작업 특화 반도체인 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 이끈다.

경 사장은 "메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖는 것을 목표로 개발 중인 마하-1 인퍼런스칩은 혁신의 시작"이라고 강조했다.

그는 "현재 프로그래머블칩(FPGA)으로 마하1의 기술 검증이 끝나 시스템온칩(SoC) 디자인을 하고 있다"며 "연말에 칩을 만들어 내년 초에 저희 칩으로 이뤄진 AI 시스템을 볼 수 있을 것"이라고 밝혔다.
 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.