GPU 독점 체계를 만든 엔비디아의 시가총액이 1조 달러를 넘어서는 것을 보면 인공지능(AI) 열풍이 얼마나 큰지 알 수 있습니다. 덩달아 삼성전자, SK하이닉스 같은 반도체 기업들도 몸값이 뛰고 있는데요. 후반전은 상황이 달라질 수 있다는 전망이 나오고 있습니다.
AI 시장이 성숙하면 주류인 학습용 반도체인 GPU 독점체계가 무너지고 추론용 반도체의 수요가 늘어나며 많은 사람들에게 저렴한 서비스를 제공하기 위한 경쟁이 시작될 것이라는 예상이 많습니다.
CPU와 GPU의 차이점
둘 다 데이터를 처리하는 건 동일하지만 CPU와 GPU는 아키텍처가 다르며 만들어진 용도가 다릅니다.
CPU는 실행 엔진으로 코어수가 적으며 개별적인 작업을 순차적으로 신속히 처리 하는데 최적화 되어 있습니다.
GPU는 3D 렌더링 작업을 빠르게 하기 위해 개발된 전문 ASIC로 시작했으며, 그래픽에 처리에 관련된 데이터를 컨트롤하기 위한 용도로 개발되었고, 고용량의 데이터를 빠른 속도로 처리하기 위해 발전해 왔습니다.
GPU(Graphics Processing Unit) 란 무엇일까?
3D그래픽의 발전을 그래픽칩셋의 대역폭과 소프트웨어로는 극복하기가 어려워 지면서 그래픽 내부의 처리량을 증가를 시키기 위해 GPU가 등장하기 시작했습니다.
참고로 GPU는 그래픽카드안에 있는 칩셋으로 그래픽카드를 의미하지는 않습니다.
화면을 현실적으로 만들기 위한 광원이나 질감 표현을 CPU만으로 처리하는데 한계에 부딪히면서, 3D 그래픽 연산만을 전용으로 진행하는 프로세서인 GPU(Graohics Processing Unit)가 개발되어 그래픽카드에 탑재된 것입니다.
GPU는 엔비디아(NVIDIA)에서 지포스 라는 그래픽 컨트롤러(Graphics Controller)를 출시하면서 처음 이름을 붙였습니다.
많은 코어를 이용해 병렬 처리가 유리한 구조로 설계라여, 범용적인 병렬 프로세스가 필요한 AI나 딥러닝에 많이 사용되고 있으며 코어의 갯수나 종류에 따라 그래픽카드의 성능이 달라집니다.
NPU(신경망처리장치)란 무엇일까?
GPU가 1세대라고 한다면, NPU는 2세대 AI반도체라고 할 수 있습니다. 대량 연산을 빠르게 처리하도록 최적화하여, 단순 연산작업만 보면 NPU가 GPU보다 10배는 더 효율적이라고 말합니다.
다만 단점으로는 사물인터넷(IoT), 자율주행 자동차 등 특정목적에 맞춰 생산하게 되는 주문형 반도체(ASIC) 이기 때문에 광범위한 산업보다는 특화 산업에 최적화되어 있습니다.
NPU의 단점은 무엇일까?
글로벌 AI 반도체 성능 평가 대회(MLPerf)에서는 실제로 국내 기업들이 개발한 NPU가 엔비디아의 GPU대비 높은 송능을 보이기도 했습니다. 실제로 전력소비량도 적고 처리시간은 빠르기까지 했습니다
다만 엔비디아에서 내놓은 프로그래밍 소프트웨어 '쿠다'처럼 편하고 쉽게 쓸 수 있는 소프트웨어 능력이 부족하다는 문제가 있습니다. AI모델과 NPU의 중간다리 역할을 해줄 컴파일러소프트웨어가 부족하다는 의미입니다.
NPU 성장 전망과 PIM(프로세싱 인 메모리) 개발
AI모델과 NPU의 중간다리 역할을 해줄 컴파일러소프트웨어 수준이 좋아지면 NPU수요도 급팽창할 수 있을 것으로 예상됩니다. 특화 NPU가 늘고, NPU 사용으로 인해 GPU대비 비용이 절감되는 수준이 커진다면 충분히 가능한 시나리오입니다.
삼성전자와 SK하이닉스도 AI반도체 시장을 두드리고 있습니다. 2세대 NPU에서 한 단계 더 나아간 PIM(Processing in memory) 개발에 나선 것입니다. PIM은 메모리 반도체에 연산 기능을 더한 형태로, 메모리에서 데이터를 불러오는 과정을 없애면서 전력소비를 줄이고 처리속도도 더 빠르다는 장점이 있습니다.
삼성전자는 GPU와 NPU에서 연산 결과를 기록하기 위해 필요한 메모리 반도체 생산과 동시에 네이버와 협업해 PIM을 개발까지 하고 있는 것으로 알려져 있어 국내 업체들의 AI반도체 발전에 발판을 마련하고 있으며, 이에 따라 국내 중소기업들도 함께 글로벌 시장에 진출하는데 큰 도움이 될 것으로 보입니다.
생성형 AI가속기(GPU)에 사용되는 HBM과 TSV
고대역폭메모리(HBM)는 3차원 실리콘 관통 전극(TSV) 기술을 사용하여 DRAM을 수직으로 여러 개를 쌓아 연결한 제품으로, 기존의 DRAM보다 고용량, 고대역폭을 구현할 수 있는 고부가가치 제품입니다
main.bbang-jjoni.com
'반도체 이야기' 카테고리의 다른 글
| 삼성전자의 2나노(2nm) 양산 로드맵은 어떻게 짜여 있을까? (0) | 2023.07.03 |
|---|---|
| 2나노 반도체, ASML 하이 NA EUV 개발 현황은? (0) | 2023.07.03 |
| GPU에 사용되는 HBM과 TSV 알아보기 (0) | 2023.06.27 |
| SoC, 칩렛(Chiplet), WLP(Wafer level Package) (0) | 2023.05.17 |
| 기술노드, ArF와 EUV (0) | 2023.05.16 |
댓글