엔비디아 콘퍼런스 GTC 2024 핵심 정리 (블랙웰 AI 칩, AI 로봇, 데이터센터 등)

'GTC 2024'  핵심 요약정리

 

✔ 엔비디아가 새로운 블랙웰 AI 칩을 발표했습니다. 이 칩은 기존의 AI 칩 대비 30배 더 뛰어난 성능을 자랑하며, 동시에 비용과 전력을 25배나 절감할 수 있다고 합니다.

 

✔ 엔비디아가 AI 반도체 제조사에서의 역할을 벗어나, 데이터 센터 및 소프트웨어 판매를 통해 사업 영역을 확장할 계획입니다.

 

✔ 엔비디아의 다음 목표는 인공지능 서비스와 로봇 기술을 결합한 휴머노이드 로봇 시장이라고 합니다.

 

 

 

 

 

반도체 생산을 넘어 종합팩토리로

 

미국 캘리포니아에서 2024년 3월 18일부터 21일까지 엔비디아 개발자 콘퍼런스인 'GTC 2024'가 개최되었습니다.

새로운 기술을 소개하는 데 그치지 않고, 엔비디아는 AI 반도체 제조사의 범주를 넘어 AI 플랫폼을 구축할 것이라고 선언했습니다. 콘퍼런스에서 논의된 주요 내용에 대해 자세히 알아보겠습니다.

 

넘사벽 AI 칩의 등장?

 

이번 행사에서 엔비디아는 "새로운 산업 혁명의 주도 역할을 할 핵심 엔진"으로 소개되는 새로운 GPU 칩을 공개했습니다. 이 칩은 AI 반도체의 설계 방식인 '블랙웰'을 기반으로 제작되었습니다. 블랙웰은 기존의 두 개의 엔비디아 AI 칩을 하나의 칩으로 통합하여 작동할 수 있도록 설계된 방식입니다.

 

이를 바탕으로 제작된 'B200'은 엔비디아 역사상 가장 큰 GPU 중 하나로 개발되었습니다. 이에 따라, B200은 이전의 선두 주자인 H100보다 연산 처리 속도가 3배 빠르며, 추론 능력은 15배 향상되었습니다.

 

예를 들어, 1조 8,000억 개의 GPT 모델을 90일간 학습하는 경우, 이전 H100은 8,000개의 GPU를 사용하여 15메가와트의 전력을 필요로 했습니다. 반면에 B200은 2,000개의 GPU를 사용하여 4메가와트의 전력만 필요로 합니다. 이로 인해 전체적으로 비용과 전력을 절감할 수 있게 되었습니다.

 

​그러나 시장 평가는 분분했습니다. AI 반도체 제조업체들 간의 치열한 경쟁이 가열되는 가운데, 일부는 칩의 성능에 대해 실망스러운 의견을 제시했고, 제품 가격을 공개하지 않아 고가 논란을 일으키는 문제에 대해 아직 해결되지 않았다는 비판을 받았습니다.

 

한편, AI 기술 분야에서 경쟁을 벌이는 빅테크 기업들은 엔비디아를 칭찬했으며, 엔비디아가 블랙웰과 같은 칩 설계 방식을 도입한다고 발표한 것도 있었습니다.

 

소프트웨어까지 섭렵해 플랫폼 기업으로 진화

 

엔비디아는 하드웨어뿐만 아니라 소프트웨어 역량도 강화했습니다. 최근 개최된 콘퍼런스에서는 AI 칩을 효과적으로 활용할 수 있는 소프트웨어를 발표했습니다.

 

그 중 하나가 '엔비디아 인퍼런스 마이크로서비스(NIM)'입니다. 이 소프트웨어는 성능이 낮은 GPU를 사용하여도 AI 훈련을 효율적으로 수행할 수 있도록 돕는 프로그램입니다. NIM을 사용하기 위해서는 엔비디아 GPU 기반 서버를 구입하고 엔비디아의 소프트웨어 구독 모델에 가입해야 합니다.

 

 

 

 

AI를 위한 데이터 센터

 

엔비디아는 AI 반도체 제조 업체로 그치지 않고, 데이터 센터 시장으로의 진출도 발표했습니다. 그 이유는 생성형 AI를 학습하고 생성하기 위해서는 데이터 센터 수준의 컴퓨팅 파워가 필수적이기 때문입니다. 

 

엔비디아는 2개의 'GB200'과 엔비디아의 그레이스 CPU를 연결하여 만든 AI 컴퓨터를 공개했습니다.  AI 컴퓨터의 성능은 현재 사용되는 AI 컴퓨터보다 최대 30배 향상되었고, 비용과 에너지 소비도 25배나 줄일 수 있습니다.

 

엔비디아는 2024년 3월 말 기준으로 AI 작업을 위한 데이터 센터 건설 초기 작업에 약 1,339조 원을 투자했다고 밝혔습니다.

 

로봇에 AI 서비스를 더해

 

이번 콘퍼런스에서 엔비디아는 '그루트(GR00T) 프로젝트'를 발표하며 휴머노이드 로봇 시장에 진출할 예정임을 공개했습니다. 이 프로젝트는 다양한 작업을 수행할 수 있는 '범용로봇기술'을 개발하여 로봇에 AI 서비스를 통합하고, 엔비디아를 AI 종합 회사로서 성장시키는 계획입니다.

 

최근에는 엔비디아의 GPU에 대한 의존도를 줄이기 위해 AI 반도체를 개발하는 기업들이 증가하고 있는 추세입니다.

​그만큼 글로벌 빅테크 시장은 AI 분야에서 치열한 경쟁을 벌이고 있습니다.

 

기술의 변화가 빠르게 일어나는 상황에서, 엔비디아가 계속해서 AI 분야의 선두에 서 있을지는 지켜봐야 할 것으로 보입니다.