간략한 요약
이 비디오는 엔비디아의 CEO 젠슨 황이 GTC 2025에서 발표한 내용을 요약합니다. 주요 내용은 다음과 같습니다.
- 엔비디아의 새로운 GPU인 GeForce 5090 및 Blackwell 아키텍처 소개
- AI의 진화: 생성형 AI에서 에이전틱 AI, 물리적 AI로의 발전
- AI 스케일링의 핵심 과제: 데이터 확보, 인간 개입 없는 훈련, 스케일링 법칙 발견
- AI 팩토리 시대의 도래와 CUDA-X 플랫폼의 중요성
- 엔비디아 로드맵: Rubin 아키텍처 및 네트워킹 혁신
- 모든 기업을 위한 AI 솔루션: DGX Spark/Station 및 NIMs
- AI의 현실 적용: 엣지 AI, 자율주행차 (GM 협력), 로봇 시대 (Groot N1 & Newton)
소개: 지능은 어떻게 만들어지는가
지능은 새로운 종류의 공장, 즉 AI 빌딩을 구성하는 블록인 토큰 생성기를 통해 탄생합니다. 토큰은 이미지를 과학 데이터로 변환하여 외계 행성의 대기 지도를 만들고, 원시 데이터를 통찰력으로 바꾸어 미래에 대비할 수 있도록 돕습니다. 또한, 물리 법칙을 해독하여 목표에 더 빨리 도달하게 하고, 질병을 조기에 감지하며, 로봇에게 움직이는 법을 가르치고 기쁨을 선사합니다.
GTC 2025 시작! (GeForce 5090 & AI 그래픽스)
젠슨 황 CEO는 GTC 2025를 엔비디아 본사에서 열고 싶었지만, AI의 마법을 통해 참석자들을 가상으로 초대했습니다. 그는 GTC가 GeForce와 함께 시작되었으며, 25년 만에 GeForce 5090을 선보이게 되었다고 밝혔습니다. GeForce 5090은 이전 모델인 4090에 비해 부피는 30% 작아졌고, 에너지 효율은 30% 더 좋아졌으며, 성능은 믿을 수 없을 정도로 향상되었습니다. 이는 AI 덕분이며, AI는 컴퓨터 그래픽스를 혁신하고 있습니다. 현재 보고 있는 실시간 컴퓨터 그래픽스는 100% 경로 추적되었으며, AI는 나머지 15개 픽셀을 예측합니다.
AI는 어떻게 진화하는가? (Agentic & Physical AI)
AI는 인식 AI에서 생성형 AI로 진화했으며, 지난 5년간 생성형 AI에 집중했습니다. AI에게 텍스트, 이미지, 비디오 등 다양한 종류의 데이터를 이해하고 변환하는 법을 가르쳤습니다. 생성형 AI는 컴퓨팅 수행 방식을 근본적으로 변화시켰으며, 검색 기반 컴퓨팅 모델에서 생성형 컴퓨팅 모델로 전환되었습니다. 최근에는 에이전틱 AI라는 중대한 돌파구가 마련되었는데, 이는 AI가 스스로 목표를 세우고 계획하며 행동하는 주체성을 갖는다는 의미입니다. 다음 AI 물결은 로보틱스이며, 이는 물리적 AI에 의해 가능해졌습니다. 물리적 AI는 현실 세계의 물리 법칙을 이해하는 AI입니다.
AI 스케일링, 3가지 핵심 과제
AI 스케일링을 가능하게 하는 세 가지 근본적인 과제가 있습니다. 첫째, AI가 학습할 데이터를 충분히 확보하는 데이터 문제를 해결해야 합니다. 둘째, 인간 개입 없이 AI 모델을 효과적으로 훈련하는 훈련 문제를 해결해야 합니다. 셋째, 리소스를 더 많이 제공할수록 AI가 더 똑똑해질 수 있도록 알고리즘을 확장하는 스케일링 문제를 해결해야 합니다. 작년에 AI 연산 요구 사항, 즉 스케일링 법칙은 생각보다 훨씬 더 강력하며 실제로 초가속화되고 있다는 사실이 밝혀졌습니다.
AI 팩토리 시대의 도래 (1조$ 시장?)
AI가 더 똑똑해지고 유용해짐에 따라 AI 모델을 훈련하고 추론하는 데 필요한 연산량이 엄청나게 증가했습니다. 글로벌 데이터 센터에 대한 자본 지출 증가 예측에 따르면, 데이터 센터 구축 규모가 1조 달러에 달할 것으로 예상됩니다. 이는 컴퓨팅 방식의 근본적인 전환과 미래 AI 소프트웨어를 위한 자본 투자가 필요하다는 인식 때문입니다. 미래에는 컴퓨터가 소프트웨어를 위한 토큰을 생성할 것이며, 이러한 인프라를 구축하는 새로운 방식을 AI 팩토리라고 부릅니다.
가속 컴퓨팅의 심장: CUDA-X 플랫폼
소프트웨어를 가속화하기 위해서는 다양한 과학 및 산업 분야의 복잡한 계산을 위한 전문적인 프레임워크와 라이브러리가 필요합니다. 엔비디아는 CUDA 플랫폼 위에 각 분야의 연산을 GPU로 가속하는 수많은 전문 라이브러리들을 구축해 왔으며, 이를 CUDA-X 라이브러리라고 부릅니다. CUDA는 이제 모든 클라우드, 모든 데이터 센터, 모든 컴퓨터 회사에서 사용 가능하며, 가속 컴퓨팅의 티핑 포인트에 도달했습니다.
아키텍처 혁명: Blackwell 시스템의 비밀
엔비디아는 컴퓨터 아키텍처에서 근본적인 설계 전환을 이루었습니다. 핵심 과제는 수직 확장, 즉 스케일 업이었습니다. MV 링크 아키텍처를 완전히 재설계하고, 고성능 외부 스위치로 분리하고, 컴퓨팅 노드를 최적화하고, 전면 액체 냉각을 도입했습니다. 그 결과 단일 렉에서 1엑사플롭스라는 엄청난 성능을 구현했습니다.
추론 전쟁: Blackwell vs Hopper (feat. Dynamo)
추론은 AI 팩토리가 토큰을 생성하는 과정이며, AI 팩토리의 효율성과 성능은 비즈니스의 서비스 품질, 수익과 직결됩니다. AI 팩토리는 빠른 응답과 높은 처리량 사이에 균형을 찾아야 하는 어려운 과제를 안고 있습니다. 엔비디아는 이러한 복잡한 과정을 처리하는 AI 팩토리의 운영 체제인 Nv디디아 다이나모를 발표했습니다. 다이나모는 AI 혁명의 동력이 될 것입니다. 동일 전력 하에서 블랙웰은 호퍼보다 추론 성능이 25배 뛰어납니다.
거대 공장 건설법: Omniverse 디지털 트윈
AI 팩토리는 너무 복잡하기 때문에, 엔비디아는 모든 데이터 센터를 짓기 전에 먼저 디지털 트윈을 만듭니다. Nvid디아 옴니버스 플랫폼 위에 AI 팩토리의 가상 복제본을 만드는 것입니다. 옴니버스 기반의 AI 팩토리 디지털 트윈 청사진을 사용해 실제 건설 전에 모든 것을 가상으로 설계하고 최적화합니다.
엔비디아 로드맵: Rubin & 네트워킹 혁신
엔비디아는 매년 새로운 혁신을 선보이는 로드맵을 가지고 있습니다. 블랙웰은 현재 완전 생산 중이며, 올해 하반기에는 성능이 더욱 향상된 블랙웰 울트라로 전환될 것입니다. 내년 하반기에는 다음 세대 아키텍처 루빈을 선보입니다. 루빈은 새로운 CPU, 새로운 GPU, 자세 메모리인 HBM4, 그리고 훨씬 강력해진 MV 링크 등 모든 것이 새로워지는 거대 도약입니다. 수백만 개의 GPU를 확장하려면 규모 확장, 즉 스케일 아웃을 위한 네트워킹이 중요합니다. 엔비디아는 실리컨 포토닉스라는 새로운 광학 기술에 투자하여 전력 소모를 줄이고 초고밀도 초고대역폭 스위치를 만들 수 있게 되었습니다.
모든 기업을 위한 AI: DGX Spark/Station & NIMs
AI를 글로벌 엔터프라이즈에 가져오기 위해서는 큰 그림을 봐야 합니다. AI와 머신 러닝은 전체 컴퓨팅 스택을 재창조했습니다. 엔비디아는 새로운 DGX인 DGX 스파크와 DGX 스테이션을 소개했습니다. DGX 스파크는 모든 소프트웨어 엔지니어의 개발 플랫폼이며, DGX 스테이션은 미래의 PC가 보여줘야 할 모습입니다. 엔비디아는 또한 모든 사람이 진행할 수 있는 AI 모델인 님스를 발표했습니다. 님스는 사전 구축된 컨테이너로 AI 모델을 어떤 시스템에서든 쉽고 빠르게 배포할 수 있게 해 줍니다.
AI, 현실 속으로: 엣지 AI & 자율주행차 (GM & Halos)
엣지 컴퓨팅은 엔비디아가 매우 기대하는 분야 중 하나입니다. 엔비디아는 시스코, T모바일, 캐르베로스와 협력하여 미국 내 무선 네트워크를 위한 풀스택 통합 솔루션을 구축할 것입니다. AI는 자율주행 자동차 분야에서 가장 먼저 가능성의 불꽃을 터트렸습니다. 글로벌 자동차 기업 GM이 미래의 자율주행 자동차 플릿 구축에 엔비디아를 핵심 파트너로 선정했습니다. 엔비디아는 자율주행 안전 개발 철학이자 기술 플랫폼인 할로스를 통해 자동차 안전을 보장합니다.
로봇 시대 임박: Groot N1 & Newton (Blue 로봇 등장!)
로봇은 물리적 세계와 상호 작용하면서 디지털 정보만으로는 할 수 없는 일을 할 수 있다는 이점이 있습니다. 엔비디아는 아이작 그루트 N1을 소개합니다. 그루트 N1은 휴머노이드 로봇을 위한 범용 파운데이션 모델입니다. 엔비디아는 딥마인드, 유니티와 협력하여 뉴턴이라는 물리 엔진을 개발했습니다. 뉴턴은 완전한 실시간 물리 시뮬레이션이며, 미래의 로봇을 훈련할 방식입니다.
아웃트로: 쿠키 영상
젠슨 황 CEO는 GTC에 와주신 모든 분들께 감사드리며, 블랙웰은 완전 생산 중이고, AI 추론 성능에서 호퍼 대비 40배 향상을 제공하며, 클라우드, 엔터프라이즈, 로봇을 위한 세 가지 핵심 AI 인프라를 구축하고 있다고 강조했습니다.