Đây là siêu máy tính AI nhỏ nhất thế giới

DGX Spark, thiết bị được Nvidia mô tả là siêu máy tính AI nhỏ nhất thế giới. Ảnh: Nvidia.

Tối 14/10, Nvidia chính thức mở bán siêu máy tính AI nhỏ nhất thế giới với tên gọi DGX Spark. Để chào mừng sự kiện này, trước đó nhà sáng lập kiêm CEO của NVIDIA, Jensen Huang, đã đến thăm trụ sở Starship của SpaceX tại Texas và đích thân trao tặng một trong những sản phẩm đầu tiên cho tỷ phú Elon Musk.

"Hiệu suất tính toán trên mỗi watt của thiết bị này cao hơn khoảng 100 lần so với máy tính AI chuyên dụng đầu tiên DGX-1 mà Jensen Huang đã tặng tôi tại OpenAI vào năm 2016", ông Musk đăng trên X cá nhân.

Dù sở hữu hình dạng một chiếc PC nhỏ gọn, DGX Spark lại có khả năng xử lý các mô hình AI với tối đa 200 tỷ tham số và đạt hiệu suất AI lên đến 1 petaflop, tương đương một triệu tỷ phép tính mỗi giây.

Ngoài ra, theo trang chủ NVIDIA, các nhà phát triển có thể tinh chỉnh các mô hình trên DGX Spark với con số lên đến 70 tỷ tham số cục bộ.

DGX Spark được phát triển dựa trên kiến ​​trúc NVIDIA Grace Blackwell và tích hợp toàn bộ GPU, CPU, mạng, thư viện CUDA và phần mềm NVIDIA AI vào một hệ thống nhỏ gọn, có thể đặt trong phòng thí nghiệm hoặc văn phòng.

Về phần cứng, chiếc máy tính này được trang bị Superchip GB10 Grace Blackwell do chính Nvidia phát triển, cùng bộ nhớ hợp nhất 128 GB và dung lượng bộ nhớ SSD 4 TB.

“DGX-1 từng mở ra kỷ nguyên của siêu máy tính AI và những quy luật mở rộng thúc đẩy AI hiện đại. Với DGX Spark, chúng tôi quay trở lại với sứ mệnh đó — trao một máy tính AI vào tay các nhà phát triển để khơi nguồn làn sóng đột phá tiếp theo”, Jensen Huang cho biết.