Chip Tensor thế hệ 8 Nvidia A100 cho 5 Petaflop có giá 200 ngàn Mỹ Kim

Chip Nvidia A100 đã được giới thiệu tại hội nghị Hot Chips

Nvidia A100 là chip Tensor Core thế hệ thứ ba. Nó nhanh hơn và hiệu quả hơn so với các chip cạnh tranh như chip Nvidia trước đó (V100), xử lý Google Tensor (TPU) phiên bản 3 và Huawei Ascend. Nvidia A100 thậm chí còn vượt trội hơn Đơn vị xử lý căng thẳng của Google Phiên bản 4 chưa được phát hành trong hầu hết các danh mục.

A100 có các kiểu dữ liệu toàn diện, khả năng tăng tốc thưa thớt, di chuyển và đồng bộ hóa dữ liệu không đồng bộ và tăng dung lượng L1 / SMEM.

NVIDIA DGX ™ A100 là hệ thống chung cho tất cả khối lượng công việc trí tuệ hân tạo AI, cung cấp mật độ tính toán, hiệu suất và tính linh hoạt chưa từng có trong hệ thống AI 5 petaFLOPS đầu tiên trên thế giới. NVIDIA DGX A100 có bộ tăng tốc tiên tiến nhất thế giới, GPU NVIDIA A100 Tensor Core, cho phép các doanh nghiệp hợp nhất đào tạo, suy luận và phân tích thành một cơ sở hạ tầng AI thống nhất, dễ triển khai, bao gồm quyền truy cập trực tiếp vào các chuyên gia NVIDIA AI.

Hệ thống phổ quát cho mọi khối lượng công việc của AI NVIDIA

Hệ thống DGX A100 tích hợp tám GPU NVIDIA A100 Tensor Core mới, cung cấp bộ nhớ 320GB để đào tạo bộ dữ liệu AI lớn nhất và kết nối NVIDIA Mellanox® HDR 200Gbps tốc độ cao mới nhất.

Nhiều khối lượng công việc nhỏ hơn có thể được tăng tốc bằng cách phân chia DGX A100 thành 56 phiên bản cho mỗi hệ thống, sử dụng tính năng GPU đa phiên bản A100. Việc kết hợp những khả năng này cho phép doanh nghiệp tối ưu hóa sức mạnh tính toán và tài nguyên theo yêu cầu để tăng tốc khối lượng công việc đa dạng, bao gồm phân tích dữ liệu, đào tạo và suy luận, trên một nền tảng phần mềm xác định, được tích hợp đầy đủ và duy nhất.

DGX ™ A100 là hệ thống chung cho tất cả các khối lượng công việc của trí tuệ nhân tạo AI 

— từ phân tích đến đào tạo đến suy luận. DGX A100 thiết lập một thanh mới cho mật độ máy tính, đóng gói 5 petaFLOPS hiệu suất AI vào một hệ số hình thức 6U, thay thế cơ sở hạ tầng máy tính cũ bằng một hệ thống thống duy nhất. DGX A100 có thể phân bổ sức mạnh tính toán chi tiết, sử dụng khả năng GPU đa trường hợp trong GPU NVIDIA A100 Tensor Core. Quản trị viên có thể chỉ định các tài nguyên có kích thước phù hợp cho các khối lượng công việc cụ thể. Điều này đảm bảo rằng các công việc lớn và nhỏ đều có thể được hỗ trợ. Sự kết hợp của sức mạnh tính toán dày đặc và tính linh hoạt hoàn toàn của khối lượng công việc khiến DGX A100 trở thành lựa chọn lý tưởng cho cả việc triển khai nút đơn và các cụm Slurm và Kubernetes quy mô lớn được triển khai với NVIDIA DeepOps.

www.Uviet.net