xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Vào những ngày cuối cùng của tháng 5, thị trường tiền điện tử bắt đầu bước vào giai đoạn lặng sóng khi đà chốt lời lan rộng sau nhịp tăng trưởng mạnh mẽ trước đó. Tuy nhiên, trong khi nhiều nhà đầu tư cá nhân tạm ngừng giao dịch để... ...

Thị trường memecoin đang bắt đầu hạ nhiệt sau khi tăng đột biến trong tháng 5. Sự suy thoái của không gian crypto trong tuần qua đã làm giảm đà tăng, ảnh hưởng đến các dự án memecoin hàng đầu. Tuy nhiên, khối lượng giao dịch của memecoin vẫn tăng... ...

Bitcoin (BTC) đang đứng trước nguy cơ điều chỉnh sâu hơn khi nhiều chỉ báo liên tục phát đi tín hiệu cảnh báo về khả năng hình thành đỉnh cục bộ, khiến giới đầu tư không khỏi lo ngại về một giai đoạn biến động mạnh sắp tới. Việc chốt... ...

Danh mục đầu tư tiền điện tử của cá voi James Wynn gần đây đã phải đối mặt với một khoản lỗ nghiêm trọng, khi Bitcoin ghi nhận mức giảm mạnh xuống dưới 105.000 đô la. Trong bối cảnh này, Wynn đã bị thanh lý toàn bộ số BTC của... ...

Pump.fun một lần nữa đã xả lượng lớn Solana (SOL) lên sàn Kraken, gửi 156.425 SOL trị giá 25,74 triệu đô la. Như vậy, nền tảng đã gửi tổng cộng đến 3,49 triệu SOL, trị giá hơn 640 triệu đô la. Quy mô và tần suất của các giao dịch... ...

Zebec Network (ZBCN) đã ghi nhận mức tăng trưởng ấn tượng lên tới 334% trong vòng 30 ngày qua, vươn lên trở thành một trong những altcoin nổi bật nhất trên thị trường. Mặc dù các chỉ báo động lượng gần đây có dấu hiệu hạ nhiệt, ZBCN vẫn duy... ...

Mặc dù có một số tin tức tích cực liên quan đến giá cả, XRP hiện đang chịu áp lực giảm giá mạnh mẽ. Đồng tiền này đã giảm hơn 2% trong 24 giờ qua và sụt 8,8% trong tuần qua. Các chỉ báo kỹ thuật gần đây tiếp tục... ...

Giữa lúc thị trường biến động mạnh, giá Bitcoin đã giảm hơn 8.000 đô la, rơi khỏi mốc đỉnh gần đây — mặc dù có bằng chứng cho thấy cá voi đang tích cực gom hàng. Khi thị trường phản ánh những đợt điều chỉnh trong lĩnh vực crypto, một... ...

Nhóm phát triển Pi Network mới đây đã đưa ra một loạt hướng dẫn và cập nhật quan trọng, trong đó có một bản cập nhật vừa được công bố trong vài giờ qua. Những thay đổi này được thiết kế nhằm hỗ trợ game thủ, nhà phát triển và các... ...

Có vẻ như đợt chốt lời đã bắt đầu diễn ra đối với Pepe (PEPE), khi các cá voi gần đây đã bán tháo hàng tỷ token trong bối cảnh giá tiếp tục giảm. Tính đến ngày 30/5, với mức giảm giá 11%, PEPE cho thấy tín hiệu tiêu cực... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode