xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Giao dịch lớn trên mạng lưới Floki (FLOKI) đã bùng nổ, với khối lượng giao dịch từ $100.000 đến 1 triệu USD tăng hơn 1.700%, báo hiệu sự hồi sinh mạnh mẽ trong hoạt động của cá voi và nhà đầu tư. Ngoài ra, Hợp đồng mở (OI) đã tăng... ...

Dogecoin (DOGE) vừa ghi dấu một pha bứt phá ngoạn mục, khi tiền điện tử này tăng vọt 29% chỉ trong ba ngày, thu hút sự chú ý mạnh mẽ từ giới đầu tư. Đà tăng mạnh mẽ đã giúp DOGE phá vỡ ngưỡng tâm lý quan trọng tại mốc... ...

Quỹ ETF Bitcoin giao ngay của BlackRock, IBIT, đã ghi nhận dòng vốn ròng trong 20 phiên giao dịch liên tiếp – chuỗi hút vốn dài nhất trong năm nay đối với bất kỳ quỹ  ETF Bitcoin giao ngay nào trên thị trường. Theo dữ liệu từ SoSoValue, IBIT đã thu... ...

TRUMP đã tăng 15% trong tuần qua, sau khoảng thời gian suy giảm mạnh vào tháng 2 và tháng 3. Mặc dù ghi nhận sự phục hồi, altcoin này vẫn tiếp tục phải đối mặt với những biến động của thị trường. Tuy nhiên, các điều kiện kinh tế vĩ... ...

Trong tuần qua, một số altcoin đã bứt phá mạnh mẽ khỏi xu hướng tích lũy kéo dài của thị trường, phản ánh sự cải thiện rõ rệt trong tâm lý nhà đầu tư. Bối cảnh quốc tế cũng góp phần tạo lực đẩy tích cực, khi căng thẳng thương... ...

Chính phủ El Salvador tiếp tục tích trữ Bitcoin cho quỹ dự trữ crypto quốc gia của mình, bất chấp thỏa thuận đang diễn ra với Quỹ Tiền tệ Quốc tế (IMF) quy định rằng quốc gia Trung Mỹ này phải ngừng sử dụng nguồn vốn công để mua Bitcoin... ...

Theo CEO của CryptoQuant, ông Ki Young Ju, công ty Strategy – một doanh nghiệp chuyên nắm giữ Bitcoin làm tài sản dự trữ – đang tích lũy BTC với tốc độ cao hơn cả tổng lượng khai thác hàng ngày, khiến tài sản có nguồn cung giới hạn này... ...

Các nhà đầu tư của Bitcoin Satoshi’s Vision (BSV) – một hard fork của Bitcoin Cash (BCH), vốn cũng là một hard fork của giao thức Bitcoin (BTC) – đang nỗ lực khôi phục một vụ kiện từ năm 2019 nhằm chống lại sàn giao dịch Binance vì quyết định... ...

Thị trường crypto đang bước vào một giai đoạn phục hồi mạnh mẽ khi Bitcoin vượt mốc 100.000 USD, kéo theo làn sóng tăng trưởng lan rộng trên toàn bộ hệ sinh thái altcoin. Trong bối cảnh thị trường chuyển mình, các nhà đầu tư dày dạn đang chuẩn bị... ...

Binance Coin (BNB) tiếp tục thu hút sự quan tâm mạnh mẽ từ các nhà đầu tư và nhà giao dịch nhờ vào nền tảng cơ bản vững chắc. Đáng chú ý, BNB Chain vừa công bố mở rộng chương trình khuyến khích trị giá 100 triệu USD sau giai... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode