xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Tháng 6 sẽ chứng kiến ​​3 đợt mở khóa token lớn gồm ZKsync (ZK), Vana (VANA) và LayerZero (ZRO), với gần 133 triệu USD nguồn cung mới được đưa vào lưu thông. Tổng cộng, 2,4 tỷ USD tài sản sẽ được mở khóa trong tháng này. Các đợt mở khóa... ...

TRON (TRX) đã hai lần đóng phiên giao dịch hàng ngày trên mức 0,274 đô la trong mười ngày qua. Cả hai lần, giá đều đã điều chỉnh trở lại mức hỗ trợ 0,266 đô la. Phe bò và phe gấu đang tranh giành quyền kiểm soát vùng đỉnh phạm... ...

Ba ngày trước, Uniswap (UNI) đã nỗ lực bứt phá khỏi kênh giá song song, ghi nhận mức đỉnh cục bộ ấn tượng tại 7,6 đô la. Tuy nhiên, đà tăng nhanh chóng bị chặn lại bởi áp lực bán mạnh mẽ. Đợt điều chỉnh sau đó đẩy giá xuống... ...

Bitcoin đã tìm cách bảo toàn mức ATH trong năm 2024 vào ngày 1 tháng 6 sau khi nến hàng tháng đóng cửa mang lại mức tăng 11%. Bitcoin phát tín hiệu điều chỉnh Dữ liệu từ Tạp chí Bitcoin và TradingView cho thấy BTC/USD đang cố gắng lấy lại... ...

Khi làn sóng biến động quay trở lại thị trường và các token vốn hóa lớn bắt đầu hụt hơi, Cardano (ADA) và TRON ((TRX) đang lặng lẽ chiếm lĩnh vị thế như những ứng viên tiềm năng cho đợt bứt phá tiếp theo. Chỉ số SOPR của TRON hiện... ...

Thị trường crypto đã chính thức khép lại tuần cuối cùng của nửa đầu năm với những biến động dữ dội. Mặc cho tâm lý nhà đầu tư vẫn bị đè nặng bởi các yếu tố FUD vĩ mô, làn sóng điều chỉnh rộng trên thị trường dường như chưa... ...

Đợt tăng giá của Ethereum vào tháng 5 đã khơi dậy lại sự quan tâm của các nhà đầu tư đối với các quỹ ETH ETF. Trong 31 ngày, dòng vốn đổ vào các sản phẩm đầu tư này đã vượt quá 550 triệu USD, đánh dấu dòng tiền ròng... ...

Giá Bitcoin (BTC) tiếp tục bị kìm chân dưới ngưỡng $105.000 suốt cuối tuần qua, cho thấy lực bán vẫn đang chiếm thế thượng phong trên thị trường. Trong một báo cáo mới nhất, CryptoQuant nhận định rằng “một số chỉ báo về nhu cầu đối với Bitcoin có thể... ...

Theo truyền thông địa phương, các công tố viên Pháp đã truy tố 25 nghi phạm, trong độ tuổi từ 16 đến 23, liên quan đến loạt vụ tấn công bạo lực nhắm vào những người giàu có trong lĩnh vực tiền điện tử. Cuộc điều tra tập trung vào... ...

Khi giá Bitcoin đang trong giai đoạn tích lũy sau mức đỉnh lịch sử (ATH), sức mạnh tính toán của mạng lưới đã vươn tới một cột mốc chưa từng có: chạm đỉnh 943 exahash mỗi giây (EH/s). Theo dữ liệu trung bình động đơn giản (SMA) 7 ngày, hashrate... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode