xAI của Elon Musk bắt tay với Nvidia để mở rộng Grok

Updated: 29/10/2024 at 16:00

Nhà sản xuất chip Nvidia vừa công bố vào thứ Hai rằng công nghệ mạng Spectrum-X của họ đã góp phần mở rộng siêu máy tính Colossus, thuộc startup xAI, hiện đang được công nhận là cụm đào tạo AI lớn nhất thế giới.

Siêu máy tính Colossus và khả năng đào tạo AI vượt trội

Tọa lạc tại Memphis, Tennessee, Colossus đảm nhiệm vai trò đào tạo cho thế hệ thứ ba của Grok, bộ mô hình ngôn ngữ lớn của xAI, được phát triển nhằm hỗ trợ các tính năng chatbot dành cho người dùng đăng ký X Premium. Siêu máy tính này được hoàn thành trong chỉ 122 ngày và đã bắt đầu đào tạo các mô hình đầu tiên chỉ 19 ngày sau khi lắp đặt. Theo thông báo của Nvidia, xAI, startup của tỷ phú công nghệ Elon Musk, dự định tăng gấp đôi công suất của hệ thống lên 200.000 GPU.

Colossus là một hệ thống GPU khổng lồ, trong đó mỗi GPU đảm nhiệm việc xử lý các tập dữ liệu lớn. Khi các mô hình Grok được đào tạo, chúng cần phân tích một khối lượng lớn văn bản, hình ảnh và dữ liệu để cải thiện độ chính xác trong phản hồi. Được Musk ca ngợi là cụm đào tạo AI mạnh mẽ nhất thế giới, Colossus kết nối 100.000 GPU NVIDIA Hopper thông qua mạng Remote Direct Memory Access (truy cập bộ nhớ trực tiếp từ xa) thống nhất. GPU Hopper của Nvidia xử lý các tác vụ phức tạp bằng cách phân chia khối lượng công việc và thực hiện xử lý song song.

Kiến trúc này cho phép dữ liệu di chuyển trực tiếp giữa các node, giúp giảm thiểu độ trễ và tối ưu hóa thông lượng cho các tác vụ đào tạo AI quy mô lớn. Trong khi các mạng Ethernet truyền thống thường gặp phải tình trạng tắc nghẽn và mất gói tin, dẫn đến giới hạn thông lượng ở mức 60%, Spectrum-X đạt được thông lượng lên đến 95% mà không làm giảm độ trễ.

Spectrum-X không chỉ cải thiện khả năng giao tiếp giữa các GPU mà còn tăng tốc độ và độ chính xác trong việc đào tạo Grok, điều này rất quan trọng để phát triển các mô hình AI có khả năng phản hồi hiệu quả trong các tương tác với con người. Thông báo mới cho thấy Nvidia tiếp tục khẳng định vị thế của mình trong lĩnh vực sản xuất chip đồ họa và AI, trong bối cảnh nhu cầu ngày càng tăng về công nghệ này.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Itadori

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Altcoin hàng đầu Ethereum (ETH) đã phá vỡ vùng hợp nhất hẹp vào thứ 6, khởi đầu xu hướng giảm kéo dài có khả năng tiếp diễn sang tuần mới. Altcoin này đã giảm xuống dưới mốc 2.300 đô la – lần đầu tiên trong vòng một tháng – khi... ...

Giá Bitcoin bất ngờ lao dốc xuống còn $99.646 sau khi Quốc hội Iran thông qua đề xuất đóng cửa eo biển Hormuz — một quyết định đầy kịch tính chỉ diễn ra chưa đầy 24 giờ sau cuộc không kích của Mỹ nhằm vào các cơ sở hạt nhân... ...

Giá Dogecoin (DOGE) đã giảm trong bối cảnh thị trường rộng lớn đang suy yếu, nhưng các nhà phân tích kỹ thuật lại chỉ ra một mô hình golden cross trên biểu đồ hàng tuần. Kết hợp với dữ liệu phái sinh mang xu hướng tăng và các dự báo... ...

Trong những ngày gần đây, thị trường Bitcoin đang thể hiện một xu hướng tăng giá rõ rệt, mặc dù đang có sự phân kỳ thú vị giữa giá trị của đồng tiền này và hợp đồng mở (OI) trên nền tảng Binance. Những tín hiệu này đang dấy lên... ...

Một chiến lược gia tiền điện tử từng nổi danh với dự đoán chính xác đáy của Bitcoin vào năm 2022 hiện cho rằng BTC đang tiến rất gần đến một đợt tăng giá theo mô hình parabol. Trong buổi phân tích chiến lược mới nhất, DonAlt – nhà phân... ...

Bitcoin vẫn là ông vua không thể tranh cãi của thị trường crypto, nhưng không thể phủ nhận rằng sự chú ý của các trader đang dần chuyển sang các altcoin. Các altcoin này không chỉ có tính đổi mới mà còn mang lại khả năng mở rộng và tiềm... ...

Floki (FLOKI), một trong những đồng meme coin nổi bật hiện nay, đã thu hút sự chú ý mạnh mẽ từ cộng đồng crypto trong suốt thời gian qua. Với sự gia tăng của các dự án và đồng tiền liên quan đến meme, Floki đã khẳng định được vị... ...

Trong một thời gian ngắn, Avalanche đã trở thành điểm đến hấp dẫn của một làn sóng đầu cơ tiền điện tử mới, đặc biệt là trong thế giới meme coin. Điều này không chỉ phản ánh sức hấp dẫn của Avalanche đối với các trader bán lẻ mà còn... ...

Giá Bitcoin đã giảm xuống dưới 103.000 đô la, gây thanh lý 160 triệu đô la trong các lệnh Long trên Binance. Đợt thanh lý này diễn ra sau khi một cụm đòn bẩy cao đã được xây dựng trong nhiều ngày bị phá vỡ. Đồng thời, khối lượng mua... ...

Một ví điện tử có liên kết với “wiftardio.sol” đã bất ngờ rút 2 triệu USDC từ sàn Bybit và ngay lập tức chi số tiền này để mua 2,125 triệu Fartcoin (FARTCOIN) ở mức giá $0,94 – ngay trước khi thị trường chứng kiến một đợt thanh lý quy... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode