Meta ra mắt Llama 3.2 mã nguồn mở: AI có thể “nhìn” và bỏ vừa trong túi bạn

Updated: 27/09/2024 at 13:00

Đây là một tuần đầy tích cực cho AI mã nguồn mở.

Vào thứ Tư, Meta công bố bản nâng cấp cho mô hình ngôn ngữ lớn hàng đầu của mình, Llama 3.2. Không chỉ có khả năng đàm thoại, Llama 3.2 còn có thể “nhìn thấy”.

Điều đặc biệt hơn là một số phiên bản của mô hình này có thể tích hợp vào điện thoại thông minh mà không làm giảm chất lượng, cho phép tương tác AI riêng tư trên thiết bị mà không cần gửi dữ liệu đến các máy chủ bên thứ ba.

Ra mắt tại sự kiện Meta Connect, Llama 3.2 có bốn phiên bản khác nhau, mỗi phiên bản đều có điểm mạnh riêng. Các mô hình tham số lớn – 11B và 90B – có khả năng xử lý cả văn bản và hình ảnh, thực hiện các nhiệm vụ phức tạp như phân tích biểu đồ, chú thích hình ảnh và xác định các đối tượng trong ảnh dựa trên mô tả ngôn ngữ tự nhiên.

Llama 3.2 được giới thiệu cùng tuần với Molmo của Viện Allen, tuyên bố là mô hình LLM thị giác đa phương tiện mã nguồn mở tốt nhất, hoạt động tương đương với các chatbot nổi tiếng như GPT-4o, Claude 3.5 Sonnet và Reka Core.

Meta cũng giới thiệu hai mô hình nhẹ: các mô hình 1B và 3B tham số, được thiết kế cho hiệu suất cao, tốc độ nhanh và các nhiệm vụ lặp đi lặp lại không đòi hỏi nhiều tính toán. Mặc dù kích thước nhỏ, chúng có khả năng “gọi công cụ” tốt hơn và một cửa sổ ngữ cảnh 128K token, lý tưởng cho việc tóm tắt, theo dõi hướng dẫn và viết lại trên thiết bị.

Đội ngũ kỹ thuật của Meta đã thực hiện các kỹ thuật tinh vi để đạt được điều này, sử dụng cắt tỉa có cấu trúc và chuyển giao tri thức để loại bỏ dữ liệu không cần thiết từ các mô hình lớn hơn và chuyển giao kiến thức từ các mô hình lớn sang các mô hình nhỏ hơn.

Kết quả là một bộ mô hình nhỏ gọn vượt trội hơn so với các đối thủ cạnh tranh trong cùng phân khúc, vượt qua các mô hình như Gemma 2 2.6B của Google và Phi-2 2.7B của Microsoft trên nhiều bài kiểm tra.

Meta cũng đang tăng cường AI trên thiết bị, hợp tác với các công ty phần cứng lớn như Qualcomm, MediaTek và Arm để đảm bảo Llama 3.2 hoạt động tốt với các chip di động. Các công ty điện toán đám mây như AWS, Google Cloud và Microsoft Azure cũng cung cấp quyền truy cập tức thì vào các mô hình mới.

Khả năng thị giác của Llama 3.2 được cải thiện nhờ các điều chỉnh kiến trúc thông minh, thêm trọng số bộ điều hợp vào mô hình ngôn ngữ hiện có, tạo cầu nối giữa các bộ mã hóa hình ảnh và lõi xử lý văn bản.

Llama 3.2 được phát hành dưới dạng mã nguồn mở theo tiêu chuẩn của Meta, có sẵn để tải xuống trên Llama.com và Hugging Face, cũng như thông qua hệ sinh thái đối tác rộng lớn của họ. Những ai muốn chạy mô hình trên đám mây có thể sử dụng Google Collab Notebook hoặc Groq cho các tương tác dựa trên văn bản, tạo ra gần 5000 token trong chưa đầy 3 giây.

Thử nghiệm Llama 3.2

Meta đã thử nghiệm Llama 3.2 trên nhiều nhiệm vụ khác nhau và nhận thấy mô hình này hoạt động tốt trong các tương tác dựa trên văn bản. Tuy nhiên, khả năng mã hóa của nó cho kết quả không đồng nhất. Khi thử nghiệm trên nền tảng của Groq, Llama 3.2 đã tạo ra mã cho các trò chơi phổ biến và các chương trình đơn giản, nhưng mô hình 70B gặp khó khăn khi được yêu cầu tạo mã cho một trò chơi tùy chỉnh. Ngược lại, mô hình 90B mạnh hơn lại hiệu quả và tạo ra một trò chơi hoàn chỉnh ngay lần thử đầu tiên.

Llama 3.2 xuất sắc trong việc xác định các yếu tố chủ quan trong hình ảnh, nhưng gặp khó khăn với văn bản nhỏ trong biểu đồ. Tuy nhiên, nó hoạt động xuất sắc khi đọc văn bản trong các hình ảnh lớn hơn, phân biệt đúng tên và vai trò công việc mà không mắc lỗi nào.

Tổng kết

Llama 3.2 là một cải tiến lớn so với thế hệ trước và là bổ sung tuyệt vời cho ngành công nghiệp AI mã nguồn mở. Điểm mạnh của nó nằm ở khả năng diễn giải hình ảnh và nhận diện văn bản lớn, với một số điểm cần cải thiện trong việc xử lý hình ảnh chất lượng thấp và các nhiệm vụ mã hóa phức tạp. Khả năng tương thích trên thiết bị cũng hứa hẹn tương lai của các nhiệm vụ AI cục bộ và riêng tư, là đối trọng tuyệt vời với các đề xuất độc quyền như Gemini Nano và các mô hình của Apple.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Thạch Sanh

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Toncoin (TON) thu hút sự chú ý trong tuần qua nhờ đà tăng ấn tượng, bất chấp xu hướng điều chỉnh chung của thị trường tiền điện tử. Trong bối cảnh phần lớn thị trường đang trải qua nhịp điều chỉnh, Toncoin lại nổi bật với mức tăng mạnh mẽ... ...

Giá Pi Network vừa ghi nhận mức sụt giảm mạnh nhất trong ngày, mất hơn 11% và rơi xuống đáy lịch sử mới. Diễn biến này đã làm dấy lên làn sóng lo ngại trong cộng đồng nhà đầu tư, khi nhiều người bắt đầu đặt câu hỏi về nguyên... ...

Pepe (PEPE) tiếp tục chịu áp lực giảm mạnh khi trượt xuống dưới ngưỡng hỗ trợ quan trọng tại $0,00001180, đồng thời xuất hiện dấu hiệu suy yếu từ dòng tiền của “cá voi”. Nếu phe bò không thể lấy lại mốc này, giá có nguy cơ giảm sâu về... ...

TRON (TRX) tiếp tục tăng giá trong khi phần lớn thị trường crypto đang chịu áp lực điều chỉnh. Kể từ ngày 15/7, TRX đã tăng 8,85%, trong khi Bitcoin (BTC) giảm 3,5%. Ethereum (ETH) cũng ghi nhận mức tăng 15,38% trong cùng giai đoạn. Theo dữ liệu từ IntoTheBlock,... ...

Solana (SOL) đã giảm mạnh 15,38% trong vòng một tuần, từ mức 206 USD xuống đáy cục bộ 156 USD. Đợt điều chỉnh sâu này đã đẩy SOL vào mô hình kênh giảm, với các chỉ báo kỹ thuật cho thấy xu hướng tiêu cực đang gia tăng. Trong khi... ...

Các quỹ ETF Bitcoin và Ethereum tại Mỹ đã khởi đầu tháng 8 với đà sụt giảm mạnh, đảo ngược hoàn toàn xu hướng tăng kỷ lục trong tháng 7. Tổng cộng, các quỹ này bị rút ròng gần 1 tỷ USD khi giá tài sản cơ sở đồng loạt... ...

Mức độ quan tâm đến XRP đang giảm sút, với các chỉ báo on-chain quan trọng cho thấy đà suy yếu trong ngắn hạn. Trong bối cảnh tâm lý thị trường chung trở nên kém lạc quan, những dữ liệu này cho thấy khả năng giá XRP sẽ tiếp tục... ...

Giá Pepe (PEPE) lại một lần nữa đứng trước ngã rẽ kỹ thuật quan trọng, trong bối cảnh thị trường vừa trải qua đợt thanh lý ồ ạt cùng áp lực giảm giá ngày càng gia tăng. Sau khi xuyên thủng ngưỡng hỗ trợ then chốt quanh mức $0,00001180, đà... ...

Bitcoin (BTC), tài sản kỹ thuật số lớn nhất, đã giảm hơn 5% kể từ đầu tháng này. Sự sụt giảm diễn ra sau khi Tổng thống Donald Trump công bố mức thuế quan mới của Hoa Kỳ. Tin tức đã dẫn đến một đợt bán tháo trên thị trường... ...

Nền tảng phân tích blockchain Arkham Intelligence mới đây đã tiết lộ một vụ đánh cắp quy mô lớn từng bị che giấu, với tổng cộng 127.426 BTC (trị giá khoảng 14,5 tỷ USD theo giá hiện tại) bị đánh cắp khỏi mỏ đào Bitcoin Trung Quốc LuBian vào tháng... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode