Meta ra mắt Llama 3.2 mã nguồn mở: AI có thể “nhìn” và bỏ vừa trong túi bạn

Updated: 27/09/2024 at 13:00

Đây là một tuần đầy tích cực cho AI mã nguồn mở.

Vào thứ Tư, Meta công bố bản nâng cấp cho mô hình ngôn ngữ lớn hàng đầu của mình, Llama 3.2. Không chỉ có khả năng đàm thoại, Llama 3.2 còn có thể “nhìn thấy”.

Điều đặc biệt hơn là một số phiên bản của mô hình này có thể tích hợp vào điện thoại thông minh mà không làm giảm chất lượng, cho phép tương tác AI riêng tư trên thiết bị mà không cần gửi dữ liệu đến các máy chủ bên thứ ba.

Ra mắt tại sự kiện Meta Connect, Llama 3.2 có bốn phiên bản khác nhau, mỗi phiên bản đều có điểm mạnh riêng. Các mô hình tham số lớn – 11B và 90B – có khả năng xử lý cả văn bản và hình ảnh, thực hiện các nhiệm vụ phức tạp như phân tích biểu đồ, chú thích hình ảnh và xác định các đối tượng trong ảnh dựa trên mô tả ngôn ngữ tự nhiên.

Llama 3.2 được giới thiệu cùng tuần với Molmo của Viện Allen, tuyên bố là mô hình LLM thị giác đa phương tiện mã nguồn mở tốt nhất, hoạt động tương đương với các chatbot nổi tiếng như GPT-4o, Claude 3.5 Sonnet và Reka Core.

Meta cũng giới thiệu hai mô hình nhẹ: các mô hình 1B và 3B tham số, được thiết kế cho hiệu suất cao, tốc độ nhanh và các nhiệm vụ lặp đi lặp lại không đòi hỏi nhiều tính toán. Mặc dù kích thước nhỏ, chúng có khả năng “gọi công cụ” tốt hơn và một cửa sổ ngữ cảnh 128K token, lý tưởng cho việc tóm tắt, theo dõi hướng dẫn và viết lại trên thiết bị.

Đội ngũ kỹ thuật của Meta đã thực hiện các kỹ thuật tinh vi để đạt được điều này, sử dụng cắt tỉa có cấu trúc và chuyển giao tri thức để loại bỏ dữ liệu không cần thiết từ các mô hình lớn hơn và chuyển giao kiến thức từ các mô hình lớn sang các mô hình nhỏ hơn.

Kết quả là một bộ mô hình nhỏ gọn vượt trội hơn so với các đối thủ cạnh tranh trong cùng phân khúc, vượt qua các mô hình như Gemma 2 2.6B của Google và Phi-2 2.7B của Microsoft trên nhiều bài kiểm tra.

Meta cũng đang tăng cường AI trên thiết bị, hợp tác với các công ty phần cứng lớn như Qualcomm, MediaTek và Arm để đảm bảo Llama 3.2 hoạt động tốt với các chip di động. Các công ty điện toán đám mây như AWS, Google Cloud và Microsoft Azure cũng cung cấp quyền truy cập tức thì vào các mô hình mới.

Khả năng thị giác của Llama 3.2 được cải thiện nhờ các điều chỉnh kiến trúc thông minh, thêm trọng số bộ điều hợp vào mô hình ngôn ngữ hiện có, tạo cầu nối giữa các bộ mã hóa hình ảnh và lõi xử lý văn bản.

Llama 3.2 được phát hành dưới dạng mã nguồn mở theo tiêu chuẩn của Meta, có sẵn để tải xuống trên Llama.com và Hugging Face, cũng như thông qua hệ sinh thái đối tác rộng lớn của họ. Những ai muốn chạy mô hình trên đám mây có thể sử dụng Google Collab Notebook hoặc Groq cho các tương tác dựa trên văn bản, tạo ra gần 5000 token trong chưa đầy 3 giây.

Thử nghiệm Llama 3.2

Meta đã thử nghiệm Llama 3.2 trên nhiều nhiệm vụ khác nhau và nhận thấy mô hình này hoạt động tốt trong các tương tác dựa trên văn bản. Tuy nhiên, khả năng mã hóa của nó cho kết quả không đồng nhất. Khi thử nghiệm trên nền tảng của Groq, Llama 3.2 đã tạo ra mã cho các trò chơi phổ biến và các chương trình đơn giản, nhưng mô hình 70B gặp khó khăn khi được yêu cầu tạo mã cho một trò chơi tùy chỉnh. Ngược lại, mô hình 90B mạnh hơn lại hiệu quả và tạo ra một trò chơi hoàn chỉnh ngay lần thử đầu tiên.

Llama 3.2 xuất sắc trong việc xác định các yếu tố chủ quan trong hình ảnh, nhưng gặp khó khăn với văn bản nhỏ trong biểu đồ. Tuy nhiên, nó hoạt động xuất sắc khi đọc văn bản trong các hình ảnh lớn hơn, phân biệt đúng tên và vai trò công việc mà không mắc lỗi nào.

Tổng kết

Llama 3.2 là một cải tiến lớn so với thế hệ trước và là bổ sung tuyệt vời cho ngành công nghiệp AI mã nguồn mở. Điểm mạnh của nó nằm ở khả năng diễn giải hình ảnh và nhận diện văn bản lớn, với một số điểm cần cải thiện trong việc xử lý hình ảnh chất lượng thấp và các nhiệm vụ mã hóa phức tạp. Khả năng tương thích trên thiết bị cũng hứa hẹn tương lai của các nhiệm vụ AI cục bộ và riêng tư, là đối trọng tuyệt vời với các đề xuất độc quyền như Gemini Nano và các mô hình của Apple.

Tham gia Telegram: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Thạch Sanh

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Giá Ethereum đã duy trì đà tăng đáng kể trong những tuần gần đây, mang lại cho nhiều nhà đầu tư lý do để lạc quan sau khi ghi nhận mức cao nhất mọi thời đại mới tại 4.888 USD, cao hơn một chút so với mức đỉnh cũ là... ...

Ondo Finance (ONDO) đang bứt phá mạnh với mức tăng gần 10% trong ngày, khẳng định vị thế dẫn đầu trong nhóm các đồng tiền thuộc phân khúc tài sản thế giới thực (RWA). Đà tăng này cũng phản ánh xu hướng tích cực trên toàn thị trường, khi tổng... ...

Shiba Inu (SHIB) đã mắc kẹt trong vùng giao dịch đi ngang suốt nửa năm qua, gần như không để lộ một xu hướng rõ rệt nào trên khung thời gian lớn. Trong những tuần gần đây, đà biến động của SHIB càng trở nên mờ nhạt, khiến bức tranh... ...

Giá Solana (SOL) đã có một đợt tăng trưởng ấn tượng trong phiên giao dịch gần đây, khi bật tăng 12,3% lên trên 206 đô la. Với mức vốn hóa thị trường đạt 111,3 tỷ đô la và khối lượng giao dịch hàng ngày bùng nổ hơn 157% lên 12,7... ...

DeepSeek có kế hoạch phát hành chip AI mới hoàn toàn sản xuất tại Trung Quốc, điều này có thể tạo ra những ảnh hưởng sâu rộng đến thị trường tiền điện tử và các công ty Mỹ liên quan. Chính sách chiến tranh thương mại của Donal Trump đã... ...

Ethereum (ETH) đã tăng lên mức cao nhất trong gần bốn năm vào thứ 6, kéo theo làn sóng thanh lý 351 triệu đô la trong các lệnh Short sử dụng đòn bẩy. Đợt bứt phá này diễn ra sau khi nhà đầu tư định giá lại triển vọng chính... ...

CEO kiêm đồng sáng lập Ledn, Adam Reeds, giữ niềm tin vững chắc vào Bitcoin như một tài sản dự trữ, nhưng ông cho rằng những biến động gần đây trên thị trường cho thấy sự thay đổi trong chiến lược của các công ty quản lý ngân quỹ tài... ...

XRP đã bứt phá 8% trong phiên giao dịch ngày thứ Sáu, ngay sau khi Ripple công bố bắt tay với tập đoàn tài chính Nhật Bản SBI Holdings để đưa stablecoin Ripple USD (RLUSD) thâm nhập thị trường Nhật. Đà tăng này không chỉ đến từ kỳ vọng về... ...

Memecoin Official Trump (TRUMP) đã xuất hiện một mô hình giảm giá trên biểu đồ hàng ngày, cho thấy khả năng chuẩn bị cho một đợt giảm giá tiếp theo. Trong bối cảnh thị trường không ổn định, TRUMP đã chứng kiến mức giảm 18% trong tuần qua và hiện... ...

Thị trường crypto đã bước vào giai đoạn điều chỉnh, giảm từ đỉnh 4,08 nghìn tỷ đô la hôm 15/8 xuống còn khoảng 3,78 nghìn tỷ đô la ở thời điểm hiện tại. Như vậy, thị trường mất 4,6% giá trị chỉ trong chưa đầy một tuần, khiến hầu hết... ...

Xem thêm bài viết

Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode