Alibaba, gã khổng lồ thương mại điện tử Trung Quốc, là một người chơi lớn trong lĩnh vực AI của Trung Quốc. Hôm nay, họ đã công bố ra mắt mô hình AI mới nhất của mình, Qwen2 – và theo một số biện pháp so sánh, nó là lựa chọn nguồn mở tốt nhất hiện nay.
Được phát triển bởi Alibaba Cloud, Qwen2 là thế hệ tiếp theo của dòng mô hình Tongyi Qianwen (Qwen) của công ty, bao gồm mô hình ngôn ngữ lớn Tongyi Qianwen LLM (còn được gọi là Qwen), mô hình AI hình ảnh Qwen-VL và Qwen-Audio.
Qwen được tiền huấn luyện trên dữ liệu đa ngôn ngữ bao phủ nhiều ngành công nghiệp và lĩnh vực khác nhau, với Qwen-72B là mô hình mạnh nhất trong dòng. Nó được huấn luyện trên 3 nghìn tỷ token dữ liệu. So với đó, biến thể mạnh nhất của Llama-2 của Meta dựa trên 2 nghìn tỷ token. Tuy nhiên, Llama-3 đang trong quá trình xử lý 15 nghìn tỷ token.
Theo một bài đăng blog gần đây của đội ngũ Qwen, Qwen2 có thể xử lý 128 nghìn token ngữ cảnh – tương đương với GPT-4o từ OpenAI. Qwen2 cũng đã vượt trội hơn LLama3 của Meta trong hầu hết các chỉ số tổng hợp quan trọng, đội ngũ này khẳng định, làm cho nó trở thành mô hình nguồn mở tốt nhất hiện có.
Tuy nhiên, đáng chú ý là Elo Arena độc lập xếp hạng Qwen2-72B-Instruct cao hơn một chút so với GPT-4-0314 nhưng dưới LLama3 70B và GPT-4-0125-preview, làm cho nó trở thành mô hình LLM nguồn mở được ưa chuộng thứ hai trong số các người thử nghiệm cho đến nay.
Qwen2 có sẵn trong năm kích thước khác nhau, từ 0,5 tỷ đến 72 tỷ tham số, và phiên bản phát hành này mang lại những cải tiến đáng kể trong các lĩnh vực chuyên môn khác nhau. Ngoài ra, các mô hình đã được huấn luyện với dữ liệu bằng 27 ngôn ngữ nhiều hơn so với phiên bản trước, bao gồm tiếng Đức, tiếng Pháp, tiếng Tây Ban Nha, tiếng Ý và tiếng Nga, ngoài tiếng Anh và tiếng Trung.
“So với các mô hình ngôn ngữ nguồn mở tiên tiến nhất, bao gồm Qwen1.5 đã phát hành trước đó, Qwen2 nhìn chung đã vượt qua hầu hết các mô hình nguồn mở và thể hiện tính cạnh tranh với các mô hình độc quyền trên một loạt các chỉ số nhắm đến hiểu ngôn ngữ, sinh ngôn ngữ, khả năng đa ngôn ngữ, lập trình, toán học và lý luận,” đội ngũ Qwen tuyên bố trên trang chính thức của mô hình trên HuggingFace.
Các mô hình Qwen2 cũng cho thấy khả năng ấn tượng trong việc hiểu các ngữ cảnh dài. Qwen2-72B-Instruct có thể xử lý các nhiệm vụ trích xuất thông tin ở bất kỳ đâu trong ngữ cảnh khổng lồ của nó mà không gặp lỗi, và nó đã vượt qua bài kiểm tra “Needle in a Haystack” gần như hoàn hảo. Điều này quan trọng, vì truyền thống, hiệu suất của mô hình bắt đầu suy giảm khi chúng ta tương tác với nó nhiều hơn.
Với phiên bản phát hành này, đội ngũ Qwen cũng đã thay đổi giấy phép cho các mô hình của mình. Trong khi Qwen2-72B và các mô hình điều chỉnh hướng dẫn của nó tiếp tục sử dụng giấy phép Qianwen gốc, tất cả các mô hình khác đã áp dụng giấy phép Apache 2.0, một tiêu chuẩn trong thế giới phần mềm nguồn mở.
“Trong tương lai gần, chúng tôi sẽ tiếp tục mở mã các mô hình mới để tăng tốc AI nguồn mở,” Alibaba Cloud cho biết trong một bài đăng blog chính thức.
Decrypt đã thử nghiệm mô hình và nhận thấy nó khá khả năng trong việc hiểu các nhiệm vụ bằng nhiều ngôn ngữ. Mô hình này cũng được kiểm duyệt, đặc biệt là trong các chủ đề được coi là nhạy cảm ở Trung Quốc. Điều này dường như phù hợp với tuyên bố của Alibaba rằng Qwen2 là mô hình ít có khả năng cung cấp kết quả không an toàn nhất – dù là hoạt động bất hợp pháp, gian lận, nội dung khiêu dâm, và vi phạm quyền riêng tư – dù ở ngôn ngữ nào.
Ngoài ra, nó có khả năng hiểu tốt các lời nhắc hệ thống, điều này có nghĩa là các điều kiện áp dụng sẽ có ảnh hưởng mạnh hơn đến câu trả lời của nó. Ví dụ, khi được yêu cầu đóng vai một trợ lý hữu ích với kiến thức về luật pháp so với một luật sư hiểu biết luôn trả lời dựa trên luật pháp, các câu trả lời cho thấy sự khác biệt lớn. Nó cung cấp lời khuyên tương tự như GPT-4o, nhưng ngắn gọn hơn.
Nâng cấp mô hình tiếp theo sẽ mang tính đa phương thức vào Qwen2 LLM, có thể hợp nhất tất cả các gia đình thành một mô hình mạnh mẽ, đội ngũ cho biết. “Ngoài ra, chúng tôi mở rộng các mô hình ngôn ngữ Qwen2 đến đa phương thức, có khả năng hiểu cả thông tin hình ảnh và âm thanh,” họ nói thêm.
Qwen có sẵn để thử nghiệm trực tuyến qua HuggingFace Spaces. Những người có đủ khả năng tính toán để chạy nó cục bộ có thể tải trọng lượng miễn phí qua HuggingFace.
Mô hình Qwen2 có thể là một sự thay thế tuyệt vời cho những người muốn đặt cược vào AI nguồn mở. Nó có cửa sổ ngữ cảnh lớn hơn hầu hết các mô hình khác, làm cho nó thậm chí còn mạnh hơn LLama3 của Meta. Ngoài ra, nhờ vào giấy phép của nó, các phiên bản tinh chỉnh chia sẻ bởi những người khác có thể cải thiện nó, tăng điểm số và vượt qua thiên vị.
*Trí tuệ nhân tạo tổng quát (Artificial General Intelligence – AGI) là một dạng AI có khả năng thực hiện mọi nhiệm vụ trí tuệ mà con người có thể làm được. Khác với AI hẹp (ANI), AGI có khả năng hiểu, học hỏi và áp dụng kiến thức trong nhiều lĩnh vực khác nhau. AGI có thể tự học hỏi từ kinh nghiệm và dữ liệu mới mà không cần sự can thiệp liên tục của con người. Nó có thể thích nghi với các tình huống và vấn đề mới mà chưa từng gặp phải trước đây. AGI được coi là mục tiêu cuối cùng của nghiên cứu AI, nhưng hiện tại vẫn còn ít nhất 10 năm nữa để phát triển. AGI đang gây ra nhiều lo ngại về an ninh và rủi ro tiềm ẩn đối với nhân loại.
Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn
Theo dõi Twitter (X): https://twitter.com/tapchibtc_io
Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin
- OpenAI sẽ kết hợp nội dung Reddit vào dữ liệu đào tạo AI của mình, cổ phiếu RDDT tăng 14%
- OpenAI giới thiệu mô hình GPT-4o với khả năng hội thoại thời gian thực đầy hứa hẹn
- OpenAI thành lập một ủy ban an toàn mới giữa những tin đồn về GPT-5
Thạch Sanh
Theo Decrypt