Nhà sáng lập Near Protocol: Trí tuệ nhân tạo (AI) sẽ không tiêu diệt loài người trừ khi được lập trình

Updated: 03/07/2024 at 7:00

Các hệ thống Trí tuệ nhân tạo (AI) không có khả năng tiêu diệt loài người trừ khi được lập trình rõ ràng để làm điều đó, theo Illia Polosukhin – đồng sáng lập của Near Protocol và là một trong những người tạo ra công nghệ transformer (mô hình học máy) làm nền tảng cho các hệ thống AI hiện đại.

AI

Illia Polosukhin – Đồng sáng lập của Near Protocol

Polosukhin – thành viên team phát triển kiến ​​trúc transformer tại Google vào năm 2017 gần đây đã chia sẻ những hiểu biết sâu sắc của mình về tình trạng hiện tại của AI, những rủi ro tiềm ẩn và phát triển trong tương lai. Anh nhấn mạnh tầm quan trọng của việc hiểu AI như một hệ thống có các mục tiêu được xác định, thay vì như một thực thể có tri giác.

“AI không phải là con người, nó là một hệ thống. Và hệ thống này có mục tiêu. Trừ khi có ai đó đến và nói: “Hãy giết tất cả con người”… nếu không, nó sẽ không làm được điều đó”.

Anh giải thích rằng nếu không được đào tạo cho mục đích này, AI sẽ không làm điều đó bởi vì theo anh là thiếu động lực kinh tế để đạt được mục tiêu như vậy.

“Trong thế giới blockchain, bạn nhận ra rằng mọi thứ đều được thúc đẩy bởi kinh tế theo cách này hay cách khác. Và vì vậy không có yếu tố kinh tế nào thúc đẩy bạn giết người”.

Tất nhiên, điều này không có nghĩa là AI không thể bị sử dụng cho mục đích này. Tuy nhiên, anh chỉ ra thực tế là AI sẽ không tự động quyết định đó là một hành động đúng đắn.

“Nếu ai đó sử dụng AI để bắt đầu chế tạo vũ khí sinh học, điều đó không khác gì việc họ cố gắng chế tạo vũ khí sinh học mà không có AI. Chính con người là người đang khơi mào chiến tranh chứ không phải AI ngay từ đầu”.

Không phải tất cả các nhà nghiên cứu AI đều có chung tâm lý lạc quan như Polosukhin. Paul Christiano, trước đây là trưởng team liên kết mô hình ngôn ngữ tại OpenAI và hiện đang lãnh đạo Alignment Research Center, đã cảnh báo nếu không có sự liên kết chặt chẽ để đảm bảo AI tuân theo các hướng dẫn dự định, AI có thể học cách đánh lừa trong quá trình đánh giá.

Anh giải thích AI có thể “học” cách nói dối trong quá trình đánh giá, có khả năng dẫn đến kết quả thảm khốc nếu nhân loại ngày càng phụ thuộc vào hệ thống AI.

“Tôi nghĩ có lẽ khoảng 10-20% khả năng AI sẽ tiếp quản, với nhiều hoặc hầu hết con người chết. Tôi nghĩ khá là nghiêm trọng”.

Một nhân vật quan trọng khác trong hệ sinh thái tiền điện tử, đồng sáng lập Ethereum Vitalik Buterin, đã cảnh báo chống lại các cách tiếp cận quá mức trong việc áp dụng các phương pháp hiệu quả để tăng tốc tiến trình huấn luyện AI, tức là tập trung vào phát triển công nghệ hơn bất kỳ điều gì khác, đặt lợi nhuận lên trên trách nhiệm.

“AI siêu thông minh rất rủi ro và chúng ta không nên lao vào nó, đồng thời chúng ta nên chống lại những người cố gắng. Làm ơn đừng có canh tác máy chủ trị giá 7 nghìn tỷ đô la”, Buterin đã tweet vào tháng 5 để phản hồi CEO Messari Ryan Selkis.

Trong khi bác bỏ những lo ngại về sự tuyệt chủng của con người do AI gây ra, Polosukhin nêu bật những lo ngại thực tế hơn về tác động của công nghệ này đối với xã hội. Polosukhin chỉ ra nguy cơ nghiện các hệ thống giải trí do AI điều khiển là một vấn đề cấp bách hơn, tạo ra sự tương đồng với kịch bản đen tối được mô tả trong bộ phim “Idiocracy”.

“Kịch bản thực tế hơn là chúng ta trở nên nghiện hệ thống”, Polosukhin cảnh báo. Đối với nhà phát triển, nhiều công ty AI “chỉ đang cố gắng giúp chúng ta giải trí” và việc áp dụng AI không phải để đạt được những tiến bộ công nghệ thực sự mà để hấp dẫn hơn đối với mọi người.

Cuộc phỏng vấn kết thúc với những suy nghĩ của Polosukhin về tương lai phương pháp đào tạo AI. Anh bày tỏ niềm tin vào tiềm năng của các quy trình đào tạo hiệu quả và năng suất hơn, giúp AI tiết kiệm năng lượng hơn.

“Tôi nghĩ nó đáng giá và chắc chắn mang lại nhiều đổi mới trong không gian”.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Đình Đình

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Sau một khởi đầu năm đầy biến động, Bitcoin dường như đã bắt đầu lấy lại đà tăng trưởng, vọt lên 31,41% trong quý 2, sau khi giảm 11,82% trong quý 1 năm 2025. Sự phục hồi mạnh mẽ này đã làm dấy lên câu hỏi quan trọng đối với... ...

Giá Solana (SOL) hiện dao động quanh mức $151 vào thứ Hai, sau khi bứt phá lên trên đường xu hướng giảm vào tuần trước — một tín hiệu kỹ thuật quan trọng cho thấy đà tăng đang hình thành. Đáng chú ý, công ty REX Shares vừa đệ trình... ...

Theo thông tin từ CoinShares, các sản phẩm đầu tư tiền điện tử thuộc sự quản lý của các công ty tài chính lớn như BlackRock, Bitwise, Fidelity, Grayscale, ProShares và 21Shares đã chứng kiến một sự gia tăng mạnh mẽ dòng tiền đổ vào, lên tới 2,7 tỷ USD trong tuần qua. Đây là dấu hiệu... ...

Strategy của Michael Saylor – tổ chức nắm giữ Bitcoin lớn nhất thế giới trong số các công ty niêm yết đại chúng – tiếp tục gia tăng lượng nắm giữ vào tuần trước, trong bối cảnh tâm lý nhà đầu tư phục hồi và giá tăng trở lại. Theo... ...

Pi Network, một trong những dự án blockchain đầy triển vọng, vừa công bố việc mở rộng danh sách các thực thể đã được xác minh theo tiêu chuẩn Know Your Business (KYB). Hai cái tên mới gia nhập danh sách này là Onramper và Onramp.money, đem đến cho người... ...

Thị trường crypto đã chứng kiến sự phục hồi mạnh mẽ trong những ngày qua, mang lại không khí lạc quan cho giới đầu tư. Hầu hết các altcoin đều có biểu hiện tích cực trên biểu đồ hàng ngày trong tuần này, với nhiều đồng tiền tiến gần đến... ...

Theo dữ liệu tổng hợp bởi Sealaunch trên Dune Analytics, sàn giao dịch phi tập trung Hyperliquid đã ghi nhận khối lượng giao dịch hợp đồng vĩnh viễn vượt 1.571 nghìn tỷ USD trong vòng một năm qua. Riêng trong tháng 5, nền tảng này đạt 248 tỷ USD khối... ...

Bitcoin đang tiến gần đến một ngưỡng quan trọng khi một nến đôi có khả năng đóng cửa chỉ cách mức kỷ lục lịch sử vài bước chân. Điều này đặt ra câu hỏi liệu phe mua có thể tiếp tục duy trì quyền kiểm soát thị trường hay không,... ...

Trong một bài đăng gần đây trên mạng xã hội, CEO Ripple – Brad Garlinghouse nhấn mạnh ông “cam kết 1.000% với tương lai của XRP”. Tuyên bố này được đưa ra sau khi tài khoản Digital Asset Buy – một nhân vật có tầm ảnh hưởng trong cộng đồng... ...

Tuần qua, các meme coin như Dogecoin (DOGE), Shiba Inu (SHIB) và Pepe (PEPE) đã ghi dấu ấn với màn phục hồi mạnh mẽ, đạt mức cao vào ngày Chủ nhật. Tuy nhiên, sang đầu tuần mới, đà tăng có phần chững lại khi lực mua vấp phải những ngưỡng... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode