Nhà sáng lập Near Protocol: Trí tuệ nhân tạo (AI) sẽ không tiêu diệt loài người trừ khi được lập trình

Updated: 03/07/2024 at 7:00

Các hệ thống Trí tuệ nhân tạo (AI) không có khả năng tiêu diệt loài người trừ khi được lập trình rõ ràng để làm điều đó, theo Illia Polosukhin – đồng sáng lập của Near Protocol và là một trong những người tạo ra công nghệ transformer (mô hình học máy) làm nền tảng cho các hệ thống AI hiện đại.

AI

Illia Polosukhin – Đồng sáng lập của Near Protocol

Polosukhin – thành viên team phát triển kiến ​​trúc transformer tại Google vào năm 2017 gần đây đã chia sẻ những hiểu biết sâu sắc của mình về tình trạng hiện tại của AI, những rủi ro tiềm ẩn và phát triển trong tương lai. Anh nhấn mạnh tầm quan trọng của việc hiểu AI như một hệ thống có các mục tiêu được xác định, thay vì như một thực thể có tri giác.

“AI không phải là con người, nó là một hệ thống. Và hệ thống này có mục tiêu. Trừ khi có ai đó đến và nói: “Hãy giết tất cả con người”… nếu không, nó sẽ không làm được điều đó”.

Anh giải thích rằng nếu không được đào tạo cho mục đích này, AI sẽ không làm điều đó bởi vì theo anh là thiếu động lực kinh tế để đạt được mục tiêu như vậy.

“Trong thế giới blockchain, bạn nhận ra rằng mọi thứ đều được thúc đẩy bởi kinh tế theo cách này hay cách khác. Và vì vậy không có yếu tố kinh tế nào thúc đẩy bạn giết người”.

Tất nhiên, điều này không có nghĩa là AI không thể bị sử dụng cho mục đích này. Tuy nhiên, anh chỉ ra thực tế là AI sẽ không tự động quyết định đó là một hành động đúng đắn.

“Nếu ai đó sử dụng AI để bắt đầu chế tạo vũ khí sinh học, điều đó không khác gì việc họ cố gắng chế tạo vũ khí sinh học mà không có AI. Chính con người là người đang khơi mào chiến tranh chứ không phải AI ngay từ đầu”.

Không phải tất cả các nhà nghiên cứu AI đều có chung tâm lý lạc quan như Polosukhin. Paul Christiano, trước đây là trưởng team liên kết mô hình ngôn ngữ tại OpenAI và hiện đang lãnh đạo Alignment Research Center, đã cảnh báo nếu không có sự liên kết chặt chẽ để đảm bảo AI tuân theo các hướng dẫn dự định, AI có thể học cách đánh lừa trong quá trình đánh giá.

Anh giải thích AI có thể “học” cách nói dối trong quá trình đánh giá, có khả năng dẫn đến kết quả thảm khốc nếu nhân loại ngày càng phụ thuộc vào hệ thống AI.

“Tôi nghĩ có lẽ khoảng 10-20% khả năng AI sẽ tiếp quản, với nhiều hoặc hầu hết con người chết. Tôi nghĩ khá là nghiêm trọng”.

Một nhân vật quan trọng khác trong hệ sinh thái tiền điện tử, đồng sáng lập Ethereum Vitalik Buterin, đã cảnh báo chống lại các cách tiếp cận quá mức trong việc áp dụng các phương pháp hiệu quả để tăng tốc tiến trình huấn luyện AI, tức là tập trung vào phát triển công nghệ hơn bất kỳ điều gì khác, đặt lợi nhuận lên trên trách nhiệm.

“AI siêu thông minh rất rủi ro và chúng ta không nên lao vào nó, đồng thời chúng ta nên chống lại những người cố gắng. Làm ơn đừng có canh tác máy chủ trị giá 7 nghìn tỷ đô la”, Buterin đã tweet vào tháng 5 để phản hồi CEO Messari Ryan Selkis.

Trong khi bác bỏ những lo ngại về sự tuyệt chủng của con người do AI gây ra, Polosukhin nêu bật những lo ngại thực tế hơn về tác động của công nghệ này đối với xã hội. Polosukhin chỉ ra nguy cơ nghiện các hệ thống giải trí do AI điều khiển là một vấn đề cấp bách hơn, tạo ra sự tương đồng với kịch bản đen tối được mô tả trong bộ phim “Idiocracy”.

“Kịch bản thực tế hơn là chúng ta trở nên nghiện hệ thống”, Polosukhin cảnh báo. Đối với nhà phát triển, nhiều công ty AI “chỉ đang cố gắng giúp chúng ta giải trí” và việc áp dụng AI không phải để đạt được những tiến bộ công nghệ thực sự mà để hấp dẫn hơn đối với mọi người.

Cuộc phỏng vấn kết thúc với những suy nghĩ của Polosukhin về tương lai phương pháp đào tạo AI. Anh bày tỏ niềm tin vào tiềm năng của các quy trình đào tạo hiệu quả và năng suất hơn, giúp AI tiết kiệm năng lượng hơn.

“Tôi nghĩ nó đáng giá và chắc chắn mang lại nhiều đổi mới trong không gian”.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Đình Đình

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Đầu tháng 6, chỉ số Spent Output Profit Ratio (SOPR)* của TRON (TRX) đã tăng vọt lên mức 4,74 – cao nhất trong nhiều tháng qua. Con số này phản ánh hành vi chốt lời mạnh mẽ, đặc biệt từ những holder dài hạn (LTH) từng mua vào quanh mốc... ...

Nửa đầu năm 2025 đã chứng kiến một sự thay đổi đáng kể trong cơ cấu nắm giữ tài sản tiền điện tử, đặc biệt là với XRP. Một trong những thay đổi đáng chú ý là tỷ lệ nắm giữ XRP đã giảm xuống chỉ còn một nửa so... ...

SEI, token gốc của Sei Network, đã nổi lên như một trong những tài sản tiền điện tử có hiệu suất ấn tượng nhất trong tháng 6 vừa qua. Blockchain Layer-1 mã nguồn mở dựa trên Cosmos này đã chứng kiến mức tăng vượt trội, đạt hơn 100% so với... ...

Ngày giao dịch hôm nay của các meme coin diễn ra với những biến động trái chiều. Mặc dù giá trị tích lũy của toàn bộ thị trường meme coin vẫn ổn định ở mức 57,48 tỷ đô la, nhưng không thiếu những đồng coin đạt được mức tăng trưởng... ...

Nhà phân tích tiền điện tử Daan Crypto Trades đã đưa ra một bản cập nhật cảnh báo về tình hình của thị trường altcoin, nhấn mạnh sự kém hiệu quả liên tục của nó so với Bitcoin. Dựa trên biểu đồ tuần mới nhất của tỷ lệ TOTAL3/BTC (vốn... ...

Ripple (XRP) đang thu hút sự quan tâm mạnh mẽ từ Phố Wall khi các hợp đồng tương lai mới của coin này trên CME Group nhận được lượng quan tâm đáng kể. Kể từ khi ra mắt vào ngày 19/5, cả hợp đồng tương lai tiêu chuẩn lẫn vi... ...

Công ty tiếp thị cá cược có trụ sở tại Minneapolis – SharpLink Gaming, hiện đã chuyển đổi thành một công ty nắm giữ Ethereum, vừa công bố đã mua thêm hơn 30 triệu USD ETH vào kho bạc của mình. Theo thông báo hôm thứ Ba, công ty đại... ...

Pi Coin đã chứng kiến một đợt tăng trưởng ấn tượng là 16% trong 24 giờ qua và hiện đang giao dịch ở mức 0,61 đô la. Điều này diễn ra trong bối cảnh cộng đồng Pi Network đang háo hức chuẩn bị cho sự kiện Pi2Day thường niên, dự... ...

Trong bối cảnh căng thẳng địa chính trị vẫn đang diễn ra, Dogecoin (DOGE) cho thấy mức độ biến động rất cao. Theo biểu đồ hàng ngày, memecoin này gần đây đã ghi nhận mức tăng giá hơn 7%, nhưng hiện đang sụt giảm và có khả năng tiếp tục đà... ...

Shiba Inu – meme coin hàng đầu thị trường – đang phát đi những tín hiệu đầu tiên của một đợt đảo chiều tăng giá sau khi hứng chịu làn sóng bán tháo dữ dội. Trong bối cảnh tâm lý ưa rủi ro đang dần trở lại với thị trường... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode