Nhà sáng lập Near Protocol: Trí tuệ nhân tạo (AI) sẽ không tiêu diệt loài người trừ khi được lập trình

Updated: 03/07/2024 at 7:00

Các hệ thống Trí tuệ nhân tạo (AI) không có khả năng tiêu diệt loài người trừ khi được lập trình rõ ràng để làm điều đó, theo Illia Polosukhin – đồng sáng lập của Near Protocol và là một trong những người tạo ra công nghệ transformer (mô hình học máy) làm nền tảng cho các hệ thống AI hiện đại.

AI

Illia Polosukhin – Đồng sáng lập của Near Protocol

Polosukhin – thành viên team phát triển kiến ​​trúc transformer tại Google vào năm 2017 gần đây đã chia sẻ những hiểu biết sâu sắc của mình về tình trạng hiện tại của AI, những rủi ro tiềm ẩn và phát triển trong tương lai. Anh nhấn mạnh tầm quan trọng của việc hiểu AI như một hệ thống có các mục tiêu được xác định, thay vì như một thực thể có tri giác.

“AI không phải là con người, nó là một hệ thống. Và hệ thống này có mục tiêu. Trừ khi có ai đó đến và nói: “Hãy giết tất cả con người”… nếu không, nó sẽ không làm được điều đó”.

Anh giải thích rằng nếu không được đào tạo cho mục đích này, AI sẽ không làm điều đó bởi vì theo anh là thiếu động lực kinh tế để đạt được mục tiêu như vậy.

“Trong thế giới blockchain, bạn nhận ra rằng mọi thứ đều được thúc đẩy bởi kinh tế theo cách này hay cách khác. Và vì vậy không có yếu tố kinh tế nào thúc đẩy bạn giết người”.

Tất nhiên, điều này không có nghĩa là AI không thể bị sử dụng cho mục đích này. Tuy nhiên, anh chỉ ra thực tế là AI sẽ không tự động quyết định đó là một hành động đúng đắn.

“Nếu ai đó sử dụng AI để bắt đầu chế tạo vũ khí sinh học, điều đó không khác gì việc họ cố gắng chế tạo vũ khí sinh học mà không có AI. Chính con người là người đang khơi mào chiến tranh chứ không phải AI ngay từ đầu”.

Không phải tất cả các nhà nghiên cứu AI đều có chung tâm lý lạc quan như Polosukhin. Paul Christiano, trước đây là trưởng team liên kết mô hình ngôn ngữ tại OpenAI và hiện đang lãnh đạo Alignment Research Center, đã cảnh báo nếu không có sự liên kết chặt chẽ để đảm bảo AI tuân theo các hướng dẫn dự định, AI có thể học cách đánh lừa trong quá trình đánh giá.

Anh giải thích AI có thể “học” cách nói dối trong quá trình đánh giá, có khả năng dẫn đến kết quả thảm khốc nếu nhân loại ngày càng phụ thuộc vào hệ thống AI.

“Tôi nghĩ có lẽ khoảng 10-20% khả năng AI sẽ tiếp quản, với nhiều hoặc hầu hết con người chết. Tôi nghĩ khá là nghiêm trọng”.

Một nhân vật quan trọng khác trong hệ sinh thái tiền điện tử, đồng sáng lập Ethereum Vitalik Buterin, đã cảnh báo chống lại các cách tiếp cận quá mức trong việc áp dụng các phương pháp hiệu quả để tăng tốc tiến trình huấn luyện AI, tức là tập trung vào phát triển công nghệ hơn bất kỳ điều gì khác, đặt lợi nhuận lên trên trách nhiệm.

“AI siêu thông minh rất rủi ro và chúng ta không nên lao vào nó, đồng thời chúng ta nên chống lại những người cố gắng. Làm ơn đừng có canh tác máy chủ trị giá 7 nghìn tỷ đô la”, Buterin đã tweet vào tháng 5 để phản hồi CEO Messari Ryan Selkis.

Trong khi bác bỏ những lo ngại về sự tuyệt chủng của con người do AI gây ra, Polosukhin nêu bật những lo ngại thực tế hơn về tác động của công nghệ này đối với xã hội. Polosukhin chỉ ra nguy cơ nghiện các hệ thống giải trí do AI điều khiển là một vấn đề cấp bách hơn, tạo ra sự tương đồng với kịch bản đen tối được mô tả trong bộ phim “Idiocracy”.

“Kịch bản thực tế hơn là chúng ta trở nên nghiện hệ thống”, Polosukhin cảnh báo. Đối với nhà phát triển, nhiều công ty AI “chỉ đang cố gắng giúp chúng ta giải trí” và việc áp dụng AI không phải để đạt được những tiến bộ công nghệ thực sự mà để hấp dẫn hơn đối với mọi người.

Cuộc phỏng vấn kết thúc với những suy nghĩ của Polosukhin về tương lai phương pháp đào tạo AI. Anh bày tỏ niềm tin vào tiềm năng của các quy trình đào tạo hiệu quả và năng suất hơn, giúp AI tiết kiệm năng lượng hơn.

“Tôi nghĩ nó đáng giá và chắc chắn mang lại nhiều đổi mới trong không gian”.

Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn

Theo dõi Twitter (X): https://twitter.com/tapchibtc_io

Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin

Đình Đình

Theo Decrypt

Được đề cập trong bài viết
Bình luận
Mới cập nhật

Theo báo cáo mới công bố ngày 3/6 của Moody’s, các quỹ thanh khoản ngắn hạn được mã hóa – một loại sản phẩm tài chính kỹ thuật số mới – đã tăng trưởng nhanh chóng, đạt tổng tài sản 5,7 tỷ USD kể từ năm 2021. Moody’s cho biết,... ...

Ripple (XRP) đã phục hồi hơn 40% kể từ mức đáy ngày 7 tháng 4, đạt khoảng 2,25 đô la vào ngày 4 tháng 6. Tuy nhiên, giá hiện tại vẫn thấp hơn 37% so với đỉnh đạt được vào tháng 1 năm 2025 là 3,4 đô la, làm dấy... ...

Trong tuần đầu tiên của tháng 6, thị trường crypto thu hút sự tham gia đáng kể từ các cá voi và nhà đầu tư tổ chức vào 3 altcoin: ETH, FARTCOIN và HYPE. Các hoạt động mua bán quy mô lớn này thể hiện niềm tin vào tiềm năng... ...

Những đồn đoán về khả năng bùng nổ của altcoin vẫn tiếp tục, đặc biệt là trong bối cảnh các nhà đầu tư giao dịch thận trọng và có chọn lọc hơn. Tuy nhiên, dữ liệu mới cho thấy xu hướng hiện tại vẫn tiếp tục ủng hộ Bitcoin là... ...

Bitcoin đã chứng kiến một chặng đường phát triển mạnh mẽ trong thời gian gần đây, với giá trị giao dịch vượt qua mức 100.000 đô la. Tuy nhiên, bất chấp những con số ấn tượng này, sự phấn khích của công chúng lại không đồng điệu với sự tăng... ...

Thời gian gần đây, XRP không thể duy trì được sức mạnh vốn có trên thị trường, khi giá của đồng tiền này đã giảm xuống dưới mức hỗ trợ quan trọng 2,3 đô la, và hiện nay, mức giá này đã trở thành ngưỡng kháng cự. Mặc dù phải... ...

Một nghiên cứu mới từ Chainplay và Strorible cho thấy gần một nửa (45%) các dự án tiền điện tử được hậu thuẫn bởi các quỹ đầu tư mạo hiểm (VC) đã ngừng hoạt động, trong khi 77% không tạo ra nổi 1.000 USD doanh thu mỗi tháng. Nghiên cứu... ...

Bitcoin, đồng tiền điện tử nổi tiếng với sự biến động mạnh mẽ, gần đây đã trải qua một giai đoạn ít biến động hơn. Tuy nhiên, mặc dù vẫn duy trì được phạm vi giá ổn định, có một số dấu hiệu cho thấy tương lai của đồng tiền... ...

Cardano (ADA) đã gặp nhiều khó khăn trong tuần qua. Giá của altcoin này giảm hơn 7% và trở thành một trong những coin giảm mạnh nhất thị trường trong tuần. Giá ADA đã giảm mạnh sau khi xuất hiện sự thay đổi đáng kể trong cấu trúc thị trường.... ...

Trong bối cảnh thị trường tiền điện tử đang trải qua một đợt suy giảm mạnh, Cục Dự trữ Liên bang Mỹ (Fed) đã mang đến một tia hy vọng mới. Fed Waller gợi ý về khả năng cắt giảm lãi suất Trong một tuyên bố gần đây, Thống đốc... ...

Xem thêm bài viết
Chọn chế độ hiển thị:
Bình thường Bảo vệ mắt Dark Mode