Đồng sáng lập Ethereum Vitalik Buterin đã bày tỏ lo ngại rằng sự phát triển AI không được kiểm soát có thể vượt qua khả năng của con người, có khả năng biến nó thành “loài đỉnh cao” tiếp theo của hành tinh.
Buterin đã đi sâu vào những khác biệt cơ bản giữa AI và các phát minh khác của con người, nhấn mạnh tính chất độc đáo và tiềm ẩn nguy hiểm của khả năng tiến bộ nhanh chóng của AI.
Buterin cảnh báo AI sẽ vượt qua loài người
Trong một bài đăng trên blog ngày 27 tháng 11, Buterin lập luận rằng AI, là một dạng trí thông minh mới, về cơ bản khác với những phát minh trước đây của con người như mạng xã hội hay báo in. Khả năng tăng cường nhanh chóng trí thông minh của nó tạo ra tiềm năng đáng kể để vượt qua các kỹ năng nhận thức của con người.
Thêm vào tính cấp bách trong thông điệp của mình, đồng sáng lập Ethereum nhấn mạnh rằng tiến trình này có thể dẫn đến kịch bản trong đó AI siêu thông minh coi loài người là mối đe dọa cho sự sống còn của nó, có khả năng chấm dứt sự tồn tại của con người.
Để ủng hộ quan điểm của mình, Buterin đã tham khảo một cuộc khảo sát vào tháng 8 năm 2022 với sự tham gia của hơn 4.270 nhà nghiên cứu về máy học (machine-learning). Cuộc khảo sát này ước tính có 5-10% khả năng AI dẫn đến sự tuyệt chủng của loài người.
Buterin cũng đặt câu hỏi liệu một thế giới có AI cực kỳ thông minh có làm chúng ta hài lòng hay không, đồng thời nêu rõ khả năng xảy ra bất ổn khi chúng ta trở thành “thú cưng” hay không.
AI risk 2: would a world with superintelligent AIs even be a world we would feel satisfied living in? On the instability of outcomes other than us being pets, and the failures of scifi to present realistic alternatives. pic.twitter.com/o9z8s6QAej
— vitalik.eth (@VitalikButerin) November 27, 2023
Ngoài ra, anh nhấn mạnh mối nguy hiểm của việc AI tạo điều kiện cho chủ nghĩa toàn trị bằng cách tận dụng công nghệ giám sát, thứ mà các chính phủ độc tài đã khai thác để trấn áp phe đối lập.
Buterin ủng hộ giao diện BCI
Buterin cũng nhấn mạnh rằng mặc dù những tuyên bố này cực đoan nhưng vẫn có nhiều cách để con người khẳng định quyền kiểm soát và đảm bảo hướng đi có lợi cho sự phát triển AI. Ông ủng hộ việc tích hợp giao diện não-máy tính (BCI) để giảm thiểu những nguy hiểm.
Những giao diện này thiết lập đường dẫn giao tiếp giữa hoạt động điện của não và các thiết bị bên ngoài như máy tính, có thể rút ngắn đáng kể vòng giao tiếp giữa con người và máy móc. Quan trọng hơn, BCI có thể đảm bảo rằng con người duy trì quyền tự quyết có ý nghĩa đối với AI, giảm nguy cơ AI hành động theo những cách không phù hợp với các giá trị của con người.
Tầm nhìn của Buterin vượt xa các biện pháp công nghệ. Anh kêu gọi “ý định tích cực của con người” trong việc thúc đẩy sự phát triển AI theo hướng mang lại lợi ích cho nhân loại. Cách tiếp cận này trái ngược với những tiến bộ AI chỉ hướng đến lợi nhuận, có thể không phải lúc nào cũng phù hợp với những kết quả mong muốn nhất cho xã hội loài người.
Kết thúc những suy nghĩ của mình, Buterin vẫn lạc quan, nói rằng con người là ngôi sao sáng nhất của vũ trụ, đã phát triển công nghệ giúp mở rộng tiềm năng của con người trong hàng nghìn năm, với hy vọng sẽ tiếp tục con đường này trong tương lai. Ông đã hình dung ra một tương lai nơi những phát minh của con người, chẳng hạn như du hành vũ trụ và *geoengineering, sẽ bảo tồn vẻ đẹp của sự sống trên Trái đất trong hàng tỷ năm.
Tham gia Telegram của Tạp Chí Bitcoin: https://t.me/tapchibitcoinvn
Theo dõi Twitter: https://twitter.com/tapchibtc_io
Theo dõi Tiktok: https://www.tiktok.com/@tapchibitcoin
- Vitalik Buterin muốn cải tiến mô hình Ethereum staking, CEO Cardano phản ứng mỉa mai
- Cựu cố vấn Ethereum cáo buộc Vitalik Buterin và Joseph Lubin gian lận vượt quy mô FTX 1000 lần
Itadori
Theo CryptoPotato
