Gần đây, đã có rất nhiều lo ngại về sự bùng nổ của AI. Trí tuệ nhân tạo có thể nhanh chóng vượt qua con người. Khi máy móc có trí thông minh vượt trội, loài người rất có thể trở thành nô dịch của máy móc.
Nhà vật lý Stephen Hawking nổi tiếng nói với BBC: “Sự phát triển của trí thông minh nhân tạo có thể đánh dấu sự kết thúc của loài người.” Tỷ phú Elon Musk cho rằng AI là “mối đe dọa lớn nhất hiện hữu” đối với loài người.
Các máy tính chạy AI mới nhất đã đánh bại con người ở các trò chơi khác nhau, từ cờ vua đến các trò chơi esport.
AI đã có những bước nhảy vọt đáng kể trong vài năm qua – câu hỏi mà Hawking và Musk đặt ra là: Liệu AI sẽ tiến hóa đến mức có thể thay thế con người hay không?
Viễn cảnh ác mộng trong các bộ phim khoa học viễn tưởng
Liệu rằng trong tương lai, khi trí tuệ nhân tạo ngày càng trở nên hoàn thiện hơn, máy móc có quay lại “tấn công” chính con người đã tạo ra chúng. Đó là một viễn cảnh đã được xuất hiện ở trong nhiều bộ phim bom tấn, như Skynet chẳng hạn.
Nổi tiếng không kém có lẽ là 3 phần phim phần nổi tiếng của Ma trận, các cỗ máy siêu thông minh cũng chiếm lấy hành tinh này, nhưng thay vì giết chết con người, chúng biến chúng ta thành nô lệ của chúng theo một cách độc đáo. Chúng đưa con người vào trong một không gian giả lập (tức Ma trận).
Trong Dune của Frank Herbert, chúng tôi thấy rằng không có máy tính và con người được đào tạo để thực hiện các nhiệm vụ điện toán. Trong thực tế, có một quy luật cực kỳ quan trọng từ Kinh Thánh Công giáo Orange: Con người sẽ không tạo ra một cỗ máy giống như tâm trí con người.
Tại sao? Nó chỉ ra rằng trong quá khứ xa xôi (từ quan điểm của cuốn tiểu thuyết Dune, nhưng lại là tương lai xa xôi của chúng ta) nhân loại đã bị nô lệ hóa bởi một cỗ máy siêu thông minh! Sau khi Butlerian Jihad nổi loạn và đánh bại Omnius, cỗ máy gần như toàn vẹn có nhiều bản sao và đã nô lệ hóa nhân loại, không ai trong chúng ta muốn lặp lại điều này!
Các biến thể của chủ đề này, nơi không chỉ có một AI sát thủ duy nhất mà là cả những con rô bốt hoặc android có khả năng độc chiếm thế giới cũng rất phong phú. Trong Battlestar Galactica, nơi các robot Cylon, được tạo ra bởi con người, nổi loạn và cố gắng giết chết loài người. Các tác phẩm Westworld và Blade Runner cũng khám phá các chủ đề tương tự.
“Kịch bản cơn ác mộng” này có thực sự xảy ra không?
Tôi cho rằng một mặt thì đó còn là một con đường dài để đi đến kiểu kịch bản ác mộng này, nơi mà kẻ giết người AI chiếm lấy và giết chết hoặc biến nhân loại thành nô lệ.
AI ngày nay không phù hợp với nhiệm vụ giết chóc hoặc nô lệ hóa nhân loại, và sẽ không chỉ cần những tiến bộ trong AI và ML (Machine Learning) để đạt được điều đó mà còn cần có nhiều những tiến bộ trong các lĩnh vực phần mềm và phần cứng máy tính khác .
Mặt khác, những “khu vực khác” này thực sự đang tiến triển nhanh chóng và chúng ta có thể nghe thấy nhiều sự đe dọa xung quanh chúng ta trong thế giới công nghệ: blockchain, điện toán ngang hàng, IOT (Internet of Things), rô bốt và máy bay. Sự tiến triển nhanh chóng này có thể làm cho con đường dài từ AI chuyên ngành ngày nay biến thành AI sát thủ trở nên ngắn hơn rất nhiều.
Vậy sẽ phải mất bao lâu để thế giới chúng ta chạm bước tới viễn cảnh đáng sợ ấy?
Những cảnh cổng của sát thủ AI
Đối với “viễn cảnh ác mộng” này xảy ra, cần có một số điều kiện tiên quyết. Tôi gọi đây là “cánh cổng của sát thủ AI” – nếu chúng ta thấy công nghệ của chúng ta “mở” những cánh cổng này – thì có lẽ đã đến lúc bắt đầu chú ý đến những cảnh báo của Hawking, Musk và những người khác nữa.
Danh sách này chưa hoàn chỉnh (nghĩa là có các cánh cổng khác sẽ sẽ được phát hiện thêm trong tương lai), nhưng đây có thể là danh sách tối thiểu.
Bốn cảnh cổng ấy là:
Cánh cổng số 1: AI và ML là mục đích chung và không cụ thể. Hầu hết AI ngày nay, ngay cả khi sử dụng thuật toán chung, cũng đều được huấn luyện bằng cách sử dụng dữ liệu cho các nhiệm vụ rất cụ thể – cho dù là chơi game, lái xe, dự đoán mô hình thị trường chứng khoán, giao tiếp hay phân tích hình ảnh. AI của hôm nay là thế hệ thứ hai của AI (học máy theo định hướng dữ liệu). AI của tương lai có thể kết hợp các yếu tố của các cách tiếp cận khác để trở thành mục đích chung hơn. Cánh cổng này đưa ra một cuộc thảo luận rộng hơn về AI và ML, và liệu rằng AI hiện tại của chúng ta có thể trở thành cái gì?
Cánh cổng số 2: AI có thể dễ dàng giao tiếp với thế giới vật lý. AI có thể chỉ là phần mềm chạy trên máy chủ, nhưng điều đó không có nghĩa là nó có nhận thức về thế giới vật chất (hãy nghĩ về robot và xe tự lái) và cũng không có quyền truy cập vũ khí (hãy nghĩ máy bay không người lái hoặc những kẻ giết người hàng luật từ vũ trụ của Terminator). Cổng này mang đến một cuộc thảo luận lớn hơn về IOT (internet of things), Machine Vision, và cách nó mở rộng khả năng của bất kỳ AI nào để giao tiếp với thế giới vật chất cũng như việc các robot có quyền truy cập vũ khí.
Cảnh cổng số 3: AI không có công tắc tắt. Đây có thể là cánh cổng quan trọng nhất trong bốn cái; nếu cánh cổng này không được vượt qua, thì ngay cả khi AI biến đổi từ những robot nhân từ đến ác độc thì việc “tắt nó” bằng cách sử dụng công tắc tắt hoặc phá hủy vật lý là tương đối dễ dàng. Cổng này mở ra một cuộc thảo luận rộng rãi hơn vì tất cả AI ngày nay dựa vào một dạng công nghệ máy tính nào đó. Nhưng liệu hệ thống blockchain và giao thức ngang hàng có phải là tiền thân của một hệ thống “lan truyền khắp nơi” và không thể tắt được?
Cánh cổng số 4: AI tự nhận thức và ưu tiên sự sống còn. Cổng này hơi khó xác định hơn. Ý thức tự giác là gì? Điều gì có nghĩa là ưu tiên sự sống còn của chính nó? Các giá trị hoặc ưu tiên khác mà AI có thể có là gì? Cánh cổng này mang đến một cuộc thảo luận rộng hơn về các giá trị và AI.
Hãy khám phá chi tiết từng cánh cổng một.
Cổng số 1: Từ cụ thể đến tổng quát – các thế hệ của AI
Tôi sẽ khẳng định rằng thế hệ AI hiện tại, tập trung vào Machine Learning (ML), trong khi cải tiến trên thế hệ AI đầu tiên dựa trên các quy tắc và chẩn đoán. Thế hệ này vẫn chưa đủ tiên tiến để đưa chúng ta vào một viễn cảnh ác mộng .
Khi tôi đang học ngành khoa học máy tính tại MIT, tôi nhớ đã được thông báo rằng nghiên cứu AI ban đầu là để cố bắt chước tâm trí con người. Điều này trở nên khó thực hiện, vì con người rất giỏi nhận ra các khuôn mẫu và ngoại lệ đối với các quy tắc còn máy tính thì không. Điều này dẫn đến việc tạo ra Fuzzy Logic, đó là những quy tắc ít rõ ràng hơn. Trong những năm 1980, các nhà nghiên cứu Nhật Bản dự đoán họ sẽ có AI hoàn thành tốt nhiều nhiệm vụ giống như con người vào cuối thập niên đó.
Ba mươi năm sau, chúng ta mới bắt đầu đạt được điều đó. Sự bùng nổ của AI và ML ngày nay ngày càng hướng đến nhiều dữ liệu hơn và ít quy tắc hơn. Họ dựa vào ý tưởng dựa trên mạng thần kinh. Một mạng thần kinh là một hệ thống logic cố gắng sao chép các tế bào thần kinh trong tâm trí con người. Loại AI này, thay vì được thiết lập với các quy tắc thì sẽ được cung cấp dữ liệu cho một nhiệm vụ cụ thể và nó sử dụng dữ liệu đó để thay đổi trọng số của các kết nối cụ thể trong mạng thần kinh. Nhiều lớp “tế bào thần kinh ảo” được sử dụng và bộ dữ liệu lớn hơn để đào tạo mạng lưới và tạo ra kết quả tốt hơn.
Loại ML này đã được chứng minh rất tốt trong việc đào tạo để nhận dạng chữ viết tay hoặc nhận ra một số loại hình ảnh nhất định, v.v. Một số máy tính đã trở nên giỏi hơn trong việc chơi các trò chơi nhất định, như Go hoặc Cờ vua.
Xe tự lái dựa vào các tập dữ liệu lớn từ thế giới thực và sử dụng kết hợp “dữ liệu được đào tạo” và “các quy tắc về lái xe”. Khi Google đang thử nghiệm những chiếc xe tự lái của mình, họ phát hiện ra rằng một trong những vấn đề chính không phải là chiếc xe không tuân thủ các quy tắc mà là chính là con người không tuân thủ! Ví dụ, hầu hết mọi con người hiếm khi dừng lại khi có báo hiệu dừng, trong khi chiếc xe tự lái thì dừng lại hoàn toàn.
Hầu hết AI trong các bộ phim khoa học viễn tưởng đều vượt qua cánh cổng này một cách “kỳ diệu”. Nhưng hầu hết AI được sử dụng ngày nay trong các ứng dụng thế giới thực thì không.
Khi nào cánh cổng số 1 sẽ bị vượt qua? Tôi chưa thể ước tính được nhưng bạn có thể tưởng tượng một viễn cảnh mà trong đó một AI sẽ phải được đào tạo về nhiều nhiệm vụ và sau đó phải được đào tạo các sử dụng các AI con nữa. “Phiên bản nhỏ” của cánh cổng có thể được mở trong vài năm nhưng có lẽ chúng ta sẽ cần phát triển một thế hệ AI mới thứ ba để vượt ra ngoài các quy tắc này.
Cánh cổng số 2: AI có thể dễ dàng giao tiếp với thế giới thực
Trong một tập gần đây của X-Files (phần 11, tập 6), chúng ta thấy một viễn cảnh gần với sự phát triển hiện tại của chúng ta về công nghệ và AI và cho thấy khả năng đáng sợ của việc áp dụng AI vào thế giới vật chất.
Trong tập này, Mulder và Scully bị AI đuổi theo, điều khiển mọi thứ xung quanh họ, bao gồm cả xe hơi tự lái, tủ lạnh, máy bay giao hàng của Amazon và tất nhiên các bếp nấu trong nhà hàng nơi mọi vấn đề bắt đầu. Họ cố gắng né tránh AI bằng cách loại bỏ điện thoại và chìa khóa xe của họ để AI không thế theo dõi họ. Cuối cùng, họ nhận ra rằng AI “kiểm soát” là bởi vì họ không để con robot nấu ăn … ‘tự nấu theo cách của chúng’. Đây cũng là một hình thức đào tạo AI để hành xử theo một cách nhất định.
Thậm chí ngày nay, AI đã được tích hợp vào các thiết bị vật lý, như xe tự lái cũng vẫn có nhận thức hạn chế về thế giới vật chất. Cánh cổng này bao gồm việc giao tiếp với thế giới vật chất. Chúng ta vẫn còn cách xa viễn cảnh của Terminator hoặc bản sao trong Blade Runner hoặc host ở Westworld.
Ngày nay, nhiều robot vật lý có tính chuyên biệt và chỉ làm một việc. Tại một nhà máy ô tô hiện đại, ví dụ như nhà máy Tesla, có những robot chuyên chở ô tô và đặt chúng xuống phía bên kia lối đi để tiếp tục các dây chuyền lắp ráp. Những robot này nhận thức được môi trường của chúng theo một cách hạn chế và chỉ thực hiện các tác vụ cụ thể.
Robot có thể giao tiếp với thế giới vật chất không giống như con người. Các robot từ Boston Dynamics (được mua lại bởi Google và bây giờ thuộc sở hữu của Softbank) trông rất đáng sợ vì chúng trông giống như động vật robot có thể di chuyển cực nhanh trong thế giới vật chất.
Máy bay không người lái tự động có lẽ là đối tượng gần nhất có thể có được khả năng này. Trong thế giới hư cấu của Terminator, Skynet đảm nhiệm tất cả các nhiệm vụ Quân sự của Hoa Kỳ, sau khi nó cho thấy mức độ hiệu quả mà các phi công của con người không thể thực hiện được.
Các máy bay không người lái quân sự ngày nay đang được thử nghiệm từ rất xa, thường ở phía bên kia hành tinh. Như chúng tôi đã đề cập, AI đã có dấu hiệu trở nên tốt hơn con người khi chơi trò chơi điện tử – đó chỉ là vấn đề thời gian mà hai khu vực này được kết hợp và tạo ra những AI hoàn hảo mà không cần có sự có mặt của con người.
Khi nào cánh cổng số 2 sẽ bị phá vỡ? Cánh cổng này đang được mở dần theo từng năm. Ước tính của tôi sẽ chỉ khoảng vài năm (hoặc nhiều nhất là một thập kỷ) trước khi AI có thể giao tiếp hoàn toàn với thế giới vật chất, sử dụng tầm nhìn máy và học máy đã được huấn luyện để nhận biết và đưa ra quyết định về hầu hết mọi khía cạnh của thế giới vật chất.
Khi nào thì AI có thể tiếp cận vũ khí? Vladimir Putin đã nói rằng đất nước có AI tốt nhất sẽ thống trị thế giới. Điều này có nghĩa là điều này sẽ sớm xảy ra thôi.
Cánh cổng số 3: AI không có công tắc tắt
Cánh cổng này ngày càng trở nên dễ xảy ra hơn theo thời gian vì các công nghệ như IOT và Blockchain đã xuất hiện. Dữ liệu Android có một công tắc tắt trong Star Trek: The Next Generation. Quan trọng hơn, dữ liệu cho phép Thuyền trưởng Picard và những người khác trên phi hành đoàn Enterprise sử dụng nó khi cần thiết để tắt các robot.
Một lần nữa, tôi muốn nói về các bộ phim khoa học viễn tưởng. Trong Terminator 3: Rise of the Machines, các anh hùng (John Conner, do Nick Stahl thủ vai), và Terminator của anh đột nhập vào trung tâm chỉ huy với hy vọng phá hủy máy chủ.
Khi họ vào bên trong, John nhận ra rằng anh ta không thể phá hủy Skynet đơn giản bằng cách tắt máy chủ.
“Đến lúc Skynet trở nên tự nhận thức, nó đã lan rộng ra hàng triệu máy chủ trên khắp hành tinh. Máy tính thông thường trong các tòa nhà văn phòng, phòng ngủ tập thể; mọi nơi. Đó là phần mềm; trong không gian mạng. Không có lõi hệ thống; nó không thể tắt được” – trích lời nhân vật John Conner trong Terminator 3.
Đó là điều khiến Skynet trở thành loại AI thông minh mà chúng ta phải run sợ – phần mềm thông minh có thể chạy trên bất kỳ thiết bị nào, được nhân rộng và lan rộng ra khắp thế giới, và không thể bị tắt dễ dàng.
Khi IOT (Internet of Things) phát triển, chúng ta đang bổ sung thêm nhiều máy hơn với các bộ vi xử lý có thể chạy phần mềm.
Mặc dù điều này có thể trông giống như một điều tốt – có sức mạnh xử lý và dữ liệu trên thiết bị (hàng triệu thiết bị) nhưng nó mang đến một điểm vấn đề trong việc sao chép dữ liệu trên các thiết bị điện thoại di động, tủ lạnh và những thứ khác trên toàn thế giới.
Nếu một chương trình giống như Skynet được xây dựng, nó cần được có khả năng tồn tại trên nhiều thiết bị trên toàn thế giới và không phải chịu sự “sửa lỗi dễ dàng” hoặc bị tắt một cách dễ dàng.
Ý tưởng của blockchain là dựa trên sự phi tập trung và ngang hàng của các máy tính trên toàn thế giới. Tất cả sẽ sao chép một tập hợp các dữ liệu và bộ mã đang được sử dụng để xây dựng và xác nhận “blockchain”.
Mặc dù Bitcoin là công nghệ blockchain ban đầu và mã cốt lõi của nó được viết bằng C+ và có thể được biên dịch cho các hệ điều hành khác nhau nhưng chúng chỉ làm những điều rất cụ thể – tức là các giao dịch bao gồm chuyển bitcoin từ địa chỉ này sang địa chỉ khác.
Một trong những lý do mà Vitalik Buterian, người từng trong đội ngũ các nhà phát triển cho Bitcoin, quyết định theo đuổi Ethereum là vì anh ta muốn một ngôn ngữ đầy đủ sẽ chạy cùng một mã trên hàng trăm, hàng ngàn hoặc thậm chí hàng triệu thiết bị trên toàn thế giới. Máy ảo này sẽ là “Máy tính của thế giới”. Mặc dù ý tưởng này được tiên phong với Java vào những năm 1990 (chúng tôi nghĩ nó có thể là một ngôn ngữ phổ quát có một máy ảo để chạy trên bất kỳ thiết bị nào) nhưng nhiều ngôn ngữ và dự án hợp đồng thông minh khác đã nổi lên, tìm cách cải thiện các hạn chế của Ethereum.
Ngày nay, máy ảo Ethereum không thực sự có quyền truy cập vào những thứ “bên ngoài” thế giới ảo, nhưng khi các ngôn ngữ lập trình vượt blockchain và internet mới có hiệu lực, bạn có thể thấy những phát minh mới trong lĩnh vực này. Một máy ảo có thể chạy trên máy tính và các thiết bị khác trên toàn thế giới bất kể nó sử dụng bộ vi xử lý nào.
Điều này sẽ trả lời câu hỏi mà nhiều người như tôi đã tự hỏi khi xem Terminator. Skynet sẽ lập trình mã như thế nào? Câu trả lời là trong một số ngôn ngữ Turing hoàn chỉnh sẽ tự động được chạy trên các máy trên toàn thế giới, được tự động sao chép, và mỗi bản sao sẽ đưa ra kết luận tương tự: tiêu diệt con người!
Cách duy nhất để tắt một mạng lưới các chương trình như vậy là tắt mọi máy đơn mà nó đang chạy. Nhưng nếu chương trình có thể tự tái tạo trên các thiết bị thông minh như tủ lạnh và xe ô tô và các thiết bị khác, chúng ta có lẽ sẽ không thể tắt mọi thứ trước sức mạnh của một “Kẻ giết người” như vậy.
Cánh cổng số 4: AI tự nhận thức và ưu tiên sự sống còn.
Cổng này có thể là khó khăn nhất để thực sự vượt qua bởi vì rất khó để xác định. Nó cũng được chia thành hai phần – tự nhận thức và ưu tiên sự sống còn về vật lý.
Sự tự nhận thức: Alan Turing, người tiên phong của khoa học máy tính ngày nay, đã đưa ra khái niệm về phép thử Turing. Đây là một bài kiểm tra khả năng trí tuệ của máy tính. Phép thử như sau: một người chơi thực hiện một cuộc thảo luận bằng ngôn ngữ tự nhiên với một con người và một máy tính, cả hai đều cố gắng chứng tỏ mình là con người.
Nếu bạn không thể xác định đâu là một cỗ máy thì AI đã vượt qua bài thử Turing này. Lưu ý rằng thử nghiệm này chỉ quan tâm đến kết quả mà không liên quan tới quá trình như thế nào.
Tự nhận thức chính xác là gì? Điều này rất khó xác định. Tôi sẽ nói rằng bài kiểm tra “Tự nhận thức” là một chương trình AI hoặc máy tính tự nhận thức chúng là một thực thể riêng biệt với phần còn lại.
Không có thử nghiệm tương đương cho “sự tự nhận thức” của AI nhưng có lẽ nên có. Chúng ta có thể cần phải có một bài kiểm tra được xác định rõ ràng. Chúng sẽ kiểm tra về cách thức hoạt động của trí thông minh nhân tạo. Có lẽ chúng ta có thể gọi nó là Thử nghiệm HAL 9000 hoặc phép thử Skynet!
Để cánh cổng này thực sự mở ra, chúng ta sẽ phải đạt được những sự tiến bộ về sự tự nhận thức. Hầu hết các máy tính có ý thức về bản thân là tách biệt với các máy tính khác, nhưng điều này được xác định bằng cách có một địa chỉ IP duy nhất, hoặc là trên một hệ điều hành duy nhất.
Tôi nhớ lần đầu tiên tôi nghĩ về sự tự nhận thức là khi tôi tham gia một cuộc thi lập trình tại MIT. Chúng tôi được yếu cầu viết một chương trình để “đấu tay đôi” với một chương trình khác, cả hai đều chạy trên cùng một thiết bị. Chương trình giết chết chương trình khác sẽ thắng.
Tôi nảy ra một ý tưởng vào giữa đêm rằng nếu chương trình của tôi ghi đè cả chính nó và chương trình khác, thì nó sẽ có thể giành chiến thắng. Nó cần phải nhận thức được chính nó, ghi đè chính nó (mà không tự sát) và ghi đè lên chương trình khác (vì vậy chương trình đó sẽ không thể tiếp tục).
Điều này có thể được coi là “sự tự nhận thức” rất hạn chế. Sự tự nhận thức thực sự sẽ phải gần gũi hơn với bản sắc của một robot hoặc một hệ thống máy tính như HAL 9000.
Khi nào cánh cổng số 4 bị vượt qua? Tôi không thể nói trước điều gì cho đến khi chúng ta có một bài kiểm tra sự tự nhận thức, nhưng AI có thể đã được lập trình với các quy tắc nhất định, chẳng hạn như “khai hỏa vũ khí này nếu bạn thấy một con người”. Có thể là hàng thập kỷ trước khi chúng ta ở đó.
Kết luận
Xác định giá trị cho AI không phải là dễ dàng, và theo đó thì cánh cổng số 4 là vấn đề đáng lo ngại nhất. Nếu một AI vượt ngưỡng này thì vấn đề sẽ trở nên cực kỳ đáng lo ngại.
Mặt khác, nếu đó là một robot duy nhất có những giá trị này, con người có thể dễ dàng tiêu diệt robot, hoặc thông qua một công tắc hoặc phá hủy vật lý. Mặt khác, với giao thức ngang hàng cùng với blockchain và khả năng sao chép, có thể gần như không thể “tắt” kẻ giết người AI một khi nó đã bắt đầu!
Ý tưởng trong bài viết này có vẻ hơi xa vời, nhưng mỗi cổng này đều nằm trong tầm tay của chúng ta.
Mặc dù chúng ta có AI nhận thức được thế giới vật chất nhưng chúng ta chưa kết nối chúng với hệ thống vũ khí (trường hợp của Skynet trong Terminator, bạn có thể thấy chúng ta đã di chuyển theo hướng này).
Vấn đề ở đây không phải là cổng cá nhân nào đang mở ra mà là khi nào tất cả chúng được mở ra và ai đó có ý tưởng sáng tạo để kết hợp chúng lại.
Đó sẽ là lúc cho chúng ta cảm thấy hoảng sợ!
Phần 1: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 1)
Phần 2: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 2)
Phần 3: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 3)
Phần 4: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 4)
Theo: TapChiBitcoin.vn/hackernoon.com
